데브허브 | DEVHUB | Tree of Thoughts (ToT) - Prompting만으로 AI 성능을 10배 끌어올리는 방법! | 일상에서도 써먹는 AI 추론법Tree of Thoughts (ToT) - Prompting만으로 AI 성능을 10배 끌어올리는 방법! | 일상에서도 써먹는 AI 추론법
- Tree of Thoughts (ToT)는 GPT가 사람처럼 생각하고 비교하며 최적의 경로를 찾는 사고 과정을 가능하게 하는 프롬프팅 기반 AI 추론 방법론입니다. 🧠
- 기존의 단순한 입출력 방식이나 단일 경로 추론(CoT)의 한계를 극복하고, 복잡한 문제 해결을 위한 전략적 탐색 능력을 부여합니다. 🚧
- ToT는 문제를 중간 생각 단위로 나누고(Decomposition), 각 단계에서 여러 가능성을 생성하며(Generation), 이를 평가하여(State Evaluation) 유망한 경로를 탐색하는(Search Algorithm) 4단계로 작동합니다. 🪜
- 특히, 가능성이 낮은 경로는 조기에 가지치기(Pruning)하여 자원 낭비를 줄이고 효율성을 높입니다. ✂️
- Game of 24, 창의적 글쓰기, 미니 크로스워드 퍼즐 등 다양한 복합 문제에서 GPT-4의 성공률을 획기적으로 향상시켰습니다 (예: Game of 24에서 4% → 74%). 📈
- 이는 AI 모델 자체를 변경하는 것이 아니라, '어떻게 생각하라고 시키느냐' 즉 프롬프트 방식의 변화만으로 성능을 극대화할 수 있음을 보여줍니다. 💡
- 인간의 '시스템 2' 사고(느리고 신중하며 계획적인 사고)를 언어 모델에 부여하는 것을 목표로 하며, 고전 AI의 트리 탐색 아이디어를 차용했습니다. 🧐
- ToT는 BFS(넓게 탐색)와 DFS(깊게 탐색 후 백트래킹) 같은 탐색 전략을 활용하여 문제의 특성에 맞춰 최적의 경로를 찾습니다. 🌳
- 기존 자기 반성(Self-Reflection) 기법들이 일직선상에서 답을 고치는 반면, ToT는 트리 구조에서 다양한 가능성을 탐색하고 되돌아가는 유연한 구조를 가집니다. 🔄
- 주요 단점은 많은 토큰 사용과 높은 API 호출 비용이지만, 향후 오픈소스 LLM 발전 및 모듈화로 비용 절감 가능성을 제시합니다. 💰
- 랭그래프와 같은 프레임워크에서 ToT 개념이 실제로 구현되어 애플리케이션 개발에 적용될 수 있음을 강조합니다. 🛠️