데브허브 | DEVHUB | Building an AI Agent
- AI 에이전트는 대규모 언어 모델(LLM)과 도구의 결합으로, LLM이 상황에 맞춰 도구를 자율적으로 선택합니다. 🧠
- LLM은 실시간 데이터에 접근할 수 없으므로, 도구는 웹 검색 등 외부 정보나 기능을 제공하여 LLM의 한계를 보완합니다. 🌐
- LLM은 도구를 직접 실행하지 않고, 애플리케이션 내에서 작동하며 도구 정의를 프롬프트의 일부로 전달받습니다. 💬
- LLM은 사용자 프롬프트와 도구 정의를 기반으로, 특정 도구를 사용하겠다는 '의도'를 토큰 형태로 생성합니다. 💡
- LLM의 '도구 사용 의도'를 해석하여 실제 도구 함수(코드)를 실행하는 것은 애플리케이션의 역할입니다. ⚙️
- OpenAI API/SDK는 에이전트 구축을 용이하게 하며, Olama는 오픈 소스 LLM을 로컬에서 실행하여 데이터 보안 및 비용 절감에 기여합니다. 💻
- 도구의 '설명(description)'은 LLM이 해당 도구를 언제 호출해야 할지 '이해'하는 데 매우 중요합니다. 📝
- API 응답은 도구의 실제 실행 결과가 아닌, LLM이 어떤 도구를 어떤 인수로 호출하려 했는지에 대한 '의도'를 담고 있습니다. 🎯