- Box는 B2B 기업으로, 대기업의 방대한 비정형 데이터를 다루며, AI 도입에 대한 신뢰를 바탕으로 엔터프라이즈 AI 솔루션을 제공합니다. 🏢
- 초기에는 RAG, Q&A, 검색, 데이터 추출 등 표준 AI 기능을 제공했으나, 특히 데이터 추출 분야에서 생성형 AI의 잠재력을 보았습니다. 💡
- 생성형 AI 도입 초기에는 간단한 아키텍처(OCR -> LLM)로 1천만 페이지를 처리하는 등 큰 성공을 거두며 "어떤 문서든 처리 가능"하다고 판단했습니다. ✨
- 하지만 대용량 문서, OCR 한계, 과도한 필드 요청, 신뢰도 점수 부재 등 다양한 문제에 직면하며 "환멸의 골짜기"를 경험했습니다. 📉
- 이러한 한계를 극복하기 위해 Box는 앤드류 응의 강의에서 영감을 받아 '에이전트 기반 아키텍처'로 전환했습니다. 🧠
- 새로운 멀티 에이전트 시스템은 각 문제를 하위 에이전트가 지능적으로 해결하고, 품질 피드백 루프를 통해 AI가 스스로 개선하도록 설계되었습니다. 🔄
- 에이전트 방식은 문제 해결뿐만 아니라, 시스템 업데이트 및 진화를 용이하게 하고, 엔지니어들이 사람처럼 문제를 접근하게 하여 추상화를 개선했습니다. 🚀
- 이 접근 방식은 특정 문서 유형에 대한 전문 에이전트 생성을 가능하게 했으며, "AI 우선 엔지니어링 조직"으로의 전환을 가속화했습니다. 🛠️
- 궁극적으로, 에이전트 기반 시스템은 엔지니어들이 고객의 에이전트 기반 워크플로우를 더 잘 이해하고 지원하는 데 기여했습니다. 🤝
- Box가 얻은 핵심 교훈은 지능형 기능을 구축할 때 "에이전트 방식으로, 그리고 일찍부터 구축하라"는 것입니다. 🎯
Recommanded Videos
