AI 요약관련 정보

• 컨텍스트 엔지니어링은 AI 에이전트에게 효과적인 작업 완료에 필요한 올바른 정보를 제공하는 기술입니다. 🤖
• 프롬프트 엔지니어링은 완벽한 단일 명령을 만드는 데 중점을 두지만, 컨텍스트 엔지니어링은 에이전트에게 관련 정보를 동적으로 제공할 수 있는 시스템을 구축하는 데 중점을 둡니다. ⚙️
• AI 에이전트는 메시지를 수신하여 트리거되고, 사용 가능한 도구와 데이터 소스를 이해하고, 작업을 수행하는 데 필요한 정보를 얻기 위해 어떤 도구를 사용할지 결정해야 합니다. 💡
• 컨텍스트 엔지니어링을 활용하지 않는 AI 에이전트는 대화 직후 모든 것을 잊어버리는 사람과 대화하는 것과 같습니다. 🗣️
• 에이전트는 시스템 프롬프트를 읽은 후 추가 컨텍스트를 얻기 위해 사용할 수 있는 도구를 이해하고, 이를 통해 단순한 질의응답 도구에서 기억하고 지능적으로 행동할 수 있는 실제 어시스턴트로 변모해야 합니다. 🧠
• 컨텍스트 엔지니어링의 주요 구성 요소는 사용자 입력, 시스템 프롬프트, 메모리, 지식 검색, 도구, 구조화된 출력 파서입니다. 🧩
• 프롬프트 엔지니어링은 시험 전날 벼락치기 공부하는 것과 같고, 컨텍스트 엔지니어링은 시험에 커닝 페이퍼를 가지고 가는 것과 같습니다. 📝
• AI 에이전트의 메모리 시스템은 작업 메모리, 단기 메모리, 장기 메모리의 세 가지 범주로 나눌 수 있습니다. 🗄️
• 단기 메모리는 대화 기록과 같은 짧은 컨텍스트 창을 제공하며, 컨텍스트 창 길이를 조정할 수 있습니다. ⏳
• 세션 ID를 설정하여 에이전트가 여러 사람과 고유한 대화를 유지하고 각 대화를 분리된 메모리에 저장할 수 있습니다. 🆔
• 장기 메모리는 여러 세션에 걸쳐 유지되는 영구적인 지식으로, 사용자 그래프, Google 문서, 벡터 스토어, CRM 등에 저장할 수 있습니다. 💾
• 도구 호출(Tool calling) 또는 함수 호출(Function calling)을 통해 에이전트는 외부 시스템과 상호 작용하고, 데이터를 요청하고, 텍스트 생성 외의 작업을 수행할 수 있습니다. 🛠️
• RAG(검색 증강 생성)는 AI 에이전트가 쿼리 시 관련 외부 문서 또는 데이터를 검색하여 더 정확하게 응답하는 기술입니다. 🔍
• RAG는 벡터 검색 RAG, API 호출, CRM 데이터 검색 등 다양한 형태로 구현될 수 있습니다. 🌐
• 청크 기반 검색은 큰 문서를 관리 가능한 조각으로 나누어 검색 효율성을 높이는 기술입니다. ✂️
• 청크 기반 검색은 AI 모델의 컨텍스트 창 제한을 극복하는 데 유용하지만, 전체 문서의 관계와 컨텍스트를 잃을 수 있다는 단점이 있습니다. 🔗