AI 요약관련 정보

• LangChainJS의 '도구 호출 미들웨어'는 에이전트의 과도한 API 호출을 제어하여 비용을 절감하고 시스템 안정성을 높입니다. 💰
• 이 미들웨어는 에이전트가 도구를 호출하기로 결정한 직후 개입하여 호출 횟수를 가로채고 제한합니다. ⚙️
• 신용 한도, 속도 제한 또는 사용량 상한을 선언적으로 설정하여 에이전트의 도구 사용을 관리할 수 있습니다. 🛡️
• 제한은 모든 도구 또는 개별 도구에 적용할 수 있으며, '실행(run)' 또는 '스레드(thread)' 범위로 설정 가능합니다. 🎯
• 제한 초과 시 '오류 발생', '계속 진행(일부 성공, 일부 실패 메시지)', '종료(패치 도구 메시지)' 중 하나로 에이전트의 동작을 정의할 수 있습니다. 🛑
• '스레드 제한'은 전체 대화에 대한 호출 횟수를, '실행 제한'은 단일 호출 또는 병렬 호출 내의 횟수를 제어합니다. ↔️
• SMS 발송 에이전트 예시를 통해 사용자가 가진 크레딧만큼만 메시지를 보낼 수 있도록 하는 실질적인 적용 방법을 시연했습니다. 📱
• 이 기능은 유료 API, 데이터베이스 또는 속도 제한이 있는 서비스와 상호작용하는 에이전트를 구축할 때 필수적인 안전장치 역할을 합니다. ✅