AI 요약관련 정보

• 대규모 언어 모델(LLM)은 툴을 통해 실제 세상과 상호작용하며 데이터를 인지하고 행동하는 '에이전트'로 진화합니다. 🤖
• 툴은 LLM에게 '눈과 손' 역할을 부여하여, 학습 데이터 범위를 넘어선 정보 조회 및 실제 액션 수행을 가능하게 합니다. 🛠️
• 논문은 펑션 툴, 빌트인 툴, 에이전트 툴의 세 가지 주요 툴 카테고리를 제시하며, 특히 에이전트 툴은 서브 태스크 위임을 통한 모듈식 에이전트 시스템 구축을 지원합니다. 🧩
• 툴은 정보 검색, 액션 실행, 시스템 통합, 그리고 인간 개입(Human-in-the-Loop)의 네 가지 기능적 분류로 나눌 수 있습니다. 🌐
• 효과적인 툴 사용을 위해 명확하고 구체적인 이름, 자연어 설명, 간결한 파라미터, 예시, 그리고 태스크 중심의 지시 등 모범 사례가 중요합니다. 📝
• 복잡한 엔터프라이즈 API를 직접 노출하기보다는 에이전트가 수행할 구체적인 작업 단위로 툴을 정의하고, 툴 출력은 작고 집중적으로 유지해야 합니다. 🎯
• Model Context Protocol (MCP)은 에이전트와 툴 간의 통합 문제를 해결하고 동적인 플러그 앤 플레이 생태계를 위한 개방형 표준을 제공합니다. 🔌
• MCP는 클라이언트-서버 모델을 기반으로 JSON RPC 2.0을 사용하여 툴, 리소스, 프롬프트 같은 기능을 노출하며, 특히 툴 기능이 가장 널리 채택되고 있습니다. 📡
• MCP는 통합 간소화, 런타임 툴 발견, 모듈식 아키텍처 지원 등 강력한 이점을 제공하지만, 엔터프라이즈 수준의 보안, 아이덴티티, 관측 가능성에는 한계가 있습니다. 🚧
• 주요 보안 위협으로는 컨텍스트 윈도우 부풀리기, 동적 기능 주입, 툴 섀도잉, 악의적인 툴 정의 및 콘텐츠, 정보 유출, 그리고 거친 권한 부여 모델 등이 있습니다. 🚨
• 보안 강화를 위해 툴 검색 시 RAG 활용, 클라이언트 측 허용 목록, 서버 변경 신호, API 게이트웨이를 통한 정책 적용, 민감 데이터 태깅(taint tracking), 세분화된 권한 부여 모델 도입 등이 필요합니다. 🛡️
• Confused Deputy 공격은 MCP 시스템에서 아이덴티티 전파와 사용자별 인가가 얼마나 중요한지 보여주는 대표적인 사례입니다. 🕵️
• 결론적으로, MCP는 상호 운용성을 제공하지만, 그 위에 API 게이트웨이, 강화된 SDK, 정책 엔진 등 견고한 거버넌스 레이어를 구축하는 것이 안전하고 감사 가능한 엔터프라이즈 에이전트 시스템의 핵심입니다. 🏛️