AI 요약관련 정보

• AI 에이전트: LLM이 환경과 상호작용하며 피드백 루프를 통해 목표를 달성하는 자율적인 시스템으로, 단순한 질의응답을 넘어 행동을 수행하는 인턴과 유사합니다. 🤖
• Vector Databases: LLM에 기업 내부 문서나 특정 지식을 학습시키기 위한 장기 기억 장치로, 텍스트를 임베딩 모델을 통해 의미론적 벡터로 변환하여 저장하고 관리합니다. 🧠
• RAG (Retrieval Augmented Generation): 사용자 질문에 대한 답변 생성 시 벡터 데이터베이스에서 관련 정보를 검색하여 LLM의 응답을 보강하는 기술로, 마치 오픈북 시험처럼 필요한 지식을 찾아 활용합니다. 📚
• MCP (Model Context Protocol): LLM이 다양한 외부 도구(API, 시스템)와 통합되는 방식을 표준화하여, 개발자들이 개별적인 통합 작업을 반복할 필요 없이 통일된 방식으로 도구를 활용할 수 있게 돕는 프로토콜입니다. 🔌
• Context Engineering: LLM이 환각(Hallucination)을 일으키지 않도록 적절한 시기에 적절한 모델에 정확한 컨텍스트를 제공하는 포괄적인 기술로, RAG, 요약, 프롬프트 엔지니어링 등을 포함합니다. 🏗️
• Guardrails: AI 시스템이 의도치 않은 행동을 하거나 유해한 콘텐츠를 생성하지 않도록 입력과 출력 단계에서 안전 장치를 마련하는 것으로, 프롬프트 주입 방지 및 안전한 응답 생성을 보장합니다. 🚧
• Fine-tuning: 사전 훈련된 기본 모델을 특정 데이터셋으로 추가 학습시켜 모델의 행동 방식이나 스타일을 맞춤화하는 과정으로, 초기에는 프롬프트/컨텍스트 엔지니어링이 우선되며 비용과 복잡성이 높습니다. 🎨