AI 요약관련 정보

• LLM은 일반적으로 똑똑하지만, 요청의 전체 맥락을 이해하지 못할 때가 많으며, 프롬프트에 직접 많은 정보를 추가하면 '노이즈'가 발생하여 응답 품질이 저하됩니다. 🧠
• AI를 더 똑똑하게 만드는 핵심 방법으로, 프롬프트에 직접 맥락을 제공하는 대신 AI가 필요로 하는 모든 정보를 데이터베이스에 저장하여 활용하는 RAG(Retrieval Augmented Generation) 개념이 소개됩니다. 📚
• RAG는 LLM(스마트 컴퓨터)이 무제한의 데이터와 상호작용하여 최상의 응답을 생성할 수 있도록 하며, 이는 AI 모델을 '연산 엔진'으로 보고 RAG 데이터베이스를 통해 추가 정보를 제공하는 개념입니다. 💡
• 콘텐츠 제작자가 스크립트, 예시 콘텐츠, 목표, 가이드라인 등 관련 데이터를 데이터베이스에 넣어 LLM의 유용성을 극대화하는 등 RAG의 다양한 활용 예시가 제시됩니다. 🎬
• RAG는 방대한 맥락 속에서 AI가 길을 잃는 '노이즈' 문제를 해결하기 위해, 프롬프트와 유사한 '관련 정보'만을 데이터베이스에서 검색하여 사용함으로써 효율성을 높입니다. 🔍
• 데이터는 벡터 데이터베이스에 저장되며, 프롬프트가 주어지면 텍스트가 토큰화 및 벡터화되는 과정을 통해 모델이 유사하다고 판단하는 관련 정보만 검색되는 벡터화(Vectorization)의 역할이 설명됩니다. 📊
• RAG는 전용 벡터화 데이터베이스뿐만 아니라 Postgress나 SQLite와 같은 일반적인 관계형 데이터베이스를 활용하여 구현할 수 있습니다. 🛠️