[#3 LLM Tutorial With RAG] 오픈 소스 LLM의 약점을 보완하는 RAG

간단 소개

오픈 소스 LLM의 약점을 보완하는 RAG 기술을 소개하고, Lang Chain Library를 활용한 RAG 구현 방법을 설명합니다.

AI Summary

RAG 기술 소개
- RAG(검색 증강 생성)는 LLM의 한계(Hallucination)를 극복하고 최신 정보를 활용해 답변을 생성하는 기술입니다.
- Prompt Engineering, Fine-tuning과 함께 LLM 성능 향상 방법으로 분류됩니다.
- Fine-tuning 대비 계산 비용이 적게 들어 대안으로 주목받고 있습니다.
RAG 구현 및 핵심 요소
- Vector Store(데이터 저장소)와 Retriever(정보 검색기)가 RAG 구현의 핵심입니다.
- Lang Chain Library를 활용하여 낮은 수준의 RAG를 구현하고 효용성을 확인합니다.
- 자연어를 벡터로 임베딩하여 유사도를 계산하고, 관련 정보를 검색하여 LLM에 제공합니다.
Langchain 활용
- Langchain을 사용하여 RAG를 구현하는 방법을 소개합니다.
- LCEL(LangChain Expression Language)을 사용하여 LLM의 동작을 제어하는 '틀(Template)'을 만들 수 있습니다.
- 질문과 관련 정보를 결합하여 LLM에 제공하고, LLM은 Prompt의 지시 사항에 따라 답변을 생성합니다.