AI 요약관련 정보

범용 LLM을 특정 도메인 (도메인 specific)에서 운용하기 위한 RAG 구축과 LLM 부분을 Llama3 로 변경 내용 정리 Docs : https://www.devyummi.com/page?id=67a8... 00:00 - 개요 00:54 - vLLM Llama3 서빙 02:40 - Llama3용 프롬프트 04:13 - 결과 테스트 #RAG #LoRA #llm