Langchain을 통한 개인블로그 RAG 프로젝트

간단 소개

Langchain을 이용한 개인 블로그 RAG 프로젝트 개발 과정과 경험 공유: 기술적 고민, 문제 해결, 성능 개선, 그리고 지속적인 고도화의 필요성.

AI Summary

프로젝트 개요 및 동기
- 개인 블로그 RAG 프로젝트는 기록 습관, LLM 애플리케이션 개발, 개인 브랜딩을 목표로 시작됨.
- 웹 플랫폼(murphybooks.me)과 LLM 애플리케이션(streamlit) 두 가지 프로젝트로 진행.
- Vercel, Streamlit Cloud, Milvus Serverless를 사용하여 인프라 관리 부담을 줄임.
기술적 구현 및 고민
- Streamlit과 Langchain을 활용하여 LLM 애플리케이션의 RAG 기능 구현.
- Langchain의 추상화 수준이 높아 커스터마이징 시 어려움이 있었음.
- Milvus 벡터 DB 사용 시 upsert 기능 관련 문제 발생, 레퍼런스 부족으로 직접 해결.
RAG 성능 개선 및 느낀점
- RAG에서 토큰 사용량을 줄이기 위해 개별 아티클 업데이트 기능 구현 (upsert 대신 delete 후 insert 방식).
- 단일 파일 업데이트 시 토큰 소모량을 크게 줄여 비용 및 속도 개선.
- 프로덕트 고도화에는 끝이 없으며, 버전 관리, 모듈화, 민감한 변수 관리 등 고려할 사항이 많음.