LLMCompiler 3 : LangSmith 를 활용해 소스코드 쉽게 분석하기. ft. 프롬프트 작성하지 말고 가져다 쓰세요
- LangSmith를 활용하여 LLMCompiler 튜토리얼 소스 코드를 분석합니다. 🛠️
- LLMCompiler는 사용자 입력을 받아 계획을 세우고 병렬 처리 가능한 작업을 실행하여 시간과 비용을 줄입니다. ⏱️
- 랭체인 허브에서 LLMCompiler 프롬프트를 가져와 사용하거나, 직접 작성할 수도 있습니다. 🧑💻
- 플래너는 리플랜 여부를 판단하고, 프롬프트를 선택하여 LLM에 전달하며, 응답을 파싱합니다. 🧠
- LLMCompiler의 핵심은 자연어를 함수가 사용하는 언어로 바꾸는 파라미터 추출, 즉 아웃풋 파서입니다. 🔑
- 테스크 패칭 유닛은 병렬 처리 가능 여부를 판단하고, 의존성이 있는 테스크는 순차적으로 실행합니다. 🔗
- 쓰레드풀 익스큐터를 사용하여 여러 테스크를 병렬 처리합니다. 🧵
- 조이너는 모든 작업 완료 후 최종 답변 여부를 판단하여 결과를 반환합니다. ✅
- 랭그래프를 사용하여 전체 과정을 컴파일하고, 다양한 질문으로 테스트할 수 있습니다. 🧪
- 랭체인 그래프는 노드와 엣지를 연결하여 LLM 애플리케이션의 흐름을 시각화하고 관리합니다. 🕸️