- 대규모 언어 모델(LLM)은 최신 기술에는 약하지만, 기존 기술에는 능숙하다. 🦖
- Spell과 같은 최신 프레임워크의 코드 생성에는 LLM이 부적합하다. 💔
- LLM.txt 전체를 사용하는 것은 비효율적이고 비용이 많이 든다. 💸
- 솔루션: 컨텍스트 청크화 + 의미 검색을 통한 효율적인 정보 제공. 💡
- 벡터 데이터베이스(Upstash 사용)와 의미 검색을 활용하여 관련 정보만 LLM에 제공하는 것이 효과적이다. 🚀
- Bits UI의 접근 방식(컴포넌트별 LLM.txt)은 좋은 참고 사례다. 🗂️
- OpenAI text embedding 3 small을 사용한 의미 검색이 더 나은 결과를 제공했다. 🎯
- 최신 기술에 대한 LLM 지원 부족은 기술 채택에 장벽이 된다. 🚧
- 모델 컨텍스트 프로토콜(MCP)은 LLM에 추가 기능을 제공하는 유용한 방법이다. 🧰