- LiteLLM은 다양한 AI 모델 제공업체의 SDK 사용을 단순화하여 개발 시간을 단축시켜줍니다. 🚀
- Docker를 이용한 간편한 프록시 서버 설정 및 Python SDK 사용이 가능합니다. 🐳
- 설정 파일을 통해 모델, API 키, 속도 제한 등을 쉽게 관리할 수 있습니다. ⚙️
- 다양한 모델 추가 및 관리를 위한 사용자 인터페이스(UI) 제공합니다. 🖥️
- Neon 데이터베이스 연동을 통한 UI 기능 확장 및 사용자 관리 기능 제공합니다. 💡
- API 호출 시 인증 토큰을 사용하여 보안을 강화합니다. 🔒
- 브라우저 기반의 직관적인 사용자 인터페이스를 통해 모델 선택 및 응답 확인이 가능합니다. 🌐
- 스트리밍, 임베딩, 이미지 생성, 다중 모델 라우팅 등 다양한 기능 지원합니다. 🎨
- LangChain보다 간편하게 여러 모델을 관리하고 호출할 수 있는 편리한 도구입니다. 🧰