- Docker의 새로운 Model Runner는 로컬에서 AI 모델을 더 쉽게 실행할 수 있게 해줍니다. 🚀
- Olama처럼 OpenAI 호환 API를 통해 모델 관리, 실행, 배포가 가능합니다. ⚙️
- Docker Desktop에 내장되어 CUDA나 드라이버 설치 없이 바로 사용 가능합니다. 💻
- Dockerhub 또는 HuggingFace에서 모델을 직접 가져와 실행할 수 있습니다. 📦
- 명령줄 또는 컨테이너에서 실행하여 GenAI 애플리케이션을 빠르게 배포할 수 있습니다. 🚄
Recommanded Videos
![[10분 테코톡] 레몬의 MCP 알아보기](https://i3.ytimg.com/vi/BIFlrU-Fs1E/hqdefault.jpg)
