- Microsoft가 Phi-3.5 (MoE, Mini & Vision) 모델을 발표했으며, Llama-3.1, Mistral 모델을 능가하는 성능을 보였다! 🎉
- Phi-3.5(MoE)는 16x 3.8b 매개변수를 가진 Mixture of Experts 모델로, Nemo 또는 Llama 3.18b와 동일한 수준의 성능을 보여준다. 🧠
- Phi-3.5 Mini는 3.8b 매개변수로 매우 작지만, Llama 3.18b와 유사하거나 약간 낮은 수준의 성능을 보인다. 🤏
- Phi-3.5 Vision은 4.2b 매개변수로, Vision 기능을 갖춘 모델로 优秀的 영상 처리 능력을 보여주었다! 📸
- 현재 3.5 Mini 모델은 AMA에서 사용 가능하며, 다른 모델은 llamaCPP를 통해 호환성을 갖춘 후에 이용 가능하다. 💻
Recommanded Videos
