OpenAI OSS-20B (Fully Tested) + Free APIs: This Model is very weird! Can it be your next AI Coder?
- 100K 구독자 달성에 대한 감사를 표하며 영상 시작 🎉
- GPT-OSS 120B 모델에 실망, GLM 4.5 Air가 더 나은 선택임을 언급 💨
- 20B 모델은 21B 모델이며, 36억 개의 파라미터와 32명의 전문가 보유 (토큰당 4명 활성화) 🧠
- 벤치마크 점수는 03 및 04 mini와 유사하지만, 실제 코딩 능력은 매우 미흡 🐛
- 툴 호출은 잘 수행하지만, 때때로 작동이 중단되는 문제 발생 🛠️
- 모델이 지나치게 검열되어, 모르는 내용이나 무해한 질문에도 답변을 거부하는 경우가 있음 😶
- 작은 모델은 특정 작업에 특화되어야 효율적이며, Quen 3 coder flash나 devstral 모델이 좋은 예시 💡
- 일반적인 용도의 작은 모델(Mistl small, Quen 3 small)은 코딩 및 툴 호출에 적합하지 않음 🪡
- 개인 정보 보호 또는 인터넷 연결이 없는 환경에서 AI 코더를 실행하기 위해 Quen 3 coder flash 또는 devstral 모델을 사용 🔒
- 20B 모델은 일반적인 채팅에는 유용할 수 있지만, 지나친 안전성 때문에 만족스러운 경험을 제공하지 못함 💬
- Rue Klein 또는 Kilo를 사용하여 모델을 테스트할 수 있으며, Kilo code는 무료 크레딧 제공 💰
- Rue 및 Klein에는 추론 노력 설정 옵션이 아직 구현되지 않았음 ⚙️
- 모델의 추론 능력은 낮은 편이며, 높은 추론 설정에서도 최대 2K 또는 4K 토큰까지만 추론 🧐
- Dart라는 프로젝트 관리 도구를 소개하며, AI 기능을 통해 작업 자동화 및 효율성 향상 가능 🎯
- Dart는 Claude, Chat GPT 등 기존 AI 도구와 통합 가능 🤝
- 로컬 모델을 사용하는 경우, AMA에서 다운로드하여 설치한 후 Rue 또는 Klein에서 모델 선택 후 사용 가능 💻
- GPT5 출시를 기다리지만 큰 기대는 하지 않으며, Sonnet을 능가하기를 희망 🙏
- 전반적으로 실망스러운 모델이지만, 100K 구독자 달성에 다시 한번 감사 인사를 전하며 영상 마무리 💖