- LLM 튜닝은 셀프 호스팅 시 작은 모델의 성능 향상을 위해 필요하며, 특정 목적에 맞게 특화된 AI를 만들 수 있습니다. 🎯
- 에이전틱 AI는 외부 시스템과의 연동을 통해 날씨 정보 등 실시간 데이터 활용에 유용하며, Q1 모델이 좋은 예시입니다. 🔗
- 모델 튜닝은 파라미터 수가 많아 학습 데이터가 매우 많이 필요하며, 기업 데이터만으로는 효과를 보기 어렵고, 기존 모델의 균형을 깨기 쉽습니다. 📉
- 모델 외적 튜닝은 프롬프트 엔지니어링을 통해 추가 지침이나 지식을 부여하는 방식으로, 유지보수가 용이하고 손쉽게 튜닝할 수 있습니다. ✍️
- 모델 튜닝은 GPU 비용이 매우 높아 부담이 크므로, 프롬프트 튜닝이 더 현실적인 대안입니다. 💰