Snowflake Arctic의 기술적 진보

간단 소개

Snowflake가 기업용 오픈 소스 LLM Arctic을 발표, 뛰어난 성능과 효율적인 비용, 개방성을 특징으로 함.

AI Summary

Snowflake Arctic LLM 발표
- Snowflake가 자체 LLM인 Arctic을 발표했으며, 이는 기업 중심의 비용 효율적인 대형 언어 모델임.
- Arctic은 오픈 소스로 공개되었으며, Apache 2.0 라이선스를 통해 가중치, 코드, 데이터 레시피 등에 대한 제한 없는 액세스를 제공함.
Arctic의 특징 및 성능
- 기업 지능(Enterprise Intelligence) 지표에서 코딩, SQL 생성, 지침 따르기 등 기업 작업에서 뛰어난 성능을 보임.
- 고유한 Dense-MoE 하이브리드 아키텍처를 활용하여 적은 비용으로 높은 인공지능을 확보했으며, 특히 데이터브릭스 대비 1/8 정도의 비용으로 더 나은 모델을 개발함.
- 낮은 훈련 비용(200만 달러 미만)으로 최상위 성능을 달성했으며, 효율적인 추론이 가능하여 작은 배치 크기에서도 높은 처리량을 보임.
개방성과 활용
- 가중치와 코드 공개뿐만 아니라 사전 훈련, 미세 조정, 모델링 등에 대한 연구 통찰력을 공유하는 포괄적인 'Cookbook'을 공개하여 모델 구축을 지원함.
- Hugging Face에서 이용 가능하며, Snowflake Cortex, AWS, Azure 등 다양한 플랫폼을 통해 제공될 예정임.