카카오 AI 가드레일 모델, Kanana Safeguard 시리즈를 소개합니다.

간단 소개

카카오 AI 가드레일 모델 Kanana Safeguard 시리즈는 한국어에 특화된 AI 안전 기술로, 오픈소스로 공개되어 AI 생태계 발전에 기여합니다.

AI Summary

Kanana Safeguard 시리즈 소개
- 카카오에서 개발한 한국어 특화 AI 가드레일 모델로, AI의 유해한 응답을 방지하고 안전한 AI 생태계를 구축하는 데 기여합니다.
- Kanana Safeguard, Kanana Safeguard-Siren, Kanana Safeguard-Prompt 세 가지 모델로 구성되어 있으며, 각 모델은 서로 다른 리스크를 탐지합니다.
Kanana Safeguard 시리즈의 특징
- 각 모델은 단일 토큰 형태로 결과값을 반환하여 추론 속도를 높이고 리소스 사용량을 줄입니다.
- 한국어 데이터셋으로 학습되어 한국어의 뉘앙스와 문화적 맥락을 잘 반영합니다.
- 다양한 난이도의 평가 데이터를 통해 성능을 측정하고 검증했습니다.
오픈소스 공개 및 기대 효과
- Apache 2.0 라이선스로 공개되어 AI 개발자와 서비스 제공자가 자유롭게 활용할 수 있습니다.
- AI 생태계의 안전성을 높이고 사용자에게 신뢰할 수 있는 서비스 경험을 제공할 것으로 기대됩니다.