AI 윤리 원칙과 AI 리스크 관리 프레임워크

간단 소개

카카오는 AI 윤리 원칙을 수립하고 리스크 관리 프레임워크를 구축하여 AI의 윤리적이고 안전한 사용을 보장하고자 합니다.

AI Summary

AI 윤리 원칙 수립 및 확산
- 카카오는 AI 윤리 원칙을 수립하고, 그룹 기술윤리 소위원회를 운영하여 책임감 있는 AI 개발 및 활용 문화를 조성합니다.
- 10가지 AI 윤리 원칙은 사회 윤리, 포용성, 인권, 비차별과 비편향, 투명성, 보안과 안전, 독립성, 프라이버시, 이용자 보호, 역기능의 경계, 이용자의 주체성을 포함합니다.
AI 리스크 관리 프레임워크
- 카카오 AI Safety Initiative(ASI)는 AI 윤리 원칙, 리스크 관리 사이클, AI 리스크 거버넌스로 구성됩니다.
- 리스크 관리 사이클은 리스크 식별, 평가, 대응의 단계로 구성되며, AI 리스크 거버넌스는 AI 안전 전담 조직, 전사 리스크 관리 전담 조직, 경영진의 3단계 구조로 운영됩니다.
AI 편향성 탐지 및 완화 노력
- 카카오는 AI 편향성의 다양한 근원을 인식하고, 데이터 단계 및 모델 단계에서 편향성을 검토하고 완화하기 위해 노력합니다.
- 공정성 검증 및 투명성 확보를 위해 애플리케이션별 공정성 정의 및 검증, 설명 가능한 AI (XAI) 기술 도입을 추진하며, 유해 콘텐츠 대응을 위한 AI 가드레일 시스템을 구축합니다.