인공지능, 너 이 문제 내 가설로 푼 거 맞니? : XAI 활용기

간단 소개

XAI를 활용하여 인공지능 모델의 예측 이유를 설명하고, 성능 개선 및 전문가 지식과의 연계 가능성을 제시합니다.

AI Summary

XAI(설명가능한 인공지능)의 정의와 필요성
- XAI는 인공지능 알고리즘을 분석하고 설명하는 방법론이다.
- AI 알고리즘은 입력과 출력의 상관관계를 가지며, XAI는 출력에 대한 입력의 기여도를 분석한다.
- XAI는 AI의 신뢰성을 확보하고, 성능 개선에 활용되며, 전문가의 도메인 지식을 반영하는 데 도움을 준다.
XAI 활용 사례
- 얼굴 나이 예측 스마트미러 앱에서 XAI를 통해 예측 결과의 이유를 설명하고 개선점을 제시한다.
- 자연어 처리에서 XAI를 활용하여 감성 분석 모델의 결과를 분석하고 성능 개선의 실마리를 찾는다.
- 이상거래 탐지 시스템에서 XAI를 통해 전문가의 가설과 AI의 예측을 비교 분석하고, 오탐률을 낮춘다.
SHAP 알고리즘 소개
- SHAP은 Shapley Value를 기반으로, 각 입력 변수가 예측값에 기여한 정도를 공정하게 측정하는 알고리즘이다.
- SHAP은 머신러닝 문제를 협력 게임 이론으로 비유하여 설명한다.
- 카카오뱅크는 KAIST와 협력하여 금융 분야에 활용할 수 있는 XAI 알고리즘을 연구·개발하고 있다.