AI vs Human, AI는 정말 사람처럼 행동하는 것일까? (feat. 설명 가능한 XAI) - #01

간단 소개

AI 모델의 신뢰성을 확보하기 위한 XAI(설명 가능한 인공지능)의 개념과 ML, DL 기반 주요 방법론을 소개한다.

AI Summary

XAI(설명 가능한 인공지능) 소개
- AI 모델의 신뢰성 확보 및 에러 최소화를 위해 XAI가 중요하며, 모델의 동작 원리를 설명하고 파악하는 데 사용된다.
- XAI는 AI 모델의 사용 및 설계에 고품질의 해석을 제공하고, 출력값에 대한 직관적이고 이해 가능한 설명을 제공한다.
ML 및 DL 기반 XAI 방법론
- LIME은 local interpretability를 위해 활용되며, 원본 모델 학습 데이터 변형을 통해 특정 예측 결과를 설명한다. 데이터 유형에 구애받지 않으나, 샘플링에 따른 결과 변동 및 일관성 유지 문제가 있다.
- SHAP는 예측 결과 산출에 각 Feature가 얼마나 기여했는지 Shapley Value로 표현하며, Feature 간 관계를 고려하여 공헌도를 측정한다.
- Grad-CAM은 CNN 모델의 마지막 layer로부터 나온 Feature map이 출력값에 기여한 정도를 계산하여 시각화한다. 이미지 데이터 기반의 컴퓨터 비전 모델에 주로 적용된다.