에이타니 설명 가능한 AI (XAI)● 필요한 이유1. 이미 학습된 모델의 이사결정 과정을 해석하고 설명한다.2. 블랙박스 모델의 신뢰성 확보3. 규제 준수를 위한 설명 제공4. 모델의 문제점 진단 및 개선 방향 파악 SHAP (SHapley Additive exPlanations)● 협력 게임 이론의 Shapley Value 개념을 기반으로 각 특성(feature)이 예측에 기여한 정도를 공정하게 분배하는 방법● 개별 예측(local)뿐만 아니라 특성 중요도를 집계하여 전역적(global) 해석도 가능하다.● 모델에 구애받지 않는(model-agnustic) 기법으로 선형 모델, 트리 기반 모델, 딥러닝 등 다양한 모델에 적용 가능하다.● 이미 학습된 모델의 예측을 설명하는 사후 해석(post-hoc ..
