[CNN] XAI 구현하기 - (1) CAM
회사에서 프로젝트를 진행하면서, XAI(Explanable AI)의 도움이 필요한 일이 생겼다. GRAD-CAM, CAM 등 다양한 XAI 방법이 존재하고, 실제로 구현된 코드를 활용해 본 적도 있으나, 아키텍처가 베이스 아키텍처에서 많이 벗어나면서 활용에 문제가 발생했다. 이는 근본적으로 XAI의 알고리즘과 구동 원리를 명확히 알지 못함에서 비롯된 것이며, 이에 따라 구동 원리를 명확히 파악하고자 각각의 XAI 알고리즘의 유래와 원리, 구현까지 수행해보려 한다. 목적은 딥러닝 모델이 분류 문제 해결 시, 어떤 위치(ROI)에 주안점을 두고 문제를 해결하는지를 파악하여, 학습이 잘 되었는지, 왜 잘 안되었는지를 확인하고자 하는 것이다. 가장 처음 등장한 XAI인, CAM부터 알아보도록 하겠다. CAM 이..
2022. 3. 7.
