반응형 CBM1 [딥러닝 with Python] CBM이란?(Concept Bottleneck Model) (해석가능한 인공지능) 딥러닝 모델은 이미지 인식, 자연어 처리 등 다양한 분야에서 인간을 뛰어넘는 성능을 보여주고 있습니다. 하지만 이 놀라운 성능 뒤에는 '블랙박스(Black Box)'라는 고질적인 문제가 존재합니다. 모델이 어떻게 그런 결론에 도달했는지 그 이유를 설명하기 어렵다는 것이죠. 만약 AI가 당신의 대출을 거절했거나, 의료 영상에서 암을 진단했다면, 단순히 "AI가 그랬어요"라는 답변에 만족할 수 있을까요? 의료, 금융, 국방, 자율주행처럼 결정 하나하나가 치명적인 결과를 낳을 수 있는 고위험(High-stakes) 영역에서는 설명 책임(Accountability)이 무엇보다 중요합니다. 지금까지의 해석가능성 연구(XAI)는 대부분 이미 학습된 모델의 판단 근거를 사후에 추적하는 '사후 설명(Post-ho.. 2025. 8. 30. 이전 1 다음 반응형
