동향

설명가능한 인공지능(explainable AI, XAI)의 필요성과 연구동향

인공지능분야에서 딥 러닝 기술의 발전은 기존에 60여년간 이루어져왔던 인공지능의 업적을 단숨에 뛰어 넘을 만큼 놀라운 성공을 거두었다. 하지만 딥 러닝 기술의 한계점에 대해서는 간과하고 있다. 딥 러닝 기술은 그야발로 블랙박스 학습에 기반하고 있기 때문에 어떻게 그렇게 의사결정을 내렸는지 개발자도 알수가 없다. 이러한 한계점을 개선하기 위해 새롭게 태동하고 있는 설명가능한 인공지능의 필요성과 연구동향에 대해 알아보고 딥러닝에서는 한발 늦었지만 XAI분야에서 우리나라가 선도할 수 있는 연구방향을 모색해보고자 한다.