KOSEN 한인과학기술자네트워크

닫기

더 많은 혜택을 위해
로그인 하세요.

동향

동향

AI 챗봇 ‘이루다’ 논란의 이슈 변화와 시사점

2021-04-20 org.kosen.entty.User@621d64b8 이은진(kosen10)

분야

정보/통신

발행기관

한국전자통신연구원

발행일

2021.04.

URL

http://

첨부파일

인공지능(이하 AI)이 빠르게 발전함에 따라 다양한 서비스가 출시되고 있다.
챗봇(Chatbot)은 음성이나 문자를 통해 인간과 대화할 수 있는 컴퓨터 시스템으로,
AI가 가장 빠르게 도입되고 있는 응용 분야 중 하나이다.

시장 조사 기관에 따르면, 전 세계 챗봇 시장 규모는 2019년 25.7억 달러에서 2024년 94.3억 달러로 연평균 약 30%의 빠른 성장이 전망된다[1]. 

초기 챗봇 서비스가 규칙(룰) 기반 처리 방식으로 업무 자동화에 주로 적용되었던 것과 달리,
최근의 챗봇 서비스는 자연어처리(NLP) 기반의 끊어짐 없는 대화(Multi-turn)와
특정 임무 수행이 아닌 일상대화형 서비스로 진화하는 것이 특징이다.
본 고에서 분석 대상으로 삼은 스캐터랩이 출시한 AI챗봇 ‘이루다’ 서비스 역시,
스무 살 여대생으로 의인화한 챗봇과의 일상대화를 통해
감정적 충족감을 제공하는 것을 서비스 목표로 했다는 점에서 기존의 챗봇과 결을 달리한다. 

사실, AI 서비스가 보일 수 있는 편향성과 불완전성은 ‘이루다’ 서비스 이전에도
많은 지적을 받아왔다. ‘이루다’ 서비스와 유사한 챗봇 서비스에서도
2016년 MS가 공개한 테이(Tay)는 인종차별, 혐오 발언으로 출시 16시간 만에
서비스가 전면 중단되었고[2], 2020년 MS, 아마존, IBM 등 빅테크 기업들은
편향성 문제가 불거지자 자사의 안면 인식 서비스를 보류 또는 개발 중단을 선언한 바 있다[3]. 

‘이루다’의 개발자 또한 출시 전, 어느 정도 논란을 예상했다고는 하나[4],
성적(性的) 대상화, 동성애, 장애인 등에 대한 차별 및 혐오 발언,
개발과정에서의 「개인정보보호법」 위반혐의 등 논란은 예상보다 컸고,
결국 출시 20여 일 만에 서비스를 중단하기에 이른다. 

AI 챗봇 ‘이루다’ 논란은 막연하게 여겨지던 AI윤리와 문제점을 우리 사회에 인식시킨
최초 사례로 볼 수 있다. 이에 본 고는 다양한 논란을 일으키고 서비스를 폐쇄한 AI 챗봇 ‘이루다’가 남긴 쟁점과 이슈 변화에 대해 뉴스 토픽 모델링 기법을 통해 알아보고, 그 함의를 논의한다.

KEYWORDS AI 챗봇, 이루다, AI 윤리, 토픽 모델링, LDA

ABSTRACT
The controversy over Artificial Intelligence (AI) chatbot “Iruda,” which suspended its service 20 days after its launch, can be seen as the first case to inform the public of AI ethics issues. Based on this context, this study examines the controversy and social semantic formation of “Iruda” service cases using news topic modeling techniques. 963-news articles were used for the analysis, and the event’s duration was analyzed 
based on major events, such as service start, controversy, and suspension, to understand the progress. From the analyses results, we obtain major keywords and a total of 16 topics (5, 4, 7) from the period. Finally, the implications for the development and utilization of AI services obtained through this controversy were 
discussed based on the analysis results. 


< 목록 > 
Ⅰ. 서론
Ⅱ. 이루다 서비스 개요
Ⅲ. 분석 방법
    1. 데이터 수집
    2. 데이터 전처리
    3. 토픽 모델링
Ⅳ. 분석 결과
    1. 키워드 분석 결과
    2. 토픽 모델링 결과
Ⅴ. 결과 토의
Ⅵ. 결론

* 출처 : ETRI 전자통신동향분석 제36권 제2호 통권 189호 2021년 4월호
          AI 챗봇 ‘이루다’ 논란의 이슈 변화와 시사점
          최새솔, 홍아름┃지능화정책연구실

* 자세한 내용은 첨부파일을 참고하여 주시기 바랍니다.

 

추천 리포트

리포트 평점  
해당 콘텐츠에 대한 회원님의 소중한 평가를 부탁드립니다.
0.0 (0개의 평가)
평가하기
등록된 댓글이 없습니다.
목록
목록