동향

[GTM230118] 이탈리아 ChatGPT 일시적 금지 명령과 유럽 생성형 AI 관련 규제 동향

분야

정보/통신

발행기관

한국과학기술정보연구원

발행일

2023.04.12


o '23년 3월 31일, 이탈리아 정보보호 기관(Garante per la Protezione dei Dati Personali, 이하 ‘GPDP’)은 ChatGPT의 개인정보 침해 여부 조사 위해 자국 내 ChatGPT 서비스를 일시적으로 중지한다고 발표


 - '23년 3월 20일 보고된 ChatGPT 사용자 대화와 가입자의 서비스 결제 정보의 유출 사건 이후 실시한 테스트에서 ChatGPT가 개인 데이터를 처리하고 있다고 결론

 - 또한 ChatGPT는 약관에서 13세 이상의 사용자를 대상으로 서비스를 제공한다고 밝혔으나, 서비스 가입 시 나이 확인 절차가 없고 이에 따라 13세 미만의 어린이가 유해 정보에 노출될 수 있음을 지적

 - 그 밖에 ChatGPT에서 제공하는 인물의 정보가 부정확하고, 사용자는 자신의 데이터가 수집되고 있음을 인지하지 못한다는 점에 대해 문제를 제기

 - 본 규제의 법적 근거는 EU의 “일반 정보보호 규정(General Data Protection Regulation, 이하 ‘GDPR’) 위반으로,

  ? 개발·운영사인 OpenAI에게 ChatGPT 학습데이터에 포함된 이탈리아 사용자의 개인정보 사용을 중지할 것을 요구

  ? 또한 20일 이내에 GDPR 규정 위반 가능성에 대해 조처해야 하며, 조처가 이행되지 않으면 최대 2,000만 유로 또는 글로벌 총 매출액의 4%에 해당하는 벌금이 부과될 수 있음

 - OpenAI는 4월 3일 이탈리아 내 ChatGPT 서비스를 중단

  ? OpenAI의 CEO Sam Altman은 OpenAI는 모든 개인정보 보호법을 준수하고 있다고 생각하나 이탈리아 당국의 결정에 따라 ChatGPT 서비스 제공을 중지했음을 밝힘

 

o 이탈리아의 조치 이후 프랑스, 아일랜드, 독일, 영국 등 다른 EU 국가의 관련 기관은 ChatGPT와 같은 생성형 AI의 개인정보 보호 위반 가능성에 대한 반응을 나타냄

 - 프랑스와 아일랜드의 데이터 보호 기관은 GPDP와 접촉하여 이탈리아 조치의 근거를 이해하기 위한 작업을 진행하고 있으며 모든 EU 데이터 보호 당국과 협력할 것이라 밝힘

 - 독일 정부도 ChatGPT의 개인정보 보호 위반 가능성에 대해 조사를 착수하였다고 밝힘('23.4.3.)

 - 영국 데이터 규제 담당 기관인 ICO(Information Commission’s Office)의 관계자는 기관 블로그 게시글을 통해 생성형 AI의 개발·사용 시 개인정보 보호에 유의하도록 당부('23.4.3.)

 - 상기한 4개국의 반응과는 달리 스웨덴 개인정보 규제기관은 ChatGPT를 금지할 계획이 없다고 표명하였고, 스페인의 경우 ChatGPT에 대한 불만이 접수되진 않았으나 향후 조사를 배제하진 않는다고 밝힘



o (시사점) AI 기술의 급격한 발전 양상에 관해 혁신에 대한 기대감과 함께 안전성과 불확실성에 대한 불안감이 확대됨에 따라 AI를 통제할 수 있는 법과 시스템의 구축과 AI 윤리 수립 및 공감대 형성 등의 사회적 노력에 관한 요구도 가속될 것임

 - 지난 3월 29일 미국 비영리단체인 미래삶연구소(Future of Life Institute)가 주도하고 엘론 머스크(Elon Musk), 유발 하라리(Yuval Noah Harari) 등 유명 인사와 AI 관련 인사들이 서명한 공개 성명서에서 GPT-4 성능 이상의 인공지능 개발을 최소 6개월 동안 중단하고 AI 윤리와 투명성에 관해 논의를 제안함

 - 미국 바이든 대통령은 지난 4월 4일 열린 과학기술 자문위원회 회의에서 민간 및 공공에서 AI 위험성을 해결하려는 노력이 필요하다고 밝힘

 - EU는 '21년 인공지능법안을 발의 '22년 말 유럽연합 이사회에 의해 채택되어 유럽 의회에서 논의 중으로, 총 85개의 조항으로 구성됨

 - 우리나라에서는 지난 2월 14일 국회 과학기술방송통신위원회 법안심사소위에서 인공지능 관련 7개 법안을 통합한 대안을 통과시켰고, 이와 별도로 3월 2일 황희 의원의 대표발의로 인공지능의 개발 및 이용의 기본 원칙을 주요 내용으로 하는 '인공지능책임법안'이 동 위원회에 회부됨




※ 참조:
- Wired 기사('23.4.4.), ChatGPT Has a Big Privacy Problem
https://www.wired.com/story/italy-ban-chatgpt-privacy-gdpr/
- Reuters 기사('23.4.4.), Italy’s ChatGPT ban attracts EU privacy regulators
https://www.reuters.com/technology/germany-principle-could-block-chat-gpt-if-needed-data-protection-chief-2023-04-03/
- Opendatascience.com 기사('23.4.5.), Following Italy’s Ban, Germany is Also Considering a Ban on ChatGPT
https://opendatascience.com/following-italys-ban-germany-is-also-considering-a-ban-on-chatgpt/
-ICO Blog('23.4.3.), Generative AI: eight questions that developers and users need to ask
- 미래삶연구소 공개 성명서('23.3.29.)
https://futureoflife.org/open-letter/pause-giant-ai-experiments/
- 바이든 미 대통령 PCAST 녹취록('23.4.4.)

* 요약글 출처 : 한국과학기술정보연구원(KISTI) GTM230118

리포트 평점  
해당 콘텐츠에 대한 회원님의 소중한 평가를 부탁드립니다.
0.0 (0개의 평가)
평가하기
등록된 댓글이 없습니다.