KOSEN 한인과학기술자네트워크

자율 주행
– Auto pilot

알파고 및 인공 지능
- 의료 서비스의 대체 가능성
- 의사들의 역할 출소
- 인공지능이 가진 인간 대비 학습 능력의 우월함
- Robot Surgery 기술의 가능성 및 한계 (의료 사고시 책임 문제 등)

과학+철학+윤리
세 가지가 복합된 새로운 일자리의 창출 가능성

유도줄기세포(iPS)의 가능성 및 한계?
- 현재까지는 어렵거나 불가능한 신경 및 조직 재건의 가능성을 열어줄 수 있음
- 치료 목적으로 훌륭하며, 이론적으로는 인간 복지 까지 가능함
- 뇌세포 및 신경 치료의 세포 등을 통한 치매 치료 가능성?
- 시신경 등 한번 파괴되면 현재로서는 대체 불가능한 재생불가조직의 대체 가능성
- 피부 노화 개선 및 이에 따른 윤리 문제
- 실제 적용 사례 (운동 선수들의 관절 치료 등)
- 장기 대체를 위한 인간 복제가 가지는 윤리적 문제점

국제협약의 중요성
- 예) 핵확산금지조약, 줄기세포 사용에 대한 윤리적 지침 마련, 국가간 기준 마련

다수결의 원칙으로,
인공지능(AI)의 발전을 통한 미래 생활의 변화와 이에 따르는 윤리/철학적 발생 이슈에 대해 토론하기로 결정하였습니다.

번번한 인공지능(AI) 의료 사고, 무엇이 문제인가?

가상 기사 (2023년 11월 8일자)

지난 달, 다시 한번 인공지능(AI) 의료 사고로 인해, 40대 환자 김모씨가 목숨을 잃었습니다. 최근 빈번하게 발생하는 인공지능 의료사고,과연 무엇이 문제이고 어떻게 해결해 나가야 할지, 이번 기획 기사를 통해 짚어 보도록 하겠습니다.

"빈번히 이어지는 인공지능(AI) 의료 사고"
40대 환자 김모씨는, 세 달 전 병원을 찾아 정기 검진 중에 대장 내시경 검사를 하였고, 작은 혹을 발견하였다는 소식을 병원주치의로부터 전해 들었습니다. 의사의 설명에 의하면, 비교적 간단하고 짧은 시술이며 위험성이 매우 낮아 혹 제거 시술을 받고 지속적인 검사를 통해 모니터링 하면 된다는 말을 전해 듣고 안심하였습니다. 이런 김모씨에게, 병원 임상팀에서 연락하여 최근 개발되고 있는 인공지능 로봇을 활용한 혹 제거 시술을 권장 받았고, 시술 비용 일체 및 이후 약 2년간 매 6개월마다 사후 검사 및 관리를 위한 무료 진단을 제안하였습니다. 최근 과중한 업무 스트레스로 인해 소화가 잘 되지 않고, 피로감이 잦았던 김씨에게 주변 가족들과 동료들이 대장 내시경 검사를 권하던 상황이었기에, M사의 제안 조건이 매력적이었던 김씨는 고민 끝에 임상 실험 주관사인 M사의 제안을 수락하였습니다.

최근 각광받고 있는 M사의 인공지능(AI) 시술 방법은, 임상 실험을 통해 안정성을 확보 하고 있는 단계로, 환자의 환부를 3차원으로 스캔하여, 정확한 수술 위치 및 제거 방법 등을 빅 데이터 분석 및 머신 러닝 기술을 통해 인공지능 컴퓨터가 스스로 시술 방법을 단계별로 설계 및 시뮬레이션하고, 미세침습시술(MIS)법을 통하여 직접 제거하는 방법으로써, 환자의 특정 환부 뿐 만 아니라, 주변 조직의 검사까지도 동시에 수행되어 한번 시술에 여러 개의 혹이 발견 될 경우에도 효과적으로 수행하기 때문에 환자들의 만족도가 높은 것으로 M사에서 광고 하고 있는 기술이었습니다. 또한 빅 데이터 분석을 통해, 인공지능 시술 시 악성으로 변화될 위험도가 높지 않은 작은 혹들을 크기별로 분류 하여, 식사 습관 및 최적 검사 주기까지 알려 주는 기능으로 인해 많은 언론의 주목을 받았습니다. 하지만, 3차원 검사 과정 중, 김씨가 이전 수술에서 사용한 금속 임플란트로 인해 생성된 이미지 왜곡 현상을 인공지능(AI) 소프트웨어가 제대로 감지 하지 못하여, 혹의 위치 및 개수를 과도하게 잘못 선정 하였고, 검수를 담당하는 영상전공의 및 M사의 시술 오퍼레이터가 이를 제대로 사전에 인지하지 못한 상태로 시술을 감행하여, 김씨는 대장내 과도한 출혈 및 합병증으로 인해 끝내 사망하였습니다.

"기술 개발 및 홍보에만 급급, 윤리적 책임에 대해서는 서로 회피"
본 사건의 원인은 새로운 기술에 대한 맹신과 또한 병원 및 의사, 임상실험사의 책임 회피로 인한 것으로 볼 수 있습니다. 임상 실험 시행사인 M사는, 장기간 이어지는 임상실험 진행으로 인해 회사의 재정 상태가 악화 되자, 2년간의 정기 모니터링 등의 조건을 환자에게 제안하며 환자의 적합성 여부 및 임플란트 시술 여부 등을 제대로 확인하지 않은 책임이 있었습니다. 또한, 시술을 담당한 영상전공의 역시 임시적으로 M사와 계약을 맺고 본인의 업무 외에 추가적인 컨설팅의 형식으로 임상 실험에 참여하여, 전문성 및 책임을 다하지 않은 것이 역시 원인으로 지적되었습니다. 마지막으로, 시술의 최초 설계부터 검수까지 맡아 진행하는 M사의 시술 오퍼레이터는 의료 지식이 없는 소프트웨어 엔지니어로서, 개발 과정 중 예상하지 못한 이러한 문제에 대한 대비책이 부족했던 것으로 나타나, 성급한 인공지능 의료 기술의 개발 과정 및 당사자간 책임 회피를 통해 생긴 예견된 인재였다고 볼 수 있습니다.

" 기업과 정부, 환자의 안전성을 최우선해야"
최근 불어 닥친 인공지능 의료 기술의 도입 및 개발에 힘입어, 많은 기업들과 병원들에서 앞다투어 홍보를 하고 기술을 실험하는 과정에서 이러한 사고가 빈번히 발생하는 것으로 보입니다. 전 세계적으로 정부와 기업에서 앞 다투어 특허 및 선진 기술을 확보하려는 노력 중에, 환자의 안전이 뒷전으로 물러나 위와 같은 사고가 일어 나지 않도록, 정부와 업계는 보다 엄격한 관리 체계 및 이중-삼중의 안전 조치를 통하여 환자를 우선으로 하는 인공지능 개발이 우선 되어야 할 것입니다. 최근 미국 FDA에서는 인공지능을 이용한 로봇 시술 체계에 대한 삼중 보완 장치를 요구함으로써 환자의 안전을 확보하겠다고 하였습니다. 이는 지나친 정부당국의 규제 및 기술 개발에 대한 의지를 꺾는 것으로 업계에서는 지속적인 불만 의견을 내놓고 있지만, 환자들은 이러한 FDA의 조치에 반가움을 표하고 있습니다. 또한, 병원과 담당 임상의, 로봇 시술 오퍼레이터와 M사의 책임 회피에 대한 문제를 통해 알 수 있듯, 인공지능 기술 개발 중 윤리적 책임을 질 수 있는 주체를 어떻게 정할 것인가에 대한 보다 활발한 사회적 논의가 필요한 상황입니다.

정재영 기자