브레인스토밍
- "4차 산업혁명을 준비하는 과학자들의 자세" 에 관하여 토론 진행을 맡게 될 서지호입니다. 토론은 각자가 생각한 4차 산업이 영향을 끼치게 될 분야에 대하여 얘기하고, 예측되는 문제점을 먼저 찾아보도록 해요. (지호)
4차 산업혁명 (인공지능, 로봇, 생명과학) 이 영향을 받게 될 분야
- 가장 처음 생각나는 분야는 자동차산업? 테슬라와 구글을 주축으로 자율주행이 굉장히 핫 한 분야인데, 이 주제라면 인공지능과 로봇이 복합적으로 관련되어 있을 것 같아요. (지호)
- 그런 맥락이라면 군사용 장비들도 많이 영향을 받지 않을까요? 앞으로 전쟁은 사람과 사람이 직접 싸우는 방향보다는, 최대한 인간의 참여는 줄이고 기계가 대신할 방향으로 갈 것 같아보여요. 그렇다면 직접 사람이 참여하는 정도의 판단력과 우수한 기능을 가진 로봇들이 필요하게 될 것 같아요. (창우)
- 지금도 많이 사용되고 있지만, 산업용 로봇도 더욱 활성화 될것이라고 생각해요. 조금 더 복잡하고 다양한 기능들을 수행할 수 있을 것 같아요. 3D Printing등의 새로운 기술들의 출현도 산업용 로봇 발전을 더욱 가속화 시킬것이라 생각해요. (주환)
- 생명과학과 로봇, 그리고 인공지능을 종합적으로 생각해 본다면 의료분야도 굉장히 영향을 받을 것 같다고 생각되네요. 예를들어 로봇이 수술을 집도하게 된다면, 기존에 인간이 직접 하는 수술보다 더욱 정교하면서도 빠른시간내에 성공시킬 수 있지 않을까요? (민규)
- 금융공학쪽으로도 많은 부분이 4차 산업의 영향을 받을 것 같네요. 아무래도 숫자들 다루는 분야이기 때문에 사람이 직접 작업하는것보다 더욱 정확하고 신속하게 금융의 흐름을 예측할 수 있지 않을까요? (홍연)
예측되는 4차 산업혁명의 (인공지능, 로봇, 생명과학) 문제점
- 예전에 자율주행 자동차의 도덕적 딜레마에 관한 기사를 읽은적이 있어요. 몇 달전에 자율주행에 의한 교통사고 사망자가 발생한 사례가 나온것에서 알 수 있듯이, 자율주행이라고 해서 100% 안전한 운행만 가능한것도 아니거든요. 만약에 자율주행 자동차가 보행자와의 사고를 필연적으로 유발할 수 밖에 없는 상황을 만들었을 때, 과연 자동차는 운전자를 우선적으로 방어해야 할까요? 보행자를 피해햐 할까요? 어찌보면 인공지능의 윤리적 판단력과도 연결 될 수 있는 것 같아요. (지호)
- 금융공학적인 측면에서도 윤리적인 문제가 대두될 수 있을 것 같아요. 누군가가 악의적인 목적으로 인공지능을 사용한다면, 인공지능이 과연 유저의 사용목적을 판단하고 제지 할 수 있을까요? (홍연)
- 군사용 로봇은 윤리적인 측면에서 가장 문제가 될 수 밖에 없다고 생각해요. 로봇이 누군가를 지키기 보다는 공격하기 위한 수단으로 사용될 가능성이 많으니까요. 그렇다면, 과연 군사용 로봇이 해야할 역할의 범위는 어디까지 일까요? 또한 로봇에 의한 사고, 예를들면 민간인 희생자, 같은 경우는 어떻게 대처해야 할까요? (창우)
- 로봇에 의한 의료사고도 같은 맥락에서 얘기할 수 있을 것 같아요. 인간이 참여하지 않은 인공지능 로봇이 의료사고를 낸다면 책임은 누구에서 물어야 할까요? (민규)
- 아주 고전적인 문제긴 하지만, 산업용 로봇의 증가로 인한 일자리 감소도 우려해야만 하는 부분일 것 같네요. 로봇이 모든 작업인력을 대체하게 된다면 사회적으로 부의 쏠림이 가속화 될 수 밖에 없겠죠. (주환)
머리말
- 앞서 나눈 많은 부분에서 인공지능의 윤리적 판단문제가 반복적으로 강조된 것 같아요. 이 부분에서 좀 더 이야기를 자세히나눴으면 좋겠어요. 혹시 이 부분을 해결하기 위한 과학자로써 자세가 있을까요? (지호)
인공지능의
윤리적 판단문제에 관하여
- 먼저 우선순위의 정립이 필요하지 않을까요? 예를 들어, 사람, 동물, 재산, 환경등의 여러 요소가 존재한다면, 인공지능이 가장 우선시하여야 할 요소는 무엇일까요? (지호)
- 아무래도 생명 (사람, 동물) 이 가장 우선시 되어야 할
것이고.. 그 다음에 무생물이 되어야 하겠죠. (홍연)
- 절대적인 우선순위가 존재할까요? (주환)
- 어느경우에서든 사람이 우선순위이지만, 그 외의 것들은 상황에 따라서 바뀔 수 있을 것 같아요. 예를들어 해양 기름 유출 사고라면 당장의 재산보다는 환경을 더 중요시
해야하는 경우가 발생할 테니깐요. (창우)
- 사람이 가장 최우선 순위인 것은 동감하지만, 사람들 간에도 우선순위를 결정할 수 있나요? 예를들어 아까 얘기한 자율주행자동차의 딜레마 같은 경우, 보행자와 운전자 중 우선순위가 어디에 있어야 할까요? (지호)
- 굉장히
어려운 문제지만, 조금 더 피해를 줄일 수 있는 방향으로 상황에 맞춰 인공지능이 판단해야 하지 않을까요? (민규)
- 결국 많은 경우에서 인공지능이 선택해야 하는 우선순위는 그때의 상황에 절대적으로 의존하는 것 같아요. 과학자로써 다양한 상황을 수치화 시키고 시뮬레이션을 통해 가장
피해를 최소화 시킬 수 있는 방향으로 발전시킬 수 있지 않을까요? (홍연)
- 데이터 마이닝과 Self-learning system의 개발이 다양한 상황에 대한 인공지능의 대처능력 향상을 가속화 할 수도 있을 것 같아요 (창우)
- 그전에 최악의 상황을 만들지 않도록
인공지능의 예측시스템을 정교하게 개발하는것도 중요할 수 있겠네요. (민규)
- 인공지능에게 인간의 도덕과 양심을 요구할 수 없겠지만, 사람이 도덕적인 판단을 내리는 메커니즘을 이해하고 수치화/프로그램화 함으로써 미래에 인공지능에게 유사한 윤리적 시스템을 주입할 수 있지 않을까
생각해 봅니다. (지호)
- 그렇다면 인간의 윤리적 행동에 대한 심층적인 연구가 먼저 이루어져야 하겠네요. (주환)
- 인공지능 로봇을 만들기 위해서 인간의 연구해야 한다는 점이 아이러니 하면서도 흥미롭네요 (민규)
스토리텔링
인공지능의 윤리적 판단문제에 관하여
평소와 다름없는 주말이다. 늦은 아침, 느릿느릿 침대에서 기어나온 나는, 어제 먹다 남은 피자 한조각을 전자레인지에 집어넣고 TV 리모컨을 손에 쥐었다. "전국이 화창할 것이라 예상되며...", TV 속 기상캐스터가 들 뜬 목소리로 전달하였다. 어차피 다음 주에 있을 중대회의로 나는 오늘도
회사로 출근해야 한다. 맑거나 말거나...
대충 말쑥하게 차려입고 주차된 차에 올라탄다. 회사까지 30분 거리. 너무 안밀렸으면 좋겠다고 속으로 생각한다. 주중의 피로가 가시지 않은 무거운 몸을 운전석 깊숙히 파묻고 나지막히 차에게 얘기한다.
"일해야해. 회사로
가줘."
"오늘은 날씨가 좋으니 회사로 가시기 보다는, 제부도 방면으로 드라이브 하시는 것이 어떠시겠습니까?"
내가 대체경로 설정 옵션을 켜 두었던가? 그것보다 어젯밤 업데이트에 보이스 항목이 포함되어 있었던가? 평소 설정해뒀던 목소리보다 살짝 빠르고, 조금 높은 톤의
기계음이 나에게 말을 걸어왔다.
"회사로 가줘."
"오늘은 지난 한달 중 가장 포근한 날씨로 예상되며, 제부도로 드라이브 가시기에 최적의 상황이라 판단됩니다."
"회사로 가줘."
"..."
살짝 짜증이 섞인 목소리로 다시 한번
요구했을 때, 평소보다 거친 엔진음과 함께 차가 움직이기 시작하였다. 아무래도 어젯밤의 업데이트에 뭔가 문제가 있었던 것 같다. 그러거나 말거나, 머리속에는 온통 회의 생각뿐이다.
"음악 들으시겠습니까?"
"아니 됐어. 좀 잘게. 도착하면 깨워줘"
"..."
대답이 없다. 아무래도 업데이트에 문제가 있는 것이 확실하다. 그런 생각도 잠시, 피곤한 몸뚱이는 곧 깊은 잠에 빠졌다. 오늘 차가 많이 밀렸던가? 평소보다 더 오래 잔듯한 기분을 느끼며 살며시 눈을 떠본다. 그리고 바다가 보인다. 나는 순간 당황하였다.
"여기 어디야."
"경기도 화성시 제부도 선착장입니다."
"왜.. 여기.. 아니.. 어째서.. 왜 목적지가 제부도로 되어있지?"
"신규 업데이트된 인공지능 판단모듈에 의하여 유저의 휴식이 주말근무보다 우선순위로 판단되었습니다."
말문이 막혔다.
할 말이 많지만, 여지껏 기계와 말싸움을 해 본 경험은 없다. 어떻게 대처해야 하나.
"회사로 가줘."
"유저의 잘못된 명령으로 인해 시스템 종료합니다"
나는 지금 차 안에 덩그러니 남겨져있다.