KOSEN 한인과학기술자네트워크

인공지능의 발전이 어디까지 가능할 것인지

인공지능의 도덕, 윤리 기준을 어떻게 정할 수 있을까

초인공지능의 현실 가능성

인공지능자체가 과연 인간에게 필요한 것인가

인공지능의 Interference 범위를 어디까지 설정해야 하는 것인가

자동차 자동 주행 장치가 있지다면 ticketing도 자연스럽게 피할 수 있지않을까

증강현실의 익스트림한 버전 hyper reality augmented reality 의 실생활에서 구현

4차 산업혁명이라고 하면 강인공 지능의 도래로 생각됨

4차 산업혁명의 definite definition은 그 혁명의 순간이 지난 후에야 말할 수 있지 않을까

제어에서 시스템 모델링을 할 때 exact system을 알고 제어를 하는데 현재는 빅데이터를 이용해서 system identification

메커니즘은 꽤 오래 전에 제안된 방법론으로 데이터 수집방법의 변형(빅데이터 이용 등)으로 transfer function을 찾을 수 있을 것

독감이라는 키워드의 검색으로 빅데이터 활용

인간은 모순이 있을 수 있고 인공지능 그 자체는 알고리즘으로 돌아가는데 빅데이터는 모순된 인간의 데이터를 수집하는 것으로 인공지능의 방향이 인간의 가치 판단을 근거로 이루어지지 않을까

아직은 초인공지능에 대한 가능성(근거가 부실하다)이 적을수도 있다

초인공지능의 가능성?

양자 컴터나 완전 빠른 계산이 가능한 녀석이 나오지 않는 이상 어렵다

만약에 초인공 지능이 도래한다면? 우리의 자세는?

투표한다

초인공 지능이 꽤 빠른 시일 내에 도래할 것을 가정(보수적으로)하고 과학자들이 대비해야 할 것으로

알파고와 이세돌의 대결의 나중 세대에서 돌아보기에 제4차 산업혁명의 시작으로 기억할 듯

사람을 위한 인공지능의 윤리의식 training

박준서 - 인공지능이 발전할수록 그것이 인간에게 중요한 윤리적 가치인 생명의 존엄성, 평등, 자유 등에 미치는 영향력은 커지게 마련이다. 이에 의한 악영향을 피하기 위해서는 기본적으로 인간이 통제 가능한 영역 안에 머무르도록 인공지능을 설계하여야 하고, 그 설계 목적 또한 인간의 윤리적 잣대에 벗어남이 없도록 해야 한다. 그리고 시스템 오류로 인해 인간의 생명, 권리 등 윤리적 가치가 침해 받지 않도록 면밀한 기술적 검토 역시 필요하다고 생각한다. 따라서 인간의 통제 가능성, 도덕적 설계 목적, 고도의 기술력은 인공지능의 시대에 과학자들이 가져야 할 윤리 의식과 밀접한 관련이 있다.
초인공지능의 시대가 도래하여, 자의식, 자유의지를 가진 인공지능이 탄생하게 되면, 이에 대한 인간의 통제가 더더욱 어려워 진다. 설계 또한 인간이 아닌 인공지능의 몫이 될 수도 있기 때문에 그 목적을 인간의 윤리적 잣대 안에 두기 쉽지 않고,누군가가 개인의 사욕을 채우기 위해 초인공지능이 지니는 막대한 영향력을 이용할 가능성 또한 배제할 수 없다. 게다가 인공지능 시스템 오류를 피하기 위해서는 지금보다 훨씬 더 발전된 기술력이 필요할 것이다.
그러므로 초인공지능 시대에 인간의 윤리의식, 윤리적 가치를 지키는 것은 상상 이상으로 어려운 일일지도 모른다. 인공지능 발전의 초기단계라고 할 수 있는 현재부터 윤리적 기반을 다져 나가려는 과학자들의 노력이 필요한 것이다.

김효심 – 초인공지능이 도래했다고 가정했을 때, 많은 과학자들이 인류의 멸망이나 초인공지능에 지배당하는 세상, 극단적인 두 결말을 예상한다. 이러한 비극적 상황을 예상하는, 초인공지능의 위험성을 알고 있는 과학자라면 초인공지능을 도래를 막으려고 하거나 혹은 초인공지능을 안전하게 사용하기 위한 대비를 하려고 할 것이다. 이러한 대비는 초인공지능이 도래하기 전에 이미 끝나있어야 하며 특히 이를 대비하는 과학자들의 윤리의식은 인류의 존망을 좌지우지할 만큼 중요하다고 생각한다.
역사를 통해 알 수 있듯이 사람들은 자신이 속한 공동체의 이익을 위해 과학을 이용해왔고 때로는 수많은 살상무기를 개발하기도 했다. 그러므로 앞으로 인류가 자신의 이익을 위하여 인공지능의 힘을 빌리지 않을 것이라고 예상하기는 힘들다. 문제는 지금까지는 핵무기 발사 버튼을 누르는 의지와 결정권이 사람에게 있었던 반면 초인공지능이 존재 할 때는 그 의사결정이 인류쪽에 있지 않을 가능성이 높다는 것이다. 그러므로 과학자들 뿐만 아니라 인류가 그 어느 때보다도 초인공지능 개발에 있어 신중한 결정을 내려야 하고 강력한 규제를 통해 인공지능이 악한 목적으로 이용되지 않도록 노력해야 할 것이다. 그러한 노력의 시작점으로 앞으로 과학자들은 인공지능 관련 기술을 개발하기 전에 항상 그것을 통제할 기술을 먼저 개발하는 것에 초점을 두어야 한다고 생각한다.

양세로 - 현재 우리 세대의 약인공지능 (한가지 기능을 위해 개발된 인공지능) 의 눈부신 발전에 힘입어 우리는 구글이 창조해낸 강화형 약인공지능인 알파고가 이세돌이라는 거장을 무너뜨리는 것을 목도했다. 더불어 우리는 이세돌과 마주앉은 아자황을 통해 인공지능의 명령을 수행하는 인간과 마주했으며, 인공지능이 시각정보를 수집하여 스스로 새로운 수를 만들어내는 것을 지켜보았다. 이미 곳곳에서 컴퓨터를 기반으로 한 시뮬레이션에 의존한 인간의 의사결정이 더욱 증가하고 있는 가운데, 개인적으로는 앞으로 일어날 4차 산업혁명은 현재 개발된 약인공지능들이 스스로 코드를 수정, 보완할 수 있으며 한가지 기능에 국한되지 않는 강인공지능으로 거듭난 이후, 강인공지능의 판단에 의존하는 인간들에 의해 주도 될 것이라고 생각한다.
강인공지능은 기본적으로 사람의 사고구조와 비슷한 방식을 따라 판단을 내리게 될 것이다. 경험에 근거해 (빅 데이터) 스스로 발전할 것이며, 많은 양의 시뮬레이션에 기반한 통계 분석을 통해 상정 가능한 시나리오 가운데 가장 합리적인 선택을 내리게 될 것이다. 머지 않은 미래에 한 두사람의 생각으로는 도저히 이해할 수 없는 선택을 내리는 인공지능이 나타나게 될 것이며 (마치 이세돌이 알파고의 몇몇 수들을 도저히 이해할 수 없었듯이), 그러한 선택이 결과적으로 옳았다는 것을 (혹은 이세돌이 패배했음을) 인정하는 사람들이 점점 더 늘어날 것이다.
여기서 주목해야 할 것은 인공지능이 빅데이터에 근거하여 스스로 발전시키는 자기 학습을 진행할 경우, 결국 인공지능이 참조하고 있는 데이터들은 인간들 (혹은 자연지능)에 의해 생성된 결과물 이라는 점이다. 방대한 양의 데이터 중에 서로 상충되는 가치를 가진 자료들을 기반하여 발전하기 위해서 인공지능은 모순을 배우게 될 것이고, 위선과 기만역시 함께 배우게 될 것이다. 기억력이 무한하고 사고 속도가 일관적으로 빠르게 계속되는, 현재까지 인간이 이룩한 모든 지식을 가지고 있는, 지치지 않는 거대한 인공지능 덩어리가 인류를 기만하고 통제하는 세상을 생각해 보라. 무섭지 않은가.
이러한 인공지능을 인류에 유익하게 발전될 수 있게 하기 위해서는, 인공지능의 선생이 될 우리 인류 사회의 역사가 선함이 승리하는, 옳은 가치가 인정받는 기록들로 채워져야 할 것이다. 정부와 사회 조직들은 기술개발에 주력하는 것 못지 않게 인성과 도덕성의 성장을 강조하고, 정직한 사회 구성원을 배출하기위해 지금보다 더 노력해야 할 것이다. 이것이 실패할 경우, 우리의 자녀와 손자들, 혹은 몇세대 후의 우리의 후손들은 가장 합리적으로 부패한 기계장치에게 지배당할 수도 있지 않을까.

남효신 - 과학 혁명의 구조 저자이자 ‘패러다임의 변화(Paradigm Shift)’라는 개념을 발전시킨 토마스 쿤에 의하면, 현대 과학의 발달은 연속적으로 축적되어 이뤄지는 것이 아닌, 불연속적이며 혁명을 통해 일어나는 것이라고 한다. 또한, 많은 패러다임 중에서 어떤 하나의 패러다임이 주도권을 잡게 되어, 다수의 과학자가 그것을 공유하고 있는 시기를 정상과학이라고 지칭했다.
여태것 과학자들이 따른 패러다임의 흐름을 보면 제1차 기계의 탄생, 제2차 공장의 대량 생산, 제3차 개인 주도하에 커뮤니티를 통한 아이디어 공유 및 제조가 가능한 메이커 운동(Maker Movement), 그리고 비로소 우리는 제4차인 인공지능의 발전에 의한 패러다임의 전환기에 이르렀다 할 수 있다.
쿤은 과학을 공유된 패러다임의 여부에 따라 성숙한 과학과 그렇지 않은 과학이라고 나누는데, 이러한 공유된 패러다임이 바로 그 시대를 지배하는 과학 윤리로 정의될 수 있다. 현재 우리는 제3차의 메이커 운동을 통한 오픈소스와 커뮤니티의 활동으로 인해, 성숙한 과학 윤리 발전의 초기에 들어섰지만, 제4차 혁명의 전환기에 있는 현재 상태로는 앞으로 주도할 패러다임이 어떤 모습일 지 예측할 수 없다. 따라서, 혁명의 전환을 앞둔 과학자들은 공유된 패러다임을 통하여 성숙한 윤리 의식을 만들어야 된다고 생각한다.

허도영 - 점진적으로 발전하는 인공지능을 대하는 우리의 자세: 농업혁명 당시의 농업기술의 발전이 그러했고, 산업혁명 당시의 산업의 발전 속도가 그러했듯이, 정보 혁명의 일부로 인식되어온 인공지능의 발전 역시 변화의 속도와 관계없이, 사람들이 느끼지 못하는 사이에 우리 생활속으로 빠르게 또 깊숙이 파고 들 것이라는 데에는 많은 사람들 사이에 큰 이견이 없다. 다만 인공지능의 과도한 발전으로 말미암아 인류가 가장 두려워하는, 지구에서의 주도권을 빼앗기거나 인류의 멸종이 어느정도 신빙성이 있는 이야기처럼 들리기에, 이전의 기술 발전과는 다른 시각으로 바라봐야 할 것이다. 이러한 차이 때문에 오래전부터 발전되어 온 과학윤리 혹은 과학철학 분야에 조금 더 시선이 쏠리게 된다.
그렇다면 어떤 시각에서, 어느정도 범위까지 사람이 정한 윤리의 기준을 인공지능기술에 적용시킬 것인지가 중요해진다. 과도한 규제와 압박은 기술의 정체를 낳을 것이고, 반대로 느슨한 규제는 제어되지 않는 기술의 발전을 낳을 수 있다. 인공지능은 이제 막 걸음마 단계에 있는 만큼, 더 늦기 전에 기술에 적용될 윤리의식에 대해 활발한 논의가 필요하다.

박재형 - 인공지능이란 분야의 탄생은 1956년 존 매카시가 개최한 다트머스 회의를 통해 처음 사용되었다. 그 당시 학자들은 인공지능의 발전이 급진적일 것이며 이 인공지능이 생물학적 지성의 한계에 빠르게 도달할 것이라 믿었다. 컴퓨터가 인간보다 훨씬 빠르고 정확하며 오래 기억하는 계산을 더 손쉽게 이루어 냈으니 인간이 쉽게 하는 일들은 자연히 이루어지리라 막연히 생각했었다. 그러나 컴퓨터는 인간이 쉽게 하지 못하는 수학과 공학 즉 정량화된 정보를 처리하는데 능숙했지만 비정량화된 정보를 이해하고 판단하는데는 그 한계가 뚜렷이 드러났다. 예를 들어 사람의 얼굴을 인식하는 컴퓨터 알고리즘은 인간이라면 당연시 구분이되는 문제임에도 불구하고 컴퓨터에게는 굉장히 어려운 문제였다. 당시 학자들은 비정량화된 정보를 어떻게 컴퓨터에게 인식시켜주어야 하는지를 몰랐다.
사실 이는 언어의 해상도가 인식의 해상도보다 낮아서 생겨나는 문제였다. 마이클 펠프스가 아무리 수영 잘하는 법을 우리에게 설명을 해도 우리가 따라하지 못하는 이유가 그것이다. 그 뒤 몇십년의 세월을 인공지능의 발전은 침체기를 겪었다. 인식의 틀을 바꾸어줄 공학자의 존재 덕분에 학자들은 컴퓨터에게 지식을 학습 시킬수 있는 방법을 알아내었고 이것은 인공신경망, 딥러닝, 머신 러닝, 빅데이터라는 학술적 돌파구에 힘입어 인공지능의 발전에 큰 이바지를 한다. 이를 기계학습(Machine Learning)이라고 부르며 이것이 시작된지는 고작 2013년에서야 가능해졌다. 이제는 컴퓨터가 인간보다 사람의 얼굴을 더 잘 인식한다.
앞으로의 미래는 다방면으로 바뀔 것이다. 인간의 전유물이라고 생각했던 직관과 지적인 노동이 인공지능의 발전과 함께 의구심으로 자리잡았다. 1차 산업혁명으로 인해 힘쓰는 일의 대부분이 사라지고 기계가 그 일을 대체 된것과 같이 4차 산업혁명이 이루어지면 인공지능이 우리의 지적 노동을 대신해 주리라 생각된다. 많은 경제학자들이 현존하는 47%의 직업이 미래에는 사라지게 될 것이라 예상한다. 하지만 그것은 불안하고 암담한 미래가 아니다. 산업혁명으로 인하여 귀족과 상위1프로만의 전유물이였던 교육을 공교육의 형태로 받을수 있게 되었고 다양한 사회 보장 제도와 민주주의 탄생과 같은 사회, 경제적으로 대격변이 일어났다. 이와 더불어 이전에는 상상할수도 없는 새로운 다양한 직업이 생겨났다. 4차 산업혁명은 우리의 삶을 또다른 형태로 바꾸리라 생각된다. 어쩌면 우리가 이토록 열심히 받고 있는 교육이 4차 산업혁명과 함께 인공지능에게 자리를 내주어야 할지도 모른다. 인간보다 더 운전을 잘하는 인공지능이 개발되면 더이상 운전할 필요가 없다. 국가와 사회가 정부 정책과 가치판단을 더 잘해주는 인공지능에게 장관, 차관 혹은 대통령자리를 내주어야 할지도 모른다. 그러나 그 사회는 암울하지 않다. 한 개인 정치인처럼 우익과 좌익이 없으며 더 좋고 나아지는 방향으로 인간보다 더 훌륭한 직관력으로 판단을 내린다. 그 인공지능은 모든 역사를 학습했으며 모든 정책들을 알고 있고 어떤 결과가 가장 우리에게 유익한지 알 수 있다. 대한민국은 행운이다. 60년동안의 서양에서의 더딘 성장 덕분에 대한민국은 따라잡을 기회가 생겼다. 이전의 모든 산업혁명이 서양에서 생겨서 우리에게는 기회조차 없었지만 이번에는 우리에게 처음 기회가 주어진 셈이다. 이는 공학자들과 과학자들의 연구와 노력만으로 이루어 질 수 없다. 기존의 산업혁명과 마찬가지로 4차 산업혁명 또한 정부과 과학자 사회의 긴밀한 협조만이 그것을 일구어 낼 수 있다. 앞으로도 다양한 분야에서의 연구 성장과 지원이 이루어져서 미래의 4차 산업은 대한민국이 이끌어 낼 수 있는 형세가 이루어 졌으면 한다.

이종오 - 인류 역사의 흐름에 따라 각시대에서 규정한 도덕과 윤리의식은 끊임없이 변해왔다. 과거에 터부시되고 심지어 심각한 범죄로 간주되던 일들이 현대 자본주의사회를 살아가는 우리에게 아무런 일이 아닌 것들이 있는 것 처럼 미래의 사람들이 현재 우리를 바라보았을때 황당하다고 여길 수 있는 윤리 관념들이 있을 것이다. 강인공지능의 시대를 눈앞에 두고 약인공지능의 시대를 살아가는 우리들에게 인공지능에 올바른 윤리의식의 탑재는 심각한 고려사항이 아닌듯하다. 우선 인공지능의 발전과 진보의 주체가 주로 막대한 자금력을 바탕으로 큰규모의 계산능력을 갖춘 IT 대기업들로 집중이 되어있는데 이들의 연구방향성과 기술수준은 당사자들만이 알고 있고 이들이 최종적으로 추구하는 인공지능의 목적이 대부분 현대인들의 윤리의식에 부합하는지는 알 수 없다. 아주 다행스럽게 그들이 인공지능의 윤리의식 이식에 관심이 있고 실제로 구현을 한다고 하더라도 앞에서 얘기한 것처럼 세대가 지나고 미래에도 그 윤리적 가치들이 유효할지에 대해서는 의문이 있다. 구시대의 윤리의식으로 구현된 인공지능의 인류발전에 저해가 될 수도 있지않을까에 대한 고민 역시 필요할 것이다.
많은 과학자들이 초인공지능 시대의 도래에 대한 두려움을 표현하고 있다. 그들은 어마어마한 데이터베이스를 뒤에 두고 최적의 선택을 위한 알고리즘이 특정한 목적을 위해 연산을 수행할 때 그 산출물이 인류의 공존과 번영에 저해되는 것이 될 지 아닐지 어느 누구도 장담할 수 없다는 면에서 심각한 문제로 인식하고 있다. 특히 인간의 능력을 훨씬 뛰어넘는 초인공지능의 시대가 도래할 경우에 인류가 손쓸 수 없는 어떤 수렴점으로 인공지능이 스스로를 디버깅해가며 발전해 나간다면 우리가 그들의 부속품이 되는 끔찍한 상상도 배제하기 힘들 것으로 생각된다.
많은 국가들이 생명과학분야에 대한 연구윤리에 대한 활발한 논의가 있고 그에 대한 법규정이 있는 것처럼 인공지능분야의 연구윤리에 대한 논의 역시 비슷한 중요도로 인식하고 AI연구관련 국제기구에서의 논의와 규정이 마련되어야 할 것으로 보인다.

- 통제 가능한 영역 안에 머무르도록 인공지능을 설계
- 면밀한 기술적 검토
- 초인공지능을 도래를 막으려고 하거나 혹은 초인공지능을 안전하게 사용하기 위한 대비
- 강력한 규제
- 통제할 기술
- 빅데이터에 인류 사회의 역사가 선함이 승리하는, 옳은 가치가 인정받는 기록들로 채워져야 할 것
- 공유된 패러다임을 통하여 성숙한 윤리 의식
- 기술에 적용될 윤리의식에 대해 활발한 논의
- 정부과 과학자사회의 긴밀한 협조
- 다양한 분야에서의 연구 성장과 지원
- AI연구관련 국제기구에서의 논의와 규정이 마련

강인공지능... 생명과학 분야에서의 규제 완화