KOSEN 한인과학기술자네트워크

기술의 사업화 측면에서 가장 최전선에 위치한 스타트업들의 트렌드를 살펴보면, 최근에는 AI 그 자체로서의 매력은 점점 떨어지는 추세입니다. AI 가 정체되어 있는 타부문의 문제들을 파괴적 혁신을 통해 해결할 수 있다고 믿어 왔으나, 인식에 대한 거품은 점점 사라지고, 이제 실용적인 측면에서 평가하고 있습니다.
즉 AI는 platform support 기능을 주도적으로 맡게될 것이며, 특히 금융, 에너지, 운송수단 등 데이터가 많이 축적되는 큰 덩어리의 산업군에서 먼저 기술을 활용할 가능성이 큽니다.

인공지능으로 인해 많은 일자리가 사람에서 로봇이나 기계로 대체대고 있는 것 같습니다. 
과학 분야를 넘어서 일상에서도 많이 일어나고 있습니다.
예를들어, 아마존에서 운영하는 무인 상점, 특정 지역에서의 커피 배달 및 택배 배송 등등 많은 사례가 있습니다.
심지어는 주식 투자와 같은 금융에서도 인공지능이 사람을 대체하고 있습니다. 
인공지능의 큰 흐름은 바꿀 수 없을 것 같고, 여기에 빠르게 적응하기 위해 노력해야 할 것 같습니다.
예를들어, 로봇 혹은 기계의 단순 작동에 머무르지 않고, "어떻게 활용하고 적용 할 것인가?" 에 대해 사고하도록 노력해야 할 것 같습니다.  
또한, 로봇이나 기계가 대체할 수 없는 감성적인 부분 (?) 을 강화하는 것도 좋을 것 같습니다. 
 

사람이 직접하는것이 아니라 인공지능을 이용한 합성 실험을 한다면 사람의 해응 피할수 있을것 같네요. 인공 지능 로보이 실험을 진행한다면요..

AI 시장은 전세계 적으로나 국내에서도 이슈가 되고 있는 산업 분야 입니다.

이처럼 다양한 영역과의 조화로운 발전은 보기가 좋습니다.

하지만, 기술에 대한 양면성이 있듯이 AI 산업에서도 밸런스 맞게 조화롭게 기술이 적용될 필요가 있습니다.

지우치지 않는 방향으로 발전이 되었으면 합니다.

인공지능은 최첨단 디지털 시대에 사는 현대인에게 닥쳐오는 정신문제, 심리문제 등을 효과적으로 치료할 수 있는 보조적 역할을 할 수 있다. 현대인들은 혼자 생활하는 패턴이 증가하면서 개인 맞춤형 상품에서부터 모든 삶의 패턴이 개인적으로 변화한다. 날씨, 일정, 스트레스 해소, 일상적 모든 일이 빅데이터화가 되면 그 사람의 고정된 심리적 문제나 갈등에 대해서 대처할 수 있는 기능을 지원할 수 있도 있을 것이다. 물론 반대의 현상으로 부정적인 효과도 나타날 수 있기 때문에 적절한 규제와 테스트가 신중히 진행되어야 할 것이다. 비밀스러운 고민과 복합적인 심리문제 등에 대해서 의료, 정신, 심리, 소비 등 여러 분야에 걸친 치유가 필요할 것으로 보인다. 

이미 어느정도 성과가 나온 빅데이터 처리처럼 각 분야에 따른 연구결과들의 정보를 오래전 논문부터 최근 논문까지 정보를 AI에 넣고 연구하고 있던 자료를 넣으면 알아서 지난 연구결과로부터 의미 있는 정보를 가이드 해주는 정도로 도움을 줄거라 예상합니다.

물론 AI 학습이라는 문제가 남아있겠지만요

* 9월 기술동향에서 설명가능한 인공지능의 응용분야에 본인이 작성했던 내용 중 일부가 본 토론 내용과 유사한것 같아 일부만 발췌해서 올려 봅니다. 
--------------------------------------------------------------------------------------------------------------------
설명가능한 인공지능의 응용분야
설명가능한 AI는 의사결정과 관련된 다양한 분야에 적용될 수 있다. 이 중에서도 의사결정이 사람의 생명이나 재산, 전쟁 등에 관련된 것이라면 특히나 사용자가 인공지능의 결과가 어떠한 과정을 통해 도출된 것인지에 대한 이해가 필요하다.
4.1. 자율주행 차량
자율주행 차량은 교통사고 사망자를 줄이고 향상된 이동성을 제공할 수 있지만 동시에 AI 결정의 설명 가능성을 반드시 필요로 한다. 자율주행 차량은 센서로부터 입력된 정보와 분류 학습 알고리즘을 기반으로 주행판단을 내리지만 일부 분류 문제로 인해 자율주행 차량이 갑자기 비정상적으로 작동하는 경우 이를 운전자에게 설명하고 판단할 수 있도록 해야 한다. 설명 가능한 시스템 만이 주행상황에서 발생되는 판단 원인의 모호성을 명확하게 할 수 있다. 자율주행 차량의 상황판단 결정에 대한 연구는 이미 연구자들을 중심으로 상당히 진행되어 왔지만 아직 법률적, 사회적으로 해결해야 할 문제가 상존하고 있다.
4.2. 의료진단
인공신경망은 1990년대 중반부터 폐렴환자를 예측하는 연구에 활용되어 왔다. 초기 연구에서는 인공신경망이 전통적인 통계적 머신러닝 기법보다 훨씬 정확한 결과를 나타내었지만 천식환자를 폐렴 사망이 낮으며 입원할 필요가 없다고 잘못된 진단을 내리는 사건 이후 AI 시스템이 임상적으로 사용하기에는 위험도가 크다는 이유로 활용되지 못하였다. 최근 연구자들은 임상 AI기반 시스템을 설명가능한 모델로 구성함으로써 이러한 중요한 오류를 사전에 발견하고 회피할 수 있는 연구를 진행 중에 있다. 의료진단에 대한 활용도가 높아짐에 따라 의료 분야에서 설명가능한 AI방식을 적용하려는 연구에 대한 관심이 높아지고 있다.
4.3. 법률 시스템
법원에서 AI는 재범의 위험을 더 잘 평가하고 범죄와 재소자 관리에 관련된 비용을 줄일 수 있는 효과적인 시스템으로 활용될 수 있다. 하지만 법원에서 재범의 위험을 예측하기 위해 형사결정 모델을 사용할 때, 우리는 이 모델이 공정하고 정직하며 비차별적으로 판정하는지를 확인해야 한다. 피의자가 판결에 이의를 제기할 때 AI 시스템은 그러한 판결이 나오게 된 이유에 대해 설명해야 한다. 판결이 이루어지는 방법의 투명성은 사법판단 분야에서 적용될 AI에는 필수적이지만, 법률 시스템에서 자동화된 의사결정을 설명할 수 있는 설명가능한 AI에대한 연구는 아직 인간의 고유한 영역이라는 인식이 강하여 연구가 거의 이루어지지 않고 있다.
4.4. 금융서비스
금융서비스에서 AI 시스템을 활용하면 자산관리 활동, 투자 조언 및 고객 서비스 관련 등을 효과적으로 개선할 수 있음으로 많은 금융회사에서 AI시스템을 적극적으로 도입하고 있다. 금융서비스에서 가장 중요한 업무 중 하나인 대출은 법률과 정해진 규칙에 따라 공정하게 결정을 내려야 한다. 하지만 기존의 설명 불가능한 AI 시스템은 신용점수 및 모델을 사용하는데 있어서 신용 거부에 대한 정당한 이유 코드를 제공하기 어렵다는 것이다. 따라서 최근 유명 신용관리 기관들은 설명가능한 AI 기술을 도입하여 이유 코드 (reason code)를 자동적으로 생성하고 AI 신용기반 점수 결정을 보다 설명가능하고 이해하기 쉽도록 만들려는 노력을 기울이고 있다.
4.5. 군사 목적
이전에 설명한 DARPA 연구 프로젝트에서 알 수 있듯이 설명가능한 AI의 초기 연구는 주로 국방 연구원들에 의해 이루어 졌다. 하지만 군사분야에서의 설명가능한 AI 연구 성과는 아직까지는 뚜렷이 나타나지 않고 있다. 군사 작전이 AI 자율 시스템에 의존할 경우 병사들의 삶과 죽음의 결정이 AI의 결정에 달려 있으며 그 결과는 유형의 윤리적, 법적 딜레마로 이어질 수 있는 민감한 문제이기 때문이다. 절대적인 명령을 따라야 하는 병사의 경우 설명가능한 AI가 내린 명령보다는 잘못된 판단이라도 사람이 내린 명령을 더 따를 가능성이 높음으로 이를 해결할 수 있는 추가적인 연구가 필요하다.

Adadi A., Berrada M., Peeking Inside the Black-Box: A Survey on Explainable Artificial Intelligence (XAI), IEEE ACCESS 6: 52138-52160. 2018.
Caruana R., Lou Y., Gehrke J., Koch P., Sturm M., and Elhadad N., Intelligible models for healthcare: Predicting pneumonia risk and hospital30-dayreadmission. 21th ACMSIGKDD: 1721–1730. 2015.
 

공정의 조건확립에 큰 효과가 기대됩니다. 반복동작에 의한 품질관리, 동일한 결점 혹은 불량의 체크, 생산제품의 균일성을 위한 점검 등, 단순조작 및 반복적인 결함 예방을 위한 분야 응용이 우선 생각나네요.

"신약 개발"은 제약산업 발전에 숙명적인 과제라 할 수 있다.
신약을 개발하는데 있어서 비용과 시간을 줄이는 것은 매우 중요한 요소다.
이에 선택비용을 줄이기 위해 제약업은 AI활용이 필수라 하겠다.
AI를 신약 개발 단계에서 주로 '드럭디자인'에 적용하고, 다음으로는 데이터 분석, 임상시험,
시판되거나 임상을 마친 약의 적응증 확대를 위해 이용한다.
이에 AI를 도입함면서 질병의 원인물질 발견 맟 제거, 후보 물질의 인체적용, 구조화, 시판된 약의 적응증
 시험까지 선택비용을 절감할 수 있어 개발효과가 크다.
약물가능 화합물의 경만 해도 셀 수 없는 데이터들이 있다. 이를 다각적으로 통합하고 정확하고 빠르게 확인할 수 있다는 것만으로도 확실한 비용과 시간 절약이 된다.  

이런 분야들이 꼭 단순 반복 작업만을 의미하는 것은 아닙니다. 그런 분야는 이미 로봇으로 대체되었기 때문이죠. 다만 정교한 반복 작업, 좀 더 지적인 판단 과정이 포함된 분야들에서 AI가 기여할 수 있지 않을까 합니다. 대표적인 예로 지금도 활발히 개발되고 있는 자동 운전 기능이 있겠죠. 다만 운전은 사람의 생명과 직접적인 연관이 있기 때문에 책임 소재를 묻기 위한 법적 장치도 제시되어야 해서 시간이 걸릴 것 같고,...
현재는 게임과 같이 엔터테인먼트 분야에서 AI가 대두되고 있는데 이는 책임소재를 심각하게 논의할 필요가 없기 때문에 접근이 쉬워서 그런 것 같습니다. 만약 AI가 사람의 생명과 직접적으로 관련된 의학이나 산업현장, 고위험 분야에 적용된다면 법적 장치의 마련이 시급할 것으로 생각됩니다.
다만 사람이 투입될 수 없는 분야에서는 로봇과 AI가 결합한 무인 AI로봇이 매우 효과적으로 이용될 수 있을 것 같습니다. 예를 들어, 원전 사고가 났을 때 AI로봇이 가장 효율적으로 사고 잔해를 처리하는 절차를 디자인한다거나 하는 것이 있겠지요.

당장은 제가 관련된 분야에서 AI를 이용한 사례가 그다지 현실과 조금은 동떨어진 부분이 있습니다. 하지만 교육 현장에서 빅데이터등을 활용 하려고 하는데 이 또한 쉽지가 않네요. 

 

이는 인간이 할 수 없는 어려운 일을 잘 해결할 수 있다는 것에 기반을 두고 있다.
이를 통헤 딥러닝, 머신러닝, 양자 컴퓨팅 등의 미래는 가트너 사이클을 보면 어느 정도 흐름을 이해하게 된다.
작금에 이르러 이런 일을 하는 분들에게 질문을 하고 싶다. 데이터 그리고 실례지만 다소 미흡한 수준으로 하면 그 결과는 그저 그런것이 아니고 문화자체를 변화하는 방향이 될까 걱정이 앞선다.
  또한 사용자만족에 대한 3철형의 검증을 어떻게 할것인지? 이에 대한 기준이 제시할 때가 된것 같다.
물론 주어진 조건이 법의 테두리, 게임, 공식의 활용 등은 확률이 높기에 사용 또는 이용하기에 좋지만 이도 사용여부에 따라 혼돈이 있을 수도 있다. 특히 기술부분은 관련된 그리고 세부적인 기술표준서가 없다면 특별한 도움은 없다.
그렇다고 규제의 대상이 된다는 뜻은 아니다. 막는다고 해도 이는 발전하는 문화이기 때문이다.
이는 좀더 준비와 타당성을 검토하여 부분적이지만  공개적으로 발전하면 한다.
예전 오래전 만화이야기인  만물박사가 있었다. 머리에 무엇을 심으니 그렇게 되었다는 내용이 다시금 생각이 난다.
인공지능의 도입은 적은 인원으로 될까 하는 생각과 관련된 윤리 등이 아주 엄격하게 존재하고, 이래야만 하는 이유는 미래시대의 불확실성을 극복할 수 있어야 하기 때문이다. 이는 누군가에는 아주 중요한 일이지만 어는 한편은 그렇게 도움이 되는 것도 아니다. 특히 직업별로 보면!
그리고 이를 공장 등에도 실질로 적용하여 (국산화 100% 기준)  한국형 기준이 되면 하고, 또한 이는 사람을 우선하고 예절을 지키고 준수하는 방향으로 발전하면 한다.
참고로 다음에는 4차산업 혁명과 관련된 내용을 바탕으로, 이단어를  한국고유의 트렌드 또는 패러다임을만들려는 명칭 공모전을 하면 합니다.
 

연구개발은 기존의 연구 결과들을 토대로 새로운 아이디어나 개선점을 바탕으로 개발이 진행됩니다.

이때 많은 데이터와 논문을 찾는데 있어서 하나하나 논문을 검색하고 읽어 보고 찾는데 많은 시간이

소요됩니다. 그리고 저장된 데이터 중에서도 필요한 데이터를 정리하고 뽑는데도 시간이 많이 걸립니다.

현재 인공지능 수준에서 빅데이터를 바탕으로 데이터를 뽑아주고 관련 논문을 찾아주고 여기서 특정

주제에 대한 카데고리를 만들어서 개발자/연구자의 지시에 따라 시행해 준다면 연구 개발에 소요되는

시간이 단축될것이고 비교검색을 통해 기존에 했던 연구를 다시 하거나 다른 사람이 하고 있는 연구를

중복하는 등의 문제도 해결되지 않을까? 생각해 봅니다.