서울국제포럼 The Seoul Forum for International Affairs(SFIA)

국문/KOR

[과학기술•산업•환경] [윤성로 회원] AI북터뷰: 서울대 고학수·윤성로 교수가 말하는 '설명가능한 AI의 모든 것' (AI타임스 2021.09.02)
Date: 2021-09-02

AI타임스  |  윤성로 대통령직속 4차산업혁명위원회 위원장, 서울대학교 공과대학 전기정보공학부 교수

입력 2021.09.02

 

법학·공학 전문가 만나 ‘인공지능 원론: 설명가능성을 중심으로’ 출간
설명가능 AI 가능하게 하는 기술부터 법제도까지 폭넓게 다뤄
자율주행보다 의료·금융에서 절실...관련 법 만드는데 조급하지 말아야

인공지능(AI) 기술이 우리 일상에 들어오기 위한 핵심 관건으로 설명가능한 AI를 빼놓을 수 없다. AI 설명가능성은 AI의 판단 이유를 설명하는 것을 의미한다.

금융에서의 신용평가나 의료에서의 질병 진단·치료와 같이 개인에게 중요한 영향을 미치는 영역에 필수적이다. 현재 금융, 의료 현장에서는 관련 연구가 상당히 진전됐지만 현장 보급에는 어려움을 겪고 있다. 그 이유 중 하나는 단연 AI 설명에 대한 법제도가 미비하기 때문이다.

자율주행에서도 설명가능한 AI는 오작동 시 정확한 피해 원인을 파악해 기술을 개선하기 위한 중요한 열쇠다. AI 윤리 분야에서도 설명가능한 AI는 중요한 역할을 한다. 최근 다수 국회의원들이 기업 AI 서비스의 알고리즘 공개를 의무화하는 법안을 발의한 것도 공정성을 담보하기 위해서다.

AI 설명가능성(XAI, eXplainable AI)에 대해서는 크게 기술과 법제도 측면 두 가지로 나눠 논의할 수 있다.

딥러닝 기술은 본질적으로 판단 과정을 설명할 수 없는 블랙박스 문제를 지닌다. 하지만 이것이 곧 설명가능한 AI가 불가능함을 의미하지는 않는다. AI 결정 과정을 완전히 이해하기 어렵더라도 사용한 AI 모형 유형, 학습데이터, 입력·결과값 등을 통해 개략적으로 가늠할 수 있다.

 

중략

 

기사 원문 출처: http://www.aitimes.com/news/articleView.html?idxno=140447

Copyrights and Contact details

  • Seoul Forum
  • 주소 03737 대한민국 서울특별시 서대문구 충정로23 풍산빌딩 3층
    TEL. 82-2-779-7383 FAX. 82-2-779-7380 E-Mail. info@seoulforum.or.kr
    개인정보처리방침   국세청
    Copyright © 2018 The Seoul Forum for International Affairs. All Rights Reserved.