본문 바로가기

신동아 로고

통합검색 전체메뉴열기

4차 산업혁명과 미래

AI에 윤리를 요구할 수 있을까

  • | 유성민 IT칼럼니스트

AI에 윤리를 요구할 수 있을까

1/3
  • 자율주행 자동차가 고장 나 소유주와 길 가는 행인 3명 중 한쪽을 희생시켜야 하는 상황일 때 AI는 어떻게 판단해야 하나. 인간도 이룰 수 없는 ‘윤리적 완전성’을 과연 AI에 바랄 수 있나.
IBM 인공지능 ‘왓슨’을 적용한 보안관제센터. [Pixabay]

IBM 인공지능 ‘왓슨’을 적용한 보안관제센터. [Pixabay]

인공지능(AI) 시대가 온다. 2016년 3월 알파고가 AI의 한계를 넘어섰다. 직관을 요구하는 바둑에서 고수 이세돌을 4대 1로 이겼다. 이로부터 2년이 채 지나지 않아 구글은 ‘알파고 제로’를 전문 학술지 네이처에 기재했다. 기존 알파고가 사람이 둔 바둑 기보를 익혔다면 알파고 제로는 독학으로 40일간 바둑을 배웠다. 

놀라운 것은 알파고 제로가 기존 알파고보다 바둑을 더 잘 둔다는 것이다. 이세돌을 이긴 알파고 리에는 100전 100승으로 이겼고, 커제를 이긴 알파고 마스터에는 100전 89승을 거뒀다. AI의 발전 무한성을 보여주는 대목이다. 영국 일간지 더 데일리 텔레그래프(The Daily Telegraph)는 알파고 제로가 40일 만에 사람의 3000년 역사를 익혔다고 보도했다. 

AI를 일상에 적용하는 사례도 빠르게 증가한다. 사이버 보안, 의료, 증권 등 여러 분야에 AI가 활용된다. IBM이 개발한 왓슨은 2012년 의료계 진출을 시작으로 다양한 분야에 적용되고 있다.


40일간 3000년 역사 익혀

AI 적용이 확장되다 보니 사회에 미칠 영향과 관련한 연구도 한창이다. 특히 AI 관련 윤리 연구가 큰 주목을 받는다. 2016년 12월 미국 과학기술 비영리단체 국제전기·전자기술자협회(IEEE)는 AI가 가져올 부작용을 막고자 개발자를 대상으로 ‘윤리를 고려한 설계(Ethically Aligned Design)’를 배포했다. AI 개발 시 고려할 윤리적 내용이 담겼다. 2017년 1월 유럽연합(EU)은 ‘전자인간법’을 제정했다. 핵심 요지는 AI에 법적인 지위를 보장하는 동시에 AI로부터 빚어질 위협을 방지하자는 것이다. 

AI 윤리 연구가 활발해진 까닭은 무엇일까. 엄밀히 말해 AI는 수십 년 전부터 구현됐다. AI는 주어진 문제를 처리하는 시스템으로 정의할 수 있다. 이러한 정의에 따르면 우리 주변에 수많은 AI가 있다. 2000년대 바둑 게임에도 AI가 적용돼 있다고 하겠다. 

그러므로 AI 윤리 논쟁은 오래전부터 진행해야 했다. 그런데 사실은 그렇지 않다. 무슨 이유에서일까. 이는 ‘자유의지’와 관련이 있다. 좀 더 구체적으로 살펴보자. 

윤리 논쟁을 던지기 전에 AI의 문제 해결 원리에 대해 살펴보자. AI는 두 가지 방법으로 문제 해결 능력을 얻을 수 있다. ‘지식공학’과 ‘기계학습’이 그것이다. 

지식공학은 사람이 AI에 공식을 제공해 문제를 해결하게끔 하는 방식이다. 특정 상황을 주면 지식공학 기반 AI는 공식에 따라 답을 산출한다. 지식공학의 장점은 명확하다. 공식에 맞는 상황이 주어지면 답을 정확하게 산출한다. 또한 구현이 쉽다. 공식만 시스템에 입력하면 되기 때문이다. 단점은 복잡한 상황에 적용하기 어렵다는 것이다. 공식 입력은 사람 몫이다. 따라서 사람이 유추해내기 어려운 상황에 지식공학 기반 AI를 적용하기는 어렵다. 아울러 고정적이다. 사람이 직접 입력한 공식을 바꾸지 않는 한 시스템은 공식을 기반으로 계속 동작한다.


1/3
| 유성민 IT칼럼니스트
목록 닫기

AI에 윤리를 요구할 수 있을까

댓글 창 닫기

2018/06Opinion Leader Magazine

오피니언 리더 매거진 표지

오피니언 리더를 위한
시사월간지. 분석, 정보,
교양, 재미의 보물창고

목차보기구독신청이번 호 구입하기

지면보기 서비스는 유료 서비스입니다.