본문 바로가기

신동아 로고

통합검색 전체메뉴열기

4차 산업혁명과 미래

예측 불가능 학습, 오작동·해킹도 위험

킬러로봇의 대재앙

  • 유성민 | IT칼럼니스트 dracon123@naver.com

예측 불가능 학습, 오작동·해킹도 위험

2/2

석학들의 경고

미국 마이크로소프트가 개발한 AI 채팅로봇 ‘테이(Tay)’가 막말을 서슴지 않고 퍼부어 적지 않은 논란이 된 적이 있다. 테이는 ‘기계학습’을 기반으로 하는데, 이 기술이 막말 생산에 결정적으로 기여한 것이다. 기계학습은 말 그대로 기계가 스스로 정보를 학습해 자신의 시스템을 향상시키는 기술이다. 테이는 인터넷에 떠돌아다니는 용어들을 그대로 학습했기에 그와 같은 일이 발생했다. 알다시피, 인터넷은 익명성이 보장되므로 은어(隱語)가 자유로이 오가는 공간이다.

거의 모든 AI 기술은 기계학습을 기반으로 한다. 그래서 AI가 무엇을 배우고 행동할지 예측할 수 없다. 물론 AI 학습에 대해선 통제가 가능하지만 테이의 경우처럼 예측할 수는 없는 일이다.

확률 기반의 의사결정

예측 불가능 학습, 오작동·해킹도 위험

미국 보스턴다이내믹스가 개발한 킬러로봇 ‘아틀라스(Atlas)’. [위키피디아]

이를 가장 잘 표현한 영화가 ‘아이로봇’이다. 아이로봇에 등장하는 ‘중앙통제시스템’은 인류의 평화와 복지를 위해 서비스를 제공하도록 구현됐다. 그런데 중앙통제시스템은 스스로 학습한 후 사람들의 자유를 억압하는 방식으로 인류 평화를 실현하려고 되레 위협하기에 이른다. AI 학습 결과의 예측 불가능성이 AI에 대한 두려움으로 다가오는 것이다. AI 기반의 킬러로봇은 말할 나위도 없다. 영화 ‘터미네이터’가 현실이 될 수도 있는 것이다.

이에 따라 스티브 호킹을 비롯한 1000명의 석학은 킬러로봇이 인류에 대재앙을 초래할 수 있다는 경고와 함께 개발 제한을 촉구하고 있다. 테슬라 최고경영자(CEO) 엘런 머스크도 킬러로봇에 적극 반대한다. 그는 “킬러로봇 개발은 악마를 소환하는 것과 같다”고 발언한 바 있다.

기계 오작동으로 피해가 발생한 사건은 많다. 러시아의 경우 중력법칙을 잘못 계산해 화성 탐사에 실패했다. 미국은 이란과의 전쟁 당시 0.000000095초의 오차로 아군 기지로 향하는 적국 미사일을 막지 못해 대규모 인명 피해를 입었다.

기계 오작동은 주로 ‘기계적 결함’이 있거나 ‘2진수 계산법으로 인한 오차’로 발생한다. 그러나 이러한 오작동은 사람이 중간에서 잘 관리하기만 하면 문제가 없다. 그러나 기계학습 기반인 AI의 경우 이야기가 다르다.

AI는 사람처럼 스스로 판단케 하는 기능이 주요 특장점이다. 그런데 이러한 의사결정은 매뉴얼처럼 정해져 있지 않다. 모든 상황을 예측해 매뉴얼화하는 건 불가능하기에 AI는 유연하게 대처할 수 있도록 구현돼 있다. 학습 후 스스로 판단할 수 있게 하기 위해 ‘확률’ 기반으로 의사결정을 내리게 돼 있는 것이다. 확률 기반이기에 AI가 의사결정을 잘못 내릴 수 있다는 게 가장 큰 문제점이다. 지난해 7월 미국의 한 쇼핑몰에선 치안을 담당하는 로봇 경찰이 16개월 된 유아를 공격해 다치게 한 사고가 발생했다. 이러한 사고가 알려지면서 이전에도 유사 사고가 많이 발생했다는 사실이 드러났다.

킬러로봇 오작동은 간과할 수 없는 중요한 이슈다. 킬러로봇이 아군을 적군으로 인지해 발포하거나 아군 기지에 미사일 공격을 할 수도 있다. 2007년 10월 남아프리카공화국에선 로봇 방공포가 갑자기 작동해 수십여 명의 사상자가 발생하기도 했다. 인명 손실을 줄이고자 도입한 로봇이 되레 인명 피해의 주범이 된 것이다.

‘터미네이터’의 주인공 로봇은 구식이지만 유일하게 사람을 지키도록 작동한다. 다른 로봇은 사람을 공격하지만 말이다. 이는 바로 로봇을 해킹했기 때문에 가능했다. 킬러로봇도 시스템이므로 ‘터미네이터’에서처럼 해킹당할 수 있다. 따라서 해킹당한 킬러로봇이 악의적으로 사용될 소지는 충분하다.

킬러로봇의 미래 해킹 시나리오를 가장 잘 엿볼 수 있는 분야는 드론이다. 2011년 12월 미국 록히드마틴과 이스라엘이 공동 제작한 무인 스텔스 RQ-170이 이란 영내를 정찰하다 포획당한 사건이 발생했다. 이란은 해킹으로 스텔스 RQ-170을 탈취했다. 이후 이란은 2014년 RQ-170과 유사한 드론 개발을 완료했다고 발표했다. 

입력 2017-02-28 13:32:11

2/2
유성민 | IT칼럼니스트 dracon123@naver.com
목록 닫기

예측 불가능 학습, 오작동·해킹도 위험

댓글 창 닫기

2017/05Opinion Leader Magazine

오피니언 리더 매거진 표지

오피니언 리더를 위한
시사월간지. 분석, 정보,
교양, 재미의 보물창고

목차보기구독신청

지면보기 서비스는 유료 서비스입니다.