본문 바로가기

신동아 로고

통합검색 전체메뉴열기

권재현의 심心중中일一언言

AI를 두려워하는 지식인들에게 고함 “AI는 ‘마음이 뭐꼬’ 화두를 들 수 없다”

‘인공지능의 시대, 인간을 다시 묻다’ 저자 김재인 박사

  • 권재현 기자|confetti@donga.com

AI를 두려워하는 지식인들에게 고함 “AI는 ‘마음이 뭐꼬’ 화두를 들 수 없다”

2/4

기계가 생각할 수 있을까

“튜링은 오늘날 AI 연구자와 전혀 다른, 그렇지만 가장 심오한 질문을 던졌습니다. 인간에 가까운 AI, 인간과 구별하기 힘든 AI의 문제를 파고들었으니까요. 오늘날 AI 연구는 크게 둘로 나뉩니다. 인간형(human-like) AI 연구와 비인간형(non-human) AI 연구입니다. 비인간형 AI는 인간 지능 중에서 주로 계산능력이나 데이터 분석 능력 같은 특정 능력에만 초점을 맞춘 AI를 말합니다. 알파고가 대표적이죠. 현대 인공지능의 99.99%는 비인간형 AI 연구입니다. 비인간형 AI가 장사와 연결되기 때문입니다. 해당 인물의 성향과 검색 이력을 분석해 그 사람이 좋아할만한 상품이나 검색 내용을 추천하는 ‘맞춤형 서비스’를 가능하게 해주거든요. AI 연구의 빅5로 꼽히는 구글, 페이스북, 아마존, 애플, MS가 연구하는 AI는 모두 비인간형 AI입니다. 대부분의 사람들이 걱정하는 것은 튜링이 상정한 인간형 AI인데 정작 이에 대한 연구는 거의 진행되지 않고 있다는 것을 모르고 있습니다.”

하지만 동시대 과학의 최첨단을 달리고 있는 천체물리학자 스티븐 호킹마저 “AI 기술이 인류 문명사에서 최악의 사건이 될 수 있다”고 우려하고 있지 않은가. 김 박사는 AI가 인류를 파멸시킬 것이라는 ‘AI 포비아(phobia)’를 유포하는 오피니언 리더를 네 부류로 유형화해 조목조목 반박했다.

“첫 번째는 호킹처럼 노벨상을 받을 만큼 자신의 전문 분야에선 탁월하지만 공학 분야에 대해선 문외한인 과학자입니다. 물리학자는 세상을 수학으로 이해하는데, 컴퓨터와 프로그램을 통해 그 원리를 구현하는 공학자와의 갭은 매우 큽니다. 두 번째는 전기차나 우주로켓 같은 분야의 뛰어난 공학자지만 AI 분야에 대해선 문외한인 일론 머스크 같은 사람입니다. 대중은 그가 공학 천재이니 이 분야에도 전문가일 거라고 오해합니다. 하지만 실제 AI를 개발하는 데미스 허사비스(알파고 개발자)나 마크 저커버그(페이스북 창업자), 앤드루 응(AI 분야 석학인 스탠퍼드대 교수)은 현재의 AI 연구가 비인간형으로 진행되는 것을 누구보다 잘 알기에 고개를 가로젓는 겁니다.”

다음으로 그가 비판하는 두 부류는 훨씬 까다롭다. 대중적 인지도는 떨어져도 지식인 사회에 끼치는 파급력이 좀 더 크고 광범위하기 때문이다.

“세 번째는 철학자에 가까운 사람들입니다. 대니얼 데닛(미국의 철학자·터프츠대 인지연구소장), 더글러스 호프스태터(‘괴델, 에셔, 바흐’의 저자로 유명한 미국의 인지과학자), 닉 보스트롬(트랜스휴먼 이론을 설파하는 스웨덴 철학자) 같은 사람들입니다. 이들은 ‘논리적 가능성’을 ‘기술적 현실화’로 등치시키는 혼동을 저지르고 있습니다. 네 번째는 유발 하라리 같은 역사학자입니다. 수리와 공학에 대한 문외한이면서 세 번째 언급한 사람들의 논증을 원용해 ‘인간의 영생이 가능하다’ ‘인간이 신의 경지에 이르는 호모데우스가 될 날이 머지않았다’ 같은 주장을 퍼뜨리는 거죠.”


마음은 망각, 왜곡, 편집을 한다

‘특이점이 온다’(2005)의 저자이자 구글의 엔지니어링 이사인 레이 커즈와일은 2030년이면 인간의 의식을 컴퓨터에 업로드하는 것이 가능해지고 2045년경이면 인간 뇌와 결합한 인공지능(AI)이 모든 인간의 지능을 합친 것보다 강력해질 것이란 구체적 예측을 펼쳐 유명해졌다. 

김 박사는 커즈와일을 두 번째 부류와 세 번째 부류에 겹쳐 있는 사람으로 분류했다. AI 전문가가 아닌 공학자라는 점에서 머스크와 같지만 이를 정교한 가설로 만들어 하라리 같은 네 번째 부류에게 영향을 미치고 있기 때문이다. 

“많은 사람은 지금도 컴퓨터의 하드웨어와 소프트웨어가 인간 몸과 마음과 비슷한 방식으로 작동한다고 잘못 알고 있습니다. 하지만 이런 이해는 2010년경 폐기됐습니다. 뇌과학 연구를 통해 컴퓨터와 뇌의 작동 방식이 전혀 다르다는 것이 명백해졌기 때문입니다. 그래서 등장한 것이 알파고에 적용된 ‘신경망학습’이니 ‘딥러닝’이니 하는 거죠. 이 역시도 비유적 표현일 뿐 인간의 신경망과 AI의 학습 방식은 전혀 다릅니다. AI의 신경망 학습 과정은 결정론적 과정입니다. 무수한 더하기 빼기 계산 과정에서 중간에 하나만 틀려도 답이 안 나오는 수학 문제를 생각하면 됩니다. 그래서 컴퓨터의 메모리는 중간에 바뀌지 않도록 고정성과 안정성이 제일 중요합니다.

반면 인간의 신경망은 손실과 추가의 과정입니다. 인간의 기억은 계속 변합니다. 진화 과정에서 망각, 왜곡, 편집이란 재편 과정을 거쳐야 생존이 가능하도록 설정됐기 때문입니다. AI의 신경망학습은 더하기 빼기 과정에서 가중치를 조절해주는 외부 입력에 의거한다는 점에서 결국 자율학습이 아니라 지도학습을 벗어나지 못합니다. 학습 목표가 내부가 아니라 외부에서 주어져야 한다는 뜻입니다.”

이를 토대로 커즈와일의 주장을 검토해보자. 인간의 기억을 컴퓨터에 업로드하는 게 기술적으로 가능할 수 있다. 하지만 그 순간부터 기억은 정지한다. 컴퓨터 메모리는 고정불변해야 하기 때문이다. 김 박사는 이를 “폴라로이드 카메라로 그 순간을 포착한 사진을 찍어놓은 것과 같다”고 설명했다. 하지만 현실 속 인간의 기억은 망각, 왜곡, 편집을 거치기 때문에 시간이 지나고 나면 컴퓨터의 기억과 현실 속 나의 기억은 전혀 다른 게 될 수밖에 없다. 내 안에선 변하는데 저장된 그곳에선 멈춰 있기 때문이다. 현실의 나는 늙어가는데 사진 속 나는 예전 모습 그대로인 것과 같다.

“반대로 인간의 신경망과 똑같이 작동하는 레플리컨트(복제인간) 제조기술을 발명했다고 칩시다. 그래서 제 기억을 레플리컨트에 이식하면 현실의 제가 지닌 기억과 레플리컨트가 지닌 기억이 시간이 지난 뒤에도 동일하다고 할 수 있을까요. 저는 저대로, 레플리컨트는 레플리컨트대로 기억을 바꿔갈 텐데요?”


2/4
권재현 기자|confetti@donga.com
목록 닫기

AI를 두려워하는 지식인들에게 고함 “AI는 ‘마음이 뭐꼬’ 화두를 들 수 없다”

댓글 창 닫기

2018/12Opinion Leader Magazine

오피니언 리더 매거진 표지

오피니언 리더를 위한
시사월간지. 분석, 정보,
교양, 재미의 보물창고

목차보기구독신청이번 호 구입하기

지면보기 서비스는 유료 서비스입니다.