• 알파고는 비인간형 AI일 뿐 인간의 마음과 달라

• 유발 하라리의 ‘호모데우스’는 과학적 무지의 산물

• 마음의 능력은 ‘자기 자신에 대한 내적 성찰 능력’

철학은 어떤 학문일까. 철학이라는 말 전에 먼저 철학자라는 단어가 있었다. 플라톤이 처음 사용한 ‘지혜의 친구’라는 뜻의 필로소포스(philosophos)에서 철학을 뜻하는 필로소피아(philosophia)가 파생했다. 이에 따르면 철학자가 하는 일이 곧 철학이 된다. 그럼 철학자는 무슨 일을 하는 사람일까.

‘인공지능의 시대, 인간을 다시 묻다’ 저자 김재인(48) 박사는 말한다. “본디 철학자란 세계의 구성 원리에 대한 자연과학적 이해를 바탕으로 자연과학이 미처 다 밝히지 못한 것에 대한 추론과 가설을 펼치는 사람이었습니다. 또한 자연과학에 위배되지 않는 한도에서 윤리와 미학 같은 가치를 탐구하는 사람을 뜻했습니다.”

서양철학사의 뚜렷한 전통이다. 철학을 학문으로 확립한 플라톤이 세운 아카데미아의 현관에는 이렇게 적혀 있었다 한다. ‘기하학을 할 줄 모르는 자는 내 지붕 아래로 들어오게 하지 말라.’ 사실 플라톤의 이데아론은 당시 최고 수준의 자연과학인 기하학에 토대를 뒀다. 완벽한 원이란 이데아는 현실에 존재하는 것이 아니라 기하학을 연구하는 사람들의 머릿속에 존재한다는 것에서 착안했기 때문이다. 

플라톤의 제자였던 아리스토텔레스는 ‘만학의 아버지’라고 불릴 만큼 여러 학문의 기초를 마련했다. 그가 가장 심혈을 기울인 학문이 생물학이다. 그래서 아리스토텔레스의 에이도스(형상)와 힐레(질료), 디나미스(가능태)와 에네르게이아(현실태)는 플라톤이 구축한 이데아론의 생물학적 변용으로 해석한다. 에이도스와 힐레를 정자와 난자, 디나미스와 에네르게이아의 관계를 씨앗과 성체가 된 식물의 관계로 풀어낼 때 머리에 쏙 들어오는 이유도 여기에 있다. ‘만물의 근원은 물’이라 한 탈레스가 최초의 철학자라고 주장한 사람도 아리스토텔레스였다. 

근대철학의 시조로 불리는 데카르트도 다르지 않다. 데카르트는 17세기 최고 수준의 수학자이자 과학자였다. χ축과 y축으로 표시되는 직교좌표계를 발명했고 도형을 방정식으로 표현하는 해석기하학의 창시자였다. ‘생각하는 나’를 인식의 정초로 삼은 그의 철학은 17세기 과학혁명이 가져온 문제의식에 대한 응답으로 탄생했다. 우리가 보고 느끼고 체험하는 것이 자연의 실상과 다르며 신학적 가르침과도 다르다는 충격을 극복하기 위해 정밀한 가설을 제시한 것이다.

알파고가 제기하는 철학적 질문

그렇다면 21세기 철학은 어떠한가. 20세기 과학혁명이 가져온 충격을 극복하기 위해 과연 어떠한 지적 노력을 기울이고 있을까. 일곱 학기 동안 서울대 철학과 교양강좌로 진행된 내용을 정리한 ‘인공지능의 시대, 인간을 다시 묻다’는 이러한 문제의식에서 도출된 연구 결과다. 김 박사는 서울대 동물자원학과를 중퇴한 뒤 서울대 미학과를 졸업했으며 서울대 철학과에서 각각 니체와 들뢰즈 연구로 석·박사 학위를 받은 독특한 이력을 지녔다. 

게다가 철학 공부를 마음껏 하기 위해서 강남 유명 논술학원 원장으로 돈을 모은 뒤 2013년 박사학위를 받자 학원을 접고 철학 연구와 저술 활동에만 전념하고 있다. 이공계 학부 출신의 철학자라는 점에서 강신주·고병권을 떠올리게 하는 소장 철학자이기도 하다. 

그가 21세기 자연과학이 제기한 양대 철학적 문제로 꼽는 것이 인공지능(AI)과 생명공학(BT)이다. 철학을 현실과 동떨어진 공리공론으로 바라보는 대중의 시각과 고도의 추상화로만 인식하는 학계의 풍토에 대한 도전인 셈이다. 이번 책은 그 첫 번째로 알파고와 같은 AI가 제기하는 철학적 질문에 대한 성찰을 담았다. 핵심은 ‘마음은 무엇이고 어떻게 작동하느냐’다.

책을 보면 그가 이 분야의 자연과학적 성과에 대해 얼마나 열심히 공부했는지 역력히 드러난다. 자연과학과 철학 이론서뿐 아니라 양자를 결합한 인지과학, 뇌과학, 생물과 기계를 결합한 제어 시스템을 연구하는 사이버네틱스까지 방대한 영역의 원서를 대부분 독파했다. 김 박사는 이를 토대로 “기계가 생각할 수 있을까”라는 앨런 튜링의 질문에서 시작해 그레고리 베이트슨의 ‘정신과 자연’을 거쳐 현재의 AI 기술로는 결코 인간의 마음을 구현할 수 없다는 결론을 도출한다. 

앨런 튜링(1912~1954)은 제2차 세계대전 당시 독일군의 암호 ‘에니그마’를 푼 수학 천재이자 컴퓨터의 이론적 토대를 마련한 영국의 과학자다. 그가 1936년 발표한 ‘계산 가능한 수와 그것의 결정 문제에 대한 적용’이란 논문에서 ‘a-기계’(a는 automatic의 앞 글자)라 이름 붙인 기계는 이후 ‘튜링기계’로 불리는데 오늘날 컴퓨터의 원형이다. 또 그가 1950년 발표한 ‘계산기계와 지능(Computing Machinery and Intelligence)’이란 논문은 오늘날 우리가 생각하는 컴퓨터의 가능성을 타진한 최초의 논문이다. 

튜링은 여기서 생각하는 기계와 인간을 구별하는 기준으로 ‘이미테이션 게임’을 제안했다. 인간 심문자가 격리된 상태에서 인간 및 인간 흉내를 내는 기계와 5분간 질의응답을 펼친 뒤 기계를 인간으로 판정하는 비율이 30%를 넘기면 ‘생각하는 기계’라 할 수 있다는 거다. 이후 이에 대한 여러 반론이 제기됐지만 김 박사는 튜링의 이미테이션 게임이 인간과 기계, 심지어 좀비에게까지 공통으로 적용할 수 있는 가장 객관적 기준임을 강조한다.

기계가 생각할 수 있을까

“튜링은 오늘날 AI 연구자와 전혀 다른, 그렇지만 가장 심오한 질문을 던졌습니다. 인간에 가까운 AI, 인간과 구별하기 힘든 AI의 문제를 파고들었으니까요. 오늘날 AI 연구는 크게 둘로 나뉩니다. 인간형(human-like) AI 연구와 비인간형(non-human) AI 연구입니다. 비인간형 AI는 인간 지능 중에서 주로 계산능력이나 데이터 분석 능력 같은 특정 능력에만 초점을 맞춘 AI를 말합니다. 알파고가 대표적이죠. 현대 인공지능의 99.99%는 비인간형 AI 연구입니다. 비인간형 AI가 장사와 연결되기 때문입니다. 해당 인물의 성향과 검색 이력을 분석해 그 사람이 좋아할만한 상품이나 검색 내용을 추천하는 ‘맞춤형 서비스’를 가능하게 해주거든요. AI 연구의 빅5로 꼽히는 구글, 페이스북, 아마존, 애플, MS가 연구하는 AI는 모두 비인간형 AI입니다. 대부분의 사람들이 걱정하는 것은 튜링이 상정한 인간형 AI인데 정작 이에 대한 연구는 거의 진행되지 않고 있다는 것을 모르고 있습니다.”

하지만 동시대 과학의 최첨단을 달리고 있는 천체물리학자 스티븐 호킹마저 “AI 기술이 인류 문명사에서 최악의 사건이 될 수 있다”고 우려하고 있지 않은가. 김 박사는 AI가 인류를 파멸시킬 것이라는 ‘AI 포비아(phobia)’를 유포하는 오피니언 리더를 네 부류로 유형화해 조목조목 반박했다.

“첫 번째는 호킹처럼 노벨상을 받을 만큼 자신의 전문 분야에선 탁월하지만 공학 분야에 대해선 문외한인 과학자입니다. 물리학자는 세상을 수학으로 이해하는데, 컴퓨터와 프로그램을 통해 그 원리를 구현하는 공학자와의 갭은 매우 큽니다. 두 번째는 전기차나 우주로켓 같은 분야의 뛰어난 공학자지만 AI 분야에 대해선 문외한인 일론 머스크 같은 사람입니다. 대중은 그가 공학 천재이니 이 분야에도 전문가일 거라고 오해합니다. 하지만 실제 AI를 개발하는 데미스 허사비스(알파고 개발자)나 마크 저커버그(페이스북 창업자), 앤드루 응(AI 분야 석학인 스탠퍼드대 교수)은 현재의 AI 연구가 비인간형으로 진행되는 것을 누구보다 잘 알기에 고개를 가로젓는 겁니다.”

다음으로 그가 비판하는 두 부류는 훨씬 까다롭다. 대중적 인지도는 떨어져도 지식인 사회에 끼치는 파급력이 좀 더 크고 광범위하기 때문이다.

“세 번째는 철학자에 가까운 사람들입니다. 대니얼 데닛(미국의 철학자·터프츠대 인지연구소장), 더글러스 호프스태터(‘괴델, 에셔, 바흐’의 저자로 유명한 미국의 인지과학자), 닉 보스트롬(트랜스휴먼 이론을 설파하는 스웨덴 철학자) 같은 사람들입니다. 이들은 ‘논리적 가능성’을 ‘기술적 현실화’로 등치시키는 혼동을 저지르고 있습니다. 네 번째는 유발 하라리 같은 역사학자입니다. 수리와 공학에 대한 문외한이면서 세 번째 언급한 사람들의 논증을 원용해 ‘인간의 영생이 가능하다’ ‘인간이 신의 경지에 이르는 호모데우스가 될 날이 머지않았다’ 같은 주장을 퍼뜨리는 거죠.”

마음은 망각, 왜곡, 편집을 한다

‘특이점이 온다’(2005)의 저자이자 구글의 엔지니어링 이사인 레이 커즈와일은 2030년이면 인간의 의식을 컴퓨터에 업로드하는 것이 가능해지고 2045년경이면 인간 뇌와 결합한 인공지능(AI)이 모든 인간의 지능을 합친 것보다 강력해질 것이란 구체적 예측을 펼쳐 유명해졌다. 

김 박사는 커즈와일을 두 번째 부류와 세 번째 부류에 겹쳐 있는 사람으로 분류했다. AI 전문가가 아닌 공학자라는 점에서 머스크와 같지만 이를 정교한 가설로 만들어 하라리 같은 네 번째 부류에게 영향을 미치고 있기 때문이다. 

“많은 사람은 지금도 컴퓨터의 하드웨어와 소프트웨어가 인간 몸과 마음과 비슷한 방식으로 작동한다고 잘못 알고 있습니다. 하지만 이런 이해는 2010년경 폐기됐습니다. 뇌과학 연구를 통해 컴퓨터와 뇌의 작동 방식이 전혀 다르다는 것이 명백해졌기 때문입니다. 그래서 등장한 것이 알파고에 적용된 ‘신경망학습’이니 ‘딥러닝’이니 하는 거죠. 이 역시도 비유적 표현일 뿐 인간의 신경망과 AI의 학습 방식은 전혀 다릅니다. AI의 신경망 학습 과정은 결정론적 과정입니다. 무수한 더하기 빼기 계산 과정에서 중간에 하나만 틀려도 답이 안 나오는 수학 문제를 생각하면 됩니다. 그래서 컴퓨터의 메모리는 중간에 바뀌지 않도록 고정성과 안정성이 제일 중요합니다.

반면 인간의 신경망은 손실과 추가의 과정입니다. 인간의 기억은 계속 변합니다. 진화 과정에서 망각, 왜곡, 편집이란 재편 과정을 거쳐야 생존이 가능하도록 설정됐기 때문입니다. AI의 신경망학습은 더하기 빼기 과정에서 가중치를 조절해주는 외부 입력에 의거한다는 점에서 결국 자율학습이 아니라 지도학습을 벗어나지 못합니다. 학습 목표가 내부가 아니라 외부에서 주어져야 한다는 뜻입니다.”

이를 토대로 커즈와일의 주장을 검토해보자. 인간의 기억을 컴퓨터에 업로드하는 게 기술적으로 가능할 수 있다. 하지만 그 순간부터 기억은 정지한다. 컴퓨터 메모리는 고정불변해야 하기 때문이다. 김 박사는 이를 “폴라로이드 카메라로 그 순간을 포착한 사진을 찍어놓은 것과 같다”고 설명했다. 하지만 현실 속 인간의 기억은 망각, 왜곡, 편집을 거치기 때문에 시간이 지나고 나면 컴퓨터의 기억과 현실 속 나의 기억은 전혀 다른 게 될 수밖에 없다. 내 안에선 변하는데 저장된 그곳에선 멈춰 있기 때문이다. 현실의 나는 늙어가는데 사진 속 나는 예전 모습 그대로인 것과 같다.

“반대로 인간의 신경망과 똑같이 작동하는 레플리컨트(복제인간) 제조기술을 발명했다고 칩시다. 그래서 제 기억을 레플리컨트에 이식하면 현실의 제가 지닌 기억과 레플리컨트가 지닌 기억이 시간이 지난 뒤에도 동일하다고 할 수 있을까요. 저는 저대로, 레플리컨트는 레플리컨트대로 기억을 바꿔갈 텐데요?”

40억 년의 시간이 온축된 마음

세 번째 부류의 이론가 중에서 대니얼 데닛과 더글러스 호프스태트에 대한 비판을 좀 더 살펴보자. 김 박사는 이들의 주장을 이렇게 요약한다. 인간의 뇌는 자연에 존재하는 다른 물질과 다를 바 없는 물리적 하드웨어다. 그 안에는 소프트웨어나 프로그램에 해당하는 뭔가가 작동하고 있다. 그게 마음이다. 하드웨어가 똑같이 물리의 지배를 받는다면 그 성격에 관계없이 소프트웨어의 구현이 가능하다. 따라서 실리콘 베이스인 컴퓨터를 통해 뇌 안에 든 마음의 구현도 가능하다. 

“논리적으로 흠잡을 데 없어 보이지만 큰 허점이 숨어 있습니다. 인간이 마음을 갖고 있다는 것은 확인 가능합니다. 하지만 어떤 과정을 거쳐 마음이 생성됐는지 또 어떻게 작동하는지에 대해 우리가 아는 건 거의 없습니다. 그저 38억~40억 년에 걸친 기나긴 생명의 진화 과정 중에서 생겨났다는 것만 알 뿐이죠. 논리적으로 구현 가능하다는 것만 가지고 생성 원리나 프로세스를 모르면서 똑같이 만들 수 있다고 할 수 있을까요.”

여기까지는 현재의 AI 기술이 인간 지능을 모방할 수 없다는 공학적 설명이라고 할 수 있다. 논리적으로 가능할지는 몰라도 실제 엄청난 시간이 걸리기 때문이다. 김 박사가 AI의 불가능성을 논리적으로 입증하기 위해 끌고 온 이론가가 그레고리 베이트슨(1904~1985)이다. 

베이트슨은 영국 출신의 문화인류학자로 ‘문화인류학의 대모’로 불리는 마거릿 미드의 마지막 남편으로 더 유명하다. 평생 인류학에 헌신한 미드와 달리 베이트슨은 미국 하버드대 객원교수가 된 뒤 동물학·심리학·인류학을 망라하면서 독창적인 사이버네틱스 이론을 수립한다. ‘마음의 생태학(Steps to an Ecology of Mind·1972)과 ‘정신과 자연’(Mind and Nature·1979) 같은 그 저술의 핵심에는 마음(mind)이 있다.

자가수선이 가능해야 마음

마음은 의식과 무의식으로 나뉜다. 베이트슨은 지각의 작동 결과가 의식이라면 마음의 작동 과정이 무의식이라고 설명한다. 그러면서 어떤 존재가 마음을 갖는지 아닌지를 판단하기 위한 6개의 리스트를 제시했다. 김 박사는 이를 다시 2개의 층위로 구별해 설명한다.

“튜링의 이미테이션 게임이 대화를 통한 검증이라면 베이트슨의 리스트는 인간과 기계뿐 아니라 동물과 식물 등 모든 생명체에 적용할 수 있다는 점에서 좀 더 보편적이고 과학적입니다. 6개의 리스트는 크게 두 개의 층위로 나눌 수 있습니다. 정보의 입력과 출력을 통해 특정 활동 내지 기능이 이뤄지는 층과 그런 활동이 고장 났을 때 이를 스스로 자각하는 층입니다. 마음의 특징은 이 2개의 서로 다른 층위가 하나의 통일체로 작동한다는 데 있습니다. 자기가 고장 난 것을 스스로 고치는 자가수선(自家修繕)이 가능해야 비로소 마음이라고 할 수 있습니다. 제가 보기에 그게 가능한 것은 생물뿐이고 컴퓨터는 불가능합니다. 버그를 잡는 디버깅 프로그램의 예를 드는 분이 있는데 디버깅 프로그램도 버그를 먹으면 사람이 개입하지 않는 한 고칠 방도가 없습니다.”

베이트슨은 생명체만이 가진 지능의 이런 특징을 진화 과정의 산물이라고 봤다. 문제가 발견됐을 때 스스로 문제를 자각해 빠르고 정확하게 보정(補整)하는 개체가 생존에 유리하기 때문이다. 반면 개체군 차원에서는 ‘강자가 살아남는 것’이 아니라 ‘살아남는 것이 강자’라는 지혜의 터득이 중요해진다. 최강이 되기 위해 절차탁마하는 것보다 변화무쌍한 환에서 적응할 수 있는 다양성을 최대화하는 것이 진화에 더 유리하기 때문이다. 따라서 개체 차원에선 문제를 개선할 수 있는 학습능력이 중요하고 개체군 차원에서는 최대한 다양한 개체의 확보가 중요하다. 지능은 그런 진화 전략의 연장선상에서 생성된 것이다.

김 박사는 이렇게 베이트슨의 사이버네틱스 이론을 적용해 현재의 AI 기술로는 절대 구현할 수 없는 마음의 비밀을 밝혀낸다. 그에 따르면 AI와 차별되는 마음의 능력이란 곧 ‘자기 자신에 대한 내적 성찰 능력’이라 할 만하다.

베이트슨의 토톨로지(tautology) 개념은 이런 마음의 특징을 더 잘 포착하도록 해준다. 토톨로지의 사전적 의미는 동어반복이다. 하지만 베이트슨은 이를 ‘내적 모순이나 충돌이 발생하지 않는 자족적 체계’로 재규정한다. 대표적인 것이 유클리드 기하학 체계다. 이 체계에 존재하는 정의, 공리, 명제에는 모순이 발생하지 않는다.

AI는 그런 수학 모델에 근거하기에 매우 안정된 토톨로지를 구축한다. 하지만 인간의 마음은 그런 안정 상태를 쉬이 허용하지 않는다. 끊임없이 외부 요소를 불러와 충돌과 모순을 불러일으킨다. 비유컨대 AI의 머릿속 풍경이 잔잔한 호수라면 인간 마음속 풍경은 폭풍우와 격랑이 휘몰아치는 거친 바다에 가깝다.

‘내가 내 아버지를 낳았다’

김 박사의 책을 읽으면서 철학이야말로 이렇게 토톨로지를 교란하고 전복하는 지적 작업의 최고봉이 아닐까 하는 생각이 들었다. 저자가 ‘마음, 그게 뭐꼬’라는 화두를 붙잡고 자연과학과 서양철학의 역사를 종횡무진 넘나들며 대중의 통념을 뒤흔들고 강타하기 때문이다. 

그중 가장 흥미로운 부분은 니체에서 시작된 계보학의 전통을 자연과학에 과감하게 적용한 대목이다. 서구 자연과학의 뼈대라고 할 수 있는 인과법칙은 시간의 흐름 바깥에서 원인과 결과를 동시에 지켜보는 관찰자를 가정한다. 그래서 그에 근거해 자연의 법칙을 찾은 일반물리학은 ‘시간대칭적’이다. 시간에 구애하지 않고 되풀이해 재생해도 똑같은 결과가 도출된다는 뜻이다. 반면 일회적이고 유일한 역사를 거쳐 온 우주와 생명을 연구 대상으로 하는 천체물리학이나 생물학은 ‘비가역적’이다. 시간을 되돌릴 수도 없고 되풀이할 수도 없다는 뜻이다. 비가역적 세계에서 관찰자가 제일 먼저 만나는 것은 자신의 눈앞에서 일어난 일, 곧 현재의 결과다. 이를 토대로 과거의 원인을 역추적해 재구성해낸다.

김 박사는 여기서 계보학적 인과론을 적용하자고 주장한다. 계보학이란 과거의 기원이 현재의 필요를 충족시키기 위해 재구성됐음을 규명하는 인문사회학적 방법론을 지칭한다. 니체가 19세기 위선적 도덕 관념을 폭로하는 데 쓴 이 용어를 푸코는 사회제도의 조작된 기원을 밝혀내는데 확대 적용했다. 이는 단순히 시간을 역추적하는 것만이 아니다. 과거의 원인에서 현재의 결론이 도출된 것이 아니라 현재에 필연성을 부여하기 위해 과거의 우연적 사건을 원인으로 재구성하는 개념적 조작에 대한 비판이 담겨 있다.

김 박사는 자연과학에서도 이런 계보학적 접근이 충분히 가능하다면서 ‘내가 아버지를 낳았다’라는 도발적 명제를 제시한다. 전통적 인과론에 따르면 나를 낳은 아버지가 원인이고 나는 그 결과다. 하지만 내가 맏이나 외동이라고 가정할 경우 아버지는 나로 인해 비로소 아버지가 된다. 따라서 내가 내 아버지를 초래했다는 역설이 성립한다. 현재가 과거의 원인이 되는 역설이 성립한다. 

“가장 심혈을 기울여 쓴 대목입니다. 차이와 변화를 생성하는 현재를 긍정하는 니체와 들뢰즈 철학을 자연과학 탐구에도 적용 가능함을 시론 형식으로 제기해봤습니다. ‘현재가 필연이고 과거는 우연이다’라는 계보학적 인과론이야말로 양자역학과 양립 가능하다는 점을 별도의 연구서로 밝혀갈 계획입니다.” 

‘마음, 인간이 가진 가장 큰 힘’이라는 광고 카피와 함께 등장하는 TV광고 속 로봇을 기억하는가. 커다란 눈망울로 인간의 마음은 무엇일까 궁금해하는 ‘마음봇’에게 ‘인공지능의 시대, 인간을 다시 묻다’를 읽어주고 싶다. 하나의 마음이 또 하나의 마음을 불러일으키는 신비로운 과정을 보여주기 위해서.