• ‘특이점’은 오지 않는다… SF영화에 속지 마라

• 완전자율주행차? 사람 죽으면 어떡할 건가

• 전기차의 이면, 그 많은 전기는 어디서?

• AI가 두려운 게 아니라 사람이 두렵다

“정부는 올해 안에 ‘AI(인공지능) 국가 전략’을 제시할 것이다.” - 문재인 대통령 

“세상을 바꿀 기술을 하나만 꼽으라면 AI다.” - 최태원 SK그룹 회장 

“지금까지 없었던 새로운 기술로 새로운 미래를 만들어야 한다.” - 이재용 삼성전자 부회장 

“AI·빅데이터로 디지털 트랜스포메이션하자” - 구광모 LG그룹 회장

AI혁명이 더는 미래가 아니다. 인터넷 혁명에 버금가는 충격을 몰고 올 것이란 관측이다. AI가 이끌 미래에 장밋빛만 있는 건 아니다. 그러나 기술은 낙관과 비관의 교차 속에서 발전하는 법. 미래를 향한 경로를 제대로 탐색하려면 막연한 불안 대신 정확한 정보와 진단이 필요하다. 

‘신동아’는 인문학재단 플라톤아카데미와 함께 ‘인문을 과학하다’ 시리즈를 시작한다. 플라톤아카데미는 2010년 11월 설립된 국내 최초 인문학 지원 재단으로 인류의 오랜 지식과 지혜를 바탕으로 우리가 당면한 삶의 근원적 물음을 새롭게 전한다는 취지로 연구 지원, 대중 강연, 온라인 포털 등 다양한 사업을 진행하고 있다. 



올해 설립 10주년을 맞아 신동아와 함께 기획한 ‘인문을 과학하다’는 인문학과 과학이라는 언뜻 멀어 보이지만, 이미 우리 삶에 깊이 들어와 섞여 있는 두 세계의 깊이 있는 소통을 추진하는 프로젝트다. 전문가들과의 깊이 있는 인터뷰를 통해 AI 빅데이터 등 4차 산업혁명의 실체를 분석하고 기술이 무엇을 할 수 있을지 따져보는 동시에 기술이 무엇을 해야 하는지, 기술을 만드는 주체인 인간은 무엇을 고민해야 하는지 성찰하는 계기를 만들고자 한다. 

1회 주인공은 홍성수 서울대 전기정보공학부 교수다. 서울대 컴퓨터공학과를 졸업하고 미국 메릴랜드대에서 컴퓨터과학을 전공해 박사학위를 받았다. 한국공학한림원 정회원이며 자동차 반도체 및 소프트웨어 연구회장인 그는 “AI에 쫄지 말라”는 말로 인터뷰를 시작했다.

공상과학영화에 속지 마라

홍 교수는 평소 “잘못된 정보로 인해 AI에 대한 과대포장이 심하다”고 주장해온 사람이다. 그의 말이다. 

“사석에서 만난 어떤 판사가 법적인 권리와 책임을 지는 대상을 법인과 자연인 둘로 구분하는데 AI가 감정도 있고 가치판단도 하고 양심도 있고 지적(知的)으로 인간을 추월한다고 하니 법적 권리와 의무의 주체로 ‘인공지능인’을 추가해야 하는 거 아니냐고 진지하게 물은 적이 있다. 

AI를 양심과 영혼을 가진 인간과 똑같다고 생각해 죄를 지을 경우 어떻게 처벌할 수 있는지 물은 것인데 속으로 깜짝 놀랐다. 판사라고 하면 타인의 삶을 좌지우지하는 매우 이성적인 판단을 해야 하는 직업군인데 이런 지식인들까지 AI에 대한 오해가 심각하다는 생각이 들었기 때문이다. 

AI가 4차 산업혁명을 이끌 동력임에는 틀림없지만 너무 과대포장돼 있고 사람들이 이에 대해 무지한 측면까지 있음을 깨달았다. 거의 공상과학영화나 소설에 나오는 식으로 생각하는 것은 매우 위험하다고 본다.” 

그는 AI에 대한 이런 오해를 불러일으킨 대표적 인물로 레이 커즈와일을 언급했다. 

- 커즈와일이라고 하면 인공지능과학자 겸 미래학자로 이른바 ‘싱귤래리티’ 개념을 만들어 전 세계에 확산시킨 사람 아닌가. 

“그렇다. 알다시피 ‘싱귤래리티’라는 개념은 우리말로는 ‘특이점’으로 번역되는데 기계가 사람보다 지적으로 더 우월해진다는, 다시 말해 미래 기술 변화가 급속도로 진행돼 인간 생활이 되돌릴 수 없도록 변화되는 기점을 뜻한다. 커즈와일은 현재 AI 발전 속도로 미뤄볼 때 2040년 특이점에 도달할 것이며, 특이점 이후 인류는 AI에 의해 멸종하거나 아니면 정반대로 나노 로봇의 도움을 받아 영생을 누릴 것으로 예측했다. 하지만 이건 전적으로 과장된 것이다. 

모든 기술이 그렇듯 AI기술에도 원천기술이 있고 응용기술이 있는데 AI의 작동 원리를 안다면 절대 싱귤래리티가 오지 않는다는 것도 알게 된다. 싱귤래리티 개념을 요즘 가장 많이 쓰는 대표적인 사람은 손정의 소프트뱅크 회장일 것이다. 나 역시 손 회장을 높게 평가하지만 너무 전도사 역할을 하니까 좀 과하다는 생각이 든다. (손 회장이 이끄는) 비전펀드가 AI에 투자를 많이 해서 그런가(웃음).”

AI는 강아지와 고양이를 어떻게 구별할까

- 그렇다면 결론부터 묻지 않을 수 없다. AI 작동 원리가 무엇인가 

“AI는 일단 매우 거칠고 큰 개념이다. AI 안에 머신 러닝(machin learning) 분야가 있고 머신 러닝 안에 딥 러닝(deep learning) 기술이 있다. 현재 선진국에서도 딥 러닝을 제외한 다른 기술은 구현이 잘 안 되고 있다. 딥 러닝을 통해 성공한 대표적인 기술이 영상인식인데 2012년 전까지만 해도 인식률이 낮았다. 딥 러닝 기술이 나오면서 컴퓨터가 사람보다 인식 능력에서 앞서고 있다. AI 중 유일하게 잘되는 분야가 딥 러닝이라고 보면 된다. AI=딥 러닝이라고 생각해도 무방하다.” 

- 하나하나 개념 정리가 필요해 보인다. 딥 러닝 개념부터 시작해보자. 

“딥 러닝은 프로그래밍 기법의 하나다. 말 그대로 기계가 사람처럼 학습해 똑똑해지는 것이다. 영상인식을 예로 들면 컴퓨터 처지에서 강아지 사진 한 장을 보고 이게 강아지인지 고양이인지 사자인지 알아차리는 과정을 상상해보자. 정답은 강아지인데 컴퓨터는 강아지 확률 50%, 고양이 확률 30%, 사자 확률 10% 이런 식으로 계산한다. 인간은 프로그래밍을 통해 컴퓨터에게 오차를 줄이라고 수학으로 최적화 함수를 돌린다. 이게 딥 러닝이다. 

사람은 언어로 생각하고 소통하지만 컴퓨터는 숫자로 생각하고 소통한다. 강아지 사진을 수없이 입력해 학습을 시키면 종(種)이 다른 것을 봐도 발이 네 개 있고 귀가 쫑긋하고 꼬리가 있고 등등 강아지의 특징을 추출해 어떤 강아지 사진을 들이밀어도 한 번에 ‘강아지다’ 하고 인식하는 것이다. 또 누운 개, 짖는 개, 서 있는 개 등 다양한 포즈 사진을 보더라도 강아지라는 것을 인식한다. 주식시장에서도 상승장 하락장의 특징들을 추출해 주가가 오른다, 내린다 예측할 수 있다. 딥 러닝의 능력을 두 단어로 표현하면 ‘인식과 예측’이다. 

인식 능력의 핵심은 전문용어로 ‘피처(feature) 추출’이다. 피처에는 이미지뿐 아니라 주식, 언어, 음표, 그림 등등 모든 정보가 해당된다. 이 정보 즉 데이터를 인식해 패턴화하는 것, 다시 말해 주목할만한 특징을 잡아내는 것을 딥 러닝이라고 보면 된다. 딥 러닝도 1만 시간의 법칙처럼 100번 1000번 지속적인 반복 학습을 통해 이뤄진다. 

그런데 AI에서 인식은 결국 확률이란 것을 잊어서는 안 된다. 얼마나 오차를 줄일 수 있는지 이게 기술 개발의 관건이다. 인간도 지능이 제각각이지 않은가. 아무리 똑똑해도 실수하는 법이고. 딥 러닝도 불완전할 수 있다는 점을 잊어서는 안 된다.”

지도학습과 非지도학습

- 알 듯 말 듯 생소하다. 기사 쓰는 것으로 비유하면 6하 원칙에 따른 스트레이트 기사도 어떤 최적화된 정답이란 게 있다. 이걸 잘 쓰려면 수많은 유형의 스트레이트 기사를 읽고 머리에 입력해 패턴을 학습하는 과정을 거친다. 이런 것과도 비슷하다고 보면 되나? 

“매우 흡사하다. 딥 러닝도 최적화된 형태의 답을 미리 설정하고 수정 과정을 계속 거치면서 오차를 줄여나간다. 99.5 정도가 되면 학습이 끝난 거다.” 

- 결국 기자라는 직업도 AI가 대체할 수 있다는 건가. 

“스트레이트처럼 정형화된 기사는 가능할지 몰라도 칼럼이나 인터뷰 기사 같은 것은 절대 대신할 수 없다.” 

- 이세돌과 대국한 알파고를 통해 ‘딥 러닝’이란 말이 알려졌는데. 

“알파고는 다양한 딥 러닝 기술의 종합편이라고 보면 된다. 딥 러닝 학습은 세 가지 유형이 있다. 우선 지도학습이다. 선생님이 답을 가르쳐주고 시작하는 것이다. 다시 강아지 예로 돌아오면 이 사진은 ‘강아지’라는 답을 미리 알려주는 게 지도학습이다. 

이에 비해 답을 가르쳐주지 않는 비(非)지도학습은 영어 시험 볼 때 지문에서 모르는 단어가 튀어나와도 위아래 문맥상 무슨 뜻이겠구나 추정하는 것을 생각하면 된다. 대치동 족집게 학원이 지도학습이라면 대학원에 들어가 답이 없는 연구를 하는 게 비지도학습이다. 좀 다른 이야기지만 초·중·고교 때 비지도학습을 많이 시켜야 창조적인 인재가 나오는데…. 어쨌든 비지도학습은 수학적으로 공통점과 차이점을 그루핑해 분별해나가는 것을 말한다. 

딥 러닝의 세 번째 유형은 강화학습이다. 문제를 해결하는 전략을 수립하도록 하는 러닝 기법이다. 최선의 전략을 세우고 실행할 수 있도록 기계가 수행한 결과에 대해 보상이나 벌점을 주는 것이다. 원치 않는 결과가 나오면 벌칙 개념으로 마이너스 점수를 주고 원하는 결과가 나오면 보상 개념으로 플러스 점수를 주는 식이다. 

알파고를 만든 딥 마인드 회사에 가보면 로비에 AI가 벽돌 깨기 게임을 하는 모니터 화면이 있다. 처음엔 커서가 중구난방 움직이다가 나중엔 한쪽 방향을 집중적으로 깨 무너뜨리는 것을 볼 수 있다. 이 영상은 ‘(바둑) 기보’처럼 입력된 패턴을 통해 컴퓨터가 스스로 전략을 수립하고 플러스 점수, 마이너스 점수라는 조건반사를 통해 보상받는 행동을 끊임없이 해 마침내 과제를 수행하는 강화학습 과정을 보여준다.” 

설명을 듣다 보니 그동안 막연하게 생각했던 AI의 작동 원리가 어렴풋이 머리에 들어오는 듯했다.

완전자율주행차? 사업성에서 막히는 이유

홍 교수는 자동차 전문가이기도 하다. 1978년 설립된 한국자동차공학회 부회장이면서 학회 내 반도체 등 정보기술(IT) 분야 전문가들을 위한 연구회인 ‘자동차 반도체 및 소프트웨어 연구회’를 이끌고 있다. AI가 가장 빠르게 적용되고 있는 자율주행차에 대한 이야기로 넘어갔다. 

- AI 작동 원리로 자율주행차 원리도 쉽게 설명할 수 있을 것 같은데. 

“눈과 귀로 외부 상황을 인식하고 머릿속으로 어느 길로 갈 것인지 라우팅(경로인식)하는 사람하고 똑같다고 보면 된다. 흔히 자율주행이라고 하면 미래 기술이라고 생각하는데 우리 일상 안에 이미 상당히 들어와 있다. 지하철도 많은 부분에서 자율주행한다. 신분당선은 완전 자율주행이라고 할 수 있고. 비행기도 이착륙만 빼고 자율주행 아닌가. 

요즘 나오는 차들 중에는 차가 제 차선으로 죽 달리게 하는 기술이 장착된 것들이 있는데 이런 것도 자율주행 기술이다. 이른바 ‘첨단 운전자 보조시스템(Advanced driver assistance system)’이다. 카메라가 땅바닥을 보고 차선을 인식하는 딥 러닝 기술이 들어가 있다. 좌로 갈까 우로 갈까, 멈출까 앞으로 갈까 같은 경로 생성과 생성된 경로에 맞게 주행하는 것은 그리 어려운 기술이 아니다. 거듭 말하지만 인식 능력은 AI가 사람보다 우수하다. 중요한 것은 실수 없이 전략을 수립하는 것이다.” 

- 자율주행 기술 수준도 단계별 레벨이 있지 않나. 

“미국의 자동차공학회에서 만든 레벨이 있는데 0에서 5까지 있다. 레벨5는 어떤 상황에도 즉 사람이 없는 상태에서도 주행이 가능한 것이고, 레벨4는 완벽한 100이 아닌 수준이라고 보면 된다. 레벨 3부터 자율주행이라고 할 수 있는데 고속도로 같은 제한된 환경에서만 가능한 수준이다. 현재는 레벨 3도 구현이 잘 안 돼 있다. 레벨 2는 앞서 언급한 차선 주행 등 운전자보조시스템을 말하는데 현재 상용화 단계에 와 있다.”

사람 죽으면 어떡할 건가

그는 이 대목에서 고개를 갸우뚱하더니 “그런데 나는 과연 레벨5의 기술 수준이 구현될 수 있을까, 의심을 갖고 있다”고 했다. 

- 무슨 말인가. 

“앞에서 딥 러닝은 확률이고 100% 구현이 힘들어 에러가 발생할 수 있다고 했다. 이게 차에 적용되면 아주 작은 에러로도 사람이 다치거나 죽을 수 있다는 이야기다. 대표적인 예가 올 3월 미국 애리조나주에서 발생한 우버(세계 최대 차량공유업체)의 보행자 충돌 사망 사고다. 자율주행차가 낸 최초의 사망 사례다. 

지난 11월 6일자 워싱턴포스트(WP)는 우버가 개발한 자율주행차가 횡단보도가 아닌 차로를 걷는 보행자를 인식하지 못해 숨지게 했다는 연방교통안전위원회(NTSB) 조사 결과를 보도했다. 조사 결과를 보면 소프트웨어는 충돌 6초 전에 보행자를 감지했지만 1초 남짓 전까지 제동을 걸지 않았다. 소프트웨어가 횡단보도가 아닌 차로에 있는 보행자를 사람이 아니라 차량이나 자전거, ‘미확인 물체’ 등으로 인지했을 가능성이 있다. 

문제는 센서 결함도 아니고, 컴퓨터도 이상이 없었다는 것이다. 평소에 우버 컴퓨터가 너무 민감해 위험이 없는 사소한 사물도 종종 장애물로 인식하는 바람에 우버 차량들이 주행에 어려움을 겪었다. 그래서 우버 엔지니어들이 컴퓨터의 인식 감도를 낮추었고, 그 결과 컴퓨터가 보행자를 하늘거리는 천 조각 정도로 인식했을 가능성이 있다. 

문제는 이런 종류의 미묘한 에러를 없애기 위해서는 엄청난 돈이 필요하다는 것이다. 이게 과연 기업 입장에서 지속적인 수익 모델이 될 수 있을까. 지금은 급발진 사고 원인을 운전자가 규명해야 하지만 사람이 개입하지 않는 자율주행 레벨4에서 사고가 나면 회사가 규명해야 한다. 아주 작은 에러라도 나면 사람이 다치는데 과연 회사 처지에서 비용을 계속 부담할 수 있을까. 제조사 책임 압력이 높아지면 기술 발전이 더디게 진행될 것임은 자명하다. 

보통 우리는 ‘자율주행’이라고 하면 되느냐 안 되느냐, 0이냐 1이냐 이런 관점에서 생각하지만 사람 처지에서 보상 문제를 생각하면 보통 심각한 사안이 아니다. 나는 내가 살아 있는 동안은 절대 기술적으로 레벨4, 5는 안 된다고 확신한다.” 

- 그렇게 단정적으로 이야기할 수 있나. 

“기술 수준뿐 아니라 비즈니스 지속가능성 면에서 그렇다는 거다. 자율주행 세상이 되면 차가 차고에서 나가 저절로 혼자 돌아다닐 수도 있다. 차 주인은 집안에서 가족들과 단란한 시간을 보내면서 자율주행 택시 영업을 할 수도 있다. 이런 세상이 과연 가능하겠는가.” 

- AI 기술에 대해 너무 부정적인 거 아닌가. 

“기술만 강조하면 놓치는 것이 너무 많다는 거다. 지금은 기술적 측면만 강조해 투자받는 사람만 이익을 보는 측면이 있다. ‘뻥’(웃음)일 수도 있는데 말이다.” 

그는 전기차에 대해서도 꼼꼼하게 따져봐야 한다고 했다. 

“유럽은 2030년이면 엔진차를 만들지 않고 2040년에는 아예 전기차만 돌아다니도록 하겠다고 하는데 과연 가능한지 의문이다. 우리 아파트 주차장에도 테슬라 차가 있다. 지하 주차장에 전기 콘센트가 있는데 처음 몇 대는 상관없겠지만 만약 3000가구가 모두 전기차로 바꾸면 충전을 어떻게 하지? 또 전력을 한 번에 순식간에 제공하려면 막대한 송전 설비가 필요한데 발전(發電)을 어떻게 한다는 거지? 

전기는 원전 아니면 석탄 때서 나온다. 태양광은 한계가 있고. 전 세계가 원전에서만 전기를 100% 뽑아내면 이산화탄소 제로라고 할 수 있지만 싸구려 석탄으로 전기를 생산하는 인도와 중국을 막을 수 있을까. 더군다나 기름값은 계속 내려가고 있다. 5년 전만 해도 텍사스 중질유가 1갤런당 120달러였는데 지금은 50달러 초반대다. 아무리 환경 규제를 한다 해도 경제란 것이 수요와 공급으로 돌아가는데 싼 기름값과 싸워 이길 수 있을 것인가. 정부가 환경세를 부과하면 된다고 하지만 국민이 어느 수준까지 감당할 수 있을까.”

전기차의 이면, 그 많은 전기는 어디서?

- 기름값이 계속 내려갈까? 

“낮은 수준을 유지할 것이라 본다. 20년 전만 해도 석유가 곧 바닥난다고 했다. 지금은 기술 발전으로 옛날에 못 뽑던 기름까지 뽑아 쓰는 세상이다. 셰일가스도 나왔다. 기술의 미래에 섣부른 낙관이나 비관은 금물이다. 다양한 각도로 봐야 한다. 사람이 운전하지 않는 자율주행차가 당장 가능할 것이라고 믿지 말고 합리적인 이행 과정을 면밀하게 들여다봐야 한다. 10년 20년 지나면 마치 AI가 인간을 지배할 것이라고 믿는 것도 마찬가지다. 밑도 끝도 없는 이야기다.” 

- 한쪽에서는 한국이 AI 기술 분야에서 뒤처졌다고 하고 다른 한쪽에서는 AI가 일자리를 빼앗을 것이라는 부정적 인식이 공존하는데. 

“대치동 학원 강사랑 비슷하다. 이거 외우지 못하면, 이런 학원 다니지 않으면 대학 떨어진다는 논리랑 똑같다. 학원 강사만 돈 버는 거다. AI 기술은 한 가지 분야만 있는 게 아니다. 정부가 AI를 육성하겠다는데 육성하려는 AI가 뭔지부터 명확하게 하는 게 중요하다. AI 원천기술을 만드는 사람들은 연산을 어떻게 하면 덜해서 컴퓨터에 들어가는 전기료를 절약하고 결과를 빨리 내나 이걸 개발하려고 혈안이 돼 있다. 삼성전자나 SK텔레콤 같은 곳에서 하는 일이다. 또 다른 측면은 AI를 활용한 비즈니스 모델인데 금융 쪽도 관련돼 있다. 각각 모두 인력이 모자란 것은 사실이다. 그러나 컴퓨터를 만들지 못한다고 쓰지 못하는 건 아니지 않은가.

무시무시한 중국의 15억 명 안면인식

산업별로 필요한 것을 스스로 찾아서 하도록 하는 게 중요하다. 구체적인 대상을 정하지 않고 AI위원회(중소벤처기업부가 민간 전문가로 구성한 ‘AI제조데이터 전략위원회’를 발족했다)를 만드는 것 자체가 MS 오피스 프로그램을 쓰기 위해 반도체부터 응용소프트웨어까지 다 알겠다는 것이나 다름없다.” 

- 앞으로 일자리는 어떻게 되나. 

“인식 분야는 컴퓨터가 더 잘하니까 이 분야 일자리는 계속 줄어들 것이다. 그렇다고 해서 AI가 지배하는 세상이 오지는 않는다. 모든 생산 활동이 완전하게 자동화된다는 건데 이게 가능하겠는가. 아무리 많은 산업이 자동화되더라도 공정 중 인간이 해야 하는 작업은 반드시 있게 마련이다.” 

- 인식 분야라고 하면? 

“눈으로 보고 ‘이게 뭐다’ 판단하는 모든 분야를 일컫는다. 예컨대 의대의 경우 한때 CT 사진을 보고 진단하는 영상의학과가 최고였는데 지금은 컴퓨터가 더 잘한다. 말이 나온 김에 이야기하자면 제일 무서운 게 중국의 안면인식이다. 15억 명 얼굴을 다 입력해 2초 만에 저 사람은 누구라는 것을 다 알아낸다는 건데 시범사업은 이미 끝났다고 한다. 중국은 이런 안면인식을 통해 웃통 벗고 있으면 마이너스 5점, 다른 사람 도와주면 플러스 3점, 교통신호 어기면 마이너스 1점 하는 식으로 개인에게 점수를 매겨 1등부터 15억 등까지 줄 세우는 ‘사회신용 시스템’을 2020년까지 구축할 계획이다. 이걸 중국 사람들은 ‘문명화’라고 하지만 범죄자 식별 및 추적은 물론 은행 대출, 보험 가입, 여행 제한 등등 활용은 무궁무진하다.” 

- 갑자기 무섭다는 생각이 든다. 

“컴퓨터가 대상을 인식한다고 할 때 이건 카메라 촬영과는 다르다. 어떤 사건이 발생하면 지금은 경찰이 몇 시간이고 CCTV 촬영분을 다 보면서 범인을 일일이 찾아내지 않나. ‘인식’은 다르다. 중국에서는 사람의 얼굴과 행위를 모두 인식하게 만들고 있다. 제어할 방법이 없다. 그래서 선진국들은 기술 개발뿐 아니라 부작용까지 함께 고민해 법안을 만들고 있다. 예를 들어 미국 샌프란시스코 시의회는 CCTV가 사람을 인식하는 것을 막는 조례를 의결했다.”

AI가 두려운 게 아니라 사람이 두렵다

- AI 시대에 뜨는 직업, 지는 직업이 있을까. 

“그런 게 무슨 의미가 있는지 되묻고 싶다. 예측도 힘들지만 남들이 뜨는 직업이라고 해서 아이들 인생을 지금부터 맞출 수 있을까. 요즘은 코딩 잘하고 데이터 통계 잘하고 소프트웨어 개발 기술만 있으면 글로벌하고 멋지게 살 수 있다고 생각하지만 어떻게 모든 사람이 다 거기에만 매달리겠나. AI 최고기술을 가진 미국도 여전히 의대에 인재가 몰린다. 아무리 AI 시대가 돼도 의사가 고도의 전문직이라는 점에는 변함이 없을 것이다. 근육을 쓰는 노동도 여전히 필요한 분야다. 로봇이 모두 대체하기에는 아직 비용이 많이 들어간다. 절대 없어지지 않을 것이 미용사 같은 노동집약적 직업이라는 말도 있다. 중요한 것은 단순한 코딩 능력보다 문제 자체를 해결하는 능력이 될 것이다.” 

- AI가 못하는 분야가 있다면? 

“요약을 정말 못한다. 근데 요즘 아이들이 요약을 못한다. 입시라는 모델에 최적화된 아이들일수록 더 못한다. 요약은 매우 지적인 작업이다. AI는 기술이고 수단이지 목적이 아니다. 나는 AI 열풍도 5년 내에 끝날 수 있다고 생각한다. AI용 프로그램 개발도 언젠가는 포화상태에 다다를 것이다. 

내가 1995년 서울대에 왔는데 1995~2000년 2G 3G가 막 나와 이동통신 인기가 엄청났다. 졸업생들이 다 통신회사에 취직했다. 그런데 2011년부터 통신 연구 열풍이 꺼지기 시작했다. AI 분야도 한번 프로그램을 짜놓으면 재활용되고 패키지화된다. 

AI가 지금처럼 뜬 데 최대 공헌을 한 사람이 캐나다 몬트리올 대학 제프리 힌튼이다. 그가 2006년에 딥 러닝에 꼭 필요한 기술을 수학적으로 풀면서 비약적으로 기술 발전이 이뤄졌다. 또 제자인 얀 르쿤이 기존의 모든 기법을 뛰어넘는 획기적인 영상인식 기술로 새로운 단계를 열었다. 지금 기술은 모두 이 사람들이 만든 ‘그릇’ 위에서 나오는 거다.” 

- 결국 사람의 문제로 돌아온다. 

“그렇다. 거듭 말하지만 기술 개발을 하지 말자는 게 아니라 이면과 실체에 대한 깊은 담론이 필요하다. 예를 들어 완전자율주행 사회를 우리가 정말 원하는지, 부작용 없이 구현하려면 어떤 것들에서 사회적 합의를 이뤄내야 하는지 고민이 필요하다. 

9월 영국 미래자동차위원회를 돌아볼 기회가 있었다. 250명의 전문가 집단이 2년간 작업을 통해 미래 10년의 로드맵을 만들고 있었다. 기술 분야는 물론 검증, 사회적 수용성, 법률, 비즈니스, 실업과 고용 분야까지 총망라돼 있었다. 

영국 사람들은 자율주행기술 개발에 기울이는 관심과 똑같은 비중으로 안전한 차량 개발에도 관심이 있었다. 이른바 검증 기법이다. ‘통신연결 자율주행자동차(connected automated vehicle·CAV)’ 개발에도 박차를 가하고 있었는데 기존 엔진에 첨단 전자장비와 통신을 연결하는 것이다. 나도 앞으로 이 시장이 열린다고 생각한다. 

어쨌든 AI가 두려운 게 아니라 사람이 두려운 거다. 여론조사도 어떤 질문을 하느냐에 따라 답이 다르듯 AI도 어떤 데이터를 넣느냐에 따라 결과가 다르다. 사람처럼 언어를 배우는 AI 에이전트를 만들겠다고 하자 어떤 짓궂은 사람들이 욕만 가르쳤더니 욕만 하는 AI가 나오는 것과 같은 이치다. AI는 ‘사람이 짜는 프로그램’이라는 걸 절대 잊어서는 안 된다.”