AI가 편향 학습하면 부당 차별 초래한다

마크 코켈버그 지음, 배현석 옮김, 생각이음, 320쪽, 1만8800원

“누군가 요제프 K를 모함한 게 틀림없다. 아무 잘못도 하지 않았는데, 어느 날 아침 그가 잡혀갔기 때문이다.”

1925년 출간된 프란츠 카프카의 미완성 장편소설 ‘소송’은 이렇게 시작한다. 영문도 모른 채 잡혀가 재판을 받아야 했던 K의 이야기는 20세기에만 국한되지 않는다. 2020년 1월, 로버트 줄리언 보착 윌리엄스는 미국 디트로이트 경찰서로부터 ‘체포영장이 나왔으니 경찰서에 출두하라’는 전화를 받았다. 잘못한 일이 없다고 생각한 윌리엄스는 그 말을 무시했다. 그러나 한 시간 뒤 윌리엄스는 아내와 아이들이 지켜보는 가운데 자신의 집 앞마당에서 체포됐다. 경찰서 조사실에서 형사는 고급 의류 매장에서 물건을 훔치는 한 흑인 남성 모습이 담긴 CCTV 영상을 그에게 보이며 물었다.

“이 사람 당신 맞죠?”

윌리엄스는 아프리카계 미국인이다.

“제가 아닙니다. 흑인이면 다 똑같아 보이나요?”



윌리엄스는 한참 뒤 풀려났다. 윌리엄스는 안면인식 알고리즘 오류로 인해 미국인이 부당하게 체포된 최초 사례다.

왜 이 같은 일이 일어난 것일까. 기계학습 방식의 인공지능은 시스템 결함이 있을 수 있을 뿐 아니라 편향돼 있을 수 있기 때문이다. 실제로 안면인식 시스템은 다른 인구 집단에 비해 백인 남성의 얼굴을 비교적 정확히 인식하는 것으로 알려져 있다. 윌리엄스가 흑인이었기 때문에 시스템 결함으로 인해 범인으로 오인됐을 개연성이 크다.

윌리엄스는 21세기 미국의 요제프 K라 할 수 있다. 20세기 요제프 K가 영문도 모른 채 잡혀가 기소됐다면, 21세기 윌리엄스는 컴퓨터 알고리즘에 의해 부당하게 기소당했다는 점에 차이가 있을 뿐이다. 책 ‘인공지능은 왜 정치적일 수밖에 없는가’는 AI 시스템이 광범위하게 도입됐을 때 나타날 수 있는 부작용을 다루고 있다. 정치적으로 뜨거운 논쟁이 되고 있는 자유와 정의, 민주주의 등이 인공지능, 로봇과 결부됐을 때 어떤 위험성이 있을 수 있는지 경고한다.

그렇게 인생은 이야기가 된다
_{제임스 R. 해거티 지음, 정유선 옮김, 인플루엔셜, 396쪽, 1만8000원}

인간은 누구나 언젠가 죽음을 맞게 된다. ‘어떤 인생으로 기억될 것인가’를 생각하며 하루하루를 소중하게 사는 인생과 닥치는 대로 그날그날 때우듯 살아가는 인생은 ‘부고’에서 큰 차이가 있을 수밖에 없다. 책 ‘그렇게 인생은 이야기가 된다’는 월스트리트저널 부고 전문기자가 800여 명의 부고 기사를 쓰며 느낀 삶과 죽음에 대한 기록이다. ‘몇 월 며칠 사망, 유가족 누구누구. 장지는 어디’라는 식의 무미건조한 부고에는 결코 담길 수 없는 망자의 삶을 저자는 ‘부고’ 형식을 빌려 이야기로 만들어냈다. 이해인 수녀는 “이 책을 읽는 내내 지금 이 순간의 삶을 소중히 여기며 공부하는 기쁨을 누렸다”고 소감을 밝혔다.

슬픔은 겨우 손톱만큼의 조각
_{유현아 지음, 창비, 128쪽, 1만 원}

오지 않는 꿈이었다/ 내가 발 딛고 있는 곳은/ 사라지는 곳/ 기억에만 있는 곳/ 여전히 출근하고/ 날마다 퇴사를 꿈꾸면서도/ 사라지고 있는 골목들을 걷는다/ 살아나고 있는 말들을 기억한다/ 다정한 사람들 덕분에 살아가고 있다/ 그래서 슬픔은 겨우 손톱만큼인 걸/ 오늘도 아름다움을 꿈꾼다
‘삶다운 삶이란 무엇인가’란 근본적 물음에 시인은 ‘버티고 견디는 일상의 소중함’을 강조한다. 분노에서 포기로, 무기력에서 허무로 소멸하는 대신, ‘지금 여기’에 꿋꿋이 발 딛고 살아가는 것이 가장 강력한 희망이라고 노래한다.