유명인 사칭 AI 딥페이크와 클로킹, ‘거짓의 고도화’
유튜브, 연간 4억여 개 광고 걸러도 기술적 한계
EU·영국은 강경 대응, 매출 6~10% 벌금 부과
플랫폼 책임 강화와 통합 대응체계 필요
Gettyimage
국내가 아닌 홍콩에서 올린 유명인 사칭 광고. 유튜브 캡쳐
김 씨는 이후 퇴직금과 지인에게 빌린 돈까지 합쳐 총 2억 원을 송금했다. 하지만 수익금을 인출하려 하자 “수수료 20%를 먼저 입금해야 한다”는 답변이 돌아왔고, 직후 채팅방에서 강제 퇴장당했다. 알고 보니 그가 본 수익률 그래프와 트레이딩 앱은 모두 사기 일당이 조작한 가짜였다.
서울 관악구에 사는 박명옥(가명·62) 씨도 유튜브 시청 도중 우연히 클릭한 유명인 사칭 광고에 당했다. 박 씨는 “평소 존경하던 분이 광고에 나오길래 의심조차 안 했다. 무료로 종목을 찍어준다는 말을 믿었다”고 말했다. 그는 광고 하단의 링크를 눌러 네이버밴드 내 주식 리딩방에 입장했다. 처음에는 소액으로 시작했다. 사기 조직이 보여주는 가짜 HTS(홈트레이딩시스템) 화면 속 수익률은 하루 만에 30%를 찍었다. 기대감이 커진 박 씨는 평생 모은 노후자금과 손주들의 교육 자금까지 합쳐 총 3억 원을 입금했다. 하지만 수익금을 인출하려 하자 “금융당국의 조사를 피하려면 보증금 5000만 원을 더 넣어야 한다”는 답변이 돌아왔고, 이틀 뒤 리딩방은 폭파됐다. 박 씨는 “글로벌 기업인 유튜브가 내보내는 광고인데 어떻게 가짜일 수 있느냐”며 오열했다.
유튜브, 연간 4억여 개 광고 걸러도 기술적 한계
현대인의 일상에서 유튜브는 이제 떼려야 뗄 수 없는 정보의 창구로 자리 잡았지만, 최근 이 거대한 동영상 플랫폼이 범죄 조직의 ‘사냥터’로 악용되고 있다. 특히 주식투자 열풍을 타고 급증한 ‘주식 리딩방’ 사기 조직들은 피해자를 끌어들이는 주요 통로로 유튜브 광고를 활용하고 있다.과거 사기꾼들이 스팸 문자나 무작위 전화를 활용했다면, 이제는 유튜브의 정교한 타기팅 알고리즘을 역이용한다. 재테크에 관심 있는 시청자에게만 집중적으로 노출되는 이 광고들은, 플랫폼이 제공하는 신뢰라는 옷을 입고 시청자의 경계심을 무너뜨린다. 광고를 클릭하는 순간, 시청자는 ‘부의 추월차선’이 아닌 ‘가산 탕진의 막다른 길’로 들어서게 된다.
유튜브는 구글 광고 정책 프로세스를 따른다. 구글코리아에 광고 정책에 대해 문의한 결과 “플랫폼 안전을 위해 엄격한 광고 정책을 운영하며, AI 기반 자동화 시스템과 전문 검토 인력을 통해 위반 광고와 악성 광고주를 조기에 식별·차단하고 있다. 위반 광고 대응은 계정 단위로 이루어지며 자동 탐지, 수동 검토, 이용자 신고가 함께 작동하는 다층적 구조를 갖추고 있다”는 답변이 돌아왔다.
구글코리아에 따르면 광고 검증 자동 시스템(Automated detection)은 머신러닝 기반 모델로 사기성 또는 정책 위반 광고를 신속히 제거한다. 또 이용자가 신고한 광고와 자동 탐지된 사기 의심 광고는 사람이 추가로 검토한다. 구글은 ‘2024 광고 안전 보고서’를 통해 “2024년 전 세계에서 51억 개 이상의 위반 광고를 차단·삭제했고, 3920만 개 이상의 광고주 계정을 정지했다”고 발표했다. 이 가운데 4억1500만 개의 광고와 500만 개 이상의 계정은 스캠(사기) 관련 위반에 해당한다.
구글 코리아 측은 “투명성과 안전성 강화를 위해 지속적으로 시스템을 개선하고 있지만 악성 광고가 날로 정교해지고 있다”며 한계를 인정했다.
AI 딥페이크와 클로킹, ‘거짓의 고도화’
최근 유튜브 광고를 통해 이뤄지는 사기 수법은 상당히 치밀하다. 가장 대표적인 것이 앞서 언급한 ‘유명인 사칭형’ 광고다. 국내 유수의 대기업 회장, 유명 경제학자, 수백만 구독자를 보유한 유튜버의 얼굴이 광고에 등장한다. 이들은 입을 모아 “사회 환원 차원에서 무료로 급등주 정보를 공유한다”고 말한다.이는 인공지능(AI)을 활용한 딥페이크 기술의 산물이다. 실제 인물의 음성과 입 모양을 그대로 복제해 만든 이 영상들은 일반인이 육안으로 가짜임을 판별하기 어렵다. 사기 조직은 여기에 가짜 뉴스 포털사이트 UI를 덧씌워 마치 공신력 있는 언론보도인 것처럼 위장하기도 한다. 전문가들은 “2026년형 딥페이크는 미세한 피부 떨림까지 재현해 일반인이 가짜임을 판별하는 것은 불가능에 가깝다”고 경고한다.
사기 조직들은 유튜브의 검증 시스템을 비웃듯 이른바 ‘클로킹(cloaking·웹사이트 또는 웹페이지의 정체를 숨기는 기술)’이라는 ‘우회 전술’을 펼친다. 처음 광고 심의를 요청할 때는 지극히 정상적 투자 교육 영상을 제출한다. 승인이 난 직후 영상의 내용을 사기성 멘트가 담긴 영상으로 교체하거나, 광고는 정상적으로 유지하되 연결되는 랜딩 페이지(링크 주소)를 사기 채팅방으로 순식간에 바꿔치기한다. 또한 특정 국가나 특정 연령대만 타기팅해 모니터링 요원의 감시망을 피하는 클로킹 기술도 동원한다. 유튜브라는 거대 플랫폼의 자동화된 시스템의 사각지대를 범죄 조직이 장악하고 있는 셈이다.
유튜브의 자동화된 필터링 시스템을 비웃듯, 사기 광고는 알고리즘의 파도를 타고 재테크에 관심 있는 시청자에게 배달된다. 광고 하단의 ‘더 보기’나 연결 링크를 누르면 카카오톡 오픈채팅방이나 텔레그램, 네이버밴드로 연결된다. 이곳에서는 이른바 ‘바람잡이’가 수십 명씩 동원돼 가짜 수익 인증 사진을 올리며 피해자의 심리를 압박한다. “지금 입금하지 않으면 이번 기회는 끝난다”는 조급함이 이성을 마비시킨다.
EU와 영국의 강경 대응, ‘매출 6~10% 벌금 부과’
더 큰 문제는 이들을 제지할 법적 장치가 마땅치 않다는 점이다. 현재 유튜브는 국내법상 방송이 아닌 전기통신사업법의 적용을 받는 ‘부가통신사업자’로 분류돼 지상파 방송사처럼 엄격한 사전 광고 심의를 받지 않는다. 방송통신심의위원회(방심위)가 사후 모니터링을 통해 시정이나 삭제를 요청할 수는 있지만, 해외 사업자인 구글에 실질적인 강제력을 행사하기는 현실적으로 어렵다.
2025년 12월 디지털서비스법(DSA)을 위반했다는 이유로 유럽연합이 1억2000만 유로의 과징금을 부과한 글로벌 플랫폼 ‘X(옛 트위터)’. Gettyimage
더욱이 2025년 말부터 방심위의 위원 구성 난항으로 인해 통신심의 소위원회가 파행 운영되면서, 금융감독원이 차단을 요청한 수만 건의 불법 금융 광고가 처리되지 못한 채 쌓여 있는 실정이다. “플랫폼이 광고 수익만 챙기고 범죄의 출입구 역할을 하는데도 정부당국이 방관하고 있다”는 비판이 나오는 이유다.
자율 규제에 매달리는 한국과 달리, 해외 주요국은 플랫폼의 책임을 법으로 못 박았다. 가장 앞서가는 곳은 유럽연합(EU)이다. 2024년 발효된 디지털서비스법(DSA)은 유튜브와 같은 초대형 플랫폼이 불법 콘텐츠나 기만적 광고를 방치할 경우, 전 세계 연간 매출의 최대 6%를 과징금으로 부과한다. 실제로 EU 집행위원회는 2025년 12월 광고 투명성 의무 등 DSA를 위반한 혐의를 받는 글로벌 플랫폼 ‘X(옛 트위터)’에 1억2000만 유로(약 2066억 원)의 과징금을 부과한 바 있다.
플랫폼 책임 강화와 통합 대응체계 필요
영국의 ‘온라인 안전법(Online Safety Act)’ 역시 강력하다. 플랫폼이 사용자를 범죄로부터 보호할 ‘주의 의무(Duty of Care)’를 게을리하면 매출액의 10%를 벌금으로 물린다. 이들 국가는 플랫폼 사업자를 단순히 ‘장소를 빌려주는 대여자’가 아닌 ‘상품(광고)을 판매하는 관리자’로 규정하고 책임을 묻고 있다.전문가들은 한국판 디지털서비스법 도입이 시급하다고 입을 모은다. 정소연 중앙N남부 변호사는 “온라인 플랫폼 자체에서 불법 광고를 거르는 시스템을 규제할 법제가 마련돼야 한다”고 강조했다. 그 이유는 이렇다.
“2024년 개정된 자본시장과 금융투자업에 관한 법률 제7조 제3항은 단체 대화방 등 온라인에서 양방향 채널을 활용해 유료 회원제로 영업하는 주식 리딩방을 투자자문업에 포섭해 규제할 수 있게 했다. 그러나 시청자 입장에서는 유튜브 광고가 불법적인지, 유사투자자문업 광고인지 꼼꼼히 판단하면서 시청하지는 않기 때문에 유명인을 사칭하거나 조직적으로 투자자들을 현혹하는 경우 사기 피해로 이어지는 경우가 많다.”
이종민 국민대 미디어·광고학부 교수는 “플랫폼의 책임 방기가 수익 구조를 유지하게 하는 문제를 깨기 위해, 매출액 기준의 징벌적 과징금 도입이 사용자 안전을 강제하는 가장 확실한 실효책”이라고 조언했다. 딥페이크로 인한 사회문제를 고발해 온 서지현 전 검사는 “유명인을 사칭한 딥페이크 사기 광고를 일반인이 식별하기는 사실상 불가능하다”면서 “주식 리딩방 사기 광고는 독약이 든 밥상을 배달하는 것과 같다. 누구도 피해를 보지 않도록 이를 유포하는 플랫폼이 거름망 역할을 완벽하게 해낼 의무와 책임이 있다”고 꼬집었다.
이들이 제시한 해법은 크게 세 가지다. 첫째, 광고주 신원 검증 의무화다. 플랫폼이 광고비를 받기 전, 해당 광고주가 금융당국에 등록된 업체인지 확인하도록 법적 의무를 부여해야 한다는 것이다. 둘째, 징벌적 손해배상제 도입이다. 광고 수익보다 훨씬 많은 벌금을 물게 될 때 비로소 유튜브와 같은 빅테크는 기술력을 총동원해 사기 광고를 막을 것이기 때문이다.
마지막으로 시청자도 주의해야 한다. “세상에 나만 아는 급등주는 없다”는 냉정한 판단이 필요하다. 주식 리딩방 사기는 인간의 심리를 이용하는, 고도로 설계된 범죄다. “나는 안 속는다”는 자만이 가장 위험하다. 또한 ‘원금 보장’이나 ‘고수익’이라는 단어가 등장한다면 100% 사기라고 간주해야 한다. 정상적인 금융회사는 절대로 오픈채팅방을 통해 입금을 요구하지 않는다.
김지영 기자
kjy@donga.com
방송, 영화, 연극, 뮤지컬 등 대중문화를 좋아하며 인물 인터뷰(INTER+VIEW)를 즐깁니다. 요즘은 팬덤 문화와 부동산, 유통 분야에도 특별한 관심을 갖고 있습니다.
“정당보다 인물, 이념보다 실리, 정치가보다 행정가”
BTS ‘아리랑’ 컴백, 광화문을 전 세계의 거실로… 수조 원대 낙수효과 기대
“감추는 게 능사 아냐…몸 이해해야 성(性) 제대로 마주한다”
