소셜미디어 정보 30%가 거짓… 'AI 캅'이 잡는다

입력 2020.01.02 01:38

[진실의 수호자들] [2] 나쁜 AI: 사진·영상 조작하는 '딥페이크' 기술

MIT, 거짓정보 걸러낼 AI 개발중… 美 IT업계 '가짜 퇴치 동맹' 구축
"선과 악의 세력 중 누가 더 높은 벽 쌓느냐의 경쟁"

페북·MS·아마존, 상금 100만달러 걸고 '가짜 잡는 AI' 공모전
세계 800팀 뛰어들어 기술 경쟁, 美대학들도 팩트체크 앱 등 개발
"거짓 정보를 퍼뜨리는 세력들이 더 많은 시간·비용 들게 만들어야"

미 대선 때 진짜, 가짜 정보의 페북 노출 그래프

최첨단 인공지능(AI) 연구의 집약지인 미국 MIT 컴퓨터·AI 연구소(CSAIL)의 탤 슈스터 연구원은 거짓 정보를 막는 AI 연구에 빠져 있다. 그는 원래 AI를 훈련해 암세포를 진단하는 기술을 개발하다가 얼마 전부터는 가짜 정보를 잡아낼 AI를 만드는 일을 하고 있다. 지난달 CSAIL의 연구실에서 만난 그는 "분야를 바꿨다고 생각하지 않는다"고 했다. "거짓 정보가 활동하는 방식은 암세포와 비슷하다"는 설명이었다. 몸과 소셜미디어를 매개로 기하급수적으로 번지는 확산 메커니즘, 몸과 사회를 해치는 해악의 결과가 비슷하다는 얘기다. 따라서 AI가 가짜 정보에 대처하는 방식도 비슷하다. "AI는 방대한 자료를 습득하고 나서 몸을 해치는 나쁜 행동을 할 세포를 찾아내 경고하는 방식으로 암 진단을 돕는다. 거짓 정보 적발도 비슷한 방식으로 가능하다. '악성 세포'를 '가짜 정보'로 대체하면 된다."

인간 사회를 위협하는 거짓 정보의 확산은 인터넷, 그리고 소셜미디어의 발달에서 비롯했다고 많은 전문가는 진단한다. 아울러 최근 문제가 되는 딥페이크(AI를 활용한 조작) 사진·영상처럼 거짓을 만들어내는 데 AI가 동원되기도 한다. 이처럼 기술을 악용하는 이들 때문에 인터넷 세상 전체가 오염되는 것을 막기 위해 '선한 과학자'들이 나서고 있다. 다니엘라 루스 CSAIL 소장은 "인류를 돕기를 기대했던 컴퓨터가 가짜 뉴스 생성에 동원된다. 소셜미디어에서 유통되는 정보의 25~30%가 가짜라는 통계를 보고 경악했다"고 했다. MIT·스탠퍼드대 같은 최고 수준 대학들과 애플·아마존 등 첨단 기업의 '두뇌'들은 인터넷으로 확산하는 거짓 정보를 막기 위한 방어 전선 구축에 돌입했다. 거짓 정보를 잡아내는 이른바 'AI 캅(경찰)' 개발에 나선 것이다.

슈스터 연구원의 궁극적 목표는 인터넷에 떠도는 거짓을 잡아낼 AI 구축이다. 그는 "인간 두뇌의 가장 정교한 기능인 '언어'의 교란자를 적발하는 AI 개발은 매우 난해한 작업이지만 충분히 도전할 가치가 있다고 믿는다"라고 말했다.

실리콘밸리에선 '가짜 만드는 AI'와 맞서기 위한 '연합군'이 구축되고 있다. 지난해 11월 사진 수정 프로그램 '포토샵'으로 유명한 어도비와 트위터·뉴욕타임스는 조작된 사진·영상을 퇴치하기 위해 손을 잡기로 했다고 발표했다. 누가 콘텐츠를 만들어냈는지를 명확히 표시함으로써 소비자가 진위를 알 수 있도록 하겠다는 구상이다. 페이스북·마이크로소프트·아마존 등 미 정보기술(IT) 업계를 대표하는 회사 3곳은 현재 상금 100만달러(약 11억6000만원)를 내걸고 '가짜 잡는 AI' 공모전을 열고 있다. 오는 3월까지 진행되는 이 공모전엔 세계 800여 팀이 뛰어들었다. 샌디에이고의 스타트업 트루픽은 딥페이크 사진·영상 확산을 막기 위해 카메라 촬영 시 원본의 정보를 일종의 '지문'처럼 저장해 조작 사진을 걸러낼 기술을 개발했다.

MIT 슈스터 연구원은 과학계가 거짓 정보와 싸우는 과정을 "점점 더 높은 벽을 누가 더 빨리 쌓느냐 하는 경쟁"이라고 표현했다. 그는 "정보 소비자는 소셜미디어에 떠도는 정보가 가짜인지를 인지할 권리가 있다. 진실을 밝혀내는 과정은 어렵지만, 우리 과학자들이 사람들에게 어떤 정보가 '거짓'이라고 경고할 수 있는 AI라도 개발함으로써 피해를 크게 줄이고자 한다"라고 했다.

미국의 최상위급 대학들도 거짓 정보에 맞설 기술 개발에 뛰어들었다. 듀크대에선 미국 팩트체크 기관 폴리티팩트 창립자 빌 아데어가 이끄는 연구팀이 실시간으로 팩트 체크를 하는 앱 '스쿼시'를 개발 중이다. 온라인에 올라온 정보를 워싱턴포스트 데이터베이스 같은 믿을 만한 자료와 대조해 진위를 밝히는 프로그램이다. 스탠퍼드대 공대 연구팀은 거짓 정보가 퍼지는 기제를 연구한다. 지난해 10월 '가짜 뉴스가 퍼지는 방식이 바이러스와 비슷하다'라는 연구 결과를 발표했다. '가짜를 진실로 믿는 병에 걸린 사람은 이 병을 다른 사람에게 퍼뜨린다' '바이러스가 신체 면역력을 떨어뜨리듯 가짜 뉴스는 거짓에 대한 저항력을 약해지게 한다'는 등의 이유에서다. 캐나다 워털루대 시스템설계공학과 연구팀은 기계학습(AI의 자율학습)을 통해 소셜미디어에서 떠도는 정보가 참인지 거짓인지를 알아내는 AI를 개발했다고 지난달 발표했다.

거짓 유포자들은 이를 막아내는 기술을 만들면 이를 우회할 기술을 다시 개발한다. 슈스터 연구원은 말했다. "관건은 나쁜 짓을 하는 사람들이 그 일을 저지르기가 매우 어렵도록 만드는 것이다. 거짓 정보를 퍼뜨릴 때 더 많은 시간과 돈과 노력을 들여야 하도록 '방패'를 잘 세우는 것이 우리 선한 과학자들이 해야 할 일이라고 믿는다."



내가 본 뉴스 맨 위로

내가 본 뉴스 닫기