"AI가 가짜 영상 잡아내는 건 그나마 덜 복잡… 글은 참 어렵다"

입력 2020.01.02 03:13

[진실의 수호자들] [2] 착한 AI: 거짓 확산 막는 AI 개발하는 MIT 루스 AI연구소장

"허위 정보 퍼뜨리는 악당과의 전쟁, 과학자들 앞다퉈 뛰어들어
사실 판별 저널리즘 사라지면 불신 팽배… 인류말살 위기 닥쳐
기업뿐만 아니라 거짓의 해악에 공감한 사람들 기부금 쏟아져"

다니엘라 루스 미국 MIT 컴퓨터·AI 연구소(CSAIL) 소장은 지금 인터넷 세계에서 벌어지는 진실과 거짓의 싸움을 '무기 경쟁(arms race)'에 비유했다. "악당들이 거짓 정보를 퍼뜨린다. 그걸 막으려는 과학자들이 이를 알아낼 장치를 개발한다. 악당들은 다시 이를 피해 거짓을 만들어낸다. 이런 식의 매우 공격적이고 사나운 전쟁의 사이클에 돌입했다."

AI(Artificial Intelligence·인공지능)란 말은 60여년 전 MIT에서 탄생했다. MIT의 최대 연구 조직인 CSAIL은 기술을 나쁜 목적에 활용하는 거짓의 확산자들을 막아낼 도구를 개발하는 작업을 핵심 연구 과제로 삼았다. 루스 소장은 "거짓 정보는 디지털이라는 유형으로 만들어진 무기"라고 했다. "무기는 이 행성을 공유하는 인간에게 해악을 끼친다. 그래서 강력히 통제한다."

―MIT는 기술을 통한 인류의 진보를 이상(理想)으로 삼는다. 거짓 정보와의 싸움에 집중하는 이유는 무엇인가.

"컴퓨터 과학은 컴퓨터라는 도구를 얼마나 잘 쓸 수 있는가의 수준을 넘어 다른 영역에 어떻게 기여하고 세상을 어떻게 좋게 만드는가에 집중하고 있다. 컴퓨터와 인터넷은 정보를 투명하게 유통하고 원자료에 쉽게 접근하는 길을 열었다. 나는 컴퓨터가 민주주의와 저널리즘에 기여했다고 생각한다. 하지만 지금은 컴퓨터가 가짜 정보를 만들어내고 퍼뜨리는 일에 동원된다. 소셜미디어에서 돌아다니는 정보의 25~30%가 가짜라는 통계를 보고 놀랐다."

세계 최고 수준의 인공지능(AI) 연구소인 미국 MIT 컴퓨터·AI연구소 다니엘라 루스 소장은 “거짓 정보를 만들어내는 악당과 이를 막으려는 과학자들 사이의 경쟁은 사나운 전쟁과 비슷한 양상으로 진행되고 있다. 거짓 정보는 디지털이라는 유형으로 만들어진 무기라고 생각한다”고 말했다.
세계 최고 수준의 인공지능(AI) 연구소인 미국 MIT 컴퓨터·AI연구소 다니엘라 루스 소장은 “거짓 정보를 만들어내는 악당과 이를 막으려는 과학자들 사이의 경쟁은 사나운 전쟁과 비슷한 양상으로 진행되고 있다. 거짓 정보는 디지털이라는 유형으로 만들어진 무기라고 생각한다”고 말했다. /박상훈 기자

―다른 과학자들도 공감하나.

"많은 컴퓨터 과학자가 거짓 정보와 싸우겠다고 뛰어들고 있다. 거짓의 잠재적 해악을 공감하기 때문이다. MIT를 지원하는 기업들도 이 분야에 기부금을 써달라는 요청이 많아지고 있다."

―거짓과 진실의 게임에서 진실이 이길 수 있다고 보나.

"나는 기술 낙관주의자다. 기술로 발생한 문제를 기술로 해결할 수 있다. 하지만 이 문제는 '표현의 자유'라는 난관이 있다. 표현의 자유는 정말 중요하니까. 하지만 민주주의는 서로 믿는 환경 위에 존립한다. 이를 위해선 믿을 수 있는 정보의 원천이 필요하다."

―루머 혹은 프로파간다는 꽤 오래 존재하지 않았나.

"정보가 정치적 이유로 악용된 적은 많았다. 하지만 인간이 정보를 빨리 퍼나를 장치를 만들어냈다는 점에서 예전과 다르다."

―소셜미디어를 말하나.

"소셜미디어가 나쁘다고 생각하지 않는다. 자신이 읽고 싶은 정보만 골라 읽게 되는 소셜미디어의 속성이 문제다. 이런 속성 때문에 정보는 매우 빨리 퍼져 나간다. 내가 걱정하는 것은, 어떤 사람이 어떤 이야기를 하고 몇 번 정도 이야기가 돌다 보면 그 이야기가 진실로 둔갑하는 현상이다. 나는 이런 정보 교류 방식을 매우 우려한다."

루스 소장은 1959년 루마니아에서 태어났다. 컴퓨터 공학자인 아버지 밑에서 자란 그는 청소년 때 미국으로 이민했다. 이민 후 아이오와대에서 컴퓨터과학과 수학을 공부했고 코넬대에서 박사 학위를 받았다. 2002년 맥아더 '천재상'(genius grant)을 받았고 다트머스대 교수로 일하다가 2003년 MIT에 합류했다. 그는 독재자 니콜라에 차우셰스쿠의 체제 선전(宣傳) 같은 거짓 정보의 폐해를 목격한 경험이 그를 진실에 더욱 집착하게 만들었다고 했다. "나는 거짓 정보가 넘쳐나는 나라에서 살았고, 이런 경험 때문에 언제나 거짓의 위협을 걱정하는 습관이 있다. 일부 공산국가에서 일어나던 문제들이 세계적으로 확산하는 모습을 보면서 나는 밤잠을 설친다."

―AI 기술은 거짓 정보 확산을 막는 데 어떻게 활용될 수 있나.

"가장 간단한 방법은 인간이 팩트 체킹을 하듯이, 특정 정보를 믿을 만한 데이터베이스와 맞춰 보는 것이다. 그런데 여기엔 정보원 자체가 오염됐을 위험이 따른다. 영상이나 사진의 경우엔 문제가 덜 복잡하다고 본다. 가장 어려운 건 글이다."

―왜 글이 어렵나.

"사진과 영상은 원재료를 바꾸는 개념이라 프로그램이 오히려 단순하다. 글은 처음부터 거짓을 지어내는 거라 팩트 하나, 문장 하나에 대해 믿을 만한 소스를 찾아내 크로스체크해야 한다. AI가 거짓이라고 단정할 수도 없다. 컴퓨터는 속도가 빠른 대신 인간처럼 맥락을 이해하는 능력은 떨어진다. AI가 '의심스럽다'는 표시를 하면 인간이 이를 점검하는 식의 기계와 인간의 협업 방식을 개발하는 데 집중하고 있다. 둘이 협력하는 방식이 가장 효율적이다."

―인류가 거짓 정보에 휩쓸리지 않으려면 어떻게 해야 할까.

"나는 무엇보다 인터넷의 영향으로 사람들이 주의를 집중하는 주기가 굉장히 짧아지는 문제를 우려한다. 비판적으로 생각하는 능력을 잃어가는 것이다. 나는 인류가 제대로 된 궤도에 다시 올라서기 위해선 '깊은 생각' 하는 비판적 사고를 회복할 필요가 있다고 생각한다."

―비판적 사고를 회복하는 방법은.

"저널리즘의 역할을 다시 생각한다. 세상에 무슨 일이 일어나는지에 대한 실질적이고 심층적인 분석을 지속적으로 만들어내는 저널리즘의 역할이다. 만약 저널리즘이 사라지고 인류가 거짓 정보에 투항해 버린다면 인류엔 불신만이 팽배하고 협력은 사라질 것이다. 인류 전체를 파괴할 수 있을 정도의 위협이다."

미국 케임브리지 MIT 한가운데에 있는 CSAIL 건물. 창의적 사고와 협업을 촉진하기 위한 디자인으로 지어졌다.
미국 케임브리지 MIT 한가운데에 있는 CSAIL 건물. 창의적 사고와 협업을 촉진하기 위한 디자인으로 지어졌다. /MIT

☞MIT 컴퓨터과학·AI연구소(CSAIL)

미국 매사추세츠공대(MIT) 내 최대 연구 조직으로 컴퓨터과학연구소와 AI연구소로 나뉜다. 컴퓨터과학연구소는 1963년 세워졌다. AI연구소는 1959년 세워졌다. 두 연구소 간 교류가 점점 활발해지면서 2003년 병합됐다. 현재 연구소 내에 60여개 연구실이 있다. 연구진은 900명 이상이다. 매년 6500만달러(약 751억원)를 연구에 투자한다. 지난달 CSAIL에서는 인공지능을 활용한 그림자 인식 기술을 공개했다. 그림자의 명암과 방향을 분석해 실제 피사체의 움직임과 색상을 예측한다. 이 기술을 자율주행차에 적용하면 주차된 차 옆에서 갑자기 사람이 튀어나와도 자동 정지할 수 있게 된다.



내가 본 뉴스 맨 위로

내가 본 뉴스 닫기