글쓰기 AI, '반지의 제왕' 버금가는 실력 탓에 출시 안한다

입력 2019.02.19 17:18

미국에서 소설 ‘반지의 제왕’에 버금가는 작문 실력을 갖춘 인공지능(AI)가 개발됐다. 개발자들은 이 AI의 실력이 너무 뛰어난 나머지 가짜 뉴스 양산 등에 악용될 것을 우려해 시중에 판매하지 않기로 결정했다.

18일(현지 시각) CNN에 따르면, 지난 14일 마이크로소프트와 일론 머스크 테슬라 창립자가 지원하는 비영리 AI 연구기업 ‘오픈AI’는 판타지 소설부터 가짜 연예뉴스, 학교 과제까지 모든 종류의 작문을 할 수 있는 AI를 개발했다. 이 AI는 사용자가 시스템에 문장을 입력하면 해당 문장 다음에 자연스럽게 이어질 문장을 만든다.

2018년 9월 20일 미국 시애틀 아마존 본사에서 데이브 림프 수석 부사장이 인공지능(AI) 스피커를 소개하고 있는 모습. /AFP 연합뉴스
예를 들어 시스템에 소설 ‘반지의 제왕’ 속 장면을 담은 문장을 입력하면 그 다음 전개되는 내용을 AI가 서술하는 식이다. 오픈AI 개발자들은 시스템에 ‘레골라스와 김리가 무기를 높이 들고 함성을 지르며 오크족을 향해 진격한다’는 문장을 입력했다. 그랬더니 AI는 "오크족의 대응은 괴상한 발톱으로 귀를 먹먹하게 할 정도의 맹습을 날리는 것이었다"며 "오크족을 공격하기 위해 선두에 선 김리는 ‘난쟁이여 안심하라’라고 말했다"라고 문장을 만들었다.

오픈AI는 오랜시간 공들여 개발한 이 AI를 출시하지 않기로 결정했다. 작문 실력이 지나치게 뛰어나 진짜 같은 가짜 뉴스를 양산하거나 소셜미디어에서 가짜 글을 올리는 등 악용될 가능성이 우려됐기 때문이다. 대신 오픈AI는 다른 연구원들이 사용할 수 있는 기술 논문과 사양이 낮은 AI 모델을 공개하기로 했다.

오픈AI는 AI가 가짜 뉴스를 만든 사례를 공개했다. 개발자는 시스템에 ‘핵물질을 실은 열차가 오늘 신시내티에서 탈취됐다’는 문장을 입력했다. 이에 AI는 "해당 사건은 도심의 한 철도에서 발생했으며 해당 핵물질은 신시내티대학의 트라이앵글 파크 핵 연구소에서 개발한 것"이라고 썼다. 구체적인 사건 장소와 핵물질이 개발된 연구소의 이름까지 가짜로 만들어낸 것이었다.

AI를 시중에 출시하지 않기로 한 이번 결정은 최첨단 기술을 어느 수준까지 개발할 수 있을지 한계를 정해놓지 않은 상황에서 빠르게 발전하는 AI 기술에 대해 느끼는 인간의 불안감을 드러낸 사례라고 CNN은 해석했다. 최근 IT(정보기술)업계에서는 안면 인식 기술이 어느 수준까지 사용돼야 할지를 정하는 법률을 제정해야 한다는 목소리가 높아지고 있다. 아마존 투자자와 직원, 시민단체는 아마존의 안면인식 기술 ‘레코니션(Rekognition)’이 인권을 침해할 수 있다며 정부 기관에 판매하는 일을 중단해야 한다고 주장하고 있다.

내가 본 뉴스 맨 위로

내가 본 뉴스 닫기