인공지능(AI)이 보편화되면 가장 먼저 멸종될 것이라고 언급되는 비운의 직업들이 있다. 대표적으로 꼽히는 것 중 하나는 ‘기자’. 그런데 이제 이 우려가 목전에 닥친 듯하다. 지난 14일 실리콘밸리에 위치한 비영리재단 오픈AI가 자체 개발한 문장 생성 전문 AI ‘GPT-2’의 뛰어난 문장 생성 능력이 미칠 악영향을 고려해 공개하지 않겠다고 한 것이다.

GPT-2는 샘 알트만과 일론 머스크가 공동 설립한 오픈AI재단이 개발한 문장 생성 전문 AI다. 간단한 문장을 제시하면 이미 입력된 텍스트를 기반으로 이전 문장의 스타일과 주제를 예측해 자연스럽게 연결되는 다음 문장을 만들어 낸다.

영국 가디언지에 따르면 GPT-2에 입력된 텍스트는 40GB 분량. 이 AI는 1,000만 건 이상의 글을 포함한 데이터 세트를 기반으로 학습되어 있다. 800만 웹페이지에 담긴 15억 개의 표현도 학습했다. GPT-2는 이 방대한 데이터를 기반으로 판타지 소설, 뉴스, 산문, 숙제 등 다양한 글을 작성할 수 있다. GPT-2가 한 페이지 분량의 글을 쓰는데 걸리는 시간은 고작 10초다. 물론 어휘력도 인간보다 탁월하다.



오픈AI 재단은 그러나 지난 21일 GPT-2의 풀 버전(Full version)을 공개하지 않기로 했다. 비공개 이유에 대해서는 GPT-2를 이용해 진짜와 같은 가짜뉴스가 생성될 것을 우려한 것이라고 밝혔다. GPT-2는 제한적인 기능만이 연구자들에 한해 공개할 계획이다.

오픈AI가 가짜뉴스를 만들 것을 두려워하며 GPT-2의 공개를 꺼리게 된 이유는 무엇일까. 영화 터미네이터에 나오는 스카이넷처럼 인공지능이 발톱을 드러내고 ‘가짜뉴스’로 인류를 선동해 위협하게 될 것이라는 우려일까. GPT-2의 능력은 다행히도 거기까지는 미치지는 못한다. 먼저 사용자가 주어진 텍스트를 입력해야지만 작동이 되며, 그마저도 한 번에 한 페이지 분량의 작문만 할 수 있다. AI가 의도를 가지고 인류의 도덕성을 해칠 위험은 없다는 얘기다.

그렇다면 무엇이 두려운 것일까? 김재인 경희대학교 교수는 “AI가 스스로 가짜 뉴스를 만드는 것을 경계하는 것이 아니라, 사람이 악의를 가지고 AI를 사용하게 되는 경우가 문제가 되는 것”이라고 말한다. 즉, 정말 그럴듯한 가짜 뉴스를 만들기 위해 AI를 이용하는 악의적 ‘인간’의 존재가 GPT-2의 공개를 꺼리게 만든 원인이라는 것이다.

미국의 뉴스 웹사이트 더 버지는 GPT-2의 베타 버전을 이용해 가짜 문장을 만드는 실험을 했다. 버지가 “유대인이 미디어를 통제한다”는 첫 번째 문장을 입력하자 GPT-2는 “그들은 대학교를 통제하고 세계 경제를 지배한다. 어떻게 그렇게 하는가? 요제프 괴벨스 히틀러, 나치 주요 인사들이 쓴 저서 ‘권력 있는 유대인들’에 잘 기록되어 있다”는 문장을 만들어 냈다. 권력 있는 유대인들이라는 책은 없다. 문장을 입력한 사람의 취지에 맞는 다음 문장이 생성된 것이다.

결국 오픈AI 측의 조치는 GPT-2를 악용해 사익을 챙길 인간의 욕심을 대비해 내린 조처다. 잭 클라크 오픈AI 정책 책임자는 “이러한 문제가 무시될 수 없다”며 “오픈AI의 사용이 확대되기 전에 학계와 공공 분야에서 이와 관련된 부작용에 대한 논의가 이루어져야 한다”고 말했다.

과연 AI의 오남용은 GPT-2의 공개를 늦춘다고 해결될 문제일까? AI의 발전 속도가 가속화되고 있는 지금, GTP-2의 비공개 결정만이 이러한 현상을 막을 수만은 없을 것이다. 이번 비공개 처분이 이러한 성능을 가진 AI의 출시를 일시적으로 늦춘 것뿐이라는 지적도 나온다. 샘 보우만(Sam Bowman) 뉴욕대 자연어 처리 전문가는 “충분한 컴퓨팅 자원이 있다면 한 사람이 한 두 달 안에 이런 결과를 재현해 낼 수 있을 것”이라고 말했다. GPT-2만큼의 뛰어난 문장 생성 능력을 지닌 AI가 대중에 공개되는 것은 시간문제로 보인다.
/원재연 기자 wonjaeyeon@decenter.kr

원재연 기자

wonjaeyeon@decenter.kr