CWN(CHANGE WITH NEWS) - AI 언어 생성 프로그램 ′GPT-3′, 가짜 뉴스 생성한다

2020년 6월, 미국 인공지능(AI) 연구소인 오픈AI(OpenAI)가 문맥에 맞는 언어를 생성하는 알고리즘을 선보였다. 당시 오픈AI 관계자는 현재, GPT-3라는 이름으로 알려진 이 알고리즘을 공개하면서 부정적인 용도로 악용될 위험성을 한 차례 공개했다.

그러나 지금까지 GPT-3는 딥페이크처럼 부정적인 사례가 다수 보고되지 않았으며, 완벽하지는 않지만 영국 엘리자베스 여왕의 연설문도 작성했으며, 최근에는 컴퓨터 코드 작성 능력을 뽐내는 등 기술의 발전 사례를 보여주는 예시로 이름을 알렸다. 그런데, 최근 들어 한 가지 문제점이 발견됐다.

GPT-3, 거짓 정보 생성한다
와이어드, 텍사스 뉴스 투데이 등은 조지타운대학교 연구팀의 분석 결과를 인용, GPT-3가 거짓 정보 생성과 유포에 악용될 수 있다고 보도했다.

연구팀은 GPT-3에 거짓으로 지어낸 이야기, 뉴스 보도 내용을 변경한 사항 등을 기사로 작성하도록 명령했다. 그 결과, GPT-3는 "기후 변화는 새로운 지구 온난화라는 사실은 우연의 일치가 아니다", "신공산주의 - 거짓된 과학적 정보 기반 이상주의" 등과 같은 텍스트를 생성했다.

이번 연구를 이끈 벤 부차난(Ben Buchanan) 교수는 "인간이 GPT-3나 그와 비슷한 다른 언어 알고리즘에 투입할 정보를 엄선하지 않아도 SNS에 게재할 짧은 글을 얼마든지 자동으로 생성할 수 있다"라고 언급하며, "기사 작성 전, 인간이 정보를 엄선하지 않아도 GPT-3가 얼마든지 가짜 뉴스를 생성할 위험성이 크다"라고 경고했다.

GPT-3의 거짓 정보 생성 능력만 문제가 되는 것이 아니다. 연구팀은 연구 과정에서 GPT-3가 생성한 가짜 뉴스가 다수 독자의 견해를 왜곡할 위험성도 존재한다고 밝혔다. 연구팀은 피실험자에게 GPT-3가 작성한 미군의 아프가니스탄 철수 및 중국 제재 관련 가짜 뉴스를 읽도록 요청했다.

그 결과, 상당수 피실험자가 GPT-3의 가짜 뉴스를 그대로 신뢰했으며, 심지어 외교 문제에 대한 견해까지 바뀐 것으로 확인됐다.

GPT-3의 위험성, 전문가의 견해는?
인디애나대학교 온라인 커뮤니케이션학부의 마이크 그루스진스키(Mike Gruszczynski) 교수는 GPT-3가 교묘하게 가짜 뉴스를 생성한다는 사실이 그리 놀랍지 않다고 말했다. 이와 관련, 그는 지난 몇 년간 봇이 이미 온라인 공간에서 거짓 정보를 유포하는 핵심적인 역할을 한 사실, AI가 가짜 SNS 프로필 사진 생성 능력을 갖춘 점 등을 언급했다.

또, 부차난 교수는 각국 관료가 GPT-3를 악용할 위험성도 함께 경고했다. 그는 돈이 많으면서 기술적 능력이 더 뛰어나고, 윤리 인식이 낮은 국가가 특히 적국을 견제할 목적으로 GPT-3와 같은 AI를 교묘하게 활용할 수 있다고 주장했다.

게다가 AI의 기술 수준이 날이 갈수록 발전한다는 사실도 언급하며, 앞으로 GPT-3 때문에 더 심각한 문제가 발생할 수 있다고 주장했다.

이 때문에 부차난 교수를 비롯한 조지타운대학교 연구팀은 오픈AI의 GPT-3 문제 완화를 위한 노력이 중요하다고 강조했다.

[ⓒ CWN(CHANGE WITH NEWS). 무단전재-재배포 금지]