CWN(CHANGE WITH NEWS) - 英 비영리단체, 친중 선동 광고 유포 가짜 계정 무더기 발견...AI로 가짜 신원 생성

영국 비영리 연구 단체 정보회복성센터(CIR)가 온라인상의 정보 유포와 관련, 한 가지 우려할 만한 연구 결과를 공개했다.

BBC 보도에 따르면, CIR 연구팀은 최근, 망명한 중국 재벌 구오 웽위(Guo Wengui)와 다수 반정부 인사, 코로나19 확산세 관련 내부 고발자를 비난하는 콘텐츠를 유포하는 가짜 SNS 프로필을 무더기로 발견했다.

CIR이 발견한 가짜 프로필 다수가 그동안 각종 거짓 정보를 널리 퍼뜨렸으나 단 한 차례도 발견되지 않아, 거짜뉴스 확산 범위가 매우 넓을 것으로 추정된다.

또, 트위터, 페이스북, 인스타그램, 유튜브 일부 계정은 인공지능(AI)이 생성한 것으로 확인됐다. CIR 관계자는 지금까지 발견한 가짜 계정이 모두 중국 정부와 연관됐다는 결정적인 증거는 부족하지만, 과거 트위터와 페이스북에서 퇴출된 친중 네트워크와 상당 부분이 비슷하다고 설명했다.

대부분 중국 국영 통신사의 친중 발언을 그대로 유포한다. 신장 지구에서 발생하는 위구르족 억압을 부인하며, 이를 "미국 등 서구 세계가 조작한 거짓 정보"라고 주장했다.

게다가 조지 플로이드 살인 사건이 미국 내 인권 탄압 문제가 심각하다는 사실을 보여주는 단적인 예시라고 주장하는 등 반미 정서를 부추기는 콘텐츠를 게재한 사례도 어렵지 않게 찾아볼 수 있다.

그런데, 가짜 게정은 어떻게 발견했을까?

CIR은 과거 식별된 네트워크가 선호하는 해시태그를 매핑해, 거짓 정보에 영향을 미친 것으로 보이는 계정을 찾아냈다. 이 과정에서 계정 주인의 신원, 팔로워 수 등을 기준으로 가짜 계정을 분류했다.

그 결과, 가짜 계정 중 일부는 거짓 정보 원본 콘텐츠를 게재하기 위한 목적으로, 나머지 다수 계정은 특정 계정에 게재된 가짜뉴스를 공유하기 위한 목적으로 생성된 것으로 확인됐다.

마지막으로 CIR은 가짜 계정 상당수가 AI로 제작한 실존하지 않는 인물 사진을 이용했다고 밝혔다.

유튜브에서 친중 메시지를 게재하는 일부 가짜 계정은 탈취된 신원을 이용하지만, 다른 SNS 플랫폼의 가짜 계정 대부분이 실존 인물의 정보와 이미지를 탈취하는 대신 허구의 인물을 새로 만들어낸 것이다. 이 과정에는 가상으로 인물의 얼굴을 생성하는 심층신경망인 'StyleGAN'이 동원됐다.

갈수록 많은 사용자가 의심스러운 계정을 더 의심하자 이를 피하고자 첨단기술을 동원한 가짜 계정 생성 사례가 증가한 것으로 확인됐다.

한편, CIR은 여러 SNS 플랫폼에 이번 연구 결과를 공유했으며, 페이스북은 가짜 계정을 모두 삭제했다.

페이스북 대변인은 “2019년 9월, 주로 중국에서 생성돼, 정치 선동광고를 유포하는 가짜 계정을 삭제한 바 있다. 이후, 페이스북은 업계와 협력해 선동광고 유포 세력의 페이스북 복귀를 막기 위해 최선을 다 하고 있다”라고 주장했다.

트위터와 유튜브도 마찬가지로 CIR의 연구 결과 공유 이후, 가짜 계정을 모두 삭제했다.

[ⓒ CWN(CHANGE WITH NEWS). 무단전재-재배포 금지]