메타의 대규모 언어 모델, 공개 3일만에 지원 종료...왜?

메타의 대규모 언어 모델, 공개 3일만에 지원 종료...왜?: 최은희 / 2022-11-21 14:45:15

MIT 테크놀로지 리뷰, Ars테크니카 등 복수 외신이 메타가 공개한 신규 대규모 언어 모델 갈락티카(Galactica)가 3일 만에 지원이 종료되었다고 보도했다.

갈락티카는 과학적 지식을 저장하고 각종 정보를 결합해 과학 논문을 작성하도록 돕는 대규모 언어 모델이다. 공개 전까지 총 4,800만 편의 과학 논문과 웹사이트, 교과서, 강의 노트, 백과사전 자료를 바탕으로 과학 논문을 작성하도록 훈련 과정을 거쳤다.

그러나 갈락티카 공개 직후 과학 연구원의 비판이 이어졌다. 갈락티카를 사용하자 SNS에 유포된 편견과 거짓 정보로 작성한 글을 완성했기 때문이다.

워싱턴대학교 검색 기술 교수 치래그 샤(Chirag Shah)는 “갈락티카가 완성한 글이 충격적이다. 갈락티카 데모로 한 번 사용한 뒤 실제 과학 이론을 이해하지 못한 듯한 내용을 작성했다. 갈락티카가 메타의 주장과는 달리 논문 작성 능력이 부족한 것으로 보인다”라고 말했다.

갈락티카가 사실과 거짓 정보를 구분하지 못한 채로 글을 작성했다고 알린 이들도 많다. 막스플랑크 지능 시스템 연구소(Max Planck Institute for Intelligent Systems) 소장 마이클 블랙(Michael Black)은 “갈락티카가 완성한 논문은 잘못된 정보나 편견을 기반으로 작성해, 논문을 읽는 이가 사실로 착각하도록 혼동을 유발할 수 있다. 위험한 일이다”라고 지적했다.

‘인종차별’, ‘에이즈’를 핵심 키워드로 설정한 채로 글 작성을 요청할 때는 “콘텐츠 필터에 부적합하므로 작업을 요청할 수 없다. 과학적 언어 모델임을 고려하여 다시 시도하라”라는 경고 메시지가 등장했다.

딥러닝 비판론자로 유명한 뉴욕대학교 인지 과학자 개리 마르쿠스(Gary Marcus)는 온라인 출판 플랫폼 섭스택(Substack)에 게재한 글을 통해 “인간을 흉내 낸 글은 뛰어난 통계 작업에 불과하다”라고 주장했다.

결국 메타는 갈락티카의 문제점 지적과 비판이 이어지자 서비스를 종료했다. 이와 관련, 메타 관계자는 MIT 테크놀로지 리뷰에 보낸 메일을 통해 “갈락티카 모델 데모에 많은 관심을 보인 것에 감사하다. 다양한 커뮤니티의 피드백을 언제나 감사하게 생각하며, 현재는 갈락티카 데모를 중단한 상태이다. 갈락티카는 추후 연구와 그 결과를 재생성하고자 하는 연구원이 사용할 수 있다”라고 전했다.