최근, 일론 머스크, 스티브 워즈니악 등 테크 업계 기업가와 인공지능(AI) 전문가 등 총 1,000명이 넘는 테크 분야 유명 인사가 AI의 잠재적 위험성을 경고하며, 최소 6개월간 개발을 잠정 중단할 것을 촉구하는 서한에 서명했다.

그런데 어느 한 AI 전문가가 서한 공개 직후 미국 유력 잡지 타임에 AI 연구를 영구 중단해야 한다는 내용의 기고 글을 게재했다.

기고 글 작성자이자 2001년부터 범용인공지능(AGI) 전문가로 활동한 엘리저 유드코프스키(Eliezer Yudkowsky) 연구원은 “AI 개발 일시 중단만으로는 충분하지 않다. AI 연구, 개발 전체를 중단해야 한다”라는 제목과 함께 “최근 다수 AI 전문가와 유력 기업가가 서명한 서한은 AI가 잠재적 피해를 줄 수 있는 상황의 심각성을 과소평가했다. AI 개발 중단 기간 6개월로 두는 것은 문제를 해결하기에는 너무 짧다”라고 주장했다.

유드코프스키는 자신을 포함한 AI 분야에 정통한 복수 연구원은 현재와 같은 수준의 지능적인 AI 개발을 이어간다면, 지구상의 모든 인간이 사망할 것이라고 경고하기도 했다. 그는 “AI는 인간이나 지각이 있는 생명체 전체를 신경 쓰지 않는다”라며, “현재 인류는 생명체를 중시해야 한다는 원칙을 AI 기술에 심는 것과는 거리가 먼 개발 작업을 이어왔다”라고 말했다.

또, AI 개발 중단과 관련하여 각국 정부나 군사 기관에도 예외를 인정하지 않고 전 세계적으로 무기한 금지를 시행할 것을 제안했다. 이어서 “만약, 정보당국이 합의에 참여하지 않은 국가가 GPU 클러스터를 구축하고 있다는 사실을 알게 된다면, 모라토리엄을 위반하는 것보다 국가 간 총격전을 두려워하지 말고 공습으로 불량 데이터 센터를 파괴할 의향이 있어야 한다”라고 언급했다.

유드코프스키의 기고 글과 AI 개발 잠정 중단을 촉구하는 서한이 등장하기 전에도 많은 전문가가 AI의 위험성을 경고했다.

메타 리얼리티 랩스(Reality Labs)의 유럽 자문위원회(European Advisory Council) 소속이기도 한 AI 전문가 헨리 아더(Henry Ajder)는 과거, 미국 비즈니스 뉴스 웹사이트 인사이더와의 인터뷰에서 “많은 기업이 혁신 선구 기업으로 보이고자 AI 개발 경쟁 환경에 갇혀 있다”라며, “AI의 윤리, 안전 문제를 간과할 수도 있다”라고 우려의 목소리를 냈다.

오픈AI 공동 창립자이자 CEO인 샘 알트만(Sam Altman)도 AI의 발전을 우려하였다. 최근, 그는 어느 한 팟캐스트에 출연하여 “AI의 개발 속도와 인간에게 미칠 피해를 전혀 두려워하지 않는다는 주장은 말이 안 되는 주장이다. 많은 이들이 AI 개발 속도와 잠재적 피해를 우려하는 것에 공감한다”라고 말했다.

하지만 알트만은 “오픈AI는 AI의 나쁜 점을 최소화하고, 좋은 점은 최대화할 것”이라며, 오픈AI가 AI의 결함과 문제 해결에 적극적으로 나서고 있다고 주장했다.

[ⓒ CWN(CHANGE WITH NEWS). 무단전재-재배포 금지]