CWN(CHANGE WITH NEWS) - 테이저 건 장착한 드론으로 학교 순찰을?...액손 AI 윤리 위원회 집단 사임

테크크런치, 더버지, 가디언 등 복수 외신에 따르면, 미국 군사 무기 개발사 액손(Axon) AI 윤리 위원회(AI Ethics Board) 구성원 12명 중 9명이 돌연 집단 사퇴했다. 테이저 스턴 건을 장착한 드론을 이용해 공교육 현장 주변을 감시한다는 액손의 비윤리적 계획 때문이다.

이번 논란은 액손이 테이저 건 드론 컨셉을 공개한 6월 2일부터 시작됐다. 텍사스주 우발디 초등학교에서 학생과 교직원 20여 명을 사망에 이르게 한 총기 사고 발생 이후 액손 CEO 릭 스미스(Rick Smith)가 “원격 제어 가능하면서 치명적이지 않은 드론을 개발 중이다. 이를 공교육 현장 순찰에 보급할 방안을 논의하고자 한다”라는 트윗을 게재했다.

그러나 스미스의 트윗에 많은 누리꾼과 시민 단체가 무기 드론 악용 사례를 지적하는 등 비판의 목소리를 냈다.

시민 권리 비영리단체인 ACLU는 “시위 진압과 특정 시민 사회 무력 진압 등 법률 집행 기관이 테이저 건을 장착한 무기 드론을 폭력적인 의도로 악용하기 매우 쉽다”라며, 액손의 테이저 건 드론 배포 계획을 질책했다.

비판 여론이 거세지자 액손은 공식 성명을 발표했다. 그러나 액손 CEO 릭 스미스는 “AI 윤리 위원회가 기업에 윤리적 지침을 제공할 수 있지만, 결국 기업과 위원회가 상의한 끝에 위원회의 조언을 채택하지 않을 수 있다”라는 발언을 했다.

결국, 액손 측이 여러 차례 조언을 무시하고, 테이저 건 드론 사용 계획을 강행하려 하자 AI 윤리 위원회 구성원 9명이 집단 사임했다.

이번에 AI 윤리 위원회에서 사임한 이들은 6월 6일(현지 시각), 뉴욕대학교 법학대학원 정책 프로젝트로 발표한 공식 사임 성명을 통해 “액손의 테이저 건 드론을 이용한 공교육 현장 순찰 계획은 텍사스주 초등학교 총기 사고 비극과 기업 매출을 맞바꾸려는 행위”라고 강조했다.

한편, 일각에서는 액손이 과거 악용 위험성이 있는 무기 기술 출시와 관련, AI 윤리 위원회의 의견을 적극적으로 수용해왔다는 점에 주목하며, 이번 테이저 건 드론 보급 계획을 강력히 비판했다. 실제로 액손은 지난 2019년, 자동화된 안면 매칭과 차별 문제 발생 가능성을 지적한 AI 윤리 위원회의 조언에 따라 경찰 바디 카메라에 안면 인식 기술을 적용하려는 계획을 중단한 적이 있다.

[ⓒ CWN(CHANGE WITH NEWS). 무단전재-재배포 금지]