CWN(CHANGE WITH NEWS) - 혐오 논란 AI 챗봇 ′이루다′, AI 챗봇 윤리 준칙 수립 후 복귀 준비

AI 스타트업 스캐터랩은 '이루다2.0' 공식 출시가 눈앞으로 다가왔다. 12월 21일, 스캐터랩 측은 공식 페이스북을 통해 '이루다 클로즈 베타테스터 모집' 공고를 게재했다. 베타 테스트는 만 14세 이상이면 누구나 참여할 수 있다. 테스트 참가 인원은 추첨을 통해 3,000명을 선정한다.

일상 대화형 챗봇(open-domain chatbot)인 '이루다'는 누구에게나 좋은 친구가 되는 AI를 목표로 하는 스캐터랩이 야심 차게 선보인 AI 챗봇이다.

하지만, 이루다는 혐오 발언과 성 관련 문제, 프라이버시 논란을 일으키면서 2021년 1월 서비스를 잠정 중단했다. 이후 스캐터랩 AI 챗봇 윤리 준칙을 제정하는 등 신뢰할 수 있는 인공지능 모델 개발에 역량을 집중해왔다.

이루다2.0 출시를 예고한 스캐터랩은 이루다의 AI 윤리 문제를 해결하고자 AI 챗봇 윤리 준칙을 아래와 같이 수립했다.

△다양한 삶의 가치 존중 △함께 실현하는 AI 챗봇 윤리 △합리적 설명을 통한 신뢰 관계 유지 △프라이버시 보호와 정보 보안 발전 기여 등과 같은 내용을 준칙에 담았다.

이루다2.0은 데이터베이스를 통해 학습할 예정이며, 개인정보보호 강화를 위해 인공지능 딥러닝 알고리즘이 생성한 문장으로 답변한다.

또한, 대화 시에 논란이 될 만한 단어, 문맥을 감지하여 공격적, 선정적, 편향적인 문장에 대응할 수 있도록 '어뷰징 탐지 모델'을 접목했다.

한편, 스캐터랩은 베타 테스터의 사용 경험을 공개하지 않을 예정이며, 이루다2.0 공식 출시 일정은 내년 안에 결정할 예정이다.

[ⓒ CWN(CHANGE WITH NEWS). 무단전재-재배포 금지]