네이버가 악성 댓글 탐지 시스템인 ‘AI 클린봇 3.0’ 업그레이드를 완료했다고 29일 밝혔다.

이번 업그레이드를 통해 AI 클린봇은 자살, 사망, 신체 훼손 등 생명 경시를 조장하는 댓글과 사건·사고 피해자 및 유족을 향한 조롱, 비하, 혐오성 댓글을 집중적으로 차단한다.

‘AI 클린봇 3.0 모델’은 기사 맥락을 파악해 악성 댓글을 탐지하는 능력을 강화한 것이 특징이다. 네이버는 뉴스 댓글 내용뿐만 아니라 기사 제목과 본문을 종합적으로 분석해 악성 댓글을 탐지할 수 있도록 모델을 고도화해왔다.

2019년 업계 최초로 선보인 ‘AI 클린봇’은 댓글 서비스 전반의 기술적·정책적 노력과 함께 급변하는 신조어와 혐오 표현 등에 대응하기 위해 탐지 범위와 정확도를 지속적으로 높여왔다.

초기 AI 클린봇은 악성 키워드를 기반으로 욕설과 비속어를 자동 탐지하는 방식이었다. 이후 2020년에는 ‘문장 맥락’을 기준으로 악성 댓글을 판단하도록 범위를 확대해, 직접적인 욕설이 없더라도 모욕적 표현을 적극 탐지할 수 있도록 했다.

또한 네이버는 성적 불쾌감을 유발하는 표현과 혐오·비하·차별 표현, 기호와 문자를 활용한 우회 악성 댓글 등을 차단하기 위해 AI 클린봇을 지속적으로 업그레이드해왔다.

김수향 네이버 리더는 “네이버는 욕설과 비속어는 물론 새롭게 생겨나는 혐오·비하·차별 표현을 탐지하기 위해 클린봇의 성능을 지속적으로 강화하고 있다”며 “생명 경시 조장, 피해자와 유족 조롱, 혐오 표현 차단을 비롯해 다양한 의견을 청취하며 클린봇 성능을 고도화해 나갈 예정”이라고 밝혔다.

 

[ⓒ CWN(CHANGE WITH NEWS). 무단전재-재배포 금지]