네이버, 욕설‧과도한 성적표현도 차단한다…AI클린봇 성능 향상

네이버, 욕설‧과도한 성적표현도 차단한다…AI클린봇 성능 향상

기존 AI클린봇 대비 처리 범위‧정확도 향상된 2.5 버전

기사승인 2021-01-29 15:21:08
[쿠키뉴스] 송병기 기자 = 네이버는 인공지능(AI) 기반의 악성댓글 차단프로그램인 AI클린봇이 욕설은 물론 과도한 성적표현까지도 찾아서 걸러주는 2.5 버전으로 업그레이드 된다고 29일 밝혔다. 

이번 AI클린봇 업그레이드는 작년 6월 진행된 2.0버전 업그레이드 이후 7개월 만이다. 뉴스댓글 뿐만 아니라 방송톡과 네이버TV 댓글에도 적용된다. 

이번 업그레이드를 위해 AI클린봇은 기존에 학습된 데이터를 포함해 약 1억6000만건의 데이터를 4개월에 걸쳐 학습 및 고도화에 활용했다. 네이버에 따르면 이를 통해 기존대비 정확도가 약 15%가량 향상된 것으로 나타났다.

향상된 2.5버전에는 과도한 성적표현에 대한 AI학습이 반영됐다. 성적 불쾌감을 일으킬 수 있는 수준의 표현들을 차단함으로써 악성댓글 차단의 범위를 넓히게 된 것이다. 구체적으로 직‧간접적인 성적 행위나 특정부위 등의 표현들은 클린봇에 의해 자동 차단된다

또한 네이버는 불법촬영물에 유통금지를 규정한 n번방법 시행에 맞춰 이용자 신고와 관련한 접근편의성을 높이는 조치도 진행했다. 

이달 15일 불법촬영물 신고항목을 뉴스를 비롯해 카페, 블로그, 지식In 등 다양한 영역에 추가했다. 또 불법촬영물 관련 검색 시에도 신고센터 도움말이 노출되도록 했다.

네이버는 보다 높은 책임의식을 가지고 앞으로도 선언적 의미를 넘어 실질적으로 악성댓글 차단 및 불법촬영물의 2차피해 방지에 최선의 노력을 진행해 나갈 것이라고 강조했다.

songbk@kukinews.com
송병기 기자
songbk@kukinews.com
송병기 기자
이 기사 어떻게 생각하세요
  • 추천해요
    0
  • 슬퍼요
    0
  • 화나요
    0
추천기사
많이 본 기사
오피니언
실시간