카카오 "AI 댓글 필터링 도입 후 욕설 댓글 3분의 1 수준으로 감소"

[아이뉴스24 정유림 기자] 카카오가 인공지능(AI) 기반 댓글 필터링 기능인 '세이프봇' 성과 분석 결과를 14일 공개했다.

기능 적용 전인 2020년 하반기와 적용 후인 2021년·2022년 월 평균 수치를 비교한 결과, 욕설이나 비속어가 포함된 댓글이 3분의 1 수준으로 줄어든 것으로 나타났다.

세이프봇은 욕설·비속어를 포함하거나 게시물 운영 정책을 위반한 댓글을 AI 기술로 분석해 자동 필터링하는 기능이다. 욕설과 비속어를 음표로 치환하고 다른 이용자에게 불쾌감을 줄 수 있는 댓글을 노출되지 않도록 가린 뒤 신고 처리까지 자동으로 완료한다. 현재 포털 다음(Daum)과 카카오톡 '뷰' 탭 뉴스 댓글 서비스에 적용 중이다.

욕설이 포함돼 음표로 자동 치환된 댓글 수는 2020년 하반기 대비 2021년 53.7%, 2022년 63.8% 감소한 것으로 집계됐다.

전체 댓글 중 이용자가 신고한 욕설 댓글 비중도 2020년 하반기 4.2%에서 2022년 2.4%로 낮아졌다. 이용자 신고에 의해 삭제된 욕설 댓글도 2021년 73.6%, 2022년 91.7% 감소하며 12분의 1 수준으로 줄었다.

이와 관련해 카카오 측은 "'세이프봇'이 욕설이나 비속어가 담긴 댓글을 신속하게 필터링하면서 이용자도 자발적으로 건전한 댓글 문화에 동참하게 된 것으로 풀이된다"고 분석했다.

카카오는 AI 기술을 고도화해 '세이프봇' 성능을 강화한다. 지난 8월 증오 발언 대응을 위한 '코딩북(Coding Book)' 제작에 나선 가운데, 증오 발언을 판별하는 학습 데이터를 구축하고 내년 상반기 이를 세이프봇에 적용한다.

김종한 카카오 다음사업개발실장은 "앞으로도 이용자가 안전하고 쾌적하게 서비스를 이용할 수 있도록 관련 기술을 고도화할 것"이라고 전했다.