▲사진=아프리카TV가 태권S를 활용해 유해 콘텐츠를 인식하는 장면
인공지능(AI)을 활용해 온라인 서비스에서 유해물을 관리하는 기업이 늘고 있다.
실시간 방송을 하는 스트리밍 서비스와 사용자 창작 콘텐츠(UGC)로 운영되는 플랫폼을 중심으로 활용도가 높아지는 추세다. 사람이 일일이 관리하기 어려운 만큼 AI의 힘을 빌려 유해 콘텐츠를 빠르게 차단한다는 목표다.
실시간 스트리밍 플랫폼을 운영해온 아프리카TV는 독자적인 실시간 음란물 필터링 기술을 보유하고 있다. 2018년 처음 선보인 태권S가 대표적이다. 아프리카가 축적한 영상 수백만 건을 기반으로 AI를 학습시켰으며, 정확도는 최대 97%에 이른다는 설명이다.
▲사진=아마존 ‘AWS 레코그니션’
해외 빅테크들도 유해물 필터링 AI 서비스를 제공 중이다. 자사 서비스에 적용하는 것은 물론 응용프로그램인터페이스(API) 형태로 만들어 다른 기업에도 제공 중이다.
아마존은 클라우드 고객에게 부적절한 콘텐츠를 감지할 수 있는 ‘AWS 레코그니션’ 서비스를 선보였다. 부적절한 콘텐츠 감지는 물론 얼굴 인식, 물체 인식 등도 가능하다. 구글 클라우드 역시 비슷한 용도로 쓸 수 있는 ‘세이프서치’를 갖고 있다.
그럼에도 완벽하게 유해 콘텐츠를 잡는 것은 쉽지 않다. 이 때문에 주요 플랫폼들은 별도 인력을 통한 실시간 모니터링을 병행하고 있다.
아프리카TV는 클린아티라는 이름의 모니터링팀을 운영하고 있으며, 네이버도 치지직에 24시간 모니터링을 도입하기로 했다. 유튜브 역시도 모니터링 인력을 다시 늘린 것으로 알려졌다.
[한국성인콘텐츠협회 kacaorkr@gmail.com]
