인공지능(AI) 기술의 발전으로 누구나 쉽게 생성형 AI를 이용할 수 있게 되면서, 사진과 영상을 조작해 성적인 콘텐츠를 만들어내는 ‘딥페이크’ 사례가 급증하고 있다.
생성형 AI를 누구나 쉽게 이용할 수 있게 되면서 딥페이크로 만들어진 포르노물이 주로 소셜미디어나 화상채팅 사이트를 통해 불법적으로 유포되며, 특히 미성년자를 대상으로 한 경우가 많다.
미국 연방수사국(FBI)은 4월 이후 SNS(소셜미디어)나 줌 등 화상채팅 사이트에서 자신의 이미지나 영상을 불법으로 캡처한 포르노물이 유포되고 있다는 신고가 급증했다고 밝혔다.
▲사진=AI 모델 이미지(출처 : 케이엘앰컴퍼니)
이에 챗GPT를 개발한 오픈AI에서 최근 사람 데이터를 이용해 아동 착취물과 같은 불법 포르노물이나 노골적인 성적 콘텐츠 생성을 금지하는 새로운 규칙을 시행했다.
한편, AI 기술은 성범죄뿐만 아니라 성산업에도 영향을 미치고 있다. 미국의 포르노 산업계에서는 생성형 AI를 이용한 새로운 포르노 배우를 등장시키고 있으며, 성인물 소비자들의 선호도를 분석해 AI로 만든 이미지가 공개되기도 했다.
해외뿐만 아니라 국내에서도 AI를 활용한 콘텐츠의 대다수가 성산업이나 범죄에 활용되고 있다는 주장이 한국콘텐츠진흥원 포럼에서 제기됐다.
정동선 한양대 창의융합교육원 교수는 포럼에서 “AI를 활용한 콘텐츠의 80%가 성산업이나 범죄 등에 활용되고 있다”며 “사진, 영상, 목소리, 그림은 물론 인간의 뇌와 감정을 자극하는 시도가 계속되고 있다”고 지적했다.
AI 기술의 발전이 사회적 변화를 불러일으키고 있는 상황에서, 성산업 역시 AI 콘텐츠 시장에 뛰어들며 추후 판도에 관심이 모아지고 있다.
[한국성인콘텐츠협회 kacaorkr@gmail.com]
