▲ 가디언서 보도한 오픈AI 성인물 제작 허용 검토 기사
챗GPT의 개발사인 오픈AI에서 사용자가 자사 제품을 통해 인공지능(AI)이 생성한 성인물 및 기타 노골적인 수위의 콘텐츠를 제작할 수 있도록 허용할지 여부를 검토하고 있다고 영국 일간지 가디언이 9일(현지 시각) 보도했다.
가디언의 보도에 따르면 오픈AI는 딥페이크 금지를 성인물에 계속 적용할 것이라고 강조했지만, 운동가들은 이 제안이 “안전하고 유익한 AI를 생산한다”는 회사의 목표를 훼손한다고 주장하고 있다.
오픈AI는 개발자와 사용자가 자사 제품을 통해 ‘책임감 있게’ 작업하기에 안전하지 않은 콘텐츠를 만들 수 있도록 하는 방안을 고려하고 있다면서, “에로틱한 영상, 극단적인 유혈 영상, 비방, 원치 않는 욕설이 이 콘텐츠에 포함될 수 있다”고 밝혔다.
오픈AI 직원인 조앤 장은 미국 공영 라디오방송 NPR과의 인터뷰에서 오픈AI가 자사 제품에서 에로틱한 텍스트와 누드 이미지 생성을 항상 금지해야 하는지 논의를 시작하고 싶다고 밝혔다. 하지만 그러면서도 그는 딥페이크는 허용되지 않을 것이라고 강조했다.
그는 “지금 당장 AI 성인물을 만들려고 하는 것은 아니다”라면서도 AI를 이용해 만든 결과물이 성인물로 간주될지 여부는 “정의에 따라 달라질 수 있다”고 언급했다.
[한국성인콘텐츠협회 kacaorkr@gmail.com]
