▲뉴저지의 한 고등학교에서 여학생의 AI합성 누드사진 유포된 내용을 다룬 기사(사진출처=WSJ홈페이지)
미국 뉴저지주의 한 고등학교에서 AI기술이 활용된 여학생들의 합성누드 사진이 유포되어 학교가 발칵 뒤집혔다.
지난 30일 조 바이든 미 대통령이 AI가 생성한 콘텐츠에 워터마크를 부착하고 출처를 확인하는 기술표준을 마련하도록 한 시기와 맞물려 딥페이크 유통 범죄가 또다시 발생하였다.
미국 월스트리트저널(WSJ)에 따르면 2일(현지시간) 뉴저지주 웨스트필드 고등학교에서 여러 명의 학생이 AI기술을 악용하여 여학생들의 누드 사진을 만들고 유출하여 경찰이 수사에 나섰다고 전했다.
이 보도는 홈페이지 첫 화면에 위치할 만큼 비중있게 다루어 졌다. 이 학교의 2학년 남학생들은 지난 달 16일부터 이상한 행동을 하며 속삭이기 시작했고, 나흘이 지나 한 남학생이 여학생에게 해당 사실을 알리며 사건이 밝혀졌다고 한다.
AI기반 웹사이트를 사용하여 온라인에서 얻은 여학생 사진을 누드로 만들고 동료 남학생들과 그룹채팅으로 공유한 것으로 드러났다. 학교는 사건을 인지하고 학부모들에게 이메일로 공지하였고, 학부모들은 자녀들이 수치심과 무력감을 느끼고 있다고 호소했다고 한다.
▲AI딥페이크 기술이 합성사진에 악용되는 것에 대한 방안마련이 시급하다 (사진출처=픽사베이, 사진은 기사 내용과 관련이 없습니다)
학교측은 사진을 삭제하였고 더 이상 유포되지 않는다는 사실을 부모에게 보냈지만, 여학생들과 학부모들은 불안에 떨고 있고, 등교를 거부하고 있는 것으로 알려졌다.
최근 ‘긴급성명을 발표하는 바이든 대통령의 모습이나, 경찰에 체포당하는 트럼프 전 대통령’ 등 AI로 만든 딥페이크 이미지가 심각한 사실왜곡 범죄로 이어지고 있어 온라인에서 이미지 생성 AI에 대한 규제나 제한 방안 마련이 시급한 상황이다.
[한국성인콘텐츠협회 kacaorkr@gmail.com]
