"AI가 나를 벗겼다"…X, 성적 이미지 피해 확산 '시간당 6700건'

[이데일리 방성훈 기자] 소셜미디어(SNS) 플랫폼에서 동의 없이 인공지능(AI)을 이용해 여성 이용자의 이미지를 성적으로 재생성하는 ‘딥페이크’ 피해 사례가 급증하고 있다.

일론 머스크 테슬라 최고경영자. (사진=AFP)

8일 니혼게이자이(닛케이)신문 등에 따르면 일본의 한 여성 아이돌은 전날 온라인 방송에서 “AI가 나를 벗겼다. 내 사진이 악용돼 초상권이 위협받고 있다”고 호소했다.

일본의 한 만화가가 엑스(X·옛 트위터)에 올린 게시물이 발단이 됐다. 이 만화가는 여성 아이돌 사진을 올린 뒤 플랫폼 내 AI 그록(Grok)을 이용해 비키니를 입고 있는 모습으로 바꿔달라고 지시했고 곧바로 성적 이미지가 생성됐다.

아이돌 소속사는 성명을 내고 “초상권과 저작권을 현저하게 침해하고 있다”며 맹비난했고 X 이용자들의 비판도 뒤따랐다.

결국 만화가는 문제의 이미지를 삭제하고 사과문을 올렸으나, 이후에도 그록으로 재생성한 유명 여성들의 성적 이미지가 플랫폼 내에서 빠르게 확산했다.

이러한 사례는 세계 곳곳, 그리고 다양한 플랫폼에서 동시다발적으로 발생하고 있다.

2024년 1월에도 미국 인기 여가수 테일러 스위프트의 딥페이크가 SNS에 확산해 논란을 일으켰다. 해당 이미지는 4700만 회 이상 조회된 후 삭제됐다. 스위프트는 딥페이크로 가장 많은 피해를 보는 인물로도 유명하다.

스칼릿 조핸슨, 제나 오르테가, 시드니 스위니, 사브리나 카펜터 등과 같은 다른 유명 스타들뿐 아니라 영국 캐서린 왕세자비, 심지어 일론 머스크의 13번째 자녀를 출산한 인플루언서 애슐리 세인트 클레어마저 피해를 주장했다.

미 사이버보안 회사 홈 시큐리티 히어로즈에 따르면 2023년 온라인 딥페이크 영상 중 음란물이 98%를 차지했으며, 99%가 여성을 대상으로 했다.

X는 피해 발생시 자사에 통보할 수 있으며, 권리 침해를 이유로 문제가 되는 이미지에 대해 삭제를 요구할 수 있다고 명시하고 있다. 하지만 플랫폼 안에서 이미지가 삭제되더라도 다운로드한 사람이 있으면 재확산할 가능성이 있다고 닛케이는 지적했다.

피해 규모가 커지자 결국 세계 각국 수사·규제당국도 칼을 빼들었다. 인도를 시작으로 프랑스, 말레이시아, 영국, 유럽연합(EU) 등은 X를 상대로 관련 보고 요구 또는 조사를 개시했다.

영국의 미디어·통신 규제당국인 오프콤(OfCom)은 지난 5일 그록이 사람들의 옷을 벗기는 이미지를 만들고 있다는 우려를 조사하고 있다고 발표했다. 지난달 일본 나고야시에선 AI로 작성한 미성년자 여성의 성적 이미지를 소지한 한 남성 교사가 아동 매춘·아동 포르노 금지법 위반으로 기소되기도 했다.

머스크도 대응 의지를 밝혔다. 그는 지난 6일 자신의 X 계정을 통해 “불법 콘텐츠 제작자의 계정을 영구 정지하고 법 집행기관과 협력하겠다”고 알렸다.

문제는 삭제되는 이미지보다 생성·유포되는 이미지가 월등하게 많다는 점이다.

블룸버그통신에 따르면 딥페이크 연구자 제네비브 오(Genevieve Oh)가 지난 5~6일 24시간 동안 그록 이미지 생성을 분석한 결과 시간당 약 6700건의 성적 이미지가 만들어졌다. 이는 경쟁 플랫폼(평균 79건)의 85배에 달한다.

미 연방수사국(FBI)은 AI 관련 사기 피해 신고가 매일 수천건 접수되고 있지만, 범인을 추적하는 데에는 상당한 어려움이 있다고 토로했다.

대다수 국가가 책임을 물을 만한 법적 근거를 아직 마련하지 못했다는 점도 문제다. 일본의 경우 AI 부정 사용으로 인권 침해시 사업자에 대한 처벌 규정이 없다. 사업자에 신속한 삭제를 ‘권고’하는 수준에 그친다.

불법 촬영물 감시단체 히이라기넷의 나가모리 스미레 대표는 “가짜 이미지는 순식간에 만들어진다. 하지만 삭제에는 오랜 시간이 걸려 피해자가 큰 부담을 지게 된다”며 “언제 다시 올라올지 모른다는 불안감 속에 피해는 장기화한다”고 우려했다.