눈깜빡하는 사이 무차별 확산…법조계 "딥페이크 응급 삭제 필요"

[이데일리 성주원 송승현 기자] 최근 딥페이크 디지털 성범죄가 급증하면서 피해자들은 감당할 수 없는 고통에 내몰리고 있다. 딥페이크 기술은 인공지능(AI)을 활용해 특정 인물의 얼굴이나 신체를 합성한 음란물을 제작하는 방식으로, 피해자는 영상 제작에 전혀 관여하지 않았음에도 큰 피해를 입는다.

특히 법적 대응이 신고 절차와 심의 과정을 거치는 동안 피해 영상은 온라인상에서 무차별적으로 확산돼 피해가 급격히 커지고 있는 사례가 속출하고 있다. 이러한 문제를 해결하지 않으면, 사회 전체가 더 큰 위기에 직면할 수 있다는 우려가 커지고 있다.

최근 타인 사진을 도용한 딥페이크(인공지능 기반 이미지 합성) 영상물이 확산하고 있는 가운데 지난달 29일 경기도 수원시 영통구 경기도교육청에서 직원들이 딥페이크 관련 카드뉴스를 살펴보고 있다. (사진=뉴시스)

“방심위 보내기 전 수사기관서 선제 조치해야”

12일 법조계에 따르면 현재 딥페이크 성범죄를 처벌할 수 있는 법적 근거는 마련돼 있지만 피해 확산 속도를 감안한 신속한 대응 체계와 디지털 범죄의 특성을 반영한 세부 규정은 여전히 미비한 실정이다.

박수진 법무법인 덕수 변호사는 “2020년 성폭력처벌법 개정으로 딥페이크 범죄가 형사 처벌 대상에 포함됐지만, 디지털 성범죄의 특성을 충분히 반영하지 못하고 있다”고 지적했다. 특히 딥페이크 범죄는 영상이 무한 복제되고 급속히 유포될 수 있는 만큼 신속한 대응이 필요하지만 현재 법적 절차는 지나치게 느리다는 비판이 제기된다.

법무법인 민후의 양진영 변호사는 “성폭력처벌특례법이 딥페이크 영상 제작에 반포 목적을 요구하기 때문에, 개인 소장 목적으로 제작된 경우에는 처벌이 어렵다”며 처벌 대상의 확대가 필요하다고 강조했다. 그는 또한 “딥페이크 범죄를 예방하기 위한 기술적 개발과 더불어 법적 제도 개선이 병행돼야 한다”고 덧붙였다.

피해자 보호를 위한 가장 시급한 과제는 딥페이크 영상의 신속한 삭제와 차단이다. 박수진 변호사는 “방송통신심의위원회를 거치는 대신, 수사기관에 응급 삭제 및 차단 권한을 부여해 신속하게 대응할 수 있어야 한다”고 주장했다. 딥페이크 영상은 짧은 시간 안에 대규모로 유포될 수 있기 때문에, 초동 조치가 지연되면 피해는 걷잡을 수 없이 커진다.

양진영 변호사는 플랫폼과 메신저 사업자에게 딥페이크 영상에 대한 즉각적인 삭제 권한을 부여할 것을 강력히 제안했다. 그는 플랫폼에서의 신속한 대응 없이는 피해를 실질적으로 차단할 수 없다는 점을 강조했다. 이를 위한 법적 근거 마련이 시급하다는 것이 전문가들의 공통된 의견이다.

교육 통해 경각심 높여야…기술적 대응·국제 공조도 ‘필수’

다만 법적 대응만으로는 딥페이크 성범죄의 근본적인 문제를 해결하기 어렵다는 지적도 나온다. 천정아 법무법인 소헌 변호사는 “딥페이크 성범죄의 핵심은 여성을 성적 대상으로 삼는 잘못된 인식과 문화”라며 공교육 내 인성 교육과 인권 교육을 강화해 디지털 성범죄를 예방해야 한다고 강조했다. 이러한 교육은 청소년들에게 올바른 디지털 윤리 의식을 심어주고 성적 대상화가 범죄로 이어질 수 있음을 깨닫게 하는 중요한 역할을 할 수 있다.

지난 2일 서울 동작구 서울여성플라자에서 2024 양성평등주간 기념행사를 맞아 열린 ‘안전서울 로그인-클릭’을 찾은 시민들이 디지털 성범죄와 성착취 예방을 위한 온라인 코딩 게임을 체험하고 있다. (사진=뉴시스)

한국여성변호사회 부회장을 맡고 있는 김현아 변호사 역시 “학생, 학부모, 학교를 대상으로 한 예방 교육과 홍보가 시급하다”며 딥페이크 범죄가 청소년들 사이에서 장난처럼 여겨지는 현실을 지적했다. 그는 교육을 통해 사회 전반의 인식을 개선하고 디지털 성범죄에 대한 경각심을 높이는 것이 무엇보다 중요하다고 짚었다.

딥페이크 영상이 국내외로 확산되는 것을 막기 위해서는 기술적 대응과 국제 공조가 필수적이다. 민고은 변호사(한국여성변호사회 인권이사)는 “딥페이크 영상의 소지, 시청 행위도 불법 촬영물과 동일하게 처벌돼야 한다”며 “해외에 서버를 두고 있는 인터넷 서비스 제공자와의 협력이 필요하다”고 지적했다. 또한 국제 공조를 통해 딥페이크 콘텐츠의 확산을 방지할 수 있는 법적·기술적 협력 체계를 구축해야 한다고도 했다.

양진영 변호사는 인공지능기본법의 제정과 인공지능위원회의 설립을 통해 딥페이크 관련 범죄에 대한 ‘컨트롤 타워’ 역할을 수행할 수 있는 시스템을 갖추는 것이 중요하다고 강조했다. 현재로서는 검찰이 이러한 역할을 담당할 수밖에 없지만, 더 나은 법적 및 기술적 대응 체계가 필요하다는 지적이다.

학교폭력대책위원회 위원을 지낸 김영미 변호사(법무법인 숭인)는 기술 회사들이 딥페이크 성범죄 방지를 위해 더욱 책임감 있는 역할을 해야 한다고 주장했다. 그는 “딥페이크 기술에 쉽게 접근할 수 있게 하고 이를 통해 수익을 얻는 기업들에 대한 통제가 필요하다”며 “기업들이 딥페이크 콘텐츠의 사전 차단 및 탐지 기술을 도입해야 한다”고 말했다.