[데스크의 눈]AI 탑재한 가짜뉴스가 온다

[이데일리 피용익 디지털콘텐츠부 에디터] 제22대 국회의원 선거가 100일도 남지 않았다. 총선 정국은 언제나 비장했지만, 이번에는 야당 대표 피습 사건까지 일어난 터라 흉흉한 분위기마저 감돈다. 여야의 극한 대치는 강성 지지자들의 반목으로 이어진다. 이들은 서로를 헐뜯기 위한 이슈 찾기에 혈안이 돼 있다. 사실 여부는 중요하지 않다. 그저 상대방에게 타격만 주면 그만이다. 그만큼 선거철은 가짜뉴스가 살포되기 딱 좋은 환경이다.

가짜뉴스는 선거철마다 기승을 부렸다. 2000년대 초반에는 막 대중화가 시작된 인터넷을 통해 가짜뉴스가 확산됐다. 인터넷 카페 등을 중심으로 유포되는 가짜뉴스의 빠른 확산세는 20세기에는 경험해 보지 못한 것이었다. 2010년대에는 소셜미디어(SNS)가 활용됐다. SNS의 공유 기능은 조작되거나 확인되지 않은 가짜뉴스의 더 빠른 확산을 부추겼다. 이 때문에 선거철에 억울한 일을 겪은 정치인이 한둘이 아니다.

그리고 2024년. 이제 인공지능(AI)으로 무장한 가짜뉴스 시대다. 지난해 슬로바키아에서 선거를 며칠 앞두고 자유주의 진영 후보가 맥주 가격 인상과 선거 조작 계획을 논의한 것처럼 꾸민 AI 음성 파일이 사실인 것처럼 확산된 사건은 유명하다. 조 바이든 미국 대통령은 자신을 본뜬 딥페이크(AI를 기반으로 합성한 특정 인물 이미지·영상) 영상을 보고 “내가 도대체 언제 저런 말을 했지”라고 혼잣말을 했다고 한다. 그만큼 정교하고 교활한 가짜뉴스가 이미 판을 치고 있다는 의미다.

우리나라 총선 정국에서도 AI 가짜뉴스는 심각한 불안 요인이 되고 있다. 앞으로 3개월 동안 주요 정치인을 음해하기 위해 만든 딥페이크 사진이나 동영상이 SNS를 달굴 가능성이 제기된다. 딥보이스(AI를 기반으로 합성한 특정 인물 목소리) 기술을 이용하면 목소리는 물론 말투까지 똑같이 흉내낼 수 있다. 예컨대 격전지 주요 후보가 상대 후보에 대해 노골적인 막말을 하는 음성 파일이 공개된다고 생각해 보자. 또는 당선이 유력한 후보의 사퇴 연설 동영상이 선거 직전 SNS에 공유된다면 총선의 결과가 흔들릴 수 있을 정도의 파괴력을 가질 것이다.

중앙선거관리위원회는 지난해 9월 생성형 AI를 통해 허위사실이 포함된 콘텐트를 누구나 쉽게 만들어 선거전에 악용할 수 있다는 점을 지적하고 대책 마련에 나섰다. 과학기술정보통신부와 한국인터넷진흥원(KISA)은 최근 발표한 ‘2024년 사이버 보안 위협 전망 보고서’를 통해 이번 총선에서 딥페이크 기술을 활용한 가짜뉴스 생산 및 유포 등을 경고했다. 지난 연말 국회는 딥페이크의 선거운동 활용을 규제하는 공직선거법 개정안을 통과시켰다. 그러나 이러한 노력에도 불구하고 AI 가짜뉴스 전체를 막을 방법은 없다. 규제가 기술의 진화 속도를 따라가지 못하기 때문이다.

결국 언론, 특히 레거시 미디어(신문, 방송 등 전통적 언론)의 역할이 중요하다. 뉴 미디어(인터넷 방송, 블로그, SNS 등 새로운 형태의 매체)가 가짜뉴스를 쏟아낼 때 독자들이 믿고 볼 수 있는 진짜 뉴스를 생산해 내야 한다. 이를 위해서는 조회수나 시청률에 연연하지 않고 팩트에 기반한 정확한 보도를 하는 자세가 필요하다. 독자 스스로 미디어 리터러시(언론 독해력)를 키우는 노력도 물론 중요하다. SNS에 올라오거나 대화 앱에서 공유되는 사진 또는 동영상에 현혹되지 않고 비판적이고 분석적인 사고를 통해 가짜뉴스를 분별해야 한다. AI로부터 민주주의를 지키는 것은 우리 모두의 과제다.