AI 생성물 '워터마크' 의무화…크리에이터는 제외, 플랫폼 책임 커진다

[이데일리 김아름 기자] 인공지능(AI)을 활용해 창작물을 제공하는 AI 서비스 사업자에게 AI 생성물 표시 의무가 부과된다. 다만 규제 대상은 AI사업자에 한정돼, 유튜버 등 크리에이터가 AI로 만든 웹툰이나 콘텐츠를 구글 유튜브·네이버·카카오 등 플랫폼에 게시하더라도 AI 기본법상 직접 규제 대상은 아니다.

[이데일리 김정훈 기자]

과학기술정보통신부는 ‘인공지능 발전과 신뢰 기반 조성 등에 관한 기본법(AI 기본법)’이 22일부터 시행된다”고 밝혔다. AI를 포괄적으로 규율하는 법을 전면 시행하는 국가는 한국이 전 세계에서 처음이다. 유럽연합(EU)의 AI 액트는 제정됐지만, 고위험 AI와 투명성 규제 등 핵심 조항은 오는 8월부터 단계적으로 시행된다.

AI 기본법은 △국가 AI 거버넌스 구축 △연구개발(R&D) 및 학습용 데이터 지원 △국제 협력과 해외 진출 지원 △AI 집적단지 조성 등 산업 진흥을 큰 축으로 삼으면서도, △투명성·안전성 확보 의무 △고영향 AI 판단 기준과 사업자 책임 등 규제 장치를 함께 도입했다.

이 가운데 산업계가 당장 체감할 변화는 AI 생성물 표시 의무다. 고영향 AI 또는 생성형 AI를 활용한 제품·서비스를 제공하는 AI 사업자는 해당 사실을 이용자에게 사전에 고지해야 하며, 생성형 AI 결과물에 대해서는 AI로 생성됐음을 인식할 수 있도록 표시해야 한다. 특히 사회적 부작용 우려가 큰 딥페이크 영상물에는 사람이 명확히 알아볼 수 있는 방식의 표시가 의무화된다.

반면 애니메이션·웹툰 등 일반적인 AI 생성물은 가시적 워터마크뿐 아니라, 디지털 워터마크나 알림창·UI 안내 등 비가시적 방식도 허용된다. 과기정통부는 “서비스 환경 안에서는 유연한 표시를 인정하되, 외부로 반출되는 경우에는 표시 강도를 높인다”는 원칙을 제시했다.

크리에이터는 AI 기본법상 규제 대상이 아니지만, 플랫폼을 통해 유통되는 과정에서 플랫폼 약관이나 다른 법률의 적용을 받을 가능성은 남아 있다. 실제로 조인철 더불어민주당 의원은 이날 AI 생성물 표시 유지 의무를 플랫폼과 게시자에게 함께 부과하는 내용의 정보통신망법·방송미디어통신위원회 설치법 개정안을 발의했다.

심지섭 과기정통부 인공지능안전신뢰정책과 사무관은 “AI 기본법은 AI를 개발·제공하는 사업자를 규율하는 법”이라며 “표시 의무를 이행한 이후의 유통·관리 문제는 정보통신망법 등 다른 법 체계에서 다뤄질 수 있다”고 설명했다.

이에 따라 국내 플랫폼 기업들도 대응에 나섰다. 카카오는 AI 생성물 제공 시 관련 법에 따른 고지·표시 내용을 포함한 통합 서비스 약관을 신설해 다음 달 4일부터 시행한다. 네이버는 약관 개정은 검토 중이지만, 내부 지침과 공지를 통해 AI 기본법 대응 체계를 마련하고 있다.

정부는 제도 안착을 위해 최소 1년 이상의 계도기간을 운영한다. 이 기간 동안 사실조사와 과태료 부과는 유예되며, 가이드라인 공개와 함께 ‘인공지능기본법 지원데스크’를 통해 기업 대상 해석·컨설팅을 제공할 계획이다. 김경만 과기정통부 인공지능정책실장은 “법 시행 과정에서 드러나는 미비점은 보완하고, 산업계·시민사회와 논의하는 상설 소통 창구를 만들 것”이라며 “규제보다 경쟁력 제고에 방점을 두고 AI 산업을 키우는 방향으로 접근하겠다”고 말했다.