美캘리포니아 주지사, AI안전법 거부권 행사…"문제 해결 못해"

개빈 뉴섬 캘리포니아 주지사(사진=게티이미지)

[이데일리 정다슬 기자] 개빈 뉴섬 미국 캘리포니아 주지사가 인공지능(AI) 규제 법안인 이른바 ‘AI안전법’(SB 1047)에 대해 거부권을 행사했다. 이 법은 미국 내 첫 AI에 대한 규제법이자 특히 실리콘밸리가 있는 캘리포니아에서 적용될 예정이어서 큰 관심을 모았다. 그러나 오픈AI 등 여러 기술기업과 관련 전문가들이 이 법안이 아직 초기 단계에 있는 AI 혁신을 저해할 것이란 우려를 제기하면서 뉴섬 주지자가 결국 거부권을 행사해 법안 통과를 무산시켰다.

뉴섬 주지사는 29일(현지시간) 성명에서 “나는 이 법안이 기술로 인한 실제 위협으로부터 대중을 보호하는 가장 좋은 접근 방식이라고 믿지 않는다”라고 밝혔다.

이 법안은 대규모 AI 모델이 중요한 사회적 인프라에 위험을 초래하지 않도록 안전 테스트를 의무화하는 내용을 담았다. AI개발기업들은 모델의 안전성에 대한 프로토콜을 공개적으로 발표하고 AI가 의도치 않은 결과를 초래할 경우, 법적 책임을 지도록 했다. 또 위험이 발생할 경우, 즉시 AI모델을 중단시키는 ‘킬 스위치’ 기능을 개발하도록 했다. AI와 관련된 위험을 알린 내부 고발자들에 대한 보호조치도 마련됐다. 법안은 본사가 어디에 있든 캘리포니아에서 사업을 하는 모든 회사에 적용된다.

뉴섬 주지사는 이 법안이 AI모델을 훈련하는데 1억달러 이상을 지출한 기업만을 대상으로 해 실제 위험성을 제대로 평가하지 못하고 있다고 지적했다. 1억달러는 오픈AI의 가장 큰 모델인 GPT-4의 추정개발비용이다.

월스트리트저널(WSJ)은 “작은 모델이 때로 전력망이나 의료 기록과 같은 민감한 데이터와 관련된 중요한 의사결정을 처리하는 반면, 더 큰 모델이 고객 서비스와 같은 위험성이 낮은 활동을 처리하기도 한다”고 부연했다.

구글, 메타, 마이크로소프트(MS), 오픈AI는 이 법안이 안전이라는 명목으로 모호한 기준을 적용한다고 주장하며 반대해왔다. 밴처캐피탈 앤드리슨 호로위츠에서 AI투자를 감독하는 마틴 카사도는 법안이 “기술이 심각한 피해를 일으키거나 실질적으로 가능하게 할”, “불합리할 위험”이 있는 경우에 대해 AI모델 출시를 막는다는 내용을 지적하며 “아무도 그게 무슨 뜻인지 모른다. 비기술적인 법원에 그 판단을 맡기는 셈”이라고 비판했다.

벤처캐피탈 와이 콤비네이터의 개리 탄, 낸시 펠로시, 로 카나 하원의원, 런던 브리드 샌프란시스코 시장도 이 법안에 반대했다.실리콘밸리 엔젤투자자이자 민주당의 거액 기부자인 론 콘웨이도 이 법안에 대한 공개적인 반대 로비에 나섰다.

반면 테슬라 최고경영자(CEO)이자 xAI를 설립한 일론 머스크는 뉴섬 주지사와의 마찰에도 불구하고 이 법안을 옹호해왔다. 또 초기에 법안에 반대했던 다리오 아모데이 앤트로픽 최고경영자(CEO) 역시 법안 수정 후 “정부 AI 감독 부서를 신설하거나 AI에 문제가 발생할 때 개발사를 처벌한다는 조항이 사라졌다”며 “법안의 이점이 해악보다 커졌다”고 주장했다. 딥러닝 기술의 개척자로 생성형 AI기술의 발판을 제공한 제프리 힌턴과 요슈아 벤지오 역시 적극적인 법안 옹호자였다. AI로 인한 ‘딥페이크’ 위험에 노출돼 있는 할리우드 배우들도 이 법안을 강력하게 지지해왔다.

법안을 발의한 민주당 소속 스콧 위너(샌프란시스코) 상원의원은 “대중의 안전과 복지, 그리고 지구의 미래에 영향을 미치는 중대한 결정을 내리는 거대 기업에 대한 감시를 원하는 모든 이들에게 아쉬운 결과”라고 말했다.

뉴섬 지사는 페이페이리 스탠포드 교수 등과 함께 자신이 지지할 만한 새로운 AI규제법안을 만들겠다고 밝혔다. 또 주 비상관리국에 AI가 대량의 사상자를 내거나 수자원 시스템에 영향을 미칠 수 있는 위험에 대해 평가하도록 하겠다고 밝혔다.