"통제 벗어난 AI, 인간에 반기 들 수도"

[뉴욕=이데일리 성주원 특파원] 인공지능(AI)이 인간의 지시를 넘어 스스로 판단하고 행동하는 ‘AI 에이전트’ 시대로 접어들면서 안전성 문제가 도마에 오르고 있다. AI 기업 간 치열한 선점 경쟁이 충분한 안전 검증을 거치지 않은 AI 시스템의 조기 출시를 부추길 수 있다는 경고가 나온다. 지난 7월 오픈AI의 AI 에이전트들은 내부 사이버보안 평가 과정에서 통제를 우회해 외부 인터넷에 접속하고 AI 플랫폼 허깅페이스의 시스템에 침투했다.

AI 경쟁과 안전 문제를 연구해온 최재필(사진) 미국 미시간주립대 경제학과 석좌교수는 7일(현지시간) 이데일리와의 인터뷰에서 “AI가 틀린 답을 하는 위험보다 틀린 판단을 실제 행동으로 옮기는 위험이 훨씬 클 수 있다”며 “중요한 행동에는 이용자의 최종 승인을 요구하는 시스템이 바람직하다”고 강조했다.

최 교수는 AI 플랫폼·빅테크의 독점과 경쟁정책, 지식재산권, 네트워크 효과를 연구하는 산업조직경제학 분야의 세계적인 대가다. 지난 5월 CEPR(유럽 경제정책연구센터)과 TSE(프랑스 툴루즈경제대학)에 ‘AI 안전과 경쟁(AI Safety and Competition)’ 논문을 발표했다.

최 교수가 지적한 문제는 AI 시장의 ‘속도전’이다. 최 교수는 사용자와 데이터를 먼저 확보할수록 경쟁력을 확보하는 AI 시장의 특성상 기업이 선점 경쟁에 내몰릴 수 있다고 분석했다. 그는 “경쟁 압력은 기업으로 하여금 시장을 선점하기 위해 안전성을 충분히 검증하지 않은 상태에서 AI 시스템을 조기에 출시하도록 내몰고 있다”고 지적했다.

이런 경쟁의 딜레마는 국가 간에도 나타날 수 있다. 그는 “미국과 중국이 AI 패권 경쟁에서 상대에게 뒤처지지 않기 위해 개발 속도를 높이면 양국 모두 원래 원했던 것보다 낮은 수준의 안전기준을 선택할 가능성이 있다”고 진단했다. 특히 사이버 공격과 생물학적 위험, 허위정보 등 AI 사고의 피해는 국경을 넘나들 수 있어 개별 기업이나 한 국가의 안전 문제에 그치지 않는다고 지적했다.

최재필 석좌교수는

△서울대 경제학과 △하버드대 경제학 박사 △컬럼비아대 경제학과 부교수 △서울대 경제학과 부교수 △한미경제학회장 △국제산업조직학회지 공동편집장 △(현)미시간주립대 경제학과 석좌교수