개인정보위, 서울서 ‘오픈소스 AI와 프라이버시’ 국제 논의의 장 열다

[이데일리 권하영 기자] 개인정보보호위원회는 인공지능(AI) 도입 및 개발에 기반이 되는 오픈소스를 안전하게 활용하기 위한 국제적인 논의의 장을 마련했다고 15일 밝혔다.

개인정보위는 오는 16일 예정된 ‘글로벌 프라이버시 총회(GPA)’ 개막에 앞서 사전 부대행사로 ‘오픈소스 데이’를 이날 개최했다. 구글, 메타, 마이크로소프트(MS), 오픈AI, 셀렉트스타, 에임 인텔리전스 등 글로벌 오픈소스 모델·솔루션 기업들과 국내 AI 기업·연구자, 해외 감독기구 등 120여 명이 참석해 오픈소스 AI 생태계와 프라이버시에 대해 논의했다.

개인정보위는 올해 초 개최한 생성형·오픈소스 기반 AI 스타트업 간담회에서 낮은 비용으로 높은 성능을 구현할 수 있는 오픈소스 모델에 대한 산업 현장의 관심과 수요를 확인했다. 이를 토대로 지속가능한 오픈소스 생태계를 위한 프라이버시 가드레일을 논의한 바 있다.

개인정보위가 70명의 개발자·연구자 및 기업 관계자를 대상으로 진행한 설문조사에 따르면 약 62%가 오픈소스를 도입·활용한 경험이 있으며, 오픈소스 모델을 활용한 미세조정 시 안전성을 고려한 경험이 있다고 응답한 비율은 77%에 달했다.

이날 행사에 참여한 글로벌 오픈소스 AI 기업들은 자사의 오픈소스 생태계와 실제 적용 경험을 발표했다. 구글은 비용 효율적인 오픈소스 모델 운영을 위한 자사 플랫폼 ‘버텍스AI(Vertex AI)’를 소개하며 대규모언어모델(LLM) 품질 평가 도구와 프롬프트 최적화 기능 등 신뢰성·안전성 확보를 위한 도구 활용 방안을 공유했다.

마이크로소프트는 자사 플랫폼 ‘애저 AI 파운드리(Azure AI Foundry)’를 기반으로 에이전트 AI를 구축한 고객사 사례를 통해 에이전트 AI 구축을 위한 오픈소스 모델·도구 활용 가능성을 제안했다. 네이버는 자사 오픈소스 모델 ‘하이퍼클로바X(HyperClovaX)’와 더불어 공개 데이터셋과 벤치마크, AI 안전성 프레임워크 등 안전한 오픈소스 활용을 위한 도구를 소개했다.

한국 개인정보위를 비롯한 영국, 이탈리아, 브라질 등 4개국 개인정보 감독기구가 패널로 참석한 라운드테이블도 진행됐다. 4개국 감독기구는 오픈소스 AI 생태계에서의 프라이버시 고려사항에 대해 논의하고, 개방성과 투명성에 기반한 신뢰할 수 있는 AI 구현 필요성에 공감대를 모았다.

최장혁 개인정보위 부위원장은 “이번 오픈소스 데이는 에이전트 AI와 같은 혁신 서비스의 기반이 되는 오픈소스 AI 생태계와 개인정보 보호를 함께 고민하는 국내 첫 공개 논의의 장으로 의미가 크다”며 “기업과 연구자들이 안심하고 오픈소스를 활용할 수 있도록 현장의 목소리를 경청하여 정책에 적극 반영하겠다”고 밝혔다.