챗GPT 활용하면서 정보 유출도 막으려면…'AI 보안' 시장 열린다

[이데일리 함정선 기자]



“챗GPT를 업무에 활용하면서 기업의 정보 유출을 막는 방법은 없을까.”

최근 생성형AI 서비스가 확대하며 이 같은 고민을 하는 기업들이 늘고 있다. 삼성전자를 비롯해 SK하이닉스와 포스코, 쿠팡 등 여러 기업은 챗GPT를 사내에서 사용하지 못하도록 막고 있고, 삼성SDS와 같은 일부 기업들은 직원들이 챗GPT를 사용하려 하면 정보가 유출될 수 있다는 경고문을 뜨도록 하고 있다. 정부 역시 기밀 유출 등을 우려, 국정원이 각 부처에 챗GPT 사용에 주의하라고 안내하기도 했다.

그러나 AI 사용을 언제까지 금지만 할 수 없다는 얘기도 나온다. AI를 활용할 경우 업무 시간을 줄일 수 있고, 업무 효율도 높일 수 있기 때문이다. 때문에 삼성전자는 자체 AI 서비스를 만들어 직원들의 업무 향상을 돕겠다는 계획도 세웠다.

다만, 모든 기업이 삼성전자처럼 자체 서비스를 만들기는 쉽지 않다. AI 구축 자체에 비용이 소요되고, 초거대AI를 바탕으로 한 챗GPT와 같은 서비스 품질을 보장하기도 어려워서다.

이에 보안·솔루션 업계에서는 이 같은 기업들의 고민을 덜기 위한 새로운 솔루션과 서비스를 선보이거나 개발하며 새로운 시장 공략에도 나서고 있다. 기업 맞춤 보안 환경을 제공하는가 하면, 단어나 문장 등을 모니터링해 정보 유출을 막는 방법 등이 동원되고 있다.

LG CNS는 마이크로소프트(MS)와 협력해 AI를 활용하고자 하는 기업들을 위한 보안 아키텍처를 구축하기로 했다. MS의 클라우드인 ‘애저’의 AI 서비스를 기반으로 한 솔루션이다. LG CNS는 기업의 사업 환경과 IT시스템을 분석해 보안이 필요한 요소를 정하고 이에 대한 아키텍처를 구축한다.

기업마다 지켜야 할 정보 등이 다르다는 점에 착안, AI를 통해 어떤 정보가 유출되면 안 될지를 정하고, 이를 제어할 수 있는 ‘맞춤 보안 환경’을 만들어주는 것이 핵심이다.

지란지교데이터는 챗GPT 모니터링 기능을 포함한 보안 솔루션인 ‘AI필터’를 선보였다. 직원이 챗GPT에 입력하는 내용을 모니터링해 사내 주요 정보가 유출되지 않도록 방지하는 기능이 특징이다.

생성AI에 특정 키워드나 문장 등이 입력되는 것을 탐지할 때마다 이를 차단해 기업의 정보를 AI가 학습하거나 유출되지 않도록 하는 방식이다. 특히 지란지교데이터는 생성형AI와 함께 번역 등 서비스에서도 정보가 유출되지 않도록 하는 솔루션도 개발할 계획이다.

GPT를 여러 업무용 툴에 접목하며 빠르게 AI 시장 선점에 나선 MS는 정보 유출을 사전에 차단할 수 있는 ‘프라이빗 챗GPT’ 버전 출시를 준비하고 있는 것으로 알려졌다.

외신들에 따르면 MS는 기업 내부 유출 걱정을 없앤 ‘프라이빗 챗GPT’ 출시를 계획하고 있다. 프리이빗 챗GPT는 기업 내에서 챗GPT를 사용할 경우 해당 데이터를 별도 공간에 저장하는 방식으로 운영할 예정이다. 애저 클라우드에 해당 기업만의 서버를 제공, 챗GPT를 이용한 데이터가 유출되지 않고 여기에만 저장되는 방식이다.

이처럼 기업의 정보유출에 대한 우려가 커지면서 챗GPT 제공 기업인 오픈AI도 유료 고객은 데이터를 학습시키지 않겠다는 의지를 밝히기도 했다. 그간은 초거대AI인 GPT 등이 데이터를 학습했지만, 앞으로는 이를 막겠다는 것. 이를 위해 오픈AI는 최근 약관을 변경하기도 했다.

샘 알트먼 오픈AI 최고경영자는 최근 인터뷰에서 “고객들이 자신의 데이터를 학습하지 않기를 원하기 때문에 계획을 변경했다”며 “한동안 GPT를 학습시키지 않았다”고 말했다.

다만, 오픈AI는 약관에서 API(응용프로그램인터페이스) 사용자가 아닌 일반 고객이 챗GPT를 사용할 때 정보는 학습할 수 있다고 밝혀 여전히 개인 사용자들의 정보 유출 우려는 남아 있다는 지적도 있다.