퓨리오사AI·망고부스트, ‘AI 데이터센터 병목’ 겨냥 맞손…가속기-네트워킹 결합 추진

[이데일리 김현아 기자] AI 반도체(NPU) 스타트업 퓨리오사AI와 데이터센터 인프라 효율화 스타트업 망고부스트가 차세대 AI 데이터센터 시장 공략을 위해 협력에 나섰다.

전력 소모가 큰 GPU 중심 인프라의 한계를 줄이기 위해, AI 연산 가속기와 네트워킹·데이터 처리 가속(DPU)을 결합해 데이터센터 전성비를 끌어올리겠다는 구상이다.

양사는 최근 차세대 AI 인프라 기술 공동 개발을 위한 업무협약(MOU)을 체결하고, 데이터센터 환경에서의 성능·효율 최적화 기술을 함께 개발·검증하는 협력 체계를 구축하기로 했다.

퓨리오사AI 백준호 대표이사와 망고부스트 김장우 대표이사[사진=퓨리오사AI]

현재 글로벌 시장에서는 대규모 언어모델(LLM) 추론 수요가 폭증하는 가운데, 전력·냉각·공간 등 ‘인프라 제약’이 확대되면서 연산칩 자체 성능뿐 아니라 네트워크·스토리지·데이터 이동을 포함한 시스템 최적화의 중요성이 커지고 있다.

퓨리오사AI는 AI 연산에 특화된 칩 아키텍처와 소프트웨어 스택을 바탕으로, 데이터센터용 AI 가속기 시장에 도전해온 국내 팹리스다.망고부스트는 DPU 기반으로 네트워크·시스템 최적화 기술을 개발하며 데이터센터 운영 효율을 높이는 솔루션을 지향해 왔다.

망고부스트가 DPU를 통해 데이터센터 인프라 효율을 높이는 방향성은 국내 다른 AI 반도체 기업들과의 협력 사례에서도 확인된 바 있다.

양사의 협력은 “AI 반도체 성능”과 “데이터센터 병목(데이터 이동·네트워크 오버헤드)”을 함께 줄이려는 시도로 해석된다.

GPU가 맡던 일부 연산을 AI 가속기가 담당하고, 데이터 이동과 네트워크 처리 부담을 DPU가 분산·가속하면 전력 대비 처리량을 높일 여지가 생긴다.

특히 대규모 추론 서비스는 ‘연산’만큼이나 ‘데이터를 얼마나 효율적으로 옮기고 처리하느냐’가 비용과 지연시간을 좌우한다는 점에서, 가속기-DPU 결합은 데이터센터 설계의 핵심 변수로 떠오르고 있다.

퓨리오사AI 백준호 대표는 “차세대 AI 데이터센터의 경쟁력은 고성능 AI 반도체와 네트워킹 칩을 얼마나 긴밀하고 효율적으로 결합하느냐에 달려 있다. 퓨리오사AI는 망고부스트와의 협력을 통해 대한민국 AI 인프라 기술의 새로운 가능성을 보여주겠다”라고 말했다.

망고부스트 김장우 대표는 “이번 협약은 대한민국을 대표하는 AI 반도체 스타트업 간의 전략적 결합이라는 점에서 의미가 크다”며 “양사의 혁신 기술을 결합해 효율적이고 지속가능한 차세대 데이터센터의 표준을 제시하겠다”고 밝혔다.