이민아 | 기자 작성일 2026년 04월 12일
중국 딥시크가 화웨이 칩에 최적화한 차세대 모델을 앞세워 '탈(脫) 엔비디아' 흐름을 이끄는 가운데, 국내에서도 NPU(신경망처리장치)를 중심으로 한 AI 인프라 재편이 본격화되고 있다. GPU 중심 구조에서 벗어나 전력 효율과 비용 경쟁력을 중시하는 방향으로 산업의 축이 이동하는 모습이다.
이 같은 변화는 AI 산업의 무게중심이 대규모 학습에서 실제 서비스 단계인 '추론(inference)'과 에이전트 운영으로 이동하는 흐름과 맞물린다. 학습에서는 GPU가 강점을 보이지만, 서비스 단계에서는 효율성과 확장성이 중요해지면서 NPU가 대안으로 부상하고 있다.
"GPU에서 NPU로"…SKT·Arm·리벨리온 '원팀'
국내에서는 SK텔레콤이 Arm, 리벨리온과 함께 'CPU+NPU' 기반 AI 서버 구축에 나서며 변화를 주도하고 있다. Arm CPU가 시스템을 총괄하고, 리벨리온 NPU가 AI 추론을 담당하는 구조다.
이번 협력은 단순 기술 제휴를 넘어 투자와 인프라까지 결합된 '원팀 전략'으로 평가된다. SK그룹과 Arm이 리벨리온에 전략적 투자를 단행한 만큼, 설계부터 서비스까지 이어지는 수직 통합 구조가 형성되고 있다는 분석이다. 핵심은 GPU 의존도를 낮추고, 추론 특화 NPU로 효율을 극대화하는 데 있다.
글로벌 시장에서도 유사한 흐름이 감지된다. Arm, AMD, 인텔이 AI 칩 시장 주도권을 두고 직접 경쟁에 나서면서, 기존의 '설계-제조' 분업 구조가 빠르게 해체되고 있다. Arm은 자체 AI CPU 전략을 강화하고 있고, AMD는 GPU와 서버 CPU를 앞세워 점유율 확대에 나섰다. 인텔 역시 차세대 공정과 AI PC 플랫폼을 기반으로 반격을 모색 중이다.
삼성SDS·퓨리오사AI, NPU 클라우드 확산
국내 클라우드 시장에서도 변화가 감지된다. 삼성SDS는 퓨리오사AI와 협력해 NPU 기반 클라우드 서비스(NPUaaS)를 7월 출시할 예정이다. 2세대 NPU 'RNGD(레니게이드)'를 삼성 클라우드 플랫폼(SCP)을 통해 구독형으로 제공하는 방식으로, 고객은 별도 장비 없이 AI 인프라를 활용할 수 있다.
서비스가 상용화되면 1장부터 8장 단위까지 유연한 자원 활용이 가능하고, 스토리지·네트워크 등 기존 클라우드 서비스와의 연계도 지원된다. 리벨리온 NPU가 KT클라우드를 통해 서비스된 데 이어 가비아도 관련 서비스를 선보이며 시장 참여가 확대되는 추세다. 업계에서는 이를 GPU 중심 구조에서 NPU 기반으로 전환되는 신호로 해석한다.
성능과 비용 측면에서도 경쟁력이 강조된다. 퓨리오사AI는 "해외 고객사 벤치마크 기준 동일 전력 조건에서 엔비디아 RTX PRO 6000 대비 최대 7배 이상의 효율을 보였고, 총소유비용(TCO)을 약 40% 절감할 수 있다"고 밝혔다.