고성능 및 에너지 효율 서버 솔루션 분야의 글로벌 리더이자 MiTAC 홀딩스(MiTAC Holdings Corporation, TSE:3706)의 자회사인 MiTAC 컴퓨팅 테크놀로지(MiTAC Computing Technology Corporation)가 엔비디아(NVIDIA) GTC 2026(부스 #100) 참가를 발표했다. '유연한 설계의 엔터프라이즈 AI(Enterprise AI, Flexible by Design)'를 주제로, MiTAC은 엔비디아 MGX 기반 AI 서버의 최신 혁신 기술과 종합 AI 턴키 솔루션을 선보인다.

엔비디아, AMD, DDN, 인텔(Intel), 마이크론(Micron), 라파이(Rafay), 샌디스크(Sandisk), 솔리다임(Solidigm) 등 업계 리더들과의 협력을 통해, MiTAC은 가속 컴퓨팅과 차세대 데이터 센터를 발전시키며 AI 학습, 추론, 검색 증강 생성(RAG) 애플리케이션을 위한 엔드투엔드 역량으로 고객을 지원한다.

라파이와 함께하는 AI 인프라 관리 플랫폼 강화

현대 AI 워크로드의 복잡성에 대응하기 위해, MiTAC은 자사 하드웨어를 고급 소프트웨어 스택과 통합해 원활한 GPU 관리와 고성능 스토리지 애플리케이션을 구현했다. 라파이와의 전략적 파트너십을 통해 MiTAC은 대규모 컨테이너화 환경을 관리할 수 있는 통합 컨트롤 플레인을 구현한다. 이 협업은 기업들이 슬럼(Slurm) 컨트롤러를 통한 쿠버네티스(Kubernetes) 오케스트레이션과 HPC 및 AI 워크로드의 자동 디스패칭을 간소화할 수 있도록 지원한다. 복잡한 오케스트레이션을 단순화함으로써, MiTAC과 라파이는 조직이 엔터프라이즈급 운영 거버넌스를 유지하면서 AI 워크로드를 효율적으로 확장할 수 있도록 한다.

"MiTAC과의 협업은 대규모 컨테이너 클러스터를 관리하는 통합 플랫폼을 제공함으로써 현대 AI의 복잡성을 단순화한다. 라파이의 소프트웨어 스택을 MGX 아키텍처 기반의 MiTAC 시스템과 통합함으로써, 기업들이 슬럼을 통한 쿠버네티스 오케스트레이션과 AI 워크로드 디스패칭을 자동화하고 효율적인 확장과 엄격한 운영 제어를 보장할 수 있도록 지원한다." — 하시브 부다니(Haseeb Budhani), 라파이의 공동 창업자 겸 최고경영자

이 고급 파드 관리 솔루션(Pod Management Solution)은 엔비디아 MGX 레퍼런스 아키텍처 기반의 MiTAC 차세대 G 시리즈 고처리량 4U AI 파워하우스(Next-gen G Series High-throughput 4U AI Powerhouse)로 구동된다. 이 4U 2 소켓 서버는 최신 듀얼 AMD EPYC™ 'Venice' 프로세서를 탑재하고 최대 8개의 더블 와이드 GPU를 지원한다. 배포 유연성을 위해 설계된 이 플랫폼은 NVIDIA H200 GPU뿐만 아니라 NVIDIA RTX PRO 4500 Blackwell 서버 에디션 또는 NVIDIA RTX PRO 6000 Blackwell 서버 에디션을 장착할 수 있다. E3.S PCIe Gen 5 폼 팩터의 Micron® 9550 NVMe™ SSD 또는 Solidigm™ D7-PS1010 드라이브를 통합하고, 8개의 400GbE LAN 포트(NVIDIA ConnectX-8 SuperNICs 기반)를 통한 고속 네트워킹을 제공한다. 대규모 생성형 AI 학습 및 추론을 위해 특별히 설계된 이 시스템은 현대 AI 팩토리와 엔터프라이즈 AI 구축에 필요한 대용량 처리량, 저지연, 확장성을 제공한다.

대안적인 구성을 원하는 조직을 위해, MiTAC은 듀얼 Intel® Xeon® 6700P 기반 8개 GPU를 갖춘 MGX 기반 4U 플랫폼도 선보인다. 이 구성은 E1.S PCIe Gen 5 폼 팩터의 Micron® 9550 NVMe™ SSD 또는 Solidigm™ D7-PS1010 드라이브와 Micron® DDR5 DRAM을 통합한다.

DDN의 지능형 AI 데이터 플랫폼으로 턴키 AI 추론 및 RAG 솔루션 구현

멀티모달 RAG 파이프라인의 집약적인 데이터 요구를 해결하기 위해, MiTAC과 DDN은 세계에서 가장 빠른 턴키 AI 추론 및 RAG 솔루션을 선보이기 위해 파트너십을 맺었다. 이 협업은 즉각적인 AI 추론 응답을 위한 초저지연 문서 검색을 제공하고, 데이터 이동을 최소화해 고처리량 AI 워크로드를 지원함으로써 GPU 활용률을 극대화하는 DDN 인피니아(DDN Infinia)를 특징으로 한다. RTX PRO GPU가 장착된 엔비디아 MGX 기반 MiTAC 서버를 활용하는 이 솔루션은 엔터프라이즈 AI 애플리케이션에 최적화되어 있으며, 랙 및 클러스터 구축 전반에 걸쳐 원활한 확장성을 제공한다.

솔루션 아키텍처는 엔비디아 MGX 기반의 MiTAC 차세대 4U AI 플랫폼과 엔비디아 MGX 기반의 R1917GC 관리 서버를 결합하여, 코어, 엣지 및 관리 계층에 걸친 통합 AI 인프라를 구성한다. 엔비디아 그레이스(NVIDIA Grace) 또는 엔비디아 베라(NVIDIA Vera) CPU로 구동되는 R1917GC는 엄격한 전력 제약 내에서 LPDDR5X를 사용해 탁월한 컴퓨팅 밀도와 메모리 대역폭을 제공한다. U.2 PCIe Gen 5 폼 팩터의 Micron® 6550 ION NVMe™ SSD, Sandisk SN861 또는 Solidigm™ D7-PS1010 드라이브와 RDMA 지원 연결을 통합한 이 시스템은 쿠버네티스 컨트롤 노드, 스토리지 헤드, 엣지 AI 컴퓨팅 플랫폼으로 기능하며, 분산 구축 전반에 걸쳐 효율성을 극대화하고 총 소유 비용을 절감한다.

AI 규모의 데이터 레이크 아키텍처를 위한 견고한 기반을 구축하기 위해, 솔루션은 GC68A-B8056 스토리지 서버를 통합한다. GC68A-B8056은 DDR5-4800 메모리를 지원하는 24개의 DIMM 슬롯과 고성능 스토리지 밀도를 위한 12개의 핫스왑 가능한 툴리스 NVMe U.2 드라이브 베이를 갖춘 1U 싱글 소켓 고밀도 플랫폼이다. 또한 PCIe 5.0 x16 OCP v3.0 LAN 메자닌 슬롯과 부팅 드라이브용 듀얼 NVMe M.2 슬롯을 포함해, 대규모 AI 데이터셋 및 분석 워크로드에 필요한 고속 데이터 수집과 지속적인 처리량을 구현한다.

"라파이 및 DDN과의 전략적 파트너십을 통해, MiTAC은 학습, 추론, RAG 애플리케이션의 전체 라이프사이클을 아우르는 종합적인 턴키 AI 인프라를 제공한다. 엔비디아 MGX 아키텍처 기반의 유연한 서버 설계를 라파이의 고급 AI 인프라 오케스트레이션 및 DDN의 지능형 AI 데이터 플랫폼과 통합함으로써, 차세대 데이터 센터를 위한 세계 최고 수준의 엔드투엔드 솔루션을 고객에게 제공하고 있다." – 릭 황(Rick Hwang), MiTAC 컴퓨팅 대표