AI 인프라 솔루션 기업 모레(MOREH, 대표 조강원)가 엔비디아 H100과 AMD MI300X 등 서로 다른 아키텍처의 가속기를 하나의 논리적 클러스터로 통합해 처리량을 최대 1.67배 향상시키는 분산 추론 기술을 공개했다. 모레는 미국 산타클라라 컨벤션센터에서 열린 ‘AI 인프라 서밋 2026’에서 이 같은 이기종 가속기 기반 분산 추론 기술과 함께 데이터센터 운영체제인 ‘토큰 팩토리 OS’를 발표했다. 이 행사는 2026년 9월 15~17일(현지시간) 진행됐으며 8000명 이상의 업계 관계자와 250개 이상의 파트너사가 참여했다.
H100·MI300X 역할 분담으로 처리량 최적화
모레가 공개한 핵심 기술은 MoAI Inference Framework다. 이 프레임워크는 엔비디아 H100, AMD MI300X, 텐스토렌트 하드웨어 등 세대와 아키텍처가 다른 가속기를 하나의 논리적 클러스터로 묶어 마치 단일 자원처럼 운영할 수 있게 한다. 실제 구성에서는 프리필 연산을 H100이, 디코드 연산을 MI300X가 맡도록 역할을 나눴고, 모레의 분산 추론 소프트웨어가 두 가속기 사이의 데이터를 연결하는 방식이다.
이런 이기종 구성은 동일 벤더 가속기로만 구성했을 때보다 최대 1.67배 높은 처리량을 기록한 것으로 나타났다. 특정 세대·특정 벤더의 가속기 하나로 맞추는 대신, 서로 다른 하드웨어의 장점을 조합해 성능을 끌어올린 결과라는 설명이다.
GPU 보유량 아닌 토큰 생산 효율이 경쟁 기준
조강원 모레 대표는 “AI 데이터센터는 이제 GPU를 제공하는 공간에서 토큰을 생산하고 판매하는 ‘토큰 팩토리’로 진화하고 있다”며 “중요한 것은 특정 GPU의 성능이 아니라 서로 다른 가속기를 얼마나 효율적으로 활용해 낮은 비용으로 토큰을 생산하느냐”라고 말했다. AI 데이터센터를 둘러싼 경쟁의 기준이 GPU 보유량에서 토큰 생산 효율로 옮겨가고 있다는 진단이다.
조 대표는 이어 “다양한 종류와 세대의 가속기를 하나의 인프라처럼 활용할 수 있는 분산 추론 소프트웨어가 필요하다”며 “고객이 특정 하드웨어에 종속되지 않고 자신에게 효율적인 토큰 팩토리를 구축할 수 있도록 지원하겠다”고 밝혔다. 데이터센터 사업자가 엔비디아나 AMD 등 단일 공급사에 묶이지 않고, 보유한 여러 세대의 가속기를 조합해 비용 효율을 최적화할 수 있도록 하는 것이 이번 기술의 목표다.
AI 모델 영역까지 넓히는 사업 범위
모레는 하드웨어 조합 기술을 넘어 AI 모델 영역으로도 사업 범위를 넓히고 있다. 자회사인 모티프테크놀로지스는 AI 파운데이션 모델을 개발하는 회사로, 모레의 인프라 소프트웨어 전략과 함께 회사의 사업 축을 이루고 있다. 이번 ‘AI 인프라 서밋 2026’ 발표는 반도체 가속기 하드웨어와 소프트웨어를 아우르는 모레의 토큰 팩토리 전략을 업계에 보여준 자리였다.