AI 클러스터에서 GPU 서버와 가속기가 멈췄을 때 부품이 오기를 기다리지 않도록, 핵심 교체 부품과 공장용 진단 장비를 데이터센터 현장에 두는 서비스가 나왔다. AI 인프라 기업 KAYTUS가 AI 데이터센터와 하이퍼스케일 컴퓨팅 클러스터를 위한 통합 하드웨어 유지보수·기술 지원 서비스 'OEM AI 매니지드 서비스(OEM AI Managed Service)'를 출시했다. 회사는 현장 지원 모델을 적용하면 하드웨어 복구 시간을 업계 일반 서비스 수준보다 30% 이상 줄일 수 있다고 설명한다.
핵심 부품이 현장에 준비돼 있으면 수리는 최단 4시간 이내에 가능하다고 KAYTUS는 밝혔다. 서비스는 유지보수 기능 다섯 가지를 통합해 제공한다.
기술 사양: 부품 비축과 OEM 수준 수리 체계
서비스는 핵심 교체 부품을 현장에 비축하고, 공장에서 쓰는 진단 장비와 수리 도구를 현장에 배치하는 방식이다. OEM 인증 엔지니어와 Tier 2 전문가는 24시간 기술 지원을 맡는다. 부품 조달이 늦어지거나 장비를 공장으로 돌려보내느라 복구가 길어지는 문제를 줄이는 것이 목적이다. 랙당 전력 밀도가 40kW를 넘는 최근 AI 데이터센터에서는 장비와 네트워크, 냉각 시스템이 촘촘히 얽혀 장애 원인을 찾는 일도 복잡해질 수 있다.
AI 기반 장애 예측과 선제 점검 기능도 포함된다. KAYTUS의 기존 지능형 운영·관리 플랫폼 KSManage와 연동을 지원하며, 서비스 수준을 계약상 이행 기준으로 구체화하는 것을 목표로 한다.
KAYTUS 코리아 엔터프라이즈 사업부 기술 총괄 이사 나한돌은 “컴퓨팅 자산의 가치는 구축 초기의 규모보다 운영 기간 내내 얼마나 안정적으로 연산 자원을 제공하느냐에 달려 있다”고 말했다. 그는 “KAYTUS AI 매니지드 서비스는 고객이 하드웨어 복구를 막연히 기다리지 않도록, 측정 가능한 서비스 수준을 약속한다”고도 했다.
글로벌 CSP 고객사 적용 사례
KAYTUS가 공개한 사례는 이름을 밝히지 않은 글로벌 주요 CSP(클라우드 서비스 제공업체) 고객사다. 이 고객사의 운영 환경은 100개 이상의 랙과 수천 개의 AI 가속기 규모다. 서비스 도입 후 장애 노드 1대당 평균 처리 시간은 48시간에서 12시간으로 줄어 75% 감소했다.
학습·추론 워크로드의 실제 연산 가동 시간은 50% 늘었다. 다운타임과 워크로드 재시작 횟수가 줄면서 이 고객사의 잠재적 SLA 보상 부담은 수백만 달러 감소했다고 회사는 제시했다.
밸류체인에서의 위치: 클러스터 규모와 장애 비용
KAYTUS는 서비스 배경 자료로 가트너 전망을 인용했다. 2026년 전 세계 AI 관련 지출은 2조6700억 달러이며, 이 가운데 AI 인프라 투입 예상액은 약 1조4800억 달러다. AI 인프라 운영 안정성이 중요해진 배경에는 클러스터 규모 확대가 있다.
메타의 라마(Llama) 3.1 405B 사전 학습 클러스터는 1만6384개 GPU 규모였다. 기술 보고서에 따르면 54일간 예기치 못한 중단이 419회 발생해 평균 약 3시간마다 한 번꼴이었고, 하드웨어 장애가 원인으로 확인됐거나 의심된 비율은 약 78%였다. SOSP 2025에서 발표된 연구는 3개월 동안 77만8000건 이상의 학습 작업을 분석해 4만4000건 이상의 장애를 기록했다.
업타임 인스티튜트의 2026년 장애 분석에서는 응답자의 57%가 가장 최근 중대 장애 비용이 10만 달러를 넘었다고 답했다. 5명 중 1명은 손실이 100만 달러를 초과했다고 밝혔다. 일부 컴퓨팅 자원 임대 계약에는 중대한 SLA 위반 시 월 임대료의 최대 25%를 보상하는 조항이 있다.
AI 데이터센터 사업자에게 장애 복구 시간은 기술적 운영 지표이면서 수익성과 고객 신뢰에 영향을 미치는 요소다.
제공 지역과 국내 계획
서비스는 영국·독일·프랑스·네덜란드·핀란드·폴란드·아이슬란드 등 유럽과 일본·한국 등 아시아태평양에서 제공되고 있다. KAYTUS는 국내 데이터센터 현장의 유지보수와 기술 지원을 강화할 계획이다. 해당 시에는 유럽연합 일반개인정보보호규정(GDPR)을 서비스 운영 절차에 반영한다.