아카마이 테크놀로지스(아카마이코리아 대표 이경준)가 아카마이 클라우드에 엔비디아 블랙웰 울트라 GPU 클러스터를 추가했다. 또 AI 모델을 서빙하는 매니지드 추론 서비스 ‘아카마이 인퍼런스’와 AI 에이전트 코드 격리 실행 환경 ‘아카마이 에이전트 샌드박스’를 출시했다. 두 서비스는 모두 현재 베타다.
아카마이는 고밀도 CPU·GPU 클러스터가 있는 코어 리전부터 전 세계 4350개 이상의 엣지 로케이션까지 연결된 인프라를 활용한다. 회사는 아카마이 클라우드가 다년 계약 기준으로 140억 달러 이상의 총 계약 규모를 확보했다고 설명했다.
GPU 사양: 블랙웰 울트라 노드와 베라 루빈 준비
블랙웰 울트라 노드 하나는 GPU 8개로 구성된다. HBM3e 메모리는 GPU당 288GB, 노드 전체로는 약 2.3TB다. 긴 컨텍스트 처리와 복잡한 추론, 에이전트 기반 작업처럼 메모리를 많이 쓰는 워크로드를 뒷받침하려는 사양이다.
저지연 추론에는 엔비디아 RTX 프로 6000 블랙웰 서버 에디션이 쓰인다. 아카마이는 이 GPU에서 블랙웰 울트라 클러스터까지 제품군을 구성했다. 또 2027년 엔비디아 베라 루빈 플랫폼을 지원하기 위해 데이터센터 준비 작업을 진행하고 있다.
아카마이 인퍼런스 베타에서 NVIDIA B300 GPU 클러스터를 지원하는지와 세부 일정은 영업팀에 확인해야 한다.
아카마이 인퍼런스: 서버 관리 없는 모델 서빙
아카마이 인퍼런스는 서버를 직접 관리하지 않고 오픈 웨이트 모델과 맞춤형 모델을 사용할 수 있는 매니지드 추론 서비스다. OpenAI 호환 API를 제공하며, 서버리스 추론과 전용 배포 중에서 고를 수 있다.
출시 시점 모델 카탈로그에는 오픈 웨이트 모델 12종이 올라 있다. 엔비디아 네모트론 3 울트라, 오픈AI gpt-oss-120b, 구글 젬마 4 등이 포함되며, 규모는 80억 개(8B)에서 2조8000억 개(2.8T) 매개변수까지다. RAG용 임베딩 모델도 함께 제공된다.
에이전트 샌드박스: 코드 실행 환경 분리
아카마이 에이전트 샌드박스는 AI 에이전트가 작성한 코드를 기존 런타임과 분리된 환경에서 실행한다. 에이전트는 아카마이 펑션에서 돌아가며, 웹어셈블리 기반 격리로 자원·메모리·네트워크 접근을 제한한다. 샌드박스는 프레임워크 스핀의 오픈소스 컴포넌트로 제공된다.
AI 에이전트가 자체 코드를 생성하더라도 실행 환경과 권한을 분리해 위험을 줄이는 방식이다. 에이전트가 접근할 수 있는 대상과 외부 시스템이 에이전트에 접근할 권한을 관리하는 기능은 추가될 예정이다.
출시 배경과 회사 설명
기업의 AI 활용이 실제 서비스 운영으로 확대되면서 AI 인프라 요구사항이 달라지고 있다. 추론 속도, 운영 비용, 기업 데이터 연결, 보안 관리, 에이전트 실행 권한 통제 수요가 커졌으며, 클라우드 기업들은 이러한 수요에 대응해 추론과 에이전트 실행 환경을 통합한 서비스를 확장하고 있다.
아담 캐런 아카마이 클라우드 최고운영책임자(COO) 겸 총괄(GM)은 고객이 원하는 것을 “고객은 단일 플랫폼에서 AI를 구축, 실행, 보호하기를 원한다”라고 말했다. 그는 “아카마이 인퍼런스와 아카마이 에이전트 샌드박스는 아카마이의 AI 인프라에 추론 및 실행 계층을 추가하며, 보안 포트폴리오는 이 모든 계층을 보호한다”라고도 설명했다.
존 알렉산더 아카마이 클라우드 기술 부문 수석 부사장은 “기업이 AI를 프로덕션 환경에 적용할 때 속도와 통제권의 균형을 두고 고민할 필요가 없다”라고 말했다. 이어 “매니지드 플랫폼과 전용 GPU, 에이전트 코드의 보안 경계를 단일 플랫폼에서 지원한다”라고 밝혔다.