LLM 추론에 특화된 AI 반도체 LPU(LLM Processing Unit)를 개발하는 하이퍼엑셀의 김주영 대표가 MIT 테크놀로지 리뷰 코리아의 ‘THE AI 30: 한국 AI의 미래를 바꾸는 30인’에 선정됐다. 하이퍼엑셀(HyperAccel)은 2023년 설립된 AI 반도체 팹리스 스타트업이고, 김 대표는 KAIST 교수를 겸하고 있다.
THE AI 30은 MIT 테크놀로지 리뷰 코리아의 연간 기획으로, 한국 AI 산업에 기여한 인물 30인을 뽑는다. 최근 1년간 확인된 연구·기술·사업 성과를 바탕으로 산업 변화를 이끈 인물을 조명하는 기획이다. 김 대표는 LLM 추론에 특화된 AI 반도체 LPU 개발을 주도해 왔다.
기술 사양: 추론에 맞춘 LPU 아키텍처
하이퍼엑셀은 AI 모델 학습과 추론 과정의 특성이 다르다는 점에 주목하고, LLM 추론에 최적화된 반도체 아키텍처를 개발하고 있다. LPU는 저전력 특성의 메모리 규격인 LPDDR5X를 활용하는 구조다. 회사는 성능을 평가할 때 비용·전력 대비 토큰 처리량을 중시하는 전략을 이어가고 있다.
LLM 서비스 이용량이 증가할수록 추론에 필요한 연산 자원과 전력 비용도 늘어난다. 하이퍼엑셀은 토큰 처리 효율을 높이는 반도체 기술을 확보해 경쟁력으로 삼는다는 전략이다.
제품은 두 갈래다. Bertha는 데이터센터·엔터프라이즈용 AI 가속기이고, Bertha-Edge는 온디바이스 AI용 제품이다. 회사는 앞으로 엣지 디바이스와 피지컬 AI로 적용 범위를 넓힐 방침이다.
김주영 대표는 “AI 산업의 경쟁은 모델의 성능을 넘어 이를 얼마나 효율적으로 운영하고 실제 산업에 적용할 수 있는지로 확장되고 있다”고 말했다.
사업 현황: 투자와 글로벌 거점
김주영 KAIST 교수가 2023년 설립한 하이퍼엑셀은 현재 시리즈B 투자유치를 진행 중이다. 회사가 밝힌 누적 투자유치액은 2100억원이다.
서울 본사와 미국 실리콘밸리 거점을 기반으로 글로벌 시장 진출도 추진하고 있다. 수상 이력으로는 2025년 IEEE Micro 최우수 논문 선정이 있다. 대만 ICT Grand Challenge에서는 AI 코어 기술·칩 부문을 수상했고, 2026년에는 정보통신유공 정부포상 포장과 월드IT쇼(WIS) 혁신상 부총리상도 받았다. 포브스 아시아 ‘100 To Watch’ 명단에도 이름을 올렸다.
김 대표는 “하이퍼엑셀은 LLM 추론에 특화된 반도체 기술로 AI 인프라의 비용과 전력 효율을 높이고, 더 많은 기업이 AI를 효율적으로 활용할 수 있도록 기여하겠다”고 밝혔다.