AI 모델 경량화·최적화 기업 노타가 자체 플랫폼 ‘넷츠프레소(NetsPresso)’를 활용해 정부의 국가 AI 사업 ‘모두의 AI’에 참여한다. 노타는 SK텔레콤이 이끄는 컨소시엄에서 AI 모델 인프라 분야를 담당하며, 모델 특성과 하드웨어 환경을 분석해 연산량과 메모리 사용량을 줄이는 기술을 적용한다. 이를 통해 데이터센터, 기업 서버, 엣지 디바이스 등 서로 다른 인프라 환경에서도 AI 모델이 안정적으로 구동되도록 지원한다.
넷츠프레소 기반 경량화 기술
‘모두의 AI’는 과학기술정보통신부와 정보통신산업진흥원이 추진하는 사업으로, 국민 누구나 일상에서 AI를 활용할 수 있도록 하는 것을 목표로 한다. 여러 AI 모델과 에이전트를 동시에 운영할 경우 연산량, 메모리, 응답속도 관리가 중요해지는데, 노타는 이 지점에서 넷츠프레소를 통해 모델이 처리해야 할 연산 부담을 줄이는 역할을 맡는다. AI 모델 개발과 이를 대규모 서비스 환경에서 운영하는 것은 서로 다른 문제로, 노타는 후자의 효율화를 전담한다.
산업 밸류체인에서의 위치
노타는 앞서 SK텔레콤 컨소시엄의 ‘독자 AI 파운데이션 모델(독파모)’ 프로젝트에 참여한 데 이어, 이번에는 서비스 운영 단계의 최적화를 맡으며 국가 AI 생태계 구축 전 과정에 관여하게 됐다. 채명수 노타 대표는 “국가 AI 경쟁력은 우수한 모델 개발을 넘어 국민이 실제 사용하는 서비스를 구현하고 이를 대규모 환경에서도 빠르고 안정적으로 운영하는 역량에서 완성된다”고 말했다.
‘모두의 AI’는 국민 대상 공공·생활 서비스에 AI를 적용하는 데서 시작해 향후 실행형 AI로 발전하는 것을 목표로 한다. 채 대표는 “‘모두의 AI’에서도 모델 개발부터 실제 서비스 운영까지 최적화 역량을 폭넓게 적용해 대한민국이 독자적인 AI 기술과 활용 기반을 갖추는 데 기여하겠다”고 밝혔다. 노타의 경량화·최적화 기술은 모델 개발 단계를 넘어 실제 서비스 운영 인프라까지 폭넓게 적용될 예정이다.