IoT·임베디드 보안기업 쿤텍이 온디바이스 AI 모델의 구조와 파라미터를 외부 분석으로부터 보호하는 난독화 기술을 개발했다. 쿤텍은 한국전자통신연구원(ETRI)이 주관하는 ‘On-Device AI 정보 유출 방지를 위한 AI 구현 정보 은닉 기술 개발’ 공동연구 과제의 2차년도 연구를 통해 이 기술을 확보했으며, 관련 특허 2건을 출원했다. 온디바이스 AI는 응답속도와 프라이버시 측면에서 이점이 있지만, 모델과 프로그램이 기기 자체에 배포되는 구조이기 때문에 기기를 확보하면 모델 구조와 파라미터, 핵심 로직이 외부 분석에 노출될 위험이 있다.
MLIR Pass 단위로 모델 구조 변형
쿤텍의 기술은 AI 모델을 MLIR(Multi-Level Intermediate Representation, 다중 수준 중간 표현) 형태로 변환한 뒤 Pass 단위로 비식별화·매개변수 캡슐화·신경 구조 난독화·그래프 구조 난독화를 적용하는 방식이다. Pass 단위로 기능을 나눠 적용하기 때문에 연산자와 파라미터, 텐서 구조, 그래프 연결을 필요에 따라 선택적으로 변형할 수 있다.
오염 분석으로 추론 코드만 골라 보호
모델 자체의 난독화와 별개로, 쿤텍은 C·C++ 기반 응용 프로그램을 LLVM IR로 변환해 TFLite API를 기준점으로 삼는 오염 분석 기반 데이터 흐름 분석 기술도 함께 개발했다. 이 기술은 프로그램 전체가 아니라 실제 AI 추론에 관여하는 코드만 식별해내는 방식으로 동작한다. 리소스가 제한된 온디바이스 환경에서 프로그램 전체를 보호 대상으로 삼기보다 필요한 부분만 선택적으로 보호할 수 있다는 점이 특징이다.
이번에 출원된 특허는 ‘인공지능 모델의 구현 정보를 은닉하는 방법 및 이를 수행하는 컴퓨팅 장치’와 ‘오염 분석 기반 인공지능 추론 코드의 보호 대상 자동 식별 방법 및 시스템’ 두 건이다. 각각 모델 난독화 기술과 오염 분석 기반 식별 기술에 대응하는 것으로, 쿤텍은 두 기술을 연계해 실제 제품 환경에 적용 가능한 수준으로 고도화한다는 계획이다.
밸류체인 관점에서의 의미
온디바이스 AI가 확산될수록 모델과 이를 구동하는 응용 프로그램은 기기 제조사와 서비스 개발사 모두에게 지켜야 할 자산이 된다. 방혁준 쿤텍 대표는 “온디바이스 AI가 다양한 산업과 제품으로 확산되면서 AI 모델뿐 아니라 이를 구동하는 응용 프로그램의 핵심 로직까지 보호해야 할 필요성이 높아지고 있다”며 “모델 난독화와 데이터 흐름 기반 보호 대상 식별 기술을 함께 고도화해 실제 제품 환경에서 활용할 수 있는 온디바이스 AI 정보 보호 기술을 확보하겠다”고 말했다.
쿤텍은 ETRI와의 공동연구를 통해 모델 구조 보호와 코드 수준 보호를 하나의 기술 스택으로 묶어가고 있으며, 이는 임베디드 보안 밸류체인에서 온디바이스 AI 전용 방어 기술로 자리잡을 가능성을 보여준다.