AI 서비스가 질문에 답하는 챗봇을 넘어 예약·전화·공공업무를 직접 수행하는 비서로 진화하면서, 이를 뒷받침하는 보안 기술로 AI 레드티밍과 AI 가드레일이 주목받고 있다. AI 레드티밍은 서비스의 취약점과 오작동 가능성을 사전에 점검하는 기술이고, AI 가드레일은 모델의 입력·출력·실행 과정 전반에 기준을 적용해 위험 행동을 통제하는 기술이다. 이 두 기술을 앞세운 에임인텔리전스(AIM-Intelligence)가 SK텔레콤 주관 컨소시엄에 합류해 정부 '모두의 AI' 프로젝트의 AI 보안 파트너로 참여한다.
레드티밍·가드레일로 위험 사전 차단
모두의 AI는 범용 AI 챗봇과 공공·특화 AI 에이전트를 구축하는 정부 사업이다. AI가 실행형 비서로 바뀌면 개인정보 유출, 정책 위반, 프롬프트 공격, 비정상 행동 같은 위험이 함께 커진다. 에임인텔리전스는 이런 위험을 실제 서비스에 반영되기 전 단계에서 걸러내는 역할을 맡는다. 검증 범위도 챗봇에 그치지 않고 AI 에이전트, 나아가 피지컬 AI까지 확대한다는 방침이다.
산업 밸류체인 속 AI 보안의 위치
이번 참여로 에임인텔리전스는 SK텔레콤이 주관하는 컨소시엄 안에서 AI 보안이라는 특화 영역을 담당하게 됐다. 서비스는 이달 중 베타 버전이 공개되고 연내 정식 서비스로 출시될 예정이다. 유상윤 에임인텔리전스 대표는 “모두의 AI 사업은 인공지능이 단순 답변을 넘어 국민의 일상에 스며들어 행동을 수행하는 전환점이 될 것”이라고 말했다.
유 대표는 이어 “‘대한민국 AI의 가능성은 모두에게’라는 슬로건처럼 AI 보안은 에임인텔리전스에 맡길 수 있도록 최선을 다하겠다”고 밝혔다. AI 서비스의 활동 범위가 챗봇에서 에이전트, 피지컬 AI로 넓어지는 만큼 보안 검증의 대상도 함께 확장되는 흐름이다.