AI 에이전트가 예약·결제·배차처럼 외부 서비스를 직접 실행하는 단계로 진입하면서, 이 실행 과정을 검증할 데이터셋 구축 작업이 시작됐다. 크라우드웍스는 슈어소프트테크가 주관하는 ‘AI 에이전트 안전·신뢰성 검증 체계 지원’ 사업을 수주하고, KAIST·한국인공지능산업협회와 컨소시엄을 이뤄 한국형 검증 데이터셋 구축을 주도한다고 2026년 9월 3일 밝혔다.
다단계 추론·도구 호출 검증 데이터셋
이번 사업의 핵심은 다단계 추론 시나리오와 MCP 도구·외부 API 호출 과정을 검증하는 데이터셋 구축이다. 기존 AI 평가 체계는 최종 답변의 정확도에만 집중해, 에이전트가 계획을 수립하고 도구를 호출하는 중간 과정을 검증하기 어려웠다는 한계가 있었다. 크라우드웍스는 올해 말까지 7,000건 이상의 데이터를 구축해 이 공백을 메울 계획이다.
크라우드웍스 관계자는 “모델 고도화만큼이나 에이전트 실행 과정의 안전성과 신뢰성 검증이 AI 산업의 필수 거버넌스로 떠올랐다”며 “고품질 데이터 구축 노하우와 평가 역량을 바탕으로 국내 AI 에이전트 생태계의 신뢰도를 높이고 글로벌 수준에 부합하는 한국형 검증 표준을 정립하는 데 기여하겠다”고 말했다. 구축된 데이터셋은 국제 표준을 준수하면서도 국내 서비스 환경을 반영한 평가 기준으로 활용되며, 현장 적용 이후에는 민간 AI 신뢰성 인증과 연계될 예정이다.
데이터 밸류체인에서의 위치
크라우드웍스는 2017년 설립 이후 네이버, LG, KT 등 600개 이상의 기업에 데이터를 공급해온 데이터 전문 기업으로, 2023년 8월 코스닥에 상장했다. 이번 사업은 회사가 축적한 고품질 데이터 구축 역량을 에이전트 검증이라는 새로운 영역으로 확장한 사례다.
회사는 이번 검증 데이터셋 구축을 발판으로 에이전틱 AI뿐 아니라 로보틱스, 자율주행 등 피지컬 AI 분야로 데이터 기술을 넓히고 있다. 텍스트·대화 기반 데이터 구축을 넘어 실제 행동을 취하는 시스템의 안전성 검증까지 영역을 확장하는 흐름이다.