로봇 팔이 물건을 옮기고 자율주행체가 도로를 달리는 등 AI가 화면 속 답변을 넘어 현실 공간에서 직접 행동하는 ‘피지컬 AI’로 영역을 넓히면서, 잘못된 판단 하나가 사람과 장비에 곧바로 위험을 초래할 수 있는 구조가 됐다. 에임인텔리전스(대표 유상윤)는 2026년 9월 이런 위험에 대응하기 위해 글로벌 피지컬 AI 안전 연구 컨소시엄 ‘PASC(Physical AI Safety Consortium)’를 출범했다고 밝혔다.
기존 AI 안전 기준은 텍스트·이미지 등 답변 자체의 안전성에 초점이 맞춰져 있었지만, 피지컬 AI는 시뮬레이션과 실제 로봇 환경을 오가며 작동하기 때문에 한 번의 테스트로는 안전을 담보하기 어렵다. PASC는 안전을 고정된 상태가 아니라 지속적으로 관찰·갱신·개입이 필요한 상태로 재정의하고, 적응형 공격 상황에서 기존 방어 체계가 실제로 작동하는지도 검증 대상에 포함시켰다.
공통 정의부터 벤치마크까지
PASC는 비영리 오픈 컨소시엄으로 운영되며, 피지컬 AI 안전에 대한 공통 정의와 평가 방법론, 벤치마크, 표준화 연구를 함께 추진한다. 첫 공동 연구로는 피지컬 AI 안전의 정의와 평가 방향을 정리한 포지션 페이퍼를 준비하고 있다.
빅테크와 학계가 함께 참여
컨소시엄에는 구글, 마이크로소프트, 오라클, LG전자 소속 전문가와 국내외 대학·AI 안전 연구기관 연구진 약 30여명이 참여한다. 구글에서는 제니 니(Jenny Ni)가, 마이크로소프트에서는 요크대학교를 겸직하는 아드리안 데 윈터(Adrian de Wynter)가 이름을 올렸다. LG전자에서는 장지용 상무가 참여했으며, 오라클 소속으로는 히테쉬 파텔(Hitesh Laxmichand Patel)과 아밋 아가왈(Amit Agarwal)이 함께한다.
학계에서는 한국인공지능안전연구소 김명주 소장을 비롯해 UC샌디에이고 시쿤 가오 교수, 위스콘신대학교 쉐론 리 교수, 일리노이대학교 야키 시에 교수 등이 참여했다. 박하언 에임인텔리전스 CTO는 “피지컬 AI가 현실 세계에서 더 많은 역할을 맡게 될수록 안전은 모델의 성능과 별개로 설계하고 검증해야 할 핵심 기반이 된다”며 “PASC가 학계와 산업계의 전문성을 연결해 피지컬 AI 안전의 공통 언어와 검증 기반을 만들어가는 장이 되도록 하겠다”고 말했다.
로봇과 자율 시스템이 제조 현장과 물류, 도로 등으로 확산되는 가운데, PASC가 마련할 공통 정의와 벤치마크가 피지컬 AI 안전을 가늠하는 기술적 기준으로 자리잡을지 주목된다.