AI 시스템이 잘못된 판단을 내리거나 보안 허점을 드러낼 때, 그 위험을 얼마나 정확하게 식별하고 통제할 수 있는지가 산업 전반의 과제로 떠올랐다. AI 보안 기업 에임인텔리전스는 오는 9월 7일 삼성금융캠퍼스에서 ‘AI 리스크 컨퍼런스 서울 2026’을 개최한다고 25일 밝혔다. 국내외 기업 관계자 100여 명이 참석해 AI 운영 과정에서 발생하는 판단 오류와 보안 취약점을 어떻게 정의하고 관리할지 논의하는 자리다.
위험 식별부터 통제 체계까지
행사는 기조연설과 환영사로 시작해 전반부에서는 AI 리스크의 정의와 산업별 쟁점을 다룬다. 이병영 서울대학교 교수, 김성웅 금융보안원 금융AI보안연구소장, 최대선 숭실대학교 AI안전성연구센터장 등이 발제를 맡아 AI 시스템에서 발생할 수 있는 위험 요소를 구체적으로 짚는다. 후반부에는 박하언 에임인텔리전스 CTO, 장광운 마이크로소프트 보안전략고문, 와나 툰 오픈AI 응용 AI 보안 스페셜리스트가 나서 실제 통제 방안과 글로벌 기업의 대응 경험을 공유하며 네트워킹 프로그램도 함께 마련된다.
빅테크·금융보안기관이 함께 그리는 밸류체인
이번 컨퍼런스에는 오픈AI, 마이크로소프트 같은 글로벌 빅테크와 금융보안원이 나란히 참여해 AI 보안이 하나의 기업이 아니라 산업 전반의 협업 과제임을 보여준다. 유상윤 에임인텔리전스 대표는 “AI 보안이 산업 인프라의 주요 문제로 부상하면서 운영 과정에서 발생하는 책임과 비용을 관리하는 체계가 반드시 필요한 시점”이라고 말했다. AI 도입 경쟁이 생산성 향상 단계를 지나 책임과 비용을 통제하는 단계로 이동하고 있다는 인식이 이번 행사 기획의 배경이다.
유 대표는 “이번 컨퍼런스가 AI를 도입하는 기업 담당자들이 현장에서 발생할 수 있는 리스크를 정의하고 실질적인 관리 방안을 마련하는 기회가 되길 바란다”고 덧붙였다. 에임인텔리전스는 이번 행사를 계기로 컨퍼런스를 정기적으로 열어 AI 리스크 정의와 통제 방안을 논의하는 자리를 이어갈 계획이다.