연세대학교 양자컴퓨터의 핵심 프로세서가 127큐비트 이글(Eagle)에서 120큐비트 나이트호크(Nighthawk)로 바뀌었다. 큐비트 수는 줄었지만 나이트호크는 초당 10만 개 이상의 양자회로를 실행할 수 있다. 연세대학교와 IBM은 4일 인천 송도 국제캠퍼스 양자컴퓨팅센터에서 이 차세대 양자컴퓨팅 플랫폼을 공개했다.
이번 업그레이드는 연세대가 2024년 도입한 IBM 퀀텀 시스템 원(Quantum System One)의 핵심 프로세서를 교체해 연산 성능을 높이는 방식이다. 시스템을 도입한 뒤 첫 번째 프로세서 업그레이드까지 약 2년이 걸렸다.
큐비트 수보다 연산 능력
새로 들어온 나이트호크는 120개 프로그래머블 큐비트와 고속 큐비트 리셋 아키텍처를 기반으로 한다. IBM이 제시한 회로 처리량 기준으로 기존 이글 시스템보다 25배 향상됐다.
제리 차우(Jerry Chow) IBM 펠로우 겸 양자중심슈퍼컴퓨팅 최고기술책임자(CTO)는 이 성능을 이렇게 설명했다. “나이트호크 r2를 통해 연세대학교의 양자컴퓨터는 초당 10만 개 이상의 회로를 실행할 수 있으며, 이는 IBM 퀀텀 이글 대비 25배 높은 회로 처리량”이라는 것이다.
양자컴퓨터 성능은 큐비트 수만으로 정해지지 않는다. 양자 상태를 유지하면서 정확하고 빠르게 연산하는 능력이 실제 연구 성능을 결정하기 때문이다. 회로 처리량이 높아지면 연구자는 같은 시간에 더 많은 실험을 진행하고 결과를 빠르게 확보할 수 있다. 차우 CTO는 양자 컴퓨팅에서 샘플이 발전을 이끄는 핵심 요소라고 말했다.
양자컴퓨팅 기술 개발의 무게중심은 큐비트 수 경쟁에서 연산 속도와 정확성으로 이동했다.
자체 시설 운영 첫 사례와 연구 활용
이번 업그레이드는 IBM 퀀텀 네트워크 참여 기관이 자체 시설에서 나이트호크를 운영하는 세계 최초 사례다. 7,500개 이상의 게이트로 구성된 회로에서 관측 가능량을 정확하게 추정하는 기술적 목표도 달성됐다. 양자 우위 후보 회로를 대상으로 한 초기 테스트에서는 정확도를 유지한 채 최대 10배의 실행 속도 향상이 나타났다.
연세 바이오-퀀텀 이니셔티브(Yonsei Bio-Quantum Initiative)에 참여하는 연구진은 고전-양자 하이브리드 컴퓨팅 방식으로 복잡한 생물학적 시스템을 분석하는 연구를 추진하고 있다. 이 프로그램에서는 미토콘드리아 전자전달계 변이와 리 증후군(Leigh Syndrome)의 연관성을 공동 연구하고 있다.
새 프로세서는 연세대 양자정보학과 석·박사 과정 학생들의 연구와 교육에도 활용될 예정이며, IBM은 산업 전문가의 정기 강연 등 기술 지원을 이어간다. 연세대의 양자 연구·교육 프로그램은 양자생태계운영센터와 양자컴퓨팅기술지원센터가 운영한다.
양자중심 슈퍼컴퓨팅 전략 속 연세대
IBM은 양자 프로세서와 기존 고성능 컴퓨팅을 결합하는 양자중심 슈퍼컴퓨팅 전략을 제시하고 있다. 2024년 도입 당시에는 국내에 양자컴퓨터를 구축했다는 사실 자체가 주목받았다. 2년이 지난 지금은 같은 인프라의 계산 속도와 정확성, 그리고 연구·산업 성과로의 연결이 과제다.
정재호 연세대학교 양자사업단장은 “이번 나이트호크 프로세서 도입은 IBM과의 협력을 바탕으로 우리 대학이 세계적 양자 연구 및 산학협력의 핵심 허브로 자리매김하는 중요한 계기”라고 밝혔다. 그는 바이오 등 산업계·연구기관과의 협력을 넓히고 차세대 인재를 양성하겠다는 뜻도 내비쳤다.
연세대는 업그레이드 이후 국내 연구진과 기업이 최신 양자 인프라를 활용할 수 있는 협력 기반을 확대할 계획이다.