시장 데이터와 일치하면서 무차익거래 조건을 충족하는 로컬 변동성 곡면을 최적수송 이론으로 생성하는 방법이 서비스로 구현됐다. 금융 기술 스타트업 젠OTC(genOTC)가 개발한 이 방법은 MATLAB으로 모델링·수치해석·검증·배포를 거쳤고, Docker 컨테이너로 패키징해 Amazon EC2에서 실행한다. 젠OTC는 하나의 수학적 아이디어를 반복적 계산과 검증을 거쳐 실제 사용자가 활용할 수 있는 금융 서비스로 발전시키기 위해 이 과정을 밟았다.
변동성 모델링이 어려운 이유
옵션 가격으로 시장 변동성을 추정해 여러 조건의 움직임을 하나의 모델에 담는 일이 출발점이다. 드리프트(drift)는 무차익거래 조건으로 엄격히 정해지는 반면 변동성은 그렇지 않아, 데이터를 담는 수학 구조에 따라 결과가 갈린다. 많은 금융기관이 쓰는 SVI·SABR 등 모수적 모델은 구조적 가정을 깔고 있어 시장이 급변할 때 실제 움직임을 놓칠 수 있고, 자체 로컬 변동성 모델은 계속 재보정해야 한다.
리스크 측정치 추정이 틀리면 주요 리스크 지표가 실제 위험을 놓치고 자본 요구량이 과대·과소 산정될 수도 있다. 이 때문에 모델은 데이터나 구조를 바꿀 때마다 결과를 다시 확인하고 실제 관측치와 견줘야 하며, 시장 리스크 모델에는 과거 예측을 이후 실제 결과와 비교하는 백테스팅도 활용된다.
캘리브레이션을 볼록 최적수송 문제로 정의
젠OTC는 캘리브레이션을 볼록 최적수송 문제로 정의해 유일한 해를 구한다. 기존 방식과의 중요한 차이는 변동성 곡면에 특정 모수 형태를 미리 가정하지 않고 최적수송으로 시장 데이터를 직접 다룬다는 점이다. 기존에는 SVI·SABR 같은 모수적 모델이나 자체 로컬 변동성 모델을 쓴다.
젠OTC 방식은 계산량이 많다. 시장 데이터에 맞는 로컬 변동성 모델을 얻으려면 편미분방정식을 대량으로 수치 풀이해야 한다. 연구진은 MATLAB에서 함수를 작성·테스트하고 3차원 변동성 곡면을 시각화하며 소규모 실험을 반복해 알고리즘을 개선했다. 인력과 자원이 제한된 스타트업은 새 기술의 가능성을 빨리 확인해야 하므로 이런 반복 속도가 특히 중요하다.
개발에는 MATLAB의 선형대수 솔버와 벡터화가 쓰였고, 연산 병목 구간은 MATLAB Profiler로 찾았다. 검증과 회귀 분석 등 금융 계산의 기반으로는 Financial Toolbox와 Optimization Toolbox를 사용한다.
금융 모델은 데이터와 가정, 예측의 일치도를 지속적으로 검증해야 하며, 검증은 마지막 단계에서 한 번 하는 절차가 아니다. 모델이 시장을 제대로 설명하지 못하면 모델 리스크, 헤지 오차, 잘못된 가격 산정으로 이어질 가능성이 생긴다. 시뮬레이션과 검증은 합격 여부를 판단하는 절차가 아니라 연구를 제품으로 발전시키는 과정 자체에 가깝다.
PwC 조사가 보여준 시장 변동성 대응
PwC의 2026년 시장 변동성 조사에는 미국 소비자 1,004명과 금융서비스 업계 임원 204명이 응답했다. 이 가운데 84%의 금융서비스 임원은 현재의 시장 변동성에 대응해 스트레스 테스트와 시나리오 계획을 강화했거나 강화하고 있다고 답했다.
배포와 서비스 기능
코드는 MATLAB Compiler로 컴파일해 MATLAB Runtime과 함께 Docker 컨테이너로 패키징한다. 이 컨테이너는 Amazon EC2에서 실행된다.
사용자는 자체 데이터나 젠OTC가 확보한 데이터를 사용해 모델을 생성하고, 곡면을 확인·평가·시각화할 수 있다. 캘리브레이션한 모델은 가격 산정 라이브러리로 내보내 PDE와 몬테카를로 방식으로 장외파생상품의 공정가격을 산정하는 데 쓴다. 자동화 워크플로우를 위한 API도 제공한다.
적용 시장과 플랫폼 확장
젠OTC는 유럽형 옵션 주가지수 시장, 미국형 옵션 개별 종목 시장, 암호화폐 시장을 대상으로 한 캘리브레이션을 마쳤다. 외환 시장에서는 벤치마크 테스트를 진행하고 있다. 시장이 달라져도 기반 알고리즘은 바뀌지 않으며, 바뀌는 것은 시장별 데이터 환경이다. 캘리브레이션 도구는 가격 산정, 백테스팅, 퀀트 라이브러리를 포함한 플랫폼으로 확장하고 있으며, 일부 기능은 고객과 공동 개발로 제공한다.
향후 적용 범위는 원자재와 채권 등 고정수익 자산으로 넓힐 계획이다. 이 글은 Deep Tech Insight 연재의 한 편이며, 다음 글에서는 양자영감 최적화를 디지털 트윈과 시뮬레이션에 쓰는 스타트업 사례를 다룰 예정이다.