금융시장에 인공지능(AI) 거래가 활성화한다면 어떤 현상이 발생할까. 다수의 AI가 유사한 결정을 내리게 되면서 시장의 방향성이 확대돼 급등락이 반복될 수 있다는 전망이 나왔다. 이는 금융시스템에 위기를 촉발해 경제 전반에 악영향을 미칠 수 있다는 지적이다.

한국금융연구원의 연태훈 선임연구위원은 24일 ‘금융안정에 대한 AI의 잠재적 위협과 관리방안의 모색’ 보고서에서 “금융에서의 AI 확산은 특정 AI 알고리즘이나 이를 사용하는 시장참여자의 악의적 의도나 행위의 합리성과 무관하게 시스템 위험을 유발할 수 있다”고 지적했다.

연 위원은 다수의 AI가 유사한 결정을 내리는 획일성 측면에 주목했다. 그는 “해당 결정 자체는 합리적일 수도 있고 그렇지 않을 수도 있지만 이로 인한 획일적인 행위가 시장을 지배하게 되면 경기순응성 위험 또는 자기강화형 시장 급등락이 초래돼 결국 시스템 위험으로 이어질 수 있다”고 설명했다.

AI의 발전에 따라 데이터 시장은 범위의 경제 및 네트워크 효과를 위해 취합, 관리, 공급 등 과정이 집중화될 수 있다. 그 과정에서 소수의 AI 모형이 시장에 지배적인 위치를 차지하면 획일성이 증가할 수 있다는 게 연 위원의 설명이다. 상이한 AI 모형이라도 동일한 목적을 위해 움직인다면 획일성이 나타날 수 있다.

연 위원은 “(AI가) 서로가 보내는 신호에 반응하거나 심지어 소통하기도 하면서 상호 영향을 주고받는 과정에서 일종의 담합적 행태 또는 담합의 결과와 유사한 군집적 행태를 보일 수 있다”며 “실제로 시뮬레이션을 통해 딥러닝 기반 AI 모형들이 담합이나 불공정거래를 자발적으로 수행할 수 있다는 사실이 확인되기도 했다”고 지적했다.

이 같은 AI 시스템의 위협성에 대응해 각국에서는 다양한 논의가 이뤄지고 있다. 개리 겐슬러 미국 증권거래위원회(SEC) 위원장은 최근 AI의 획일적 판단 문제를 제기하며 금융사의 AI 활용과 관련한 새로운 규제안을 이르면 10월까지 도입하겠다고 밝혔다. 유럽연합(EU) 집행위원회는 2019년 신뢰할 수 있는 AI 윤리 가이드라인을 내놓은 데 이어 지난달 EU 의회 본회의가 AI 규제법 협상안을 가결하면서 AI 윤리에 대한 논의가 본격적으로 이뤄지고 있다. 일본 정부는 2017년 AI 개발 가이드라인, 2019년 인간 중심의 AI 사회 원칙을 발표했다. 싱가포르 통화청은 FEAT원칙을 통해 AI에 대한 공적 윤리 가이드라인을 만들었다.

국내에서는 금융위원회가 2021년 7월 금융분야 AI 가이드라인을 발표했고 지난해 8월 금융분야 AI 개발·활용 안내서를 내놨다. 지난 4월에는 AI 기반 신용평가모형 검증체계와 금융분야 AI 보안 가이드라인이 발표됐다.

연 위원은 “학계, 관계, 금융회사와 외부의 서비스 제공 비금융 회사들까지 모두 함께 머리를 맞대고 향후 자칫 발생할 수도 있는 모든 위험의 성격과 강도에 대해 고민하고 방지 완화 대책을 마련해 놓는 것이 AI의 보다 빠른 확산과 안정적 사용을 위한 시장 신뢰 형성에 도움이 될 것”이라고 강조했다.

안승진 기자 [e-mail]