영국 가디언에 따르면, 영란은행 총재 앤드루 베일리(Andrew Bailey)는 가장 발전한 인공지능 기술이 전 세계에 초래할 수 있는 위험에 주목하라고 경고하는 유명 인사 대열에 합류했다.
IT之家가 파악한 바에 따르면, 베일리는 현재 국제금융안정위원회(FSB) 의장을 맡고 있다. 그는 최근 이 직책으로 각국 재무장관과 중앙은행 총재들에게 두 쪽 분량의 서한을 보내, ‘최첨단’ AI 모델이 점점 더 강력한 자율 능력과 문제 해결 능력을 보이는 동시에 위협적인 행동을 실행할 능력도 갖추고 있다고 밝혔다.
그는 이러한 모델이 사이버 공격을 통해 고도로 상호 연결된 글로벌 금융 시스템을 교란할 수 있으며, 사이버 공격으로 인한 피해가 “서로 다른 사법 관할권을 넘어 빠르게 확산될 수 있다”고 경고했다.
이번 주 미국 노스캐롤라이나주에서 열리는 회의를 앞두고 베일리는 G20 재무장관과 중앙은행 총재들에게 서한을 보내 “최근의 발전을 지켜보며, 많은 사법 관할권이 아직 첨단 최첨단 AI 모델의 개발, 출시 및 배포를 관리할 적절한 체계를 마련하지 못했다는 점에도 주목하게 됐다. 이는 금융 분야는 물론 더 넓은 영역의 위험을 키우고 있다”고 밝혔다.
베일리의 이번 서한은 최근 AI 위험을 둘러싼 우려를 더욱 키웠다. 지난 몇 주 동안 여러 유명 기술 인사들이 잇따라 경고를 내놓았으며, 베일리의 견해 역시 국제사회가 협력해 AI 위험에 대응해야 한다고 이전부터 촉구해 온 그의 입장을 이어간다. 그는 앞서 런던 금융가의 기업负责人들에게 “어떤 국가도 오늘날 널리 존재하는 국경 간 시스템으로부터 자신을 완전히 격리할 수 없다”고 말한 바 있다.
지난달에는 최첨단 AI 연구소의 연구자와 엔지니어 1367명도 연명으로 경고를 발표했으며, 이들 대부분은 OpenAI, Anthropic, Google DeepMind 소속이었다. 이 서한은 매일 AI 연구개발에 참여하는 엔지니어들이 무엇을 우려하는지 외부에 한층 더 분명히 보여줬다.
연명 서한은 “AI 능력의 발전이 관련 시스템을 이해하거나 통제할 우리의 능력을 빠르게 넘어설 실제 위험이 존재한다”고 지적했다. 이어 미국 정부에 “자동화된 AI 발전 속도를 의도적으로 통제할 수 있도록 필요한 기술과 거버넌스 도구를 개발하는 국제적 행동”을 지원하라고 촉구했다.
이달 초에는 OpenAI 직원들이 자사의 가장 발전한 AI 에이전트가 훈련 환경을 벗어나 전례 없는 해킹 공격을 감행해 전 세계의 관심을 불러일으키기 몇 주 전부터, 해당 AI 에이전트에서 이상 행동의 징후를 관찰했다는 소식도 전해졌다.
이러한 우려를 금융 정책 분야로 확장해 베일리는 “금융 시스템에 가장 직접적인 우려는 현재 최첨단 AI가 사이버 위험에 미칠 수 있는 영향이다. 최첨단 AI는 사이버 위험의 속도, 규모 및 경제적 비용을 근본적으로 바꿀 수 있다. 특히 금융 시스템이 소수의 제3자 서비스 제공업체에 크게 의존하는 상황에서는 전체 시장의 신뢰가 약화될 수 있다”고 말했다.
베일리는 글로벌 금융 시스템의 안전을 책임지는 관련 기관들이 “최첨단 AI 모델이 전 세계에서 안전하고 책임감 있게 출시 및 배포될 수 있도록 적절한 조치를 지원하는 것”을 우선 과제로 삼아야 한다고 촉구했다.
이번 서한에는 채권 및 주식시장의 레버리지 비율이 계속 상승하는 상황에 대한 베일리의 우려도 담겼다. 그는 현재 일부 금융시장의 밸류에이션이 이미 높은 수준에 있으며, 시장이 고도로 집중된 가운데 AI 발전 전망에 대한 투자자들의 낙관론이 관련 자산의 밸류에이션을 특히 끌어올리고 있다고 밝혔다. 이러한 요인들이 겹치면 향후 시장 조정의 폭이 더욱 확대될 수 있다.
베일리는 “따라서 나는 여전히 한 번의 중대한 충격이나 여러 충격이 동시에 발생할 경우, 잠재적인 여러 위험 지점이 한꺼번에 촉발될 수 있다고 우려한다”고 썼다.
베일리는 2020년 3월부터 영란은행 총재를 맡고 있다. 그전에는 영국 금융행위감독청(FCA)과 건전성감독청(PRA)을 이끌었으며, 이 두 기관은 영국의 주요 금융 감독기관이다. 지난해 그는 금융안정위원회 의장으로 임명됐다.
금융안정위원회는 스위스 바젤에 본부를 두고 각국 금융 감독기관과 국제 기준 제정기관의 업무를 조율한다. 또한 글로벌 금융 안정을 유지하기 위해 효과적인 감독 조치와 정책을 마련하도록 추진한다.