금융 AI, 인간 개입 없이 스스로 판단한다면? 영란은행의 고민 깊어지는 이유
Published Jul 6, 2026
지금 우리가 사용하고 있는 금융 시스템, 과연 완벽하다고 말할 수 있을까요? 아마 대부분은 그렇지 않다고 답할 겁니다. 하지만 여기에 한 가지 더 질문을 던져봅니다. 만약 그 시스템의 핵심 의사결정을 인간의 개입 없이 인공지능이 자율적으로 내린다면 어떨까요? 우리는 여전히 그 시스템을 신뢰하고, 그 결과에 책임을 질 수 있을까요? 오늘날 금융 산업에 깊숙이 파고들고 있는 **에이전트형 AI(Agentic AI)**가 던지는 질문은 바로 이것입니다. 그리고 이 질문에 대한 답을 찾기 위해 세계 유수의 중앙은행들이 머리를 맞대고 있습니다.
🧠 에이전트형 AI, 왜 지금 중요한가?
최근 영란은행(Bank of England)이 금융 분야에서 에이전트형 AI의 사용과 관련하여 기존 규제 프레임워크를 전면 재검토하고 있다는 소식이 전해졌습니다. 결제, 거래, 사이버 보안, 운영 등 금융 시스템의 핵심 분야 전반에 걸쳐 이 새로운 기술이 가져올 파급력과 그에 따른 위험을 면밀히 분석하겠다는 것이죠. 영란은행의 사라 브리든(Sarah Breeden) 부총재는 유럽중앙은행 포럼에서 현재의 규제 체계는 인간의 직접적인 지시 없이 자율적으로 행동하는 AI 에이전트를 위해 설계되지 않았다고 솔직히 인정했습니다. 모든 AI 행동에 인간의 감독을 의존하는 것은 현실적으로 불가능에 가깝다고 덧붙였죠.
그렇다면 에이전트형 AI는 무엇이며, 왜 이렇게까지 주목해야 하는 걸까요? 쉽게 말해, 에이전트형 AI는 스스로 목표를 설정하고, 결정을 내리며, 복잡한 작업을 자율적으로 수행할 수 있는 시스템을 의미합니다. 기존의 자동화된 트레이딩 도구와는 차이가 있습니다. 전통적인 자동화는 정해진 규칙에 따라 움직이지만, 에이전트형 AI는 훨씬 적은 인간 감독 아래에서도 목표를 추구하고 의사결정을 내릴 수 있는 능력을 갖췄습니다. 예를 들어, 금융 상품 추천, 운영 워크플로우 자동화, 트레이딩 관련 작업 등 이미 다양한 분야에서 활용되고 있습니다. 2026년 케임브리지 대안금융센터(Cambridge Centre for Alternative Finance) 보고서에 따르면, 설문조사에 참여한 금융 서비스 기업의 81%가 어떤 형태로든 AI를 도입하고 있으며, 놀랍게도 52%는 이미 에이전트형 AI를 적극적으로 도입하고 있다고 합니다. 대부분 내부 기능, 즉 프로세스 자동화, 데이터 시각화, 소프트웨어 엔지니어링, 지식 관리 등에 집중되어 있지만, 거래 분야에서도 저위험 운영 작업에 주로 사용되고 있다는 사실은 주목할 만합니다.
사실 이건 기술 발전의 속도를 감안하면 그리 놀랄 일도 아닙니다. 최근 사이버 취약점을 식별하는 AI 모델의 발전은 그 능력이 ‘퀀텀 점프’ 했음을 보여줍니다. 에이전트형 AI 시스템은 대규모의 작업을 놀라운 속도로 순차적으로 연결해 실행할 수 있습니다. 더욱이, 오픈소스 모델이 가장 진보된 비공개 모델을 불과 4~8개월의 시차로 따라잡고 있다는 브리든 부총재의 언급은 규제 당국에게 ‘시간과의 싸움’이 얼마나 치열한지를 여실히 보여줍니다. 몇몇 최첨단 모델의 출시가 제한적이라고 해도, 그 격차가 너무 빠르게 줄어들고 있다는 점은 당국에 상당한 부담으로 작용할 겁니다.
💥 금융 안정성을 위협하는 ‘잠재적 블랙스완’
브리든 부총재가 에이전트형 AI와 관련하여 영란은행의 금융 안정성에 대한 가장 큰 우려 중 하나로 꼽은 것은 바로 **사이버 복원력(Cyber Resilience)**입니다. AI 도구는 보안 팀이 활용할 경우 사이버 방어를 강화하는 데 큰 도움이 될 수 있습니다. 하지만 문제는 양날의 검과 같다는 점입니다. 악의적인 행위자가 같은 도구를 사용한다면, 금융 안정성을 해치는 공격의 가능성을 기하급수적으로 높일 수 있다는 것이죠. 개인적으로 이 부분에서 주목할 점은, 기술의 발전이 항상 긍정적인 방향으로만 흘러가지 않는다는 냉정한 현실 인식입니다. 인공지능이 가진 강력한 능력은 선과 악의 경계에서 더욱 명확히 드러나며, 금융 시스템과 같이 민감한 분야에서는 그 파급력이 상상을 초월할 수 있습니다.
국제통화기금(IMF) 역시 AI 기반 사이버 위험을 금융 안정성 문제로 다뤄야 한다고 경고한 바 있습니다. 공격이 빠르게 확산될 수 있고, 디지털 인프라를 공유하는 여러 부문에 걸쳐 퍼져나가며, 여러 기관이 동시에 영향을 받을 경우 광범위한 혼란을 초래할 수 있다는 지적입니다. 단순히 개별 기업의 문제에 그치는 것이 아니라, 전체 금융 시스템에 걸친 위험으로 간주해야 한다는 브리든 부총재의 발언은 이러한 맥락에서 매우 중요합니다. 당국은 여러 기업에서 동시에 발생하는 혼란에 더 큰 비중을 두고, 실제 사건 발생 전에 예상되는 영향을 스트레스 테스트해야 한다고 강조했습니다. 복구 계획 또한 고립된 단일 장애가 아닌, 대규모 혼란에 대비해야 할 필요가 있다는 이야기입니다. 공유 소프트웨어, 클라우드 서비스, 결제 네트워크, 데이터 네트워크 등 널리 사용되는 시스템이 타겟이 될 경우 동시 다발적인 연관 장애를 일으킬 수 있다는 IMF의 경고는 금융 인프라의 상호 연결성을 고려할 때 더욱 심각하게 받아들여집니다.
🛠️ 규제 당국의 고심: 무엇을 어떻게 바꿀 것인가?
이처럼 빠르게 변화하고 예측 불가능한 위험 앞에서, 규제 당국은 손 놓고 있을 수만은 없습니다. 영란은행은 핵심 시스템에 대한 더 강력한 복구 요건을 검토 중입니다. 예를 들어, 한 은행의 시스템 장애 시 다른 은행이 기본적인 기능을 인계받는 방안, 또는 기업의 핵심 시스템이 손상되더라도 필수 서비스가 계속 유지될 수 있도록 하는 조치 등을 논의하고 있습니다. 심지어 주요 기업들이 별도의 페일오버(Failover) 시스템을 갖추거나, 손상된 핵심 시스템을 신속하게 재구축할 수 있는 능력을 갖춰야 하는지에 대한 질문도 던지고 있습니다.
뿐만 아니라, 브리든 부총재는 **가드레일(guardrails), 서킷 브레이커(circuit breakers), 킬 스위치(kill switches)**와 같은 안전장치 도입도 언급했습니다. 이러한 도구들은 결함 있는 AI 모델이 심각한 혼란을 야기할 경우, 시장 전반의 거래를 제한하거나 중단시키기 위해 고안될 것입니다. 특히 자율 시스템들이 동일한 시장 신호에 유사하게 반응하여 변동성을 증폭시킬 수 있다는 점, 그리고 원래의 목적이나 공공 정책 목표에서 벗어날 수 있다는 점을 지적한 부분은 매우 중요합니다. 솔직히 말해서, AI의 ‘자유로운’ 행동이 시장의 심리를 과도하게 반영하거나, 예측 불가능한 루프에 빠져들 가능성은 충분히 있죠.
이전에는 영란은행이 AI 관련 위험을 관리하는 데 기존 규칙으로 충분하다고 말했던 것을 생각해보면, 이번 브리든 부총재의 발언은 규제 당국의 입장 변화를 명확히 보여줍니다. 최근의 발전이 현재 프레임워크의 **빈틈(gaps)**을 드러냈다는 그녀의 인정은 이 문제가 얼마나 시급하고 중대한지를 반증합니다. 금융안정위원회(FSB) 또한 지난 6월, AI 에이전트가 인간 감독에 대한 명확한 도전을 제기하며 더 강력한 안전장치를 요구한 바 있습니다. FSB는 책임감 있는 AI 도입을 위한 12가지 권고안을 제시했는데, 이는 조직 전반의 거버넌스, AI 개발 및 배포 전반의 위험 관리, 그리고 AI 관련 사이버, ICT, 제3자 위험 등을 포괄합니다. 물론 구속력 있는 국제 표준을 만드는 것은 아니지만, AI, 특히 핵심 기능에 사용되는 경우 명확한 역할과 책임을 정의해야 한다고 강조했습니다.
결국 영란은행의 현재 초점은 자율 시스템이 더 많은 분야에서 사용되더라도 금융 기업들이 복원력을 유지하도록 보장하는 것입니다. 이는 개별 기업 수준의 통제뿐만 아니라 시장 전반의 안전장치를 아우르는 광범위한 검토가 될 것입니다.
🚧 현장형 AI 시대의 난제와 우리의 역할
이 뉴스를 종합해 보면, 에이전트형 AI는 금융 산업에 혁신적인 효율성을 가져올 잠재력을 가지고 있지만, 동시에 기존에는 상상하기 어려웠던 복잡하고 전례 없는 위험을 내포하고 있습니다. 특히 ‘인간 개입 없는 자율성’이라는 특성 때문에, 문제가 발생했을 때 그 원인을 추적하고 책임을 묻는 과정 자체가 매우 어려워질 수 있다는 점은 간과할 수 없는 문제입니다. 규제 당국이 기술의 발전 속도를 따라잡기 위해 얼마나 필사적으로 노력하고 있는지, 그리고 이들이 제시하는 다양한 방안들이 과연 실질적인 효과를 거둘 수 있을지 우리는 계속 주시해야 합니다.
과연 우리는 이 새로운 기술의 잠재력을 최대한 활용하면서도, 그 위험으로부터 우리의 소중한 금융 시스템을 안전하게 지켜낼 수 있을까요? 이 질문에 대한 답은 비단 영란은행이나 다른 중앙은행들만의 몫이 아닙니다. AI 개발자, 금융 기관, 그리고 심지어 우리 같은 일반 사용자들까지도 함께 고민하고 참여해야 할 중요한 과제입니다. 에이전트형 AI가 만들어갈 미래 금융 현장은 분명 더욱 효율적이고 빠르겠지만, 그만큼 더 깊은 신뢰와 견고한 안전망을 요구할 것입니다.
출처
- 원문 제목: Bank of England reviews AI rules for agentic AI in finance
- 출처: AI News
- 원문 기사 보러가기
