금융 서비스, AI는 만능 방패일까, 양날의 검일까?

여러분은 금융 서비스에서 AI가 어떤 역할을 할 것이라고 생각하십니까? 효율성 증대, 고객 경험 개선, 아니면 더욱 강력한 보안? 솔직히 말해서, 많은 이들이 후자를 기대할 겁니다. 하지만 현실은 조금 더 복잡하고, 어쩌면 훨씬 더 위험할 수 있습니다.

Experian의 2026년 사기 예측 보고서(2026 Future of Fraud Forecast)가 바로 이 양날의 검과 같은 AI의 민낯을 드러냈습니다. 이 보고서는 금융 기관이 AI를 도입하며 사기를 막으려 하지만, 동시에 사기범들이 AI를 무기화하는 역설적인 상황에 직면해 있음을 심도 깊게 분석하고 경고합니다. 혁신을 꿈꾸는 금융계에 드리워진 그림자는 무엇일까요?

AI 역설의 핵심: ‘머신-투-머신 혼란(Machine-to-Machine Mayhem)’

뉴스 기사에서 가장 핵심적인 내용은 바로 AI 기술의 이중성입니다. 금융 기관들이 사기 방어를 위해 전폭적으로 투자하는 그 AI가, 이제는 사기범들의 손에 들려 금융 시스템을 공격하는 최첨단 무기가 되고 있다는 사실은 참으로 놀랍습니다. 우리를 보호할 기술이 우리를 위협할 수도 있다는 이 아이러니는 금융 서비스업계에 커다란 고민거리를 안겨주고 있습니다.

보고서에 인용된 미국 연방거래위원회(FTC) 데이터에 따르면, 2024년에만 소비자들이 사기로 인해 무려 125억 달러 이상을 잃었습니다. Experian 자체 데이터에서도 2024년부터 2025년 사이에 거의 60%에 달하는 기업들이 사기 손실 증가를 보고했습니다. 이 수치들은 단순한 숫자가 아니라, 수많은 개인과 기업이 겪은 실제적인 피해와 고통을 의미합니다. Experian의 사기 방지 솔루션이 2025년에 전 세계적으로 약 190억 달러 규모의 사기 손실을 막아냈다는 사실은 이 문제가 얼마나 거대한 규모인지를 여실히 보여줍니다. 이러한 방어의 규모는 결국 공격의 속도와 자율성에 AI가 필적해야만 한다는 절박한 현실을 반영합니다.

Experian 보고서의 가장 중요한 발견은 바로 ‘머신-투-머신 혼란(machine-to-machine mayhem)‘이라는 개념입니다. 이것은 사용자를 대신하여 자율적으로 거래하도록 설계된 에이전트 AI(agentic AI) 시스템이 사기꾼들이 유사한 목적으로 배포하는 봇과 구별할 수 없게 되는 지점을 의미합니다. 점점 더 많은 조직이 독립적인 의사 결정을 내릴 수 있는 AI 에이전트를 통합하려고 노력하고 있죠. 하지만 사기꾼들은 바로 그 동일한 시스템을 악용하여 인간의 능력으로는 도저히 감당할 수 없는 규모와 속도로 대량의 디지털 사기를 실행하고 있습니다.

사실 이건 정말 심각한 문제입니다. 머신-투-머신 상호작용에는 책임 소유가 명확하지 않다는 것이 핵심적인 과제로 떠오릅니다. AI 에이전트가 사기성 거래를 시작했을 때, 누가 책임져야 하는가에 대한 질문은 아직 해답이 정해지지 않았습니다.

Experian 북미지역 사기 및 신원확인 최고 혁신 책임자(Chief Innovation Officer)인 Kathleen Peters는 이 문제를 다음과 같이 설명합니다. “기술은 사기의 진화를 가속화하여 더욱 정교하고 탐지하기 어렵게 만듭니다. 차별화된 데이터와 고급 분석, 최첨단 기술을 결합함으로써 기업은 사기 방어를 강화하고 소비자를 보호하며 안전하고 원활한 경험을 제공할 수 있습니다.” 그녀의 말은 결국 기술로 인한 문제는 더욱 고도화된 기술로 대응해야 함을 시사합니다.

Experian은 2026년에는 이 문제가 **티핑 포인트(tipping point)**에 도달하여, 상업 분야에서 에이전트 AI의 책임과 거버넌스에 대한 실질적인 산업 토론이 불가피해질 것이라고 예측합니다. 이미 일부 조직은 선제적인 조치를 취하고 있습니다. 예를 들어, 아마존은 보안 및 개인 정보 보호 문제를 들어 제3자 AI 에이전트가 플랫폼에서 탐색 및 거래하는 것을 차단했다고 밝혔습니다. 개인적으로는 아마존의 이러한 조치가 매우 시기적절하다고 생각합니다. AI 에이전트가 무분별하게 상업 플랫폼에 접근하도록 허용할 경우, 책임 소재를 따지기 전에 이미 막대한 피해가 발생할 수 있기 때문이죠. 이는 업계 전체에 경종을 울리는 사례가 될 가능성이 높습니다.

새로운 사기 트렌드: AI가 조장하는 지능형 위협들 🤖

에이전트 AI 문제 외에도 Experian 보고서는 2026년에 금융 기관들이 반드시 고려해야 할 네 가지 추가적인 트렌드를 제시합니다. 이 트렌드들은 AI가 어떻게 사기 수법의 지평을 넓히고 있는지 생생하게 보여주며, 기존의 방어 체계만으로는 대응하기 어렵다는 점을 명확히 합니다.

• 딥페이크(Deepfake) 후보자의 원격 근무 침투: 생성형 AI 도구는 이제 맞춤형 이력서와 실시간 딥페이크 비디오를 생성하여 면접을 통과할 수 있습니다. 보고서에 따르면, 고용주들은 자신이 주장하는 사람이 아닌 개인을 고용하게 되어 악의적인 행위자들에게 내부 시스템 접근 권한을 부여하게 됩니다. 실제로 2025년 FBI와 법무부는 북한 요원들이 이 방법을 사용하여 미국 기업에 취업한 사례에 대해 여러 차례 경고를 발령했습니다. 정말 충격적이지 않습니까? 신분 도용의 차원을 넘어선, ‘존재 도용’의 시대가 도래한 것이죠. 조직의 내부 보안이 단순히 외부 위협이 아닌, 내부 인력의 신분 위조라는 새로운 차원의 도전에 직면하게 된 것입니다.

• 웹사이트 클로닝(Website Cloning)으로 인한 사기팀 마비: AI 도구는 합법적인 사이트의 복제품을 만들기가 훨씬 쉬워졌고, 이를 영구적으로 제거하기는 더 어려워졌습니다. 보고서에 따르면, 삭제 요청이 처리된 후에도 위조된 도메인은 계속해서 다시 나타나 사기 대응팀을 끊임없이 수동적인 대응 패턴에 묶어둡니다. 끝없이 샘솟는 가짜 웹사이트들은 사기 팀에게 엄청난 피로감과 자원 낭비를 초래할 것입니다. 이는 마치 ‘두더지 잡기’ 게임처럼, 한 곳을 막으면 다른 곳에서 터져 나오는 형태의 고질적인 문제가 될 것입니다.

• 감성 지능형 스캠 봇(Emotionally Intelligent Scam Bots): 생성형 AI는 이제 인간 운영자 없이도 복잡한 로맨스 사기나 ‘곤경에 처한 친척’ 사기를 수행할 수 있습니다. Experian 보고서에 따르면, 이러한 봇은 설득력 있게 응답하고, 오랜 기간 동안 신뢰를 구축하며, 진짜 인간과의 상호작용과 구별하기가 점점 더 어려워지고 있습니다. 이제는 사랑이나 가족의 위협이라는 가장 인간적인 감정마저 AI 사기꾼들의 놀이터가 되고 있는 셈입니다. 솔직히 말해서, 개인적으로는 이 부분이 가장 섬뜩합니다. 사람의 감정을 조작하는 AI는 예측 불가능한 사회적 문제를 야기할 수 있으며, 이는 금융 피해를 넘어 개인의 삶에 심각한 트라우마를 남길 수 있습니다.

• 스마트 홈(Smart Home) 취약점: 가상 비서, 스마트 잠금장치, 연결된 가전제품 등 스마트 기기들은 사기꾼들에게 새로운 침입 지점을 제공합니다. Experian은 연결된 가정이 일상적인 금융 행동의 더 큰 부분이 됨에 따라, 악의적인 행위자들이 이러한 장치를 악용하여 개인 데이터에 접근하고 가정 활동을 모니터링할 것이라고 예측합니다. 우리 삶의 편리함을 위한 스마트 기기들이 역설적으로 우리의 사생활과 금융 정보를 위협하는 통로가 될 수 있다는 사실은 분명히 간과할 수 없는 문제입니다. 우리의 가장 사적인 공간마저 더 이상 안전하지 않게 될 가능성이 있는 것이죠.

이 부분에서 주목할 점은, AI가 단순히 대량의 데이터를 분석하고 패턴을 찾는 도구를 넘어, 이제는 인간의 인지 능력과 감성 영역까지 모방하며 공격의 정교함을 극대화하고 있다는 점입니다. 이는 단순히 기술적인 방어벽을 높이는 것만으로는 해결하기 어려운, 보다 근본적인 접근 방식의 변화를 요구하고 있습니다. 기술이 인간을 속이는 수준을 넘어, 인간의 약점을 파고드는 시대가 온 것입니다.

AI 거버넌스, 열망과 현실의 간극 📉

금융 기관들은 AI의 중요성을 잘 알고 있습니다. Experian의 ‘AI 인식 보고서(Perceptions of AI Report)‘에 따르면, 선도적인 금융 기관의 의사 결정자 200명 이상을 대상으로 한 설문조사에서 84%가 AI를 향후 2년간 비즈니스 전략의 ‘매우 중요하거나 높은 우선순위’로 꼽았습니다. 또한 89%는 AI가 대출 수명 주기에서 중요한 역할을 할 것이라고 응답했습니다. AI에 대한 기대치는 매우 높고, 이는 기술 혁신을 향한 금융권의 뜨거운 열망을 보여줍니다.

그러나 거버넌스(governance) 측면에서는 기관들이 어려움을 겪고 있습니다. 같은 보고서에 따르면, 응답자의 73%가 AI를 둘러싼 규제 환경에 대해 우려하고 있으며, 65%는 ‘AI 준비 데이터(AI-ready data)‘를 가장 큰 배포 과제 중 하나로 꼽았습니다. AI 공급업체를 선택할 때 가장 중요한 단일 요소로 데이터 품질이 평가되었는데, 이는 Experian의 ‘데이터 우선(data-first)’ 입지가 금융 기관이 가장 필요로 하는 것과 교차하는 지점에 있음을 시사합니다. 결국 데이터의 양도 중요하지만, 질 좋은 데이터가 AI 성공의 핵심이라는 것이죠.

준수(compliance) 측면에서도 상황은 녹록지 않습니다. Experian의 **AI 기반 모델 위험 관리 지원 도구(AI-powered Assistant for Model Risk Management)**는 AI를 배포하는 기관들이 직면한 가장 자원 집약적인 요구 사항 중 하나를 해결합니다. 2025년 Experian이 500개 이상의 전 세계 금융 기관을 대상으로 실시한 연구에 따르면,

• 67%가 자국 규제 요건을 충족하는 데 어려움을 겪고 있습니다.
• 79%가 1년 전보다 규제 기관으로부터 더 빈번한 감독 커뮤니케이션을 보고했습니다.
• 60%는 여전히 수동적인 준수 프로세스를 사용하고 있습니다.

Experian은 발표에서 대규모 기관의 70% 이상이 모델 문서화 준수에 50명 이상의 인력이 투입된다고 밝혔는데, 이는 자동화 기회가 얼마나 큰지를 보여주는 수치입니다. 이 말은 즉, AI 기술 도입의 속도는 빨라지고 있지만, 이를 뒷받침할 만한 준비된 데이터와 규제 준수 역량은 턱없이 부족하다는 현실을 의미합니다. 혁신만 외치다가는 오히려 더 큰 위험에 빠질 수 있다는 경고인 셈입니다.

Experian 소프트웨어 솔루션의 글로벌 솔루션 및 분석 EVP(Global Solutions and Analytics)인 Vijay Mehta는 이 제품이 해결하는 과제를 다음과 같이 설명했습니다. “AI 기반 데이터 분석 및 모델 개발의 속도는 금융 기관에 전례 없는 비즈니스 기회를 제공하지만, 동시에 시간 소모적인 문서화를 요구하는 글로벌 규제라는 과제를 안고 있습니다. Experian Assistant for Model Risk Management는 엔드-투-엔드 모델 문서화 자동화를 통해 이러한 노동 및 자원 집약적인 요구 사항을 해결하는 데 도움을 줍니다.”

업계 흐름을 보면, AI 기술의 도입은 거스를 수 없는 흐름이지만, 그만큼 AI 윤리와 책임, 그리고 규제 준수에 대한 논의와 시스템 구축이 동시에 이루어져야 함을 시사합니다. 결국, AI의 잠재력을 최대한 활용하면서도 발생할 수 있는 부작용을 최소화하기 위한 **‘균형 잡힌 접근 방식’**이 그 어느 때보다 중요하다고 개인적으로 생각합니다. 단순히 기술을 도입하는 것을 넘어, 그 기술이 사회와 산업에 미칠 영향을 깊이 고민하고 준비해야 하는 시점입니다.

Experian의 보고서는 금융 서비스 분야에서 AI 도입이 직면한 **‘사기의 역설(fraud paradox)‘**을 적나라하게 보여줍니다. AI는 가장 강력한 방어 도구이자 동시에 가장 교활한 공격 무기가 될 수 있다는 점을 분명히 깨달아야 합니다. 단순히 AI를 도입하는 것을 넘어, 에이전트 AI의 책임 소재, 딥페이크와 스캠 봇이 야기하는 새로운 형태의 위협, 그리고 스마트 홈의 취약점까지, 우리는 전례 없는 복합적인 문제에 직면해 있습니다.

이제 금융 기관들은 기술적 방어뿐만 아니라, AI 거버넌스 프레임워크 구축, AI 준비 데이터 확보, 그리고 효율적인 규제 준수 시스템 마련에 총력을 기울여야 합니다. 2026년은 AI 혁신의 분기점이 될 것이며, 이 티핑 포인트에서 어떤 방향으로 나아갈지는 현재 우리가 어떤 선택을 하고 얼마나 발 빠르게 대응하느냐에 달려 있습니다. AI가 가져올 무한한 기회를 안전하게 포착하기 위해, 지금 당장 심층적인 논의와 실질적인 행동이 필요합니다.

---

출처

• 원문 제목: Experian uncovers fraud paradox in financial services’ AI adoption
• 출처: AI News
• 원문 기사 보러가기