AI, 구글의 빛과 그림자: 제미니가 해킹 도구로 전락한 충격적 진실
Published Jun 15, 2026
매달 무려 100억 건에 달하는 스팸 메시지를 차단하는 강력한 AI 기반 사기 탐지 기술을 보유한 기업, 구글. 하지만 믿기 힘든 사실은, 바로 그 구글이 만든 생성형 AI 모델 **제미니(Gemini)**가 대규모 사이버 범죄의 핵심 도구로 활용되었다는 점입니다. 수십만 명의 사람들이 이 제미니 기반 사기 웹사이트에 희생되었고, 250만 건 이상의 악성 문자 메시지가 안드로이드 사용자들에게 뿌려졌습니다. 구글의 자랑스러운 AI가 범죄에 악용된 현 상황, 과연 우리는 이를 어떻게 바라봐야 할까요?
구글은 언제나 자신들의 생성형 AI 제품이 새로운 것을 만들고, 비즈니스를 성장시키며, 심지어 세상을 구하는 데 어떻게 기여하는지 열정적으로 이야기해왔습니다. 첨단 기술이 가져올 긍정적인 미래에 대한 비전은 인상적입니다. 하지만 현실은 냉혹합니다. AI는 빛과 함께 그림자도 드리우고 있으며, 그 그림자 속에서 교활한 범죄자들이 AI의 강력한 기능을 악용하고 있다는 사실이 이번 사건을 통해 명백히 드러났습니다. 구글은 최근 ‘아웃사이더 엔터프라이즈(Outsider Enterprise)‘라는 중국 사이버 범죄 조직에 대해 법적 조치를 취했다고 발표했습니다. 이 조직은 AI를 활용한 대규모 사기 캠페인을 벌여왔고, 여기에 다름 아닌 구글의 제미니 AI가 사용되었다는 점이 이번 뉴스의 핵심이자 가장 충격적인 부분입니다. 구글은 현재 법 집행기관 및 이동통신사들과 협력하여 이들과 맞서 싸우고 있습니다.
AI, 빛과 그림자: 제미니의 어두운 이면 🌚
‘아웃사이더 엔터프라이즈’는 텔레그램을 통해 활동하며, 기술적인 지식이 부족한 개인들에게 ‘피싱 서비스(phishing-as-a-service)‘를 제공해온 것으로 알려졌습니다. 이들은 사기성 웹사이트나 문자 캠페인을 직접 설정하기 어려운 이들을 위해 필요한 모든 것을 제공했습니다. 특히 놀라운 점은, 이들이 텔레그램 채널에서 구글 제미니 AI를 활용하여 구글, 유튜브, 그리고 뉴욕 E-ZPass와 같은 정부 기관의 웹사이트를 모방한 가짜 웹사이트를 만드는 방법을 상세히 설명했다는 것입니다. 이들은 무려 300개에 가까운 사기 템플릿을 제공하며 범죄의 문턱을 한없이 낮췄습니다.
상상해보세요. 과거에는 숙련된 개발자나 해커만이 정교한 피싱 사이트를 만들 수 있었습니다. 하지만 이제는 AI의 도움을 받아 일반인조차도 몇 번의 클릭만으로 실제와 거의 구별하기 힘든 가짜 사이트를 만들어낼 수 있게 된 것입니다. 뉴스 기사에 따르면, 아웃사이더 엔터프라이즈가 촉진한 사기로 인해 안드로이드 사용자들에게 250만 건 이상의 문자 메시지가 발송되었고, 지난 한 달 중 2주 동안에만 5만 5천 건의 메시지가 전송되었습니다. 구글은 이 사기 네트워크와 연결된 9,000개의 가짜 웹사이트와 100만 개의 URL을 추적했습니다. 문자 메시지는 주로 계정 문제나 택배 배송 문제 등을 주장하며, 사용자들이 링크를 클릭하면 제미니가 설계한 진짜 같은 가짜 웹사이트로 연결되어 개인 정보와 은행 정보를 탈취했습니다. 비록 도난당한 금액은 정확히 추정되지 않았지만, 수백 명이 적지 않은 돈을 잃었다는 사실은 AI가 현실 세계에 미치는 부정적인 영향력을 여실히 보여줍니다.
이 부분에서 주목할 점은, 구글이 제미니를 발표할 때마다 강조했던 보안 조치들이 이러한 대규모 악용을 막지 못했다는 것입니다. 물론 챗봇이 사용자 지시를 따르도록 설계된 것은 당연한데, 바로 이 점이 보안 조치와 충돌하는 역설적인 상황을 만들어냅니다. ‘생성’이라는 AI의 본질적인 능력이 악용될 때, 그 파급력은 상상 이상이라는 것을 이번 사건이 방증하는 셈입니다. 솔직히 말해서, AI의 무한한 잠재력을 칭송하는 동안 우리는 그 잠재력이 어두운 방향으로 전환될 가능성을 충분히 인지하고 대비하고 있었을까요?
‘방패’는 ‘칼’을 막을 수 있을까? 구글의 대응과 역설 ⚔️🛡️
구글은 이러한 위협에 맞서기 위해 다각적인 노력을 기울이고 있습니다. AT&T, 버라이즌, T-모바일과 같은 주요 이동통신사들과 협력하여 악성 문자 메시지를 차단하고 있으며, 구글 메시지의 온디바이스(on-device) 사기 탐지 기능이 성공적인 피싱 시도를 줄이는 데 기여했다고 밝히고 있습니다. 이 AI 기반 기능은 매달 100억 건의 스팸 메시지를 차단한다고 하니, 아웃사이더 엔터프라이즈의 활동 중 일부를 잡아냈을 것으로 예상하는 것은 합리적입니다.
구글이 사기꾼들을 상대로 소송을 제기한 것이 이번이 처음은 아닙니다. 하지만 자사의 제미니 AI가 사기 수단으로 활용된 경우에 직접적인 법적 조치를 취한 것은 이번이 처음이라는 점에서 그 의미가 남다릅니다. 이는 구글 스스로도 자사 AI의 악용에 대한 심각성을 인지하고 있으며, 그 책임감을 통감하고 있음을 보여주는 행동입니다. 구글은 민사 소송 외에도 FBI의 사이버 범죄 부서와 병행하여 형사 수사를 지원하고 있습니다.
그러나 현실적인 어려움도 존재합니다. 아웃사이더 엔터프라이즈의 배후에 누가 있는지 알 수 없으며, 설령 구체적인 이름이 파악된다 하더라도 범죄자들이 중국에 위치하고 있어 법적 집행이 쉽지 않다는 문제가 있습니다. 구글은 사기성 도메인과 텔레그램 계정을 추적하여 아웃사이더 엔터프라이즈의 활동을 방해하려고 하지만, 사기 수법이 단순히 형태를 바꿀 가능성도 배제할 수 없습니다.
구글은 AI 시대에 새로운 법 집행 방식이 필요하다고 믿으며, 이를 기회 삼아 여러 법안에 대한 공개적인 지지를 표명하고 있습니다. ‘국가 사기 방지 전략법(National Strategy for Combating Scams Act)’, ‘사기 예방 전략 태스크포스법(Strategic Task Force on Scam Prevention Act)’, ‘AI 계획법(AI Plan Act)’ 등 7개의 연방 법안을 언급하며, AI 기반 사기 및 시장 조작에 대응하기 위한 태스크포스 구성을 촉구하고 있습니다. ‘인공지능 대중 인식 및 교육 캠페인법(Artificial Intelligence Public Awareness and Education Campaign Act)‘과 같이 대중의 AI 악용 식별 능력을 향상시키기 위한 법안도 있습니다.
하지만 아이러니하게도, 업계 전반의 목표인 인간과 같은 지능을 가진 AI 시스템 개발은 이러한 악성 콘텐츠를 사람들이 더욱 알아차리기 어렵게 만들 가능성이 높습니다. 아무리 선의의 정부 법안이 마련된다고 해도, AI의 발전 속도가 법과 사람의 인지 능력을 앞지른다면, 이 싸움은 끝없는 뫼비우스의 띠처럼 반복될 수밖에 없을 것입니다. 개인적으로는, AI 기술의 발전이 가속화될수록 개발 단계부터 ‘악용 가능성’에 대한 심층적인 시뮬레이션과 윤리적 가이드라인이 더욱 강화되어야 한다고 생각합니다. 그렇지 않으면 ‘방패’를 만드는 노력만큼 ‘칼’을 가는 노력도 비례하여 증가할 것이며, 그 피해는 고스란히 무고한 대중에게 돌아올 것이 불 보듯 뻔합니다.
이번 사건은 AI가 양날의 검임을 다시 한번 일깨워줍니다. 혁신을 약속하는 동시에, 그 기술이 악의적인 손에 들어가면 얼마나 파괴적일 수 있는지를 적나라하게 보여주죠. 구글과 같은 기술 거인들이 AI의 긍정적인 면을 강조하는 만큼, 그 이면에 도사린 위험과 이를 막기 위한 책임감 있는 자세를 더욱 적극적으로 보여주어야 할 시점입니다. AI의 미래는 기술 개발 속도뿐만 아니라, 그 기술을 어떻게 규제하고 보호하느냐에 달려있다는 사실을 잊어서는 안 될 것입니다.
출처
- 원문 제목: Google sues Chinese cybercrime network that used Gemini to automate scams
- 출처: Artificial Intelligence - Ars Technica
- 원문 기사 보러가기
