익명성에 숨은 AI 딥페이크 범죄자, FBI는 이미 당신을 지목하고 있다
Published May 27, 2026
당신도 모르는 사이, 당신의 얼굴이 음란물에 사용될 수 있다는 생각, 한 번쯤 해보셨나요? AI 기술의 발전은 불가능해 보였던 일들을 현실로 만들었고, 그중 가장 어둡고 추악한 면이 바로 비동의 성적 딥페이크(nonconsensual sexualized deepfakes)입니다. 유명인뿐 아니라 평범한 개인까지도 끔찍한 디지털 폭력의 피해자가 될 수 있다는 현실은 많은 이들에게 깊은 불안감을 안겨주었죠. 하지만 이제, 온라인상에서 이러한 범죄를 저지르는 이들에게 강력한 경고음이 울리고 있습니다. FBI가 놀라울 정도로 손쉽게 딥페이크 유포자를 색출해내고 있다는 소식이 들려오면서, 그들의 은신처는 생각보다 허술하다는 사실이 드러났습니다.
덜컥! 생각보다 쉬운 추적, FBI의 경고
얼마 전, FBI는 온라인에서 비동의 성적 딥페이크를 게시하고 판매한 혐의로 두 명의 남성을 체포했습니다. 이는 **테이크 잇 다운 법(Take It Down Act, TIDA)**에 따른 첫 체포 사례들 중 하나로, 수사당국이 이러한 범죄자들을 추적하는 데 그리 많은 노력을 기울이지 않아도 된다는 점을 시사합니다. 그들은 그저 포르노 웹사이트에 접속해 #AI #Deepfakes 같은 해시태그나 “AI_tits”, “Ass_AI” 같은 제목을 클릭하는 것만으로 수사를 시작할 수 있었다고 해요. 솔직히 말해서, 많은 이들이 온라인 익명성을 과신하는 경향이 있는데, 이번 사례들은 그러한 착각을 단번에 깨뜨립니다.
체포된 용의자 중 한 명인 20세의 아르투로 에르난데스는 약 50여 명의 여성(정치인, 여배우, 음악가부터 심지어 고등학교 동창이나 인스타그램 친구까지)에 대한 AI 생성 성적 이미지와 영상이 담긴 113개의 앨범을 게시했으며, 이 앨범들은 거의 백만 번 가까이 조회되었다고 합니다. 그를 특정하는 과정은 생각보다 명확했습니다. 수사관들은 포르노 사이트에서 에르난데스가 업로드한 모든 콘텐츠를 다시 게시하는 두 번째 계정을 발견했습니다. 이 두 번째 계정은 에르난데스의 페이팔(PayPal) 계정과 연결되어 있었고, 해당 계정에 로그인하는 데 사용된 IP 주소는 에르난데스의 애플(Apple) 기록에 나타난 아이클라우드(iCloud) 로그인 IP 주소와 동일했습니다.
여기서 끝이 아닙니다. FBI는 에르난데스가 피해자 중 한 명의 인스타그램 계정을 팔로우하고 있었을 뿐만 아니라, 자신의 인스타그램 계정 폴더에 AI 포르노 콘텐츠 제작에 사용된 특정 이미지를 저장해둔 사실까지 밝혀냈습니다. 해당 딥페이크 이미지는 무려 3만 6천 번 이상 조회되었는데 말이죠. 심지어 그는 자신의 Gmail 계정을 본명 대신 “라이언(Ryan)“이라는 닉네임으로 등록하며 익명성을 유지하려 했지만, FBI는 그가 스냅챗(Snapchat) 등 다른 온라인 공간에서도 이 닉네임을 사용했다는 점을 포착했습니다. 결국 디지털 발자국 하나하나가 그를 향한 길을 열어준 셈입니다.
또 다른 체포자인 51세의 코넬리우스 “닐” 섀넌은 에르난데스보다 훨씬 더 부주의했던 것으로 드러났습니다. 그는 약 90여 명의 여성(주로 정치인, 여배우, 음악가)이 등장하는 AI 생성 앨범 약 360개를 게시했으며, 이 앨범들은 2백만 회 이상 조회되었습니다. 섀넌을 포르노 사이트 계정과 연결하는 것은 놀랍도록 쉬웠다고 FBI 요원은 설명합니다. 그 이유는 섀넌이 자신의 사진을 프로필 사진으로 사용했기 때문입니다. 수사관들은 차량등록국(Department of Motor Vehicle) 기록과 감시 카메라 사진을 교차 확인하여, 계정 프로필에 메츠 야구 셔츠를 입고 포즈를 취한 남성이 섀넌 본인임을 확인했습니다. 이쯤 되면 익명성을 가장한 범죄 시도 자체가 무의미하게 느껴질 정도입니다. 개인적으로는, 이러한 사례들이 단순한 일회성 사건이 아니라, 디지털 시대에 범죄를 저지르는 이들에게 결코 완전한 익명성은 없다는 강력한 메시지를 던지고 있다고 생각합니다.
AI 딥페이크, 제작은 쉬워도 처벌은 엄격하다
TIDA 위반 혐의가 입증될 경우, 에르난데스와 섀넌은 최대 2년의 징역형에 처해질 수 있습니다. 미국 법무부 관계자들은 이러한 온라인에 게시된 이미지들을 추적하고 법을 집행하는 데 강한 의지를 보이고 있습니다. 뉴욕 동부지방 검사장 조셉 노첼라 주니어는 이번 용의자들이 “최첨단 디지털 기술을 사용하여 미국 전역의 피해자들을 비하하고 침해하는 이미지를 만들었다”고 비난했습니다. 뉴욕 FBI 지부의 제임스 C. 바너클 주니어 부국장 역시 “이러한 약탈적 행위는 피해자에게 정서적 피해를 입히고 그들의 사생활, 존엄성, 보안을 침해하는 기술 오용”이라며, “이러한 신기술을 이용하여 개인에게 피해를 입히는 것은 혁신적인 것이 아니라 범죄이며, 법의 모든 힘을 다해 추적될 것”이라고 단호하게 밝혔습니다. 이처럼 강력한 수사기관의 의지는 딥페이크 범죄를 가볍게 여길 수 없는 분명한 이유가 됩니다.
하지만 문제는 여전히 남아있습니다. TIDA 위반으로 기소된 일부 사람들은 재판 전 석방 중에도 성적 딥페이크를 계속 만드는 등, 임박한 결과의 위협에도 불구하고 범죄를 멈추지 않는 경우도 있다는 겁니다. 이는 리얼한 콘텐츠를 만드는 기술이 여전히 쉽게 접근 가능하고 상대적으로 저렴하기 때문입니다. 기술의 발전 속도가 법적 제재의 효과를 일정 부분 상쇄하고 있는 상황이죠.
이에 연방거래위원회(FTC)는 문제를 인식하고, 이러한 흐름에 제동을 걸기 위해 지난주 ‘누디파이(nudify)’ 도구를 제공하는 12개 회사에 경고 서한을 보냈습니다. FTC는 해당 회사들이 TIDA를 위반하고 있을 가능성이 높으며, 플랫폼에 나타나는 비동의 친밀 이미지(non-consensual intimate images)에 대한 피해자들의 삭제 요청을 48시간 이내에 처리할 수 있는 절차를 구현하지 않을 경우, 위반당 최대 53,088달러의 민사 벌금에 처해질 수 있다고 경고했습니다.
소셜 미디어 플랫폼 X(구 트위터)도 예외는 아니었습니다. X의 챗봇 Grok이 세 명의 소녀의 실제 사진을 AI 아동 성착취물로 변환했다는 주장에 대한 소송에 휘말리기도 했었죠. X 안전 계정은 TIDA 피해자들이 도움말 센터를 통해 유해 콘텐츠를 신고할 수 있다고 공지했습니다. 특정 게시물의 세 점 메뉴(⋯)를 탭하고 ‘개인 또는 비동의 콘텐츠’ > ‘미국 테이크 잇 다운 법에 따른 콘텐츠 신고’를 선택한 후 양식을 작성하는 방식으로 신고할 수 있으며, X 팀은 이러한 신고를 법이 정한 48시간 이내에 최대한 빨리 검토한다고 합니다.
FTC는 이번 달에 모든 온라인 플랫폼이 이러한 절차를 마련해야 하는 기한이 지남에 따라 규제 집행을 강화하고 있는 것으로 보입니다. ‘누디파이’ 서비스에 경고 서한을 보내기 일주일 전에는 아마존, 알파벳, 애플, 메타, 마이크로소프트, 핀터레스트, 레딧, 스냅챗, 틱톡, X를 포함한 주요 플랫폼 운영자들에게도 준수 미이행 시 벌금에 직면할 준비를 하라는 서한을 보냈습니다. 이는 기업들에게도 강력한 책임감을 요구하는 조치라고 할 수 있습니다.
완벽하진 않아도 강력한 압박: TIDA의 현재와 미래
비록 모든 온라인 플랫폼에 이러한 절차가 마련된다고 해도 TIDA는 완벽하지 않다는 지적도 있습니다. 초기 공유 자체를 막지는 못하며, 여전히 피해자가 콘텐츠를 감시하고 삭제를 요청해야 하는 부담을 지우기 때문입니다. 하지만 개인적으로는 TIDA 자체가 완벽한 솔루션이라기보다는, 이러한 기술 오남용에 대한 사회적 경고이자 강력한 진압의 시작점이라고 보는 것이 맞다고 생각합니다. 법 집행 기관인 FBI와 규제 기관인 FTC의 연이은 강력한 조치들은 온라인 플랫폼과 AI 서비스 제공자들에게 더 큰 책임감을 부여하고, 궁극적으로는 이러한 범죄를 억제하는 데 중요한 역할을 할 것입니다.
결국 기술의 발전은 양날의 검과 같습니다. 빛처럼 밝은 면이 있는가 하면, 이처럼 어둡고 위험한 그림자도 드리우죠. 중요한 것은 기술을 만드는 이들, 기술을 사용하는 이들, 그리고 기술을 규제하는 이들 모두가 이러한 위험에 대해 인지하고, 윤리적 책임감을 가지고 대응하는 것입니다. AI 딥페이크는 한 개인의 삶을 송두리째 파괴할 수 있는 심각한 범죄입니다. 이번 FBI의 사례들은 디지털 세상에 숨어 있다고 생각하는 범죄자들에게 “당신은 이미 우리의 레이더망에 포착되었다”는 명확한 경고를 보내고 있습니다. 더 이상 온라인 익명성 뒤에 숨어 디지털 범죄를 저지를 수 있는 시대는 저물고 있습니다. 우리는 모두 이 변화를 주시하며, 안전하고 책임감 있는 디지털 세상을 만들어가는 데 동참해야 할 때입니다.
출처
- 원문 제목: FBI agent explains how easy it is to ID people posting AI porn without consent
- 출처: Artificial Intelligence - Ars Technica
- 원문 기사 보러가기
