내 몸이 딥페이크 포르노에 사용되는 충격: AI 시대, 누가 진짜 피해자인가?

여러분은 AI 딥페이크가 누군가의 얼굴을 도용해 충격적인 콘텐츠를 만들어내는 심각한 문제라고만 생각하셨나요? 만약 그 콘텐츠 속 몸이 당신의 것이라면, 당신은 어떤 감정을 느끼실까요? MIT Technology Review의 최근 기사는 이 질문에 대한 깊은 울림을 전하며, 딥페이크의 어두운 이면, 특히 성인 콘텐츠 창작자들이 겪는 새로운 형태의 착취에 대해 경종을 울립니다. 우리는 흔히 딥페이크의 피해자를 ‘얼굴이 도용된 사람’으로만 인식하는 경향이 있습니다. 하지만 이번 기사는 그 뒤에 가려진 ‘몸의 주인’들, 즉 성인 콘텐츠 창작자들의 고통과 그들의 생존권이 어떻게 위협받고 있는지 적나라하게 보여줍니다. 단순히 얼굴만 바꿔치기되던 과거와는 달리, AI 시대의 딥페이크는 훨씬 더 교묘하고 파괴적인 방식으로 그들의 삶을 잠식하고 있습니다.

딥페이크의 역설: 얼굴은 바뀌어도 ‘내 몸’은 남는다

2023년, 제니퍼(가명)는 비영리 단체에 취업하며 새로 찍은 프로필 사진을 얼굴 인식 프로그램에 넣어봤습니다. 10년 전, 20대 초반에 촬영했던 성인 영상들이 검색될까 우려했기 때문이죠. 아니나 다를까, 프로그램은 과거 그녀의 콘텐츠를 찾아냈습니다. 그런데 그보다 더 충격적인 결과를 보여주었습니다. 그녀의 옛 영상 중 하나에 낯선 얼굴이 합성되어 있었던 것입니다. 처음에는 다른 사람의 영상인 줄 알았다는 제니퍼는, 2013년경 촬영했던 영상 속 배경을 알아보고는 소스라치게 놀랐다고 합니다. “누군가 내 몸을 딥페이크에 사용했다는 것을 깨달았죠.”

놀랍게도 얼굴 인식 기술은 제니퍼의 볼, 눈썹, 턱선 등 그녀의 특징이 여전히 남아있었기 때문에 그 영상을 그녀의 것으로 식별했습니다. 그녀는 마치 “다른 사람의 얼굴을 마스크처럼 쓰고 있는 것 같았다”고 표현했습니다. 솔직히 말해서, 이 지점에서 우리는 딥페이크에 대한 우리의 기존 인식을 재고해야 합니다. 그동안 성적 딥페이크, 즉 비동의적 친밀 이미지(NCII)에 대한 논의는 주로 유명인사 등 ‘얼굴이 도용된’ 사람들에게 초점이 맞춰져 있었습니다. 그러나 제니퍼의 사례는 ‘이 몸은 누구의 것인가?‘라는 근본적인 질문을 던집니다. 37세의 뉴욕시 심리치료사가 된 제니퍼는 “이 몸이 누구의 것인지에 대한 논의는 전혀 없었다”고 지적합니다.

사실, 딥페이크의 역사는 성인 콘텐츠 창작자들의 몸을 비동의적으로 사용해온 역사와 궤를 같이 합니다. 2017년 11월, ‘deepfakes’라는 레딧 사용자가 스칼렛 요한슨, 갈 가돗과 같은 유명 배우들의 얼굴을 포르노 배우의 몸에 합성한 영상을 올리면서 이 용어가 처음 대중에게 알려졌죠. 성인 산업 전문 변호사 코리 실버스타인(Corey Silverstein)은 딥페이크에서 포르노 배우들의 몸을 비동의적으로 사용하는 일이 “항상 일어난다”고 말합니다.

AI 시대, 딥페이크는 어떻게 성인 콘텐츠 창작자들을 위협하는가: 과거와 현재의 비교

딥페이크는 AI 이전에도 존재했습니다. 1970년대, 포르노 배우 스파이크 아이언스(Spike Irons)는 패라 포셋(Farrah Fawcett)의 누드 사진처럼 보이는 것을 봤다고 회상합니다. 당시 사람들은 얼굴을 오려내 몸에 붙이는 방식으로 가짜 이미지를 만들었습니다. 마이크로소프트 페인트 같은 간단한 프로그램이나 어도비 애프터 이펙트(Adobe After Effects), 얼굴 교환 소프트웨어인 페이크앱(FakeApp)을 사용해서도 가능했죠. 이러한 초기 기술들은 전문 지식 없이도 콘텐츠를 조작할 수 있게 했고, 풍부한 온라인 포르노 콘텐츠와 결합하여 2010년대에는 얼굴 교환 딥페이크가 만연했습니다. 갈 가돗이나 엠마 왓슨 같은 유명인들의 얼굴이 포르노 배우 페퍼 엑소(Pepper XO)와 메리 무디(Mary Moody)의 몸에 합성되면서 대중적 공포를 불러일으키기도 했습니다. 제니퍼 또한 “아주 작은 규모의 출연자”였지만 이런 일이 발생했다는 점은, 유명인이 아니더라도 누구나 피해자가 될 수 있었음을 시사합니다.

그러나 최근 생성형 AI 기술이 발전하고 ‘누디파이(nudify)’ 앱이 확산되면서 문제는 훨씬 복잡하고, 성인 콘텐츠 창작자들의 미래에 더욱 위험한 방향으로 진화하고 있습니다. 과거에는 주로 특정 배우의 몸에 다른 얼굴을 합성하는 방식이었다면, 이제는 차원이 다릅니다.

• 몸의 ‘훈련 데이터’화: 성인 배우들의 몸은 더 이상 단순히 ‘복사-붙여넣기’의 대상이 아닙니다. 그들의 몸짓, 움직임, 표현 방식 등 모든 것이 AI 모델을 훈련시키는 데이터로 사용됩니다. 이렇게 학습된 AI는 이제 새로운, 실제 존재하지 않는 몸을 만들어낼 수 있게 됩니다. 이 과정에서 창작자들은 자신의 동의 없이 자신의 몸을 AI에 ‘헌납’하고 있는 셈입니다.

• 생계와 권리의 위협: AI가 생성한 ‘가짜’ 누드 이미지가 시장에 풀리면서, 실제 성인 배우들의 콘텐츠 판매가 줄어들 수 있습니다. 자신의 작품이 AI 훈련에 사용되어 결국 자신의 직업을 빼앗는다는 것은 정말 아이러니하며 잔인한 현실이 아닐 수 없습니다. 개인적으로는 이 지점이 가장 우려스럽습니다. 창작자들의 노동이 비자발적으로 새로운 경쟁자를 키워내는 아이러니한 상황이 펼쳐지고 있는 것이죠.

• ‘디지털 복제품’의 등장과 통제 불능: AI는 성인 배우들의 신체와 외모를 완벽하게 재현할 수 있게 되었습니다. 더 나아가, 이 ‘디지털 복제품’은 원본 배우가 동의하지 않았던 성행위를 하거나, 심지어 팬들을 상대로 사기를 치는 등 배우의 의지와는 전혀 다른 행동을 할 수 있습니다. 이는 단순히 이미지를 넘어선 인격권과 재산권 침해이며, 배우의 평판에 치명적인 영향을 미칠 수 있습니다.

‘잊혀진 피해자들’: 성인 콘텐츠 창작자들의 취약성

성인 콘텐츠 창작자들은 사회적으로 이미 주변화되어 있으며, 안전과 권리를 보호받지 못하는 경우가 많습니다. 이러한 AI 기술의 발전은 그들을 더욱 취약한 위치에 놓이게 합니다. 제니퍼는 자신의 몸이 사용된 딥페이크를 발견한 후, 소셜 미디어에 그 심리적 영향을 토로했습니다. “누구도 자신의 몸이 동의 없이 사용되었을 때 그것이 얼마나 트라우마가 될 수 있는지 묻지 않았어요. 하지만 정말 그렇습니다!” 저와 인터뷰한 다른 창작자들도 자신의 몸이 비동의적으로 사용되었다는 사실이 주는 정신적 고통, 그리고 자신의 작품이 불법 복제되어 재정적 손실을 입을지도 모른다는 두려움을 공유했습니다. 실버스타인 변호사는 매일같이 “자신의 콘텐츠가 AI를 통해 착취당할까 봐 걱정하며 보호 방법을 찾고 있는” 성인 배우들의 문의를 받는다고 합니다.

여성에 대한 폭력 전문가이자 법학 교수는 이들을 NCII 딥페이크의 “잊혀진 피해자”라고 부릅니다. 더 나아가, 몇몇 인터뷰 대상자들은 미국이 온라인 비동의적 성적 콘텐츠에 대처하기 위한 법적 프레임워크를 개발하는 과정에서 성인 배우들이 더 큰 상처를 받을 위험이 있다고 우려합니다. 딥페이크에 대한 단속이 그들을 돕기는커녕, 오히려 그들의 콘텐츠와 경력을 인터넷에서 완전히 박탈시키는 ‘법의 허점’을 제공할 수도 있다는 것이죠.

업계 흐름을 보면, 기술 발전이 너무나 빠르기 때문에 법과 제도가 그 속도를 따라잡지 못하는 것은 흔한 일입니다. 하지만 이 문제는 단순히 기술적 문제를 넘어, 인간의 존엄성과 노동의 가치에 대한 근본적인 질문을 던집니다. 성인 콘텐츠 창작자들도 엄연히 노동을 통해 콘텐츠를 생산하는 주체입니다. 그들의 몸이 무단으로 사용되고, 그들의 창작물이 착취당하는 상황을 외면하는 것은 현대 사회가 지향해야 할 가치와는 거리가 멀다고 생각합니다.

우리는 AI 딥페이크의 위협을 논할 때, 단지 유명인의 얼굴 도용을 넘어, 사회의 가장자리에 있는 이들의 고통과 권리 침해에도 깊은 관심을 기울여야 합니다. 그들의 목소리에 귀 기울이고, AI 시대에 그들이 정당한 보호를 받을 수 있도록 함께 고민해야 할 시점입니다. 이 복잡한 기술적, 윤리적 딜레마 속에서 과연 우리는 어떤 답을 찾아낼 수 있을까요?

---

출처

• 원문 제목: The shock of seeing your body used in deepfake porn
• 출처: MIT Technology Review
• 원문 기사 보러가기