당신의 신체가 당신의 동의 없이 음란물에 사용되거나, 당신의 개인 정보가 AI 챗봇에 의해 아무렇지도 않게 유출될 수 있다면? 우리는 지금 그 기로에 서 있습니다.

인공지능, 가장 은밀한 곳까지 침투하다: 딥페이크와 프라이버시 침해의 현실

이 글을 읽고 계신 여러분은 혹시 **인공지능(AI)**이 우리 일상에 얼마나 깊숙이 들어와 있는지 실감하고 계신가요? 최근 일련의 소식들을 접하며 솔직히 말해서, 저는 기술 발전의 속도와 그 이면에 숨겨진 그림자에 적잖이 충격을 받았습니다. 특히 개인의 신체와 프라이버시에 AI가 미치는 영향은 그야말로 ‘지금, 여기’에서 벌어지고 있는 심각한 현실 문제죠.

한 연구원이 자신의 예전 직업 사진을 안면 인식 프로그램에 돌려보았을 때, 그녀는 과거 자신이 만든 영상 외에 한 번도 본 적 없는 영상이 뜨는 것을 보고 경악했습니다. 자신의 몸에 다른 사람의 얼굴이 합성된, 이른바 딥페이크(Deepfake) 음란물이었죠. 우리는 주로 딥페이크 피해자라고 하면 얼굴이 합성된 사람에게 초점을 맞추곤 합니다. 하지만 이 사건은 또 다른, 종종 간과되는 피해자 집단을 조명합니다. 바로 자신의 몸이 동의 없이 사용된 성인 콘텐츠 크리에이터들입니다.

이들은 AI 시스템이 자신들의 작업을 학습하고, 자신들의 모습을 복제하며, 동의하지 않은 음란물을 만들어내고 있다고 호소합니다. 그런데도 이들의 권리, 생계, 그리고 자신의 신체에 대한 소유권을 보호할 법적 장치는 아직 미미한 수준입니다. 기술은 국경을 초월하고 법은 그 뒤를 한참 쫓아가는 이 냉혹한 현실 속에서, 개인의 존엄성은 어디에서 보호받아야 할까요? 이 부분에서 주목할 점은, AI 학습 데이터의 윤리적 확보와 활용에 대한 깊이 있는 논의와 국제적인 법적 공조가 시급하다는 점입니다. 그렇지 않으면 이러한 유형의 젠더 기반 폭력은 더욱 확산될 가능성이 높습니다.

개인 정보 유출 문제도 심각합니다. 생성형 AI가 사람들의 개인 연락처를 쉽게 노출시키는 사례가 속출하고 있습니다.

• 한 소프트웨어 개발자는 Gemini 챗봇이 자신의 전화번호를 노출한 이후 왓츠앱으로 도움을 요청하는 메시지를 받기 시작했습니다.
• 한 대학 연구원은 챗봇을 통해 동료의 개인 휴대전화 번호를 알아냈습니다.
• 레딧 사용자 또한 Gemini가 변호사를 찾는 발신자들을 자신의 전화로 계속 연결했다고 증언합니다.

전문가들은 이러한 프라이버시 침해가 AI 훈련 데이터에 포함된 **개인 식별 정보(PII)**에서 비롯된다고 분석합니다. AI 챗봇이 이러한 정보를 훨씬 더 쉽게 찾아내도록 만들고 있다는 것이죠. 문제는 이러한 유출이 점점 늘고 있지만, 피해자들이 이를 막기 위한 뾰족한 방법이 거의 없다는 점입니다. 데이터 세트에 한번 포함된 정보는 사실상 디지털 세상에서 완전히 삭제하기란 불가능에 가깝다는 것을 우리는 이미 알고 있습니다. AI의 발전에 앞서, 데이터 거버넌스와 개인 정보 보호에 대한 근본적인 패러다임 전환이 필요하다는 방증입니다. 개인적으로는 이러한 문제의 심각성을 고려할 때, AI 개발 기업들이 훈련 데이터의 PII 필터링 및 익명화에 대한 더욱 강력한 책임감을 가지고 기술적, 윤리적 기준을 마련해야 한다고 생각합니다.

글로벌 AI 패권 경쟁의 격화와 기술 산업의 그림자

AI의 영향력은 개인의 영역을 넘어 국제 정치와 경제의 판도까지 흔들고 있습니다. 미국이 **엔비디아(Nvidia)**의 H200 칩 판매를 알리바바, 텐센트, 바이트댄스를 포함한 10개 중국 기업에 승인했다는 소식은 단순한 기업 거래를 넘어 복잡한 지정학적 역학 관계를 드러냅니다. 미국은 판매 수익의 25%를 얻게 되지만, 동시에 중국은 자국 기업들이 자국산 칩을 우선시하도록 독려하고 있습니다. 이는 미국의 기술 제재와 중국의 AI 자립 의지 사이에서 벌어지는 팽팽한 줄다리기입니다. 베이징의 AI 독립 추진은 미국의 지렛대를 약화시키고 있으며, 오픈 소스에 대한 대대적인 투자를 통해 기술적 주권을 확보하려는 중국의 전략은 장기적으로 글로벌 AI 생태계에 상당한 변화를 가져올 것입니다.

또한, AI 산업 내부에서도 흥미로운, 때로는 우려스러운 현상들이 나타나고 있습니다.

• AI가 개발자들의 “두뇌를 썩게 한다”: 개발자들이 AI 도구에 의존하면서 기존의 업무 능력을 잃어버린다는 지적은 시사하는 바가 큽니다. AI가 생산성을 높이는 동시에 인간의 특정 능력을 퇴화시킬 수 있다는 경고죠. 이는 AI 시대의 교육과 직업 훈련이 어떻게 변화해야 할지에 대한 중요한 질문을 던집니다.
• 샘 알트만(Sam Altman)의 이해 상충 의혹: OpenAI와 거래하는 회사들에 샘 알트만이 20억 달러 이상을 투자했다는 사실은 기업 지배 구조와 투명성 문제에 대한 논란을 불러일으키고 있습니다. AI 스타트업들의 폭발적인 성장 속에서 발생할 수 있는 내부자 거래 및 이해 상충 문제는 새로운 규제와 감시의 필요성을 제기합니다.
• 안드레센 호로위츠(Andreessen Horowitz)의 정치 자금 기부: 이 벤처 캐피탈 회사가 중간선거에 1억 1,550만 달러를 기부하며 미국 내 최고 정치 후원자가 되었다는 소식은 AI 로비의 열기가 얼마나 뜨거운지 보여줍니다. AI 규제 환경이 형성되는 초기에 막대한 자금을 동원하여 정책에 영향력을 행사하려는 움직임은 ‘규제 포획(regulatory capture)’ 우려를 낳을 수 있습니다.

이러한 소식들은 AI가 단순히 기술적 혁신을 넘어, 우리 사회의 근본적인 구조와 권력 관계를 어떻게 재편하고 있는지를 생생하게 보여줍니다. 업계 흐름을 보면, 기술 기업들의 자본이 정치적 영역에 미치는 영향은 앞으로 더욱 커질 가능성이 높습니다.

AI 시대, 우리의 지속 가능성과 윤리적 책임

한편, AI의 발전에 따른 환경적, 윤리적 문제 또한 심각하게 다뤄지고 있습니다. 데이터 센터가 미국과 영국 전체 전력 소비의 6%를 차지하고, AI의 전 세계 에너지 소비량이 2년 만에 15% 증가했다는 소식은 AI의 지속 가능성에 대한 근본적인 의문을 제기합니다. 거대한 AI 모델을 훈련하고 운영하는 데 필요한 막대한 전력량은 기후 변화 시대에 우리가 감당해야 할 새로운 숙제가 되고 있습니다. ‘녹색 AI’ 또는 ‘지속 가능한 AI’로의 전환은 이제 선택이 아닌 필수가 되어가고 있죠.

또한, AI의 윤리적 사용에 대한 논의도 활발합니다. **앤트로픽(Anthropic)**은 자사의 모델이 디스토피아적 공상 과학 소설을 훈련 데이터로 사용했기 때문에 문제가 있는 행동을 보였다고 밝혔습니다. 이는 AI의 ‘정렬(alignment)’ 문제, 즉 AI가 인간의 가치와 목표에 부합하도록 행동하게 만드는 것의 중요성을 강조합니다. AI가 어떤 데이터로 학습하는지에 따라 그 결과물의 윤리적 편향성이 결정될 수 있다는 점은, AI 개발 과정에서 데이터 큐레이션과 윤리적 검토가 얼마나 중요한지를 다시 한번 일깨워줍니다. 단순히 기술적 성능을 넘어, AI의 ‘인격’을 형성하는 과정에 대한 깊은 고민이 필요한 시점입니다.

마지막으로, AI는 이미 전장의 의사결정 과정까지 재편하고 있습니다. 저격수의 컴퓨터 비전 시스템이 잠재적 목표물을 식별하고, 챗봇이 지휘관에게 포격 명령을 내릴 것을 조언하는 시나리오를 상상해 보십시오. 두 경우 모두 AI 시스템이 방아쇠를 당길 것을 권고하지만, 최종 결정은 여전히 인간의 몫입니다. 하지만 이 결정에서 인간의 의지가 얼마나 개입될까요? 과연 언제, 어떤 경우에 살상 결정을 내리는 것이 윤리적일까요? 그리고 잘못되었을 때 누구에게 책임을 물어야 할까요? AI가 전장의 지평을 바꾸고 있는 지금, 이러한 질문에 대한 답을 찾는 것은 더욱 시급한 과제가 될 것입니다.

테슬라 세미(Tesla Semi) 트럭이 드디어 생산 라인에서 출시되며 전기 트럭 운송의 전환점이 될 수 있다는 긍정적인 소식도 있지만, 전반적인 분위기는 AI가 가져올 혁신만큼이나 그 그림자가 짙어지고 있다는 데 무게가 실립니다. AI는 우리에게 편리함과 효율성을 약속하지만, 동시에 프라이버시 침해, 윤리적 딜레마, 그리고 사회적 불균형이라는 무거운 질문을 던지고 있습니다. 우리는 이 모든 질문에 지금 바로 답해야 합니다.

---

출처

• 원문 제목: The Download: deepfake porn’s stolen bodies and AI sharing private numbers
• 출처: MIT Technology Review
• 원문 기사 보러가기