Google의 AI 기본 설정: "선택의 자유" 뒤에 숨겨진 프라이버시의 함정
Published May 3, 2026
당신의 개인 정보가 매일 접속하는 구글 서비스 속 AI 모델의 먹이가 되고 있다는 사실, 알고 계셨습니까? 인공지능(AI)이 미래라고 말하는 구글은 자사의 최첨단 AI, **제미나이(Gemini)**를 지메일, 구글 드라이브와 같은 핵심 서비스 구석구석에 침투시키고 있습니다. 문제는 여기에 있습니다. 생성형 AI는 방대한 데이터를 먹고 자라며, 구글은 이미 우리의 상상을 초월하는 엄청난 양의 개인 데이터를 보유하고 있다는 점이죠. 과연 이 모든 것이 우리의 프라이버시에는 어떤 의미일까요? 그리고 만약 당신이 제미나이가 어깨너머로 당신의 데이터를 엿보는 것을 원치 않는다면, 과연 그 선택권이 제대로 보장될까요? 솔직히 말해서, 상황은 생각보다 훨씬 더 복잡하고 혼란스럽습니다. 많은 이들이 잠재적인 AI 거품이 하루빨리 터지기를 바라고 있지만, 구글에게 생성형 AI는 거스를 수 없는 미래입니다.
제미나이, 당신의 디지털 삶에 스며들다: 약인가 독인가?
구글은 생성형 AI가 미래의 기술 현실이며, 자사 제품이 이에 발맞춰 변화해야 한다고 강조합니다. 이에 따라 제미나이는 놀라운 속도로 구글 생태계 전반에 스며들고 있습니다. 당신의 이메일, 문서, 검색 기록 등 수많은 데이터가 제미나이의 잠재적 상호작용 대상이 되고 있죠. AI 모델은 더 똑똑해지기 위해 데이터를 필요로 하고, 구글은 전 세계에서 가장 많은 데이터를 가진 기업 중 하나입니다. 이는 필연적으로 사용자 데이터 활용에 대한 근본적인 질문을 던질 수밖에 없습니다.
구글은 이러한 통합에 대한 사용자들의 우려를 인지하고, 프라이버시 보호에 대한 입장을 명확히 하고자 노력합니다. 최근 블로그 게시물(및 관련 YouTube 쇼츠)을 통해 구글은 사용자의 이메일이 제미나이로 직접적으로 파이프되지 않는다고 설명했습니다. 대신, 제미나이는 ‘고립된 작업(isolated tasks)‘을 위해 데이터에 접근하며, 워크스페이스 앱(Gmail, Drive)에서 제미나이 기능을 사용할 때 AI는 데이터를 처리하지만 저장하지는 않는다고 덧붙였습니다. 구글 대변인은 “사용자의 프라이버시와 데이터에 대한 통제권을 보호하는 것이 구글 워크스페이스에 AI를 개발하고 배포하는 방식의 근간”이라며, “워크스페이스에 입력하는 콘텐츠(예: 개인 드라이브 파일)는 사용자 소유이며, 워크스페이스에서 제미나이를 사용할 때 해당 개인 콘텐츠를 기반 생성형 AI 모델 훈련에 사용하지 않는다”고 강조했습니다.
이러한 설명은 언뜻 들으면 안심이 됩니다. 내 메일함이나 문서를 스캔해서 제미나이를 훈련시키지 않는다는 것이죠. 하지만 과연 그것이 전부일까요? 개인적으로는 이러한 워딩에서 미묘한 뉘앙스를 간파해야 한다고 생각합니다. ‘직접적으로 파이프되지 않는다’, ‘고립된 작업’, ‘기반 생성형 AI 모델 훈련에 사용하지 않는다’와 같은 표현은 구글이 어떤 방식으로든 사용자 데이터에 접근하고 처리할 여지를 남겨두는 경우가 많습니다. 특히, 이전에 Gmail 광고와 관련해서도 비슷한 방식의 설명이 있었던 전례를 보면 더욱 그렇습니다. 당시 구글은 이메일 내용을 광고에 사용하지 않는다고 했지만, 웹 활동을 기반으로 한 광고 개인화는 여전히 존재했죠. AI 시대의 데이터 활용은 더욱 복잡하기 때문에, 이러한 기업의 발표는 액면 그대로 받아들이기보다 숨겨진 맥락을 파고들 필요가 있습니다.
보이지 않는 비용: 당신의 데이터가 AI 학습에 이용되는 방식
문제는 제미나이가 워크스페이스와 다른 구글 제품에 ‘적절할 때’ 연결하기 위해 도구를 사용할 수 있다는 점입니다. 그리고 구글은 자사의 AI 모델이 제미나이의 입력 및 출력을 기반으로 훈련될 수 있다고 말합니다. 그렇다면 이 ‘출력’에 무엇이 포함될까요? 네, 바로 당신의 데이터일 수 있습니다. 제미나이의 출력에는 이메일이나 파일의 요약 및 스니펫이 포함될 수 있으며, 이 데이터가 다시 AI 훈련을 위한 먹이가 될 수 있다는 것이죠.
구글은 목표가 제미나이를 더 나은 비서로 훈련시키는 것이며, 사용자가 봇과 상호작용하는 방식이 핵심 요소라고 설명합니다. 또한, AI 훈련 데이터셋으로 들어가는 개인 정보를 ‘필터링하고 줄이려고 노력한다’고 덧붙입니다. 하지만 우리는 과연 이러한 자동화된 과정이 얼마나 잘 작동하는지 알 방법이 없습니다.
솔직히 말해서, 이 지점에서 구글의 설명은 투명성의 한계를 드러냅니다. ‘필터링하고 줄이려고 노력한다’는 표현은 완전한 차단이나 익명화를 보장하는 것이 아니기 때문입니다. 수많은 개인 정보가 오가는 거대한 시스템에서 ‘필터링’만으로 민감한 데이터가 AI 학습에 유입되는 것을 완벽히 막을 수 있을까요? 특히, AI 모델이 예측 불가능한 방식으로 데이터를 재구성하고 새로운 연관성을 찾아내는 능력을 고려할 때, 이는 매우 심각한 프라이버시 위협으로 작용할 수 있습니다. 개인적으로는 이러한 부분에서 기술적 한계와 기업의 편의성 추구 사이의 딜레마를 엿볼 수 있다고 봅니다. 사용자들은 자신도 모르는 사이에 AI 모델을 개선하는 데 일조하고 있는 셈이며, 이는 ‘데이터 주권’이라는 측면에서 매우 중요한 문제입니다.
”선택의 자유”라는 이름의 미로: 다크 패턴과 숨겨진 설정
구글은 사용자가 이러한 기능에 대한 통제권을 가지고 있다고 강조합니다. 진정으로 개인 데이터를 보호하고 싶다면, 제미나이가 파일과 상호작용하는 것을 피하거나 AI 훈련을 위한 데이터 공유를 거부할 수 있다고 말이죠. 그러나 불행히도 구글은 제미나이를 완전히 배제하는 것을 결코 쉽게 만들지 않습니다.
개인 데이터가 구글의 AI 훈련 세트에 포함되지 않도록 하는 몇 가지 방법이 있지만, 어떤 것들은 다른 것보다 훨씬 복잡합니다. 가장 쉬운 방법은 제미나이와의 상호작용을 가볍고 비개인적으로 유지하는 것입니다. 제미나이가 다른 구글 앱에 접근하는 것을 허용하지 않고, 민감한 내용이 포함될 수 있는 채팅은 일시적인 대화에만 국한하는 것이죠. 이렇게 하면 제미나이가 추출할 개인 데이터가 출력에 포함되지 않습니다. 물론, 이 방식은 제미나이의 유용성을 크게 떨어뜨립니다. 프라이버시를 보존하려는 사람들에게는 익숙한 딜레마일 것입니다.
데이터에 대한 AI 훈련을 완전히 차단하려면, ‘제미나이 앱 활동(Gemini Apps Activity)‘이라는 기능을 꺼야 합니다. 이 난해한 설정 페이지에서 제미나이 기록을 끄거나, 기록을 끄고 기존 제미나이 데이터를 삭제할 수 있습니다. 활동을 저장하지 않으면 구글은 이를 훈련에 사용하지 않습니다. 하지만 이는 또한 채팅 기록을 잃게 된다는 의미이기도 합니다. 결국, AI 채팅 기록을 나중에 참조할 수 없게 되거나, 채팅 내용이 AI 훈련에 사용되는 것을 허용할지 선택해야 하는 강요된 상황에 놓이게 됩니다.
기업들은 일반적으로 사용자 조작을 위한 인터페이스를 설계했다고 인정하지 않지만, 의도가 어떻든 UI 디자인이 다크 패턴인지 여부를 결정하지는 않습니다. 다크 패턴과 약탈적 디자인을 감지하는 AI 모델을 구축하는 스타트업 ‘Fair Patterns’의 마리 포텔은 “의도적이든 아니든 상관없다”며, “중요한 것은 사용자의 자율성(agency)이 존중되는지, 그리고 디자인이 사용자가 원하는 것과 반대되는지 여부”라고 말합니다.
AI 훈련을 거부하는 유일한 방법이 채팅 기록을 영구적으로 비활성화하는 것이라면, 이러한 방식은 사용자의 자율성을 존중하는 것처럼 보이지 않습니다. 사실상 강요된 행동에 가깝습니다. 심지어 훈련 거부를 위한 올바른 메뉴를 찾는 것조차 쉽지 않습니다. 제미나이 앱 설정에 ‘활동(Activity)‘이라고만 표시된 숨겨진 링크가 있으며, 구글 지원 문서를 검색해야만 직접적인 링크를 찾을 수 있는 경우도 있습니다. 놀랍게도, 이러한 제미나이 제어 기능은 사용자가 당연히 찾을 것이라고 예상되는 구글 계정 프라이버시 설정에는 없는 것으로 확인되었습니다. 구글 담당자는 ‘활동 제어’에 링크가 있어야 한다고 말했지만, 여러 계정을 확인한 결과 제미나이 프라이버시 메뉴로 연결되는 링크는 발견되지 않았다고 합니다.
사용자 프라이버시에 매우 중요한 토글, 심지어 사용자 경험을 상당히 저하시키는 토글조차 그렇게 찾기 어려워서는 안 됩니다. 불행히도 구글이 프라이버시 옵션을 잘못 배치한 것은 이번이 처음이 아닙니다. 마리 포텔은 숨겨진 링크와 작동하지 않는 링크가 인터넷만큼이나 오래된 다크 패턴이라고 지적했습니다. 포텔은 “구글은 사용자들이 기능을 사용하지 못하도록 의도적으로 여러 클릭 속에 기능을 숨기는 역사가 있다. 특히 프라이버시 설정에 있어서 그렇다”고 강하게 비판했습니다.
결론적으로, 구글은 제미나이를 통해 사용자 데이터를 축적하고, 동시에 생성형 AI를 우리 삶의 필수적인 부분으로 만들고자 하는 두 가지 목표를 가지고 있습니다. 문제는 이러한 목표 추구 과정에서 사용자 프라이버시와 선택의 자유가 희생되고 있다는 점입니다. 편리함이라는 미명 아래 우리의 데이터가 어떻게 활용되는지, 그리고 우리가 그것을 통제할 수 있는 권리가 제대로 보장되는지 우리는 끊임없이 질문해야 할 것입니다.
출처
- 원문 제목: The hidden cost of Google’s AI defaults and the illusion of choice
- 출처: Artificial Intelligence - Ars Technica
- 원문 기사 보러가기
