디지털 신뢰의 침식: ‘죽은 인터넷 이론’은 현실이 될 것인가?

인터넷은 오래전부터 ‘신뢰’라는 무거운 문제를 안고 있었습니다. 단순히 소셜 미디어가 AI가 만들어낸 ‘찌꺼기(slop)‘로 채워지고 있어서만은 아닙니다. 솔직히 말해서, 지난 몇 년간 인공지능 기술의 눈부신 발전은 우리를 예상치 못한 영역으로 이끌었고, 이제 그 여파는 우리의 일상과 인터넷의 본질 자체를 위협하고 있습니다. 판그램(Pangram)의 공동 창업자이자 CEO인 맥스 스페로(Max Spero)의 경고는 그래서 더욱 섬뜩하게 들립니다. 그는 우리가 “죽은 인터넷 이론(dead internet theory)“에 ‘위험할 정도로 근접했다’고 말합니다. 도대체 무엇이 인터넷을 ‘죽음’으로 몰아넣고 있다는 걸까요?

경고등이 켜진 디지털 세계: 무엇이 문제인가?

‘죽은 인터넷 이론’이란, 인터넷이 더 이상 실제 사람들의 활동으로 채워진 공간이 아니라, 대부분 봇과 AI에 의해 생성된 콘텐츠로 가득 차게 될 것이라는 소름 끼치는 가설입니다. 상상해보세요. 우리가 읽는 뉴스 기사, 제품 리뷰, 소셜 미디어 게시물, 심지어 친구와의 대화마저도 AI가 만들어낸 것이라면? 우리는 무엇을 믿을 수 있을까요? 이 가설은 한때 음모론처럼 들렸지만, 맥스 스페로의 발언처럼, 이제는 현실적인 위협으로 다가오고 있습니다.

오늘날 AI 생성 텍스트와 이미지는 단순한 오락거리를 넘어, 우리의 중요한 사회 시스템 속으로 깊숙이 침투하고 있습니다. 몇 가지 사례를 보면 상황의 심각성을 금세 깨달을 수 있습니다.

• 입사 지원서: AI가 작성한 자기소개서와 이력서는 인사 담당자들에게 큰 혼란을 안겨주고 있습니다. 지원자의 진정한 역량과 개성을 파악하기가 어려워지면서, 채용 과정의 공정성에 대한 의문이 제기될 수밖에 없습니다. 지원자가 AI의 도움을 받아 자신의 경험을 과장하거나 아예 존재하지 않는 경력을 만들어내는 것도 가능할 테니까요.
• 제품 리뷰: 온라인 쇼핑에서 리뷰는 구매 결정에 결정적인 역할을 합니다. 그런데 AI가 대량으로 생성한 가짜 긍정 리뷰나 경쟁사를 비방하는 부정 리뷰가 넘쳐난다면 어떨까요? 소비자는 어떤 리뷰를 믿어야 할지 혼란에 빠질 것이고, 이는 결국 플랫폼에 대한 신뢰도 하락으로 이어질 것입니다. 특정 상품이 실제보다 훨씬 좋거나 나쁘게 평가되어 시장을 왜곡할 수도 있습니다.
• 보험 청구: 가장 심각한 문제 중 하나입니다. AI가 조작한 의료 기록이나 사고 현장 사진, 서술 자료 등으로 보험금을 청구한다면, 이는 대규모 금융 사기로 이어질 수 있습니다. 보험사는 청구 내용의 진위 여부를 파악하기 위해 엄청난 자원과 시간을 투입해야 할 것이고, 이는 결국 보험료 인상 등 선량한 소비자들에게 피해로 돌아올 가능성이 높습니다.

이처럼 AI 생성 콘텐츠는 단순히 ‘정보의 진흙탕(AI slop)‘을 만드는 것을 넘어, 실제 사회경제적 피해를 유발하고 있습니다. 플랫폼과 사용자 모두 ‘무엇이 진짜인가’를 가려내기 위해 필사적으로 노력하는 상황은 놀랍지도 않습니다.

AI의 공격과 방어, 그 딜레마 속에서

맥스 스페로가 공동 창업한 판그램 같은 스타트업들은 이러한 문제에 대응하기 위해 AI 탐지 도구(AI detection tools) 개발에 뛰어들고 있습니다. 이 도구들은 AI가 생성한 콘텐츠를 식별하여 신뢰할 수 있는 정보와 그렇지 않은 정보를 구분하려는 시도입니다. 이는 분명 중요한 약속처럼 들립니다. 하지만 스페로는 동시에 ‘AI의 도움을 받은 것(AI assisted)‘과 ‘AI가 생성한 것(AI generated)’ 사이의 경계를 어디에 그어야 할지에 대한 질문을 던집니다.

이 부분에서 필자의 분석이나 관점을 더해보자면, 사실 이 경계는 생각보다 훨씬 모호하고 빠르게 변화하고 있습니다. 워드프로세서의 맞춤법 검사기나 이미지 편집 소프트웨어의 자동 보정 기능도 넓게 보면 ‘AI의 도움을 받은 것’으로 볼 수 있습니다. 문제는 그 ‘도움’의 정도가 지나쳐 인간의 독자적인 창작물이 아닌, 사실상 AI의 결과물에 가까워지는 지점입니다. 그리고 이 지점을 정확히 파악하고 탐지하는 것은 기술적으로 매우 어려운 과제입니다.

개인적으로는 AI 탐지 기술이 일종의 ‘군비 경쟁’에 놓일 가능성이 높다고 생각합니다. AI 생성 기술이 발전할수록, 이를 탐지하는 기술 또한 고도화되어야 합니다. 마치 바이러스와 백신처럼, 한쪽이 발전하면 다른 쪽도 따라잡아야 하는 끊임없는 싸움이 될 것입니다. 결국, 완벽한 탐지는 불가능에 가깝고, 우리는 항상 일정 수준의 불확실성을 감수해야 할지도 모릅니다. 업계 흐름을 보면, 단순히 AI가 만들었는지 아닌지를 넘어, 콘텐츠의 ‘투명성(transparency)‘을 확보하는 방향으로 나아갈 가능성이 높습니다. 즉, AI가 개입했다면 그 사실을 명확히 밝히는 식의 메커니즘이 중요해질 것이라는 얘기입니다.

신뢰할 수 있는 인터넷을 위한 우리의 과제

그렇다면 우리는 이 ‘죽은 인터넷’의 위협 속에서 어떻게 나아가야 할까요? 단순히 AI 탐지 기술에만 모든 것을 맡길 수는 없습니다.

• 플랫폼의 책임 강화: 구글, 메타, X(구 트위터) 같은 거대 플랫폼들은 AI 생성 콘텐츠에 대한 명확한 정책을 수립하고, 이를 감지하고 제거하기 위한 기술적, 정책적 노력을 더욱 강화해야 합니다. AI 워터마킹(watermarking)과 같은 기술을 표준화하여 콘텐츠의 출처를 명확히 하는 것도 한 방법이 될 것입니다.
• 사용자의 비판적 사고: 우리 스스로도 디지털 콘텐츠를 소비할 때 더욱 비판적인 시각을 가져야 합니다. 정보의 출처를 확인하고, 너무 자극적이거나 믿기 어려운 내용은 일단 의심해보는 습관이 필요합니다. ‘팩트 체크’는 이제 선택이 아니라 필수가 된 것이죠.
• 기술의 윤리적 사용: AI 개발자들과 기업들은 기술의 악용 가능성에 대해 깊이 고민하고, 윤리적 가이드라인을 준수하며 개발에 임해야 합니다. AI가 사회에 미칠 파급력을 고려하여 책임감 있는 기술 개발이 이루어져야 합니다.

이번 테크크런치 에퀴티(TechCrunch’s Equity) 팟캐스트에서 나눈 이야기는 단순히 기술적인 논의를 넘어, 우리가 당연하게 여겼던 인터넷이라는 공간의 미래에 대한 근본적인 질문을 던지고 있습니다. 정보의 바다였던 인터넷이 진실과 거짓이 뒤섞인 혼돈의 도가니가 된다면, 그 어떤 의미도 가질 수 없을 것입니다. 우리가 AI 기술의 ‘약속’에만 현혹되어 ‘위협’을 간과한다면, 결국 우리는 ‘죽은 인터넷’이라는 비참한 현실을 마주하게 될지도 모릅니다. 신뢰를 회복하고, 인간이 중심이 되는 건강한 디지털 생태계를 만들기 위한 모두의 노력이 절실한 시점입니다.

---

출처

• 원문 제목: We’re ‘dangerously close’ to dead internet theory, says Pangram’s CEO
• 출처: AI News & Artificial Intelligence | TechCrunch
• 원문 기사 보러가기