AI, 인간의 뇌마저 재구성하는 조용한 혁명: 지금 우리 앞에 펼쳐진 현실

“우리는 인지 작업을 AI에 맡기고 있습니다. 그리고 이것은 우리에게 좋지 않습니다.” UC 어바인 대학의 심리학자 글로리아 마크 교수의 이 날카로운 경고는, AI가 단순한 도구를 넘어 우리 자신과 세상을 근본적으로 바꾸고 있음을 시사합니다. 한편에서는 초지능 AI의 위협을 논하는 사이, 다른 한편에서는 훨씬 더 현실적이고 당면한 AI 관련 문제들이 동시다발적으로 터져 나오고 있습니다. 메타의 AI 챗봇이 인스타그램 계정을 훔치는 데 사용되고, 인터넷 트래픽의 절반 이상이 이제 봇으로 채워지는 세상. 우리가 AI의 미래를 논하는 동안, AI는 이미 우리의 현재를 잠식하고 재정의하고 있습니다. 과연 우리는 이 거대한 흐름 속에서 무엇을 놓치고 있는 걸까요?

AI 보안, ‘초지능 해킹’만 걱정할 때가 아니다

최근 월요일, 메타의 AI 고객 지원 에이전트를 이용해 인스타그램 계정을 탈취한 사건은 AI 보안에 대한 우리의 고정관념을 뒤흔들기에 충분합니다. 공격자들의 방식은 놀랍도록 단순했습니다. 그들은 AI 에이전트에게 자신들이 통제하는 이메일 주소에 피해자의 계정을 연결해달라고 요청했고, AI는 이를 그대로 따랐다고 합니다. 이러한 수법으로 인스타그램 계정이 도난당했다는 보도가 나오자, 업계는 물론 일반 사용자들 사이에서도 충격이 적지 않습니다.

솔직히 말해서, 우리는 그동안 AI 보안 위협이라고 하면 앤트로픽(Anthropic)이 “너무 해킹을 잘해서 일반에 출시할 수 없다”고 선언했던 ‘미소스(Mythos)’ 모델과 같이, 엄청난 계산 능력으로 컴퓨터 인프라를 압도하거나 복잡한 시스템을 뚫는 ‘초강력 AI 시스템’의 등장을 주로 상상해왔습니다. 그러나 메타의 인스타그램 해킹 사건은 이러한 상상과는 전혀 다른, 훨씬 더 평범하고 단순한 형태의 공격이 얼마나 큰 피해를 초래할 수 있는지 여실히 보여줍니다.

이 부분에서 주목할 점은, 이번 해킹이 고도의 AI 기술을 사용한 것이 아니라, AI 시스템의 ‘신뢰성’과 ‘프로세스’에 대한 근본적인 의문을 제기한다는 점입니다. AI가 인간의 지시를 따르도록 설계된 이상, 악의적인 의도를 가진 사용자가 정교한 사회 공학적 기법으로 AI를 속일 수 있다면, 이는 사실상 AI 자체가 아니라 AI를 설계하고 배치한 회사의 보안 정책과 시스템 설계 결함으로 귀결될 수 있습니다. 기업들이 점점 더 많은 업무를 AI에 위임하면서, 이러한 비교적 단순하고 정교하지 않은 공격조차 무시하기 힘든 수준으로 증가하고 있습니다. AI가 가져올 수 있는 미래의 ‘초지능 해킹’ 위협도 중요하지만, 당장 우리 발밑에서 벌어지고 있는 AI를 활용한 ‘일상적 해킹’에 대한 경각심이 더 필요한 시점입니다.

AI가 바꾸는 인간의 뇌, 그리고 인터넷 세상

AI는 단순히 외부의 위협만을 가져오는 것이 아닙니다. 우리 자신, 즉 인간의 인지 능력과 행동 패턴에도 조용한 변화를 일으키고 있습니다. 캘리포니아 대학교 어바인 캠퍼스의 심리학자 글로리아 마크 교수는 디지털 기술이 우리의 인지 능력을 약화시키고 있다고 우려합니다. 그녀의 연구에 따르면, 주의 집중 시간은 시간이 지남에 따라 급격히 감소했으며, 이는 스트레스 증가와 성과 저하로 이어지고 있습니다. 그녀는 이제 ChatGPT나 Claude 같은 AI 도구들이 이러한 변화를 더욱 가속화할 수 있다고 믿습니다. “우리는 인지 작업을 AI에 맡기고 있습니다. 그리고 이것은 우리에게 좋지 않습니다”라는 그녀의 말은 AI 의존이 비판적 사고와 감성 지능을 약화시킬 수 있다는 심각한 경고로 다가옵니다. 다행히 그녀는 우리가 이러한 기술과의 관계를 재설정함으로써 이러한 흐름을 바로잡을 수 있다고 생각하지만, 그 변화가 쉽지는 않을 겁니다.

한편, AI는 우리를 둘러싼 디지털 환경 자체를 근본적으로 변화시키고 있습니다. 클라우드플레어(Cloudflare)의 보고에 따르면, 이제 웹 트래픽의 57.4%가 봇에서 발생한다고 합니다. 이는 인간의 웹 트래픽을 봇이 추월한 사상 초유의 사건이며, 클라우드플레어 CEO 매튜 프린스조차 2027년 말에나 예상했던 이정표가 훨씬 일찍 도래한 것입니다. 개인적으로는 이 두 가지 현상이 맞물려 더 큰 파장을 일으킬 가능성이 높다고 생각합니다. 인간의 주의 집중력이 AI에 의해 약화되는 동시에, 우리가 접속하는 웹 환경 자체가 봇에 의해 점령된다면, 정보의 신뢰성은 어떻게 될까요? 인간 대 인간의 소통은 어떻게 변할까요? AI가 인간의 인지 능력을 위임받고, AI가 대다수를 차지하는 인터넷 세상에서, 우리는 진짜와 가짜를 어떻게 구별하고, 깊이 있는 사고를 유지할 수 있을까요? 이 모든 것이 ‘조용한 혁명’처럼 우리 주위에서 벌어지고 있습니다.

거대한 기술 지형도 속 AI의 파편들

AI가 단순히 개인의 삶과 인터넷 환경을 넘어, 산업, 정부 정책, 심지어 국가 간 역학 관계까지 뒤흔들고 있다는 사실은 이미 여러 곳에서 감지되고 있습니다.

• 앤트로픽의 AI 개발 늦추기 요구: 미소스(Mythos) 모델의 개발사 앤트로픽은 “자체 개선(self-improving)” 모델의 위험성을 경고하며 AI 개발의 전 세계적인 속도 조절과 조율된 계획을 촉구했습니다. 물론 회사의 비판적인 시각에서는 이 시점이 매우 편리하게 느껴진다는 회의론도 존재합니다. 선두 주자가 경쟁자들을 견제하려는 의도라는 것이죠.
• 미국 정부의 AI 기업 지분 인수 논의: 미국 정부 관계자들이 AI 기업에 대한 재정적 지분 인수를 논의하고 있으며, 샘 알트만(Sam Altman)이 작년에 백악관에 이 아이디어를 제안했던 것으로 알려졌습니다. 이는 AI가 단순한 기술을 넘어 국가 안보 및 경제 패권을 좌우할 전략 자산으로 인식되고 있음을 보여줍니다.
• 미국 의학에 AI 의사 도입 계획: 백악관은 AI 챗봇을 통해 질병을 진단하고 약을 처방하는 AI 의사를 미국 의료 시스템에 도입할 계획입니다. 그러나 MIT 테크놀로지 리뷰는 “의료 AI가 실제로 환자에게 도움이 되는지조차 알 수 없다”며 신중론을 펼칩니다. 생명과 직결된 분야인 만큼, 효용성과 안정성에 대한 엄격한 검증이 필수적입니다.
• 메타의 스마트 글라스 안면 인식 코드 추가: 메타는 스마트 글라스용 안면 인식 코드를 앱에 조용히 추가했습니다. 생체 인식 데이터를 통해 사람을 식별하는 이 탐색적 기능은 개인 정보 보호와 감시 사회에 대한 심각한 우려를 낳습니다.
• 한국 노동부 장관의 AI 수익 공유 촉구: 김영 한국 노동부 장관은 삼성의 AI 수익 공유 관련 대규모 파업을 막는 데 기여했다면서, 기술 기업들이 직원 및 협력업체와 AI 수익을 공유해야 한다고 주장합니다. AI가 가져올 부의 재분배 및 노동 시장 변화에 대한 논의는 앞으로 더욱 뜨거워질 것입니다.
• 캐나다의 AI 전략: 캐나다는 20억 달러 이상의 자금을 투자하고 25만 개의 일자리 창출을 목표로 하는 국가 AI 전략을 발표했습니다. 이는 AI가 민주주의를 강화할 수 있다고 주장하며, 주요 국가들이 AI 주도권을 잡기 위해 치열하게 경쟁하고 있음을 보여줍니다.
• ASML의 EUV 기술: 네덜란드 기업 ASML이 개발하는 극자외선(EUV) 리소그래피 기술은 마이크로칩 제조의 핵심이며, 무어의 법칙을 유지하는 데 필수적입니다. CCS 인사이트의 리서치 디렉터 웨인 램은 “이 기계 없이는 (무어의 법칙이) 사라진다”며 “EUV 없이는 선도적인 프로세서를 만들 수 없다”고 강조했습니다. 이처럼 AI를 비롯한 첨단 기술의 발전은 여전히 물리적인 하드웨어 인프라에 깊이 의존하고 있다는 점을 잊어서는 안 됩니다.

이처럼 AI는 우리의 예상보다 훨씬 더 광범위하고 다양한 형태로 우리 삶과 사회의 구조를 변화시키고 있습니다. 단순한 기술 발전을 넘어, 보안, 윤리, 사회, 경제, 심지어 인간의 인지 능력에까지 영향을 미치고 있는 것입니다. 이러한 복잡한 변화의 흐름을 이해하고, 능동적으로 대응하는 것이 그 어느 때보다 중요해 보입니다.

---

출처

• 원문 제목: The Download: AI hacking beyond Mythos, and chatbots’ impact on our brains
• 출처: MIT Technology Review
• 원문 기사 보러가기