AI 불신, 그 근원에는 '신뢰의 위기'가 도사리고 있다: 엔트로픽 CEO의 통찰
Published Aug 16, 2026
여러분은 인공지능(AI)의 미래를 낙관하고 계신가요, 아니면 혹시 모를 위험에 대한 우려가 더 큰가요? 최근 AI 분야에서 가장 영향력 있는 인물 중 한 명인 엔트로픽(Anthropic)의 CEO 다리오 아모데이(Dario Amodei)는 AI에 대한 대중의 부정적인 인식이 단순히 몇몇 AI 리더들의 비관적인 메시지 때문이 아니라고 단호하게 말했습니다. 그는 “근본적으로 신뢰의 위기”라고 진단하며, 이 문제가 수십 년에 걸쳐 축적된 결과라고 강조했죠. 과연 그의 주장은 어떤 의미를 내포하고 있을까요?
AI 낙관론 vs. 비관론: 뜨거운 논쟁의 중심
최근 벤처 투자자 개빈 베이커(Gavin Baker)는 ‘All-In’ 팟캐스트와 X(구 트위터)를 통해 아모데이가 AI의 위험성에 대해 지나치게 비관적인 시각을 제시함으로써, 특히 데이터 센터에 대한 반발 등 미국 내 AI 반작용을 부추겼다고 주장했습니다. 베이커는 아모데이가 AI 규제 문제에서 “논쟁에서 졌다”며, “세계에서 가장 중요한 회사 중 하나의 CEO가 될 그가 자신의 산업에 대해 더 긍정적인 옹호자가 되도록 노력해야 한다”고 직격탄을 날렸습니다. 실제로 엔트로픽은 대규모 AI 기업에 투명성 요구 사항을 부과하는 캘리포니아 법안 등 일부 규제를 옹호해왔습니다.
이러한 비판은 아모데이 개인에게만 향하는 것은 아닙니다. 많은 이들이 일부 AI 경영진의 ‘종말론적’ 경고가 AI 회의론과 정부 규제의 자연스러운 반응을 촉발했다고 주장하곤 합니다. 하지만 아모데이 CEO는 자신의 메시지가 “불균형적으로 부정적이었다”는 생각에 동의하지 않았습니다. 그는 오히려 자신의 글이 “위험과 이점 사이에서 거의 균형을 이루었다”고 반박했습니다. 심지어 그의 에세이 “Machines of Loving Grace”는 AI 산업이 “기술이 세상을 더 나은 방향으로 급진적으로 변화시킬 방법에 대한 충분히 영감을 주는 그림을 그리지 못하고 있다”고 느꼈기 때문에 썼다고 밝혔죠. 솔직히 말해서, 이 부분에서 저는 아모데이 CEO가 본인의 메시징이 시장에 미치는 영향을 충분히 고려하지 못했을 가능성도 있다고 생각합니다. 아무리 균형 잡힌 메시지를 내놓았다 하더라도, 대중은 특정 부분을 더 강하게 받아들일 수 있기 때문입니다.
그럼에도 불구하고 아모데이 CEO는 “대중이 AI에 대해 부정적인 견해를 가지고 있다”는 점과 “이것이 큰 문제”라는 점에는 동의했습니다. 그가 동의하지 않은 부분은 이러한 부정적인 인식이 “주로 아모데이 자신이나 다른 AI 리더들이 AI의 위험성에 대해 경고했기 때문”이라는 주장이었습니다.
‘신뢰의 위기’: 수십 년간 쌓여온 불신의 산물
아모데이 CEO는 AI에 대한 대중의 불신을 “근본적으로 신뢰의 위기”로 규정했습니다. 그의 설명은 다음과 같습니다. “일반 대중은 기업, 정부 또는 기술 산업을 신뢰하지 않으며, 우리가 항상 그들을 곤경에 빠뜨릴 새로운 방법을 궁리하고 있다고 의심합니다.” 이 말은 비단 AI 산업에만 해당되는 이야기가 아닐 겁니다. 지난 수십 년간 수많은 기술 혁신이 삶을 편리하게 만들었지만, 동시에 프라이버시 침해, 데이터 오용, 양극화 심화 등 예상치 못한 부작용을 낳았던 경험이 대중에게 깊은 불신을 심어주었다는 분석이죠. AI에 대한 반작용은 이러한 불신이 “최신 반복”일 뿐이라는 그의 통찰은 매우 날카롭습니다.
실제로 오픈AI(OpenAI) CEO 샘 알트만(Sam Altman)에 대한 헤드라인에서도 ‘신뢰’라는 단어가 자주 등장하며, 아모데이와 같은 다른 AI CEO들에게도 이 문제는 역시 중요하게 작용하는 듯 보입니다.
아모데이는 AI 기업을 향한 가장 정확한 비판은 “세상에 이익을 가져다주겠다는 우리의 큰 약속을 아직 이행하지 못했다는 점”이라고 지적했습니다. 그는 “그것은 전적으로 우리의 책임이며, 메시징이나 마케팅에 대한 온갖 비난 대신 바로 이런 비판을 해야 한다고 생각한다”고 강조했습니다. 즉, AI가 암을 치료할 것이라고 약속하는 것은 “영감을 주기보다는 진부한 표현”에 가깝다는 겁니다. 사람들의 AI에 대한 의견을 실제로 바꿀 수 있는 것은 “실제로 암을 치료하는 것”과 같은 구체적인 성과라는 주장입니다. 이 대목에서 저는 과거 기술 산업이 과도한 낙관론으로 대중의 기대를 한껏 부풀려 놓았으나, 실제로는 기대에 미치지 못하거나 심지어 부작용을 낳았던 사례들을 떠올리게 됩니다. 이러한 실망감이 쌓여 지금의 ‘신뢰의 위기’를 초래했다고 볼 수 있겠죠.
규제, 권력 집중의 도구인가? 공공의 이익을 위한 방패인가?
규제에 대한 논의에서도 아모데이 CEO는 개빈 베이커의 주장이 “규제 없이 AI를 광범위하게 배포하거나, 규제를 통해 기술을 소수 기업의 손에 집중시키는 것”이라는 ‘잘못된 선택’을 제시했다고 비판했습니다. 그는 “규제가 규제 포획(regulatory capture)으로 이어져 권력 집중을 낳는다는 실리콘밸리의 속어는 너무 단순화된 세계관”이라고 일축했습니다. 이어 “이러한 거품 밖에 있는 많은 사람들은 규제를 기업의 권력을 제한하고 일반 대중에게 이익을 주는 것으로 생각한다”고 덧붙였습니다.
물론 아모데이도 “그 관점에도 반드시 동의하는 것은 아니다”라고 선을 그었습니다. 하지만 이것이 바로 엔트로픽이 “정책 제안을 매우 신중하게 하는 이유”라고 설명했습니다. 엔트로픽은 “선두 AI 기업들을 불리하게 만들면서도(속도를 늦추면서도) 소규모 경쟁자들에게는 이점을 주는 제안을 하기 위해 매우 노력한다”는 것입니다. 이는 규제가 대기업의 시장 지배력을 강화하는 도구가 될 수 있다는 우려를 불식시키기 위한 섬세한 접근 방식입니다.
그렇다면 엔트로픽은 왜 이런 규제 제안을 하는 것일까요? 아모데이 CEO는 “AI는 구조적으로 권력을 집중시키는 경향이 있는 기술”이며, “오픈 웨이트(open-weights) 모델이 어느 정도 도움이 되지만, 컴퓨팅 자원과 칩을 가장 많이 가진 이들에게 집중을 옮길 뿐이므로 충분한 해결책이 되지 못한다”고 설명했습니다. 즉, AI 기술 자체가 가진 본질적인 특성이 권력 집중을 심화시킬 가능성이 높기 때문에, 이를 견제할 제도적 장치가 필요하다는 주장입니다.
아모데이는 “올바른 ‘행동 규칙’은 (a) AI의 사이버/생물학/정렬 위험을 해결하고, (b) 선두 AI 기업의 권력을 제도적으로 제한하며, (c) 오픈 웨이트 모델을 위한 공간을 남겨두면서도 그들이 가져올 특정 위험을 해결할 수 있다”고 역설했습니다. 그의 이러한 입장은 AI 기술의 잠재력을 인정하면서도, 그 위험성을 통제하고 건강한 생태계를 조성하기 위한 균형 잡힌 접근법을 모색하려는 진정성을 보여준다고 할 수 있습니다. 개인적으로는 이러한 시도가 과거 인터넷 플랫폼 기업들이 겪었던 ‘규제 후회’를 AI 산업은 되풀이하지 않으려는 노력으로 해석됩니다. 미리 적절한 가드레일을 설치하여 미래의 더 큰 문제를 방지하려는 현명한 움직임이죠.
결론적으로 다리오 아모데이 CEO의 주장은 AI에 대한 대중의 불신을 단순히 ‘메시징’의 문제로 치부할 것이 아니라, 더 깊은 ‘신뢰의 위기’와 ‘구체적인 성과 부재’라는 근원적인 문제로 인식해야 한다는 통찰을 제공합니다. 그리고 규제 역시 무조건적인 기술 발전의 걸림돌이 아니라, AI의 잠재력을 안전하고 공정하게 분배하기 위한 필수적인 ‘게임의 규칙’이 될 수 있다는 점을 시사합니다. AI의 발전 속도가 가속화되는 지금, 기술 리더들이 대중의 신뢰를 회복하고 책임감 있는 혁신을 이끌어 나가는 것이 무엇보다 중요해지는 시점입니다.
출처
- 원문 제목: Anthropic CEO says AI backlash is ‘fundamentally a crisis of trust’
- 출처: AI News & Artificial Intelligence | TechCrunch
- 원문 기사 보러가기
