AGI 시대, 개인의 '신뢰'가 무의미해지는 이유: 배리 딜러의 경고
Published May 7, 2026
우리의 디지털 생활은 인공지능과 뗄레야 뗄 수 없는 관계가 되었습니다. 스마트폰 앱, 온라인 쇼핑 추천, 심지어 출퇴근길 내비게이션까지, AI는 이미 우리 삶 깊숙이 스며들어 있죠. 그런데 이 AI가 특정 개인의 손을 떠나 스스로의 길을 걷기 시작한다면 어떨까요? 우리는 여전히 그 개발자를, 그 기업을 ‘신뢰’할 수 있을까요? 최근 미디어 업계의 거물 배리 딜러(Barry Diller)의 발언은 이러한 질문에 대해 우리가 마주해야 할 불편한 진실을 던져주고 있습니다. 그는 샘 알트만(Sam Altman) OpenAI CEO를 신뢰한다고 말하면서도, 인공일반지능(AGI)이 임박하면서 개인에 대한 신뢰는 더 이상 중요한 문제가 아닐 수 있다고 경고했습니다. 단순히 누군가를 믿는 것을 넘어, 이제는 통제 불가능한 미지의 존재와 마주할 준비를 해야 할 시기가 오고 있다는 섬뜩한 메시지입니다.
최근 샘 알트만은 일부 전 동료들과 이사회 구성원들로부터 조작적이고 기만적이라는 비난을 받아왔습니다. 이런 논란 속에서, 월스트리트저널의 ‘미래의 모든 것(Future of Everything)’ 컨퍼런스 무대에 선 배리 딜러는 알트만을 옹호했습니다. 딜러는 알트만과 친분이 있으며, “사람들이 인류에게 도움이 되는 AI를 보장하기 위해 알트만을 믿어야 하는가?”라는 질문에 답하며 그를 지지했습니다. 딜러는 알트만이 자신의 추구에 진심이고 “좋은 가치를 가진 괜찮은 사람”이라고 믿는다고 말했습니다. 그는 어떤 AI 리더가 불성실하다고 생각하는지는 밝히지 않았지만, 알트만에 대한 개인적인 신뢰는 분명해 보였습니다. 사실, 이런 옹호는 기술 리더 개인의 도덕성이나 신뢰성에 대한 오랜 논쟁의 연장선상에 있습니다. 우리는 혁신을 이끄는 리더들이 올바른 가치를 가지고 있기를 바라지만, 과연 그들의 선의만으로 모든 것이 해결될 수 있을까요? 특히 AI, 그 중에서도 인간의 지능을 뛰어넘는 인공일반지능(AGI)의 영역에서는 더욱 복잡한 문제입니다.
개인의 신뢰가 무의미해지는 순간: AGI라는 미지의 영역
하지만 딜러의 발언의 핵심은 알트만에 대한 개인적인 신뢰를 넘어섭니다. 그는 “AI의 큰 문제 중 하나는 신뢰를 훨씬 넘어선다는 것”이라고 강조했습니다. 솔직히 말해서, 이 부분이 정말 중요합니다. 딜러는 심지어 “신뢰는 무관할 수 있다”고까지 말했습니다. 왜냐고요? “무슨 일이 벌어질지 예측할 수 없고, 심지어 이 일을 만들고 있는 사람들에게조차 놀라움의 연속이기 때문”이라는 겁니다. 그는 AI 개발에 참여한 여러 사람들과 많은 시간을 보냈고, 그들조차도 스스로 “경이로움”을 느낀다고 전했습니다. 다시 말해, AGI는 개발자들조차 그 궁극적인 결과나 잠재력을 완전히 이해하지 못하는 **‘거대한 미지(the great unknown)’**라는 겁니다.
우리는 지금 거의 모든 것을 바꿀 무언가에 착수했습니다. 이것은 과소평가되는 주제가 아닙니다. 딜러는 “이 엄청난 투자가 결실을 맺을지는 신경 쓰지 않는다. 나는 투자하지 않았지만, 발전은 계속될 것”이라고 단호하게 말했습니다. 그의 발언에서 우리는 거대한 기술적 변화의 물결 앞에서 개인적인 이해관계를 초월한 통찰을 엿볼 수 있습니다. 중요한 것은 누가 얼마를 벌고, 어떤 기업이 주도권을 잡느냐가 아니라, 이 기술 자체가 인류에게 어떤 의미를 가지느냐는 것이죠.
AGI, 통제 불능의 시대가 도래할 것인가?
딜러는 현재 AI 개발을 주도하는 대부분의 사람들이 “좋은 청지기(good stewards)“라고 믿으면서도, 문제는 그들의 ‘청지기 정신’이 아니라고 역설했습니다. 문제는 “정말로 미지의 것들을 다루고 있다”는 것입니다. 그는 “AGI가 일단 구현되면 무슨 일이 일어날지 그들(개발자들)도 모른다. 우리는 아직 거기에 도달하지 못했지만, 점점 더 빠르고 가깝게 다가가고 있다”고 경고했습니다. 그리고 여기서 가장 중요한 결론에 도달합니다. “우리는 보호 장치(guardrails)를 생각해야 한다.”
이 보호 장치라는 개념은 단순한 규제를 넘어섭니다. 그것은 인류가 AI, 특히 AGI의 발전 속도를 따라잡고, 그 잠재적 위험을 완화하며, 궁극적으로 인류의 가치와 목표에 부합하도록 통제하려는 시도입니다. 만약 우리가 이러한 보호 장치를 마련하지 않는다면 어떻게 될까요? 딜러는 섬뜩한 대안을 제시했습니다. “만약 인간이 보호 장치를 생각하지 않는다면, 또 다른 힘, 즉 AGI 힘이 스스로 그것을 할 것이다. 그리고 일단 그런 일이 일어나면, 일단 그것을 풀어놓으면, 되돌릴 수 없다.” 이 말은 곧 인간이 통제권을 잃고, AGI가 스스로의 목표와 규칙을 설정하게 될 수 있다는 경고입니다. 그것은 SF 영화에서나 보던 디스토피아적 미래가 현실이 될 수 있음을 의미합니다.
개인적으로는 이 부분에서 깊은 통찰을 얻을 수 있습니다. 우리는 흔히 기술 발전의 속도를 찬양하고, 혁신을 무조건적으로 긍정하는 경향이 있습니다. 하지만 딜러의 발언은 기술적 진보 뒤에 숨겨진 윤리적, 존재론적 질문에 직면하게 만듭니다. ‘속도’와 ‘편리함’이라는 가치 아래 우리가 놓치고 있는 것은 없는지 되묻게 됩니다. 어쩌면 지금이 바로 기술 개발의 방향성, 그리고 그 기술이 인류의 미래에 미칠 영향에 대해 근본적인 논의를 시작해야 할 때가 아닐까요? 단순한 경쟁을 넘어선, 전 지구적 차원의 협력과 합의가 절실히 필요한 시점이라는 생각이 듭니다. 업계 흐름을 보면, 기술 기업들은 시장 선점을 위해 끊임없이 속도를 내겠지만, 결국 사회 전반의 안전망과 윤리적 기준이 그 속도 조절에 중요한 역할을 할 가능성이 높습니다.
미지의 미래를 향한 인류의 책임
배리 딜러의 발언은 기술 전문가들뿐만 아니라 일반 대중에게도 중요한 시사점을 던집니다. AGI는 단순히 더 똑똑한 AI를 넘어, 인간 지능의 본질과 역할에 대한 근본적인 질문을 던지는 존재입니다. 과거의 기술 혁명들은 인간의 삶의 방식을 변화시켰지만, AGI는 어쩌면 ‘인간’이라는 존재 자체의 정의를 다시 써야 할 수도 있습니다. 우리는 이 거대한 변화 앞에서 어떤 자세를 취해야 할까요? 딜러의 말처럼, 특정 인물을 ‘신뢰’하는 것만으로는 충분하지 않습니다. 우리는 인류 전체의 집단적 지혜와 노력을 모아, 이 미지의 영역을 안전하게 탐색할 수 있는 길을 찾아야 합니다.
결론적으로, 배리 딜러의 경고는 우리에게 AGI의 도래가 단순히 기술적 성과가 아니라, 인류가 직면할 가장 큰 도전 중 하나임을 일깨워줍니다. 신뢰는 중요하지만, 그것만으로는 충분하지 않습니다. 우리는 AGI가 가져올 알 수 없는 결과에 대비하고, 되돌릴 수 없는 선을 넘기 전에 강력한 보호 장치를 구축해야 합니다. 이것은 기술 기업, 정부, 그리고 모든 시민이 함께 고민하고 행동해야 할, 우리 시대의 가장 중요한 과제일 것입니다.
출처
- 원문 제목: Barry Diller trusts Sam Altman. But ‘trust is irrelevant’ as AGI nears, he says.
- 출처: AI News & Artificial Intelligence | TechCrunch
- 원문 기사 보러가기
