앤트로픽 CEO 다리오 아모데이, “오픈 모델은 괜찮지만, 진짜 두려운 건...”
Published Jul 29, 2026
“저의 과거 글을 읽어본 사람이라면 그러한 금지가 유용한 조치라고 생각하지 않는다는 것을 알 겁니다. 하지만 분명히 밝히겠습니다. 앤트로픽은 오픈웨이트 모델의 금지를 옹호한 적이 없습니다.”
AI 업계의 뜨거운 감자로 떠오른 오픈웨이트 모델(open-weight models), 즉 모델의 가중치와 매개변수를 공개하는 형태의 AI 모델에 대한 논쟁에 앤트로픽(Anthropic)의 창립자이자 CEO인 다리오 아모데이(Dario Amodei)가 직접 입을 열었습니다. 그의 발언은 업계 내에서 앤트로픽이 미국 정부의 중국 오픈웨이트 모델 금지, 나아가 모든 오픈웨이트 모델 금지 노력에 찬성한다는 소문이 돌자 이에 대한 명확한 해명을 위해 나온 것이었습니다. AI 거물들의 움직임 하나하나에 촉각을 곤두세우는 현장에서, 아모데이의 이 같은 직접적인 해명은 많은 이들의 이목을 집중시키기에 충분했습니다.
젠슨 황의 목소리, 그리고 업계의 우려
아모데이의 이번 발언은 엔비디아(Nvidia)의 창립자이자 CEO인 젠슨 황(Jensen Huang)이 X(구 트위터)에 처음 올린 공개 서한 이후 나온 것입니다. 지난 금요일 젠슨 황은 엔비디아를 비롯해 허깅 페이스(Hugging Face), 메타(Meta), 마이크로소프트(Microsoft), 미스트랄(Mistral) 등 수많은 AI 기업들과 함께 정책 입안자들에게 오픈웨이트 AI 모델에 대한 성급하고 광범위한 제한을 부과하지 말 것을 촉구하는 서한을 공유했습니다. 이 서한에는 특정 국가를 언급하지 않았지만, 업계의 오랜 논쟁은 중국 AI 연구소들이 미국 동종 업계의 지적 재산을 훔쳐 역량을 키우고 있다는 의혹에 초점을 맞춰 왔습니다. 특히 **증류(distillation)**라는 방법은 한 AI 모델이 다른 모델에 프롬프트를 퍼부어 그 작동 방식을 학습하는 방식으로, 이러한 지적 재산 탈취의 한 수단으로 지목되어 왔죠.
이러한 배경 속에서 아모데이 CEO는 오픈웨이트 모델 자체의 위협과 중국이 제기하는 위협을 다른 차원으로 봐야 한다고 강조했습니다. “위험한 능력이 없는 오픈웨이트 모델은 공공재입니다. 그것들을 실행하는 데 필요한 컴퓨팅 외에는 비용이 들지 않으며, 기업, 개발자 및 연구원들에게 가치를 제공합니다.” 그의 말은 오픈웨이트 기술 자체의 가치를 높이 평가하는 동시에, 그 위험성이 특정 주체의 손에 들어갔을 때 증폭될 수 있다는 복합적인 시각을 보여줍니다. 이는 오픈소스 진영이 주장하는 ‘접근성 높은 강력한 모델이 스스로를 방어하는 데 도움이 된다’는 논리와도 일맥상통하는 부분이 있어 보입니다. 기술은 중립적이지만, 누가 어떻게 활용하느냐가 중요하다는 메시지를 담고 있는 셈입니다.
다리오 아모데이의 진짜 두려움: ‘오픈웨이트’는 공공재, 그러나…
아모데이 CEO는 자신의 오랜 AI에 대한 두려움은 여전하지만, 중국산을 포함한 오픈웨이트 모델을 사용하는 기업들은 그 대상이 아니라고 분명히 선을 그었습니다. 그렇다면 그가 진짜 두려워하는 것은 무엇일까요?
그의 두려움은 바로 **‘권위주의 정부(authoritarian governments)’**가 미국보다 더 강력한 모델을 구축하여 **“영구적인 군사적 우위(permanent military superiority)”**를 달성하거나, AI를 이용해 **“자국민을 억압(repress their own people)”**하는 데 사용할 것이라는 점이었습니다. 그는 중국 공산당(CCP)이 우려하는 유일한 권위주의 정부는 아니지만, “가장 유능하다”고 지적하며 중국의 기술적 역량에 대한 깊은 경계를 드러냈습니다.
더 나아가 아모데이는 AI가 사이버 보안 공격뿐만 아니라 **“생물학적 공격(biological attacks)”**까지 가능하게 할 것이라는 섬뜩한 전망을 내놓았습니다. 이러한 시나리오에서 오픈웨이트 모델은 가드레일을 적용하거나 사용을 모니터링하기 어렵기 때문에 더욱 위험하다고 그는 보았습니다. 또한, 영국의 AI 보안 연구소 보고서를 인용하며, 일단 공개된 오픈웨이트 모델은 회수할 수 없다는 점을 강조하기도 했습니다. 솔직히 말해서, 이 부분은 AI 기술의 발전이 인류에게 가져올 수 있는 가장 어두운 미래를 상상하게 하는 대목입니다. 단순히 기술적 문제가 아니라, 국가 안보와 인류의 생존까지 위협할 수 있는 잠재력을 AI가 가지고 있다는 경고인 셈이죠.
개인적으로 주목할 점은 아모데이의 이중적인 스탠스가 모순적이기보다는 오히려 현실적인 고민을 담고 있다는 것입니다. 그는 오픈웨이트 모델의 혁신적 가치를 인정하면서도, 그것이 악용될 수 있는 ‘최악의 시나리오’에 대한 철저한 대비를 요구하고 있습니다. 기술의 자유로운 발전과 잠재적 위협에 대한 통제라는 두 마리 토끼를 잡으려는 고뇌가 엿보이는 부분입니다. 이는 AI 거버넌스 논의에서 우리가 피할 수 없는 핵심 딜레마를 정확히 짚어내는 것이기도 합니다.
중국의 AI 위협에 맞서는 현실적인 방안들
그렇다면 아모데이 CEO가 중국의 AI 위협을 저지하기 위해 어떤 조치들을 지지할까요?
- 강력한 칩 접근 제한: 중국이 고성능 칩에 접근하는 것을 제한하는 방안을 꼽았습니다. 이는 미국이 오랫동안 추진해 온 정책이기도 합니다. 핵심 기술의 공급을 통제함으로써 중국의 AI 발전에 제동을 걸겠다는 전략인 셈이죠.
- 증류(Distillation)에 대한 공식적인 단속: 지적 재산권 도용의 한 방법으로 지목되는 증류 기법에 대한 강력한 단속을 촉구했습니다. 미국은 이미 자국 모델과 관련된 IP 절도 정황이 확인될 경우 중국에 대한 제재를 가하겠다고 위협한 바 있습니다.
- 글로벌 모델 안전성 테스트 기관 설립: 아모데이의 제안 중 가장 흥미로운 것은 바로 전 세계, 심지어 중국까지 참여하는 모델 안전성 테스트 기관을 만들자는 것이었습니다. 그는 이 아이디어가 실제로 컨센서스에 가까워지고 있다고 보며, 최근 트럼프 행정부가 이 방향으로 움직이고 있다는 점과 산업계의 제안(출신 국가나 오픈/클로즈 여부와 관계없이 가장 강력한 모델에 테스트를 적용하고, 덜 강력한 모델은 면제)에 고무되었다고 밝혔습니다.
특히 그는 이러한 테스트가 효과적이려면 “전 세계적이어야 하며, 중국 공산당(CCP)조차도 동참해야 한다”고 덧붙였습니다. 그리고 놀랍게도 그는 “이것이 실제로 가능할 수 있다고 생각한다… AI 생물학 무기 방지와 관련한 제한적 협력은 중국에게도 이익이 되기 때문에 가능할 수 있다”고 낙관적인 전망을 내놓았습니다.
이 부분에서 업계 흐름을 보면 아모데이의 낙관론은 상당한 도전 과제를 안고 있습니다. 과연 중국이 자국의 군사적, 경제적 이득과 직결될 수 있는 AI 기술의 주권을 쉽게 내려놓고 글로벌 협력에 나설지는 미지수입니다. 그러나 AI 생물학 무기와 같은 인류 보편적인 위협에 대해서는 공통의 이해관계가 형성될 가능성도 무시할 수 없습니다. 이는 ‘기술 냉전’ 속에서도 인류 공동의 안녕을 위한 최소한의 협력 지대를 모색하려는 고도의 외교적 접근이 필요함을 시사합니다.
AI의 잠재력과 위험성, 그리고 복잡한 지정학적 역학 관계가 뒤얽힌 현장에서, 다리오 아모데이 CEO의 발언은 AI 거버넌스에 대한 깊이 있는 통찰을 제공합니다. 단순히 기술의 개방성 여부를 넘어, 누가, 어떤 목적으로, 그리고 어떤 통제 하에 이 강력한 도구를 사용할 것인가에 대한 근본적인 질문을 던지고 있는 셈입니다. 이 질문에 대한 답을 찾는 것이야말로 인류에게 주어진 가장 시급한 과제가 아닐까요?
출처
- 원문 제목: Anthropic’s Dario Amodei responds: doesn’t oppose open-weight models, but fears Chinese AI
- 출처: AI News & Artificial Intelligence | TechCrunch
- 원문 기사 보러가기
