AI 안전에 대한 목소리, Anthropic 국방부 고소: 거대 기술과 정부의 충돌, 그 의미는?

최근 인공지능(AI) 기술은 전 세계를 변화시키는 핵심 동력으로 부상하고 있으며, 그 발전 속도는 경이롭기까지 합니다. 그러나 이러한 눈부신 발전과 함께 AI의 안전성, 윤리적 사용, 그리고 사회적 영향에 대한 심도 깊은 논의 또한 필수적으로 요구되고 있습니다. 특히, AI가 군사 및 감시 분야에 적용될 때 발생할 수 있는 잠재적 위험에 대한 우려는 더욱 증폭되고 있습니다. 이러한 배경 속에서 AI 기술을 선도하는 기업 중 하나인 Anthropic이 미국 국방부(DOD)를 상대로 소송을 제기했다는 소식은 업계에 큰 파장을 불러일으키고 있습니다. 이 사건은 단순한 기업과 정부 간의 법적 분쟁을 넘어, AI의 미래와 그 통제 방식에 대한 근본적인 질문을 던지고 있습니다.

Claude라는 강력한 AI 모델을 개발한 Anthropic은 지난주 미 국방부가 자사를 ‘공급망 위험’ 기업으로 지정한 것에 대해 강력히 반발하며 월요일에 캘리포니아와 워싱턴 D.C.에서 두 건의 소송을 제기했습니다. 이번 소송은 수 주간 이어진 Anthropic과 국방부 간의 갈등 끝에 발생한 것으로, 군이 Anthropic의 AI 시스템에 제한 없이 접근해야 하는지에 대한 이견이 핵심이었습니다. Anthropic은 자사의 기술이 미국 시민에 대한 대규모 감시에 사용되거나, 인간의 표적 결정 및 발사 결정 없이 작동하는 완전 자율 무기에 사용되는 것에 대해 확고한 ‘레드 라인’을 제시하며 반대 입장을 분명히 했습니다. 반면, 피트 헥스그스(Pete Hegseth) 국방장관은 국방부가 “모든 합법적인 목적”을 위해 AI 시스템에 접근할 수 있어야 하며, 사설 계약업체에 의해 제한되어서는 안 된다고 주장했습니다. 이러한 충돌은 AI 기술의 윤리적 사용과 국가 안보 요구 사이에서 균형을 찾아야 하는 복잡한 과제를 부각시키고 있습니다. 이번 블로그 게시물에서는 이 중대한 소송의 세부 사항, 그 법적 쟁점, 그리고 AI 산업 및 미래 거버넌스에 미칠 광범위한 영향에 대해 심층적으로 살펴보겠습니다.

Anthropic 소송의 핵심 쟁점: 국방부의 ‘공급망 위험’ 지정

Anthropic이 미 국방부를 고소한 배경에는 국방부가 자사를 ‘공급망 위험’으로 지정한 전례 없는 조치가 있습니다. 이는 일반적으로 해외 적대국에 적용되는 분류로서, 국내 기업에 적용된 것은 매우 이례적이며 심각한 의미를 내포하고 있습니다. Anthropic은 국방부의 이러한 조치가 자사의 사업에 즉각적이고 회복 불가능한 피해를 입힐 것이라고 주장하며 강경한 대응에 나섰습니다.

• 공급망 위험 지정의 의미: ‘공급망 위험’ 기업으로 지정되면, 국방부와 협력하는 모든 기업이나 기관은 Anthropic의 모델을 사용하지 않는다고 증명해야 합니다. 이는 사실상 연방 정부 관련 사업에서 Anthropic을 배제하겠다는 의미로 해석될 수 있습니다. 비록 여러 민간 기업들이 여전히 Anthropic과 협력하고 있지만, 이번 조치로 인해 Anthropic은 정부 관련 사업의 상당 부분을 잃을 위기에 처해 있습니다. 이는 기업의 재정적 안정성과 시장 가치에 치명적인 영향을 미칠 수 있습니다.

• Anthropic의 ‘레드 라인’과 안전 철학: Anthropic은 AI 기술의 오용을 방지하기 위한 명확한 원칙을 가지고 있습니다. 특히, 자사 기술이 미국 시민에 대한 대규모 감시나 인간의 개입 없는 완전 자율 무기에 사용되는 것을 강력히 반대합니다. 이는 **AI 안전(AI Safety)**과 **책임 있는 AI 개발(Responsible AI Development)**에 대한 Anthropic의 깊은 신념을 반영하며, AI 기술이 가져올 수 있는 잠재적 위험에 대한 선도적인 목소리라고 할 수 있습니다.

• 국방부의 입장: 피트 헥스그스 국방장관은 국방부가 “모든 합법적인 목적”을 위해 AI 시스템에 접근해야 하며, 사설 계약업체에 의해 제한되어서는 안 된다고 주장했습니다. 이는 국가 안보와 국방력 강화를 위해 AI 기술의 완전한 활용이 필요하다는 정부의 강력한 의지를 보여줍니다. 정부는 계약 관계에 있는 민간 기업이 기술 사용처에 제약을 가하는 것을 받아들일 수 없다는 입장을 고수하고 있습니다.

• ‘깨어 있는(Woke)’ 및 ‘급진적(Radical)’ 비판: 도널드 트럼프 대통령과 헥스그스 국방장관을 포함한 행정부 인사들은 Anthropic과 CEO 다리오 아모데이(Dario Amodei)가 더 강력한 AI 안전 및 투명성 조치를 요구하는 것을 두고 ‘깨어 있다’거나 ‘급진적’이라고 비판했습니다. 이는 AI의 윤리적 사용에 대한 기업의 목소리를 정치적으로 폄하하려는 시도로 보이며, 이번 소송의 정치적 맥락을 더욱 복잡하게 만듭니다.

• 대통령의 직접 지시: Anthropic CEO 아모데이가 “레드 라인”을 굽히지 않겠다는 성명을 발표한 후, 트럼프 대통령은 모든 연방 기관에 Anthropic의 기술 사용을 즉시 중단하라고 지시했습니다. 이로 인해 정부 계약 및 구매를 관리하는 연방 기관인 연방총무청(GSA)은 Anthropic의 “OneGov” 계약을 종료하여, 연방 정부의 세 가지 부문 모두에서 Anthropic 서비스의 가용성이 중단되었습니다. 이는 대통령의 권한 행사 범위에 대한 또 다른 법적 쟁점을 추가합니다.

Anthropic의 법적 주장: 위헌적 보복과 절차적 위반

Anthropic은 국방부의 조치가 단순히 불합리한 것을 넘어, 위헌적이며 절차적으로도 위법하다고 주장하며 법정 다툼에 나섰습니다. 이들의 법적 주장은 크게 두 가지 축으로 전개됩니다. 하나는 정부가 ‘보호되는 표현의 자유’를 침해하고 보복성 조치를 취했다는 것이고, 다른 하나는 연방 법률이 요구하는 절차를 따르지 않았다는 것입니다.

• ‘보호되는 표현의 자유’ 침해 및 보복: Anthropic은 국방부의 조치를 샌프란시스코 연방 법원에 제출한 소장에서 “전례 없고 위법하다”고 비난하며, 행정부가 보복성 조치를 취했다고 주장했습니다. 소송은 “헌법은 정부가 보호되는 표현의 자유를 행사한 기업을 처벌하기 위해 막대한 권력을 휘두르는 것을 허용하지 않는다”고 명시하고 있습니다. 여기서 Anthropic이 언급하는 ‘보호되는 표현의 자유’는 자사 AI 서비스의 한계와 AI 안전의 중요한 문제에 대한 그들의 신념을 말합니다. 정부는 Anthropic의 견해에 동의하거나 그들의 제품을 사용할 필요는 없지만, 국가의 권력을 이용해 Anthropic의 표현을 처벌하거나 억압할 수는 없다는 것이 Anthropic의 주장입니다. 이는 미국 수정헌법 제1조가 보장하는 표현의 자유가 기업 활동에 어떻게 적용되는지에 대한 중요한 선례가 될 수 있습니다.

• 절차적 위반 주장: Anthropic은 또한 “여기서 취해진 조치를 승인하는 연방 법률은 없다”고 주장하며, 국방부의 공급망 위험 지정이 “의회가 요구한 절차를 준수하지 않고” 이루어졌다고 강조했습니다. 일반적으로 법률은 기관이 벤더를 연방 공급망에서 배제하기 전에 위험 평가를 수행하고, 해당 기업에 통지하며, 기업이 응답할 기회를 제공하고, 서면으로 국가 안보 결정을 내리고, 의회에 통지할 것을 요구합니다. Anthropic은 이러한 필수적인 절차들이 무시되었음을 지적하며, 이는 행정 절차법 위반에 해당한다고 주장하고 있습니다. 이러한 주장이 받아들여질 경우, 국방부의 결정 자체는 물론 정부 기관의 의사 결정 과정 전반에 대한 신뢰도에 타격이 갈 수 있습니다.

• 대통령 권한의 남용 의혹: Anthropic은 트럼프 대통령이 의회가 부여한 권한의 범위를 벗어나 행동했다고도 비난했습니다. 아모데이 CEO가 자사의 “레드 라인”을 고수하겠다는 입장을 밝힌 후, 대통령이 모든 연방 기관에 Anthropic 기술 사용을 즉시 중단하라고 지시한 것이 문제라는 것입니다. 이는 행정부 수반의 지시가 법적 절차와 입법부의 권한을 얼마나 존중해야 하는지에 대한 중요한 논쟁을 촉발시킬 수 있습니다.

• 즉각적인 지정 중단 요청: 소송의 일환으로 Anthropic은 법원에 사건이 진행되는 동안 국방부의 지정을 즉시 중단하고, 궁극적으로 정부가 이를 시행하는 것을 무효화하고 영구적으로 차단해 줄 것을 요청했습니다. 이는 기업의 즉각적인 피해를 최소화하고 법정 다툼의 시간을 벌기 위한 전략적인 조치입니다. 별도로, Anthropic은 연방 조달법이 기업이 공급망 위험 지정에 이의를 제기할 수 있도록 허용하기 때문에 D.C. 순회 항소 법원에 별도의 소송을 제기하여 국방부의 결정을 검토하고 뒤집어 달라고 요청했습니다.

산업에 미칠 영향 및 파급 효과 분석

Anthropic과 미 국방부 간의 이번 소송은 단순히 한 기업과 정부 기관 간의 법적 분쟁을 넘어, 인공지능 산업 전반과 정부-기술 관계에 심대한 영향을 미칠 수 있는 중요한 사건입니다. 이 소송의 결과는 AI 기술 개발의 방향성, 윤리적 기준 설정, 그리고 정부의 AI 활용 방식에 대한 주요한 선례를 남길 것입니다.

첫째, 이번 소송은 AI 안전 및 윤리에 대한 논의를 더욱 심화시키고, 기업의 사회적 책임에 대한 인식을 높이는 계기가 될 것입니다. Anthropic이 자사의 “레드 라인”을 지키기 위해 정부를 상대로 소송까지 불사한 것은, AI 기술이 가져올 수 있는 잠재적 위험에 대한 심각성을 다시금 일깨워줍니다. 다른 AI 기업들도 자사 기술의 군사적 및 감시 목적 사용에 대해 더욱 신중한 입장을 취하게 될 가능성이 큽니다. 이는 장기적으로 AI 산업 내에서 책임 있는 AI 개발 원칙을 강화하고, 기업들이 기술의 상업적 성공뿐만 아니라 사회적 영향까지 고려하는 문화를 확산시키는 데 기여할 수 있습니다. 동시에, 정부가 AI 기술을 국가 안보라는 명분으로 무분별하게 활용하려는 시도에 제동을 걸 수 있는 중요한 사례가 될 것입니다.

둘째, 이번 사건은 정부의 기술 통제 방식과 민간 기업의 자율성 사이의 긴장 관계를 명확히 보여줍니다. 국방부는 국가 안보를 위해 AI 기술에 제한 없이 접근해야 한다고 주장하는 반면, Anthropic은 기업으로서 기술 사용의 윤리적 한계를 설정할 권리가 있다고 맞서고 있습니다. 만약 법원이 Anthropic의 손을 들어준다면, 이는 정부가 첨단 기술 기업의 내부 정책과 윤리적 기준을 무시하고 기술 사용을 강제하는 것에 대한 중요한 제약이 될 것입니다. 이는 다른 첨단 기술 분야에서도 유사한 논쟁을 촉발할 수 있으며, 정부가 민간 혁신을 저해하지 않으면서도 공익을 보호하는 새로운 접근 방식을 모색하도록 압력을 가할 수 있습니다. 반대로, 국방부가 승소한다면, 정부가 국가 안보를 명분으로 민간 기업의 기술 활용에 더 강력한 통제권을 행사할 수 있는 선례를 남기게 될 것입니다. 이는 민간 기술 기업들의 자율성을 위협하고, AI 연구 개발의 방향성에도 영향을 미칠 수 있습니다.

미래 전망 및 결론: AI 거버넌스의 시험대

Anthropic과 미 국방부 간의 소송은 단순한 법정 다툼을 넘어, 인류가 AI 시대를 어떻게 규제하고 이끌어갈 것인지에 대한 중요한 시험대가 될 것입니다. 이 사건은 AI 기술의 급속한 발전과 그에 따른 윤리적, 사회적 책임 사이의 균형점을 찾는 것이 얼마나 어려운 과제인지를 명확히 보여줍니다.

궁극적으로 이 소송의 결과는 AI 거버넌스의 미래에 중대한 영향을 미칠 것입니다. 만약 법원이 Anthropic의 ‘보호되는 표현의 자유’ 주장을 인정하고 국방부의 조치가 위법하다고 판결한다면, 이는 AI 기업들이 자사 기술의 사용에 대한 윤리적 한계를 설정할 권리를 옹호하는 강력한 선례가 될 것입니다. 이는 정부가 국가 안보라는 명분으로 민간 기술을 무분별하게 통제하려는 시도에 제동을 걸고, AI 개발의 윤리적 측면을 더욱 강조하는 계기가 될 수 있습니다. 반대로, 국방부의 손을 들어주는 판결이 나온다면, 정부는 민간 AI 기술에 대한 더 강력한 통제권을 행사할 수 있게 되며, 이는 혁신과 자율성보다는 국가 안보와 통제를 우선시하는 정책으로 이어질 수 있습니다. 어떤 결과든, 이번 소송은 AI 기술이 사회에 미치는 영향을 둘러싼 규제 및 윤리적 프레임워크를 형성하는 데 있어 중요한 이정표가 될 것입니다.

Anthropic은 “사법적 검토를 구하는 것이 국가 안보를 보호하기 위해 AI를 활용하려는 우리의 오랜 약속을 바꾸지는 않지만, 이는 우리 사업, 고객 및 파트너를 보호하기 위한 필요한 단계”라고 밝혔습니다. 또한, “정부와의 대화를 포함하여 해결을 위한 모든 길을 계속 추구할 것”이라고 덧붙였습니다. 이는 Anthropic이 단순히 소송을 통해 정부에 대항하는 것을 넘어, AI 기술의 책임 있는 사용에 대한 지속적인 대화와 협력을 모색하고 있음을 시사합니다. 앞으로 이 소송이 어떻게 전개될지, 그리고 이것이 AI 산업과 정부 관계에 어떤 새로운 질서를 가져올지 전 세계의 이목이 집중되고 있습니다. 이 사건은 AI 기술의 잠재력을 최대한 활용하면서도 그 위험을 최소화하는 현명한 방법을 찾아야 하는 우리 시대의 가장 중요한 질문 중 하나에 대한 답을 찾는 데 중요한 단서를 제공할 것입니다.

---

출처

• 원문 제목: Anthropic sues Defense Department over supply-chain risk designation
• 출처: AI News & Artificial Intelligence | TechCrunch
• 원문 기사 보러가기