AI 윤리 대 전쟁의 그림자: Anthropic과 OpenAI, 국방부 계약을 둘러싼 뜨거운 논쟁

최근 인공지능(AI) 업계의 두 거물, Anthropic과 OpenAI가 미국 국방부(DoD)와의 계약을 두고 극명한 대립각을 세우면서 전 세계의 이목이 집중되고 있습니다. 이 사건은 단순히 두 기업 간의 경쟁을 넘어, AI 기술의 윤리적 사용과 안전성이라는 근본적인 질문을 던지고 있습니다. 특히, 대규모 언어 모델(LLM)을 비롯한 첨단 AI 기술이 점차 민간을 넘어 국방 분야로 확산되면서, 이러한 기술이 인류 사회에 미칠 영향에 대한 깊은 고민이 필요한 시점임을 시사하고 있습니다. AI 기술이 제공하는 무한한 가능성만큼이나, 오용될 경우 발생할 수 있는 잠재적 위험성에 대한 경고음이 울리고 있는 것입니다.

이번 논란의 핵심은 AI 기술이 군사적 목적으로 사용될 때 어떤 안전장치와 윤리적 기준이 필요한가에 있습니다. Anthropic은 AI의 오용 가능성에 대한 강력한 우려를 표하며 국방부와의 계약을 포기한 반면, OpenAI는 자체적인 안전 조항을 명시했다고 밝히며 계약을 체결했습니다. 하지만 Anthropic의 CEO 다리오 아모데이(Dario Amodei)는 OpenAI의 주장을 “노골적인 거짓말(straight up lies)“이라고 일축하며 비난의 수위를 높였습니다. 이는 AI 개발을 선도하는 기업들이 기술 발전뿐만 아니라 그 기술이 사회에 미치는 영향에 대한 책임감 있는 자세를 요구받고 있음을 명확히 보여주는 사례입니다. 과연 AI의 윤리적 사용이라는 중대한 가치가 상업적 이익 앞에서 어떻게 다루어져야 하는지에 대한 치열한 논쟁이 시작된 것입니다.

Anthropic과 OpenAI의 상반된 선택, 그 배경은?

미국 국방부와의 계약을 둘러싼 Anthropic과 OpenAI의 대조적인 결정은 AI 기술의 윤리적 경계와 기업의 사회적 책임을 다시 한번 생각하게 합니다. Anthropic은 AI 안전에 대한 확고한 신념을 바탕으로 2억 달러 규모의 기존 계약마저 포기하는 과감한 결단을 내렸습니다. 반면, OpenAI는 Anthropic이 설정했던 것과 유사한 안전장치를 마련했다고 주장하며 국방부와의 새로운 파트너십을 체결했습니다. 이 두 기업의 다른 행보는 AI 기술의 미래 방향성에 대한 중요한 질문들을 던지고 있습니다.

• Anthropic의 결단: Anthropic은 이미 미국 국방부와 2억 달러 규모의 계약을 맺고 있었음에도 불구하고, AI 기술의 오용 가능성에 대한 우려 때문에 계약을 포기했습니다. Anthropic은 국방부에 자사의 AI를 국내 대규모 감시나 자율 살상 무기에 사용하지 않겠다는 확약을 요구했으며, 이 조건이 충족되지 않자 계약을 진행하지 않기로 결정했습니다. 이는 회사의 핵심 가치인 ‘AI 안전’을 최우선으로 두는 경영 철학을 단적으로 보여주는 사례입니다.

• OpenAI의 새로운 계약: Anthropic이 빠져나간 자리에 OpenAI가 국방부와의 계약을 체결했습니다. 샘 알트만(Sam Altman) OpenAI CEO는 자사와의 새로운 국방 계약에 Anthropic이 주장했던 것과 동일한 ‘레드 라인’에 대한 보호 조치가 포함될 것이라고 밝혔습니다. OpenAI는 자사의 AI 시스템이 “모든 합법적인 목적(all lawful purposes)“으로 사용될 수 있도록 계약했다고 설명했습니다.

• ‘안전 극장’ 논란: 다리오 아모데이 Anthropic CEO는 OpenAI가 국방부와 맺은 거래를 “안전 극장(safety theater)“이라고 맹비난했습니다. 그는 OpenAI가 직원들을 안심시키는 데만 신경 썼을 뿐, 실제 AI 오용 방지에는 관심이 없었다고 지적하며, Anthropic은 진정으로 오용을 막는 데 집중했다고 강조했습니다. 이는 OpenAI의 안전 주장 뒤에 숨겨진 의도에 대한 강한 의문을 제기하는 것입니다.

• “노골적인 거짓말” 주장: 아모데이 CEO는 OpenAI의 메시지를 “노골적인 거짓말(straight up lies)“이라고 규정하며, 샘 알트만이 허위로 “평화주의자이자 협상가”인 척하고 있다고 비난했습니다. 특히, OpenAI가 계약 내용에 ‘대규모 국내 감시’는 합법적인 사용에 포함되지 않도록 명시했다고 주장한 것에 대해, 아모데이 CEO는 국방부가 ‘어떤 합법적인 용도로든(any lawful use)’ AI 사용을 주장했음을 강조하며 OpenAI의 설명이 사실과 다르다고 반박했습니다.

• 법의 변화 가능성: 비판론자들은 현재 ‘불법’으로 간주되는 것이 미래에는 법이 변경되어 ‘합법’이 될 수 있다는 점을 지적합니다. 이는 OpenAI가 ‘합법적인 목적’이라는 모호한 문구를 사용함으로써 AI 기술의 오용 가능성에 대한 문을 열어두었다는 우려를 낳고 있습니다. 법적 정의는 시대에 따라 변할 수 있으며, 이로 인해 AI 기술이 예상치 못한 방향으로 사용될 수 있다는 것입니다.

AI 윤리 논쟁, 대중과 시장의 반응은?

Anthropic과 OpenAI 사이의 격렬한 논쟁은 단순한 기업 간의 다툼을 넘어, AI 기술이 우리 사회에 통합되는 방식과 그 과정에서 기업이 짊어져야 할 윤리적 책임에 대한 대중의 인식을 자극하고 있습니다. 특히, OpenAI가 국방부와 계약을 체결한 이후 나타난 대중과 시장의 즉각적인 반응은 AI 윤리적 사용에 대한 사회적 요구가 얼마나 큰지를 명확하게 보여주고 있습니다.

• ChatGPT 삭제 급증: OpenAI가 미국 국방부와 계약을 맺은 직후, 인기 AI 챗봇인 ChatGPT의 앱 삭제(uninstall)가 무려 295%나 급증했습니다. 이는 대중이 OpenAI의 군사 계약에 대해 강한 불만을 표출하고 있음을 보여주는 직접적인 증거입니다. 사용자들은 AI 기술이 군사적 목적으로 사용되는 것에 대한 거부감을 행동으로 보여준 것입니다.

• 대중의 Anthropic 지지: 아모데이 CEO는 직원들에게 보낸 메모에서 “이러한 시도된 여론 조작/가스라이팅은 일반 대중이나 언론에는 잘 통하지 않고 있으며, 사람들은 대체로 OpenAI의 국방부 거래를 의심스럽게 보며 우리(Anthropic)를 영웅으로 보고 있다”고 언급했습니다. 실제로 Anthropic의 앱은 앱 스토어에서 2위를 차지하며 대중의 지지를 확인시켜 주었습니다. 이는 AI의 윤리적 사용을 강조하는 Anthropic의 입장이 대중에게 더 큰 공감을 얻고 있음을 시사합니다.

• OpenAI 직원들에 대한 우려: 아모데이 CEO는 일반 대중보다 OpenAI 직원들에게 이러한 “여론 조작”이 통하지 않도록 하는 것이 더 큰 걱정이라고 밝혔습니다. 이는 OpenAI 내부에서도 이번 군사 계약에 대한 윤리적 딜레마와 논쟁이 존재할 수 있음을 암시합니다. AI 윤리에 대한 직원들의 인식이 기업의 방향성에 중요한 영향을 미칠 수 있다는 점을 시사하는 대목입니다.

• ‘합법적인 목적’의 모호성: OpenAI가 ‘모든 합법적인 목적’으로 AI를 사용할 수 있도록 계약했다고 밝혔지만, 비판론자들은 ‘법’ 자체가 변화할 수 있다는 점을 지적합니다. 현재 불법으로 간주되는 대규모 감시나 자율 살상 무기 개발이 미래에는 법적 테두리 안에서 허용될 가능성도 배제할 수 없습니다. 이러한 법적 유동성은 AI 기술의 장기적인 윤리적 통제에 대한 불확실성을 가중시키고 있습니다.

AI 산업에 미칠 영향과 앞으로의 과제

이번 Anthropic과 OpenAI 간의 국방부 계약 논쟁은 AI 산업 전반에 걸쳐 중요한 함의를 던지고 있습니다. 특히, AI 기술이 국가 안보 및 군사 분야에 깊숙이 통합되면서, 기술 개발의 윤리적 지침과 사회적 책임에 대한 기준 설정이 시급하다는 인식이 확산될 것으로 보입니다. 이는 단순히 특정 기업의 비즈니스 모델을 넘어, AI 기술의 미래를 형성하는 데 결정적인 영향을 미칠 수 있습니다.

이번 사태는 AI 개발 기업들이 직면한 딜레마를 명확히 보여줍니다. 한편으로는 기술의 발전과 상업적 성공을 추구해야 하지만, 다른 한편으로는 기술이 가져올 수 있는 잠재적 위험과 윤리적 문제에 대한 책임감을 가져야 합니다. Anthropic은 윤리적 원칙을 고수하며 단기적인 재정적 이익을 포기하는 길을 선택했고, 이는 대중의 지지를 얻는 데 성공했습니다. 반면, OpenAI는 ‘안전장치’를 주장하며 계약을 체결했지만, 대중의 부정적인 반응에 직면했습니다. 이러한 상반된 결과는 AI 기업들이 단순히 기술력만으로 경쟁하는 것이 아니라, 사회적 책임과 윤리적 가치를 어떻게 수호하는지가 기업의 평판과 지속 가능성에 얼마나 중요한 영향을 미 미치는지 보여줍니다. 앞으로 더 많은 AI 기업들이 이러한 윤리적 딜레마에 봉착할 것이며, 각자의 선택은 해당 기업뿐만 아니라 전체 AI 생태계에 큰 영향을 미칠 것입니다.

AI 윤리의 새 지평을 열 것인가, 갈등의 심화인가?

이번 Anthropic과 OpenAI의 국방부 계약 논쟁은 AI 기술 발전의 이면에 숨겨진 윤리적 딜레마를 수면 위로 끌어올린 중요한 사건입니다. AI 기술이 빠르게 발전하며 우리 삶의 모든 영역에 스며들고 있는 상황에서, 기술의 잠재적 위험에 대한 사회적 통제와 윤리적 가이드라인 마련은 그 어느 때보다 중요해지고 있습니다. 이번 사태는 AI 개발 기업들이 기술의 상업적 활용과 윤리적 책임 사이에서 어떤 균형을 찾아야 할지에 대한 근본적인 질문을 던지며, 앞으로 AI 산업의 방향성을 결정하는 중요한 전환점이 될 것입니다.

향후 AI 업계는 이번 논쟁을 통해 더욱 강화된 윤리적 책임 의식을 갖게 될 것으로 예상됩니다. AI 기술의 군사적 활용뿐만 아니라, 데이터 프라이버시, 편향성, 자율성 등 다양한 윤리적 문제에 대한 논의가 활발해질 것입니다. 정부와 규제 기관은 AI 기술의 안전하고 윤리적인 사용을 보장하기 위한 보다 명확하고 강력한 정책 및 법규를 마련해야 할 필요성을 느끼게 될 것입니다. 또한, 기업들은 단순히 법적 최소한의 기준을 넘어 자율적인 윤리 강령을 수립하고 투명하게 운영하는 것이 시장에서의 경쟁 우위를 확보하는 중요한 요소가 될 것입니다. Anthropic과 같이 윤리를 최우선으로 하는 기업의 성공은 다른 기업들에게도 중요한 교훈을 제공하며, AI 기술이 인류에게 진정으로 이로운 방향으로 발전하는 데 기여할 수 있는 계기가 될 것으로 기대됩니다.

---

출처

• 원문 제목: Anthropic CEO Dario Amodei calls OpenAI’s messaging around military deal ‘straight up lies,’ report says
• 출처: AI News & Artificial Intelligence | TechCrunch
• 원문 기사 보러가기