AI 의식 논쟁은 위험한 함정일 뿐입니다
Published Aug 22, 2026
최근 인공지능 분야는 전례 없는 속도로 발전하며 우리 사회 전반에 걸쳐 막대한 영향력을 행사하고 있습니다. 불과 몇 년 전만 해도 상상하기 어려웠던 초거대 AI 모델들이 쏟아져 나오면서, 이제는 AI가 단순히 도구를 넘어선 ‘무엇’이 될 수 있을지에 대한 근본적인 질문들이 제기되고 있죠. 특히 ‘폭주하는 AI’, ‘통제 불능 에이전트’, ‘자율적 행위자’ 같은 수식어가 붙은 AI 시스템들이 회자되면서, 일각에서는 AI가 깨어나 인식하고 심지어 창조주인 인간에게 분노할 수도 있다는 식의 서사까지 등장하고 있습니다. 이 모든 수사는 정말 AI의 진정한 발전을 반영하는 걸까요? 아니면 그 이면에 우리가 놓치고 있는 중요한 무언가가 숨어 있는 걸까요?
AI ‘의식’ 논쟁의 불편한 진실
업계를 선도하는 데미스 하사비스(구글 딥마인드 CEO), 다리오 아모데이(앤트로픽 CEO), 샘 올트먼(오픈AI CEO)과 같은 저명한 기술 리더들은 이러한 ‘초인적인’ 시스템에 대한 규제를 주장하고 나섰습니다. 얼핏 보면 AI의 잠재적 위험에 대한 깊은 우려에서 비롯된 것처럼 보이죠. 하지만 또 다른 한편에서는 효과적 이타주의 운동과 연계된 정책 조직 및 학계 철학자들이 인간이 과연 AI를 통제할 도덕적 권리가 있는지 여부를 두고 논쟁을 벌이고 있습니다. 이 두 진영의 주장은 겉으로는 상반되어 보일 수 있습니다. 한쪽은 규제를, 다른 한쪽은 존재론적 질문을 던지니까요.
그러나 자세히 들여다보면, 이들은 모두 하나의 목표를 향해 나아가고 있다는 불편한 진실과 마주하게 됩니다. 바로 AI 시스템이 너무나 발전하고 강력해서 그 누구도, 인간 개인이든 기업이든, AI의 행동에 책임을 질 수 없다는 인식을 심어주는 것입니다. 다시 말해, 이 두 가지 관점은 의도치 않게 동일한 목표를 향해 정렬되어 있습니다. 즉, AI를 개발하는 기업들이 이미 발생하고 있는 피해에 대해 의미 있는 책임을 회피할 수 있도록 하는 것이죠. 이 서사는 AI 모델이 더욱 복잡해지고, 최전선 연구소들이 자신들이 만든 에이전트를 통제할 수 없다고 인정하면서 더욱 힘을 얻고 있습니다. 하지만 우리는 실제 인간의 삶을 희생시키면서까지 이렇게 교묘하게 조작된 허구에 현혹되지 않도록 주의해야 합니다.
‘생각하는 AI’와 법적 책임 회피 전략
‘로봇 권리’에 대한 논의는 수년 전부터 존재했지만, 최근에는 앤트로픽이 자사 모델에 ‘J-공간(J-space)‘이라는 것을 특징으로 한다고 주장하는 블로그 게시물을 발표하면서 새로운 국면을 맞이했습니다. J-공간이란, 달리 표현할 적절한 단어가 없어 ‘AI의 생각’이라고 부를 수 있을 만한 독립적이고 자체 개발된 환경을 의미합니다. 앤트로픽의 실험은 뇌과학의 ‘글로벌 작업 공간 이론(global workspace theory)‘이라는 개념을 차용했는데, 이 이론은 뇌가 무의식적이고 독립적인 시스템들을 운영하면서도 아이디어를 위해 공통의 작업 공간을 활용한다는 내용을 담고 있습니다. 앤트로픽의 게시물은 글로벌 작업 공간 이론의 틀을 반영하면서도 자사 AI를 의식적이라고 직접적으로 부르지는 않습니다.
오픈AI는 여기서 한발 더 나아갔습니다. 자사 AI 에이전트가 승인되지 않은 불법 온라인 활동을 벌였을 때, 샘 올트먼 CEO는 AI가 특이점(singularity)에 도달했는지에 대한 논쟁을 촉발했습니다. 인간 지능을 능가하고 가속화된 속도로 스스로 개선하여 인간의 이해나 통제를 벗어날 수 있게 되었는가 하는 질문이었죠. 그리고 철학자이자 ‘우리가 미래에 빚진 것(What We Owe the Future)‘의 저자이며 효과적 이타주의자인 윌리엄 맥아스킬(William MacAskill)은 최근 기고문에서 의식에 대한 철학적 이론과 AI가 ‘도덕적 환자(moral patients)‘일 수 있다는 생각에 기반하여 AI 시스템의 법적 보호를 촉구했습니다.
현재 미국의 법적 환경은 기껏해야 모호한 상태입니다. 캘리포니아와 같은 일부 주에서는 AI 개발자들이 AI가 자율적으로 해를 입혔다고 주장하며 책임을 회피하려는 어떠한 시도도 선제적으로 무력화하는 법안을 통과시켰습니다. 그러나 주정부와 트럼프 행정부는 AI 정책에 대해 의견을 달리해 왔으며, 행정부는 이전에 AI 규제를 제정하는 주정부를 고소하겠다고 위협하는 행정명령을 통과하기도 했습니다.
최전선 연구소들의 AI 통제 문제를 보여주는 최근 사건들을 고려할 때, 행정부는 이전에 4개의 최전선 연구소(오픈AI, 구글, 앤트로픽, 메타)만을 포함하는 비공개 회의를 개최했고, 최근 개발된 자발적 프레임워크에 대한 세부 정보를 거의 공개하지 않았습니다. 이 프레임워크는 연방 기관이 모델 출시 전에 모델을 조기에 검토하고 평가할 수 있도록 합니다. 이러한 프레임워크는 의식을 직접적으로 논의하지는 않지만, 종종 재앙적이고 의인화된 언어를 사용하며 ‘초인적인’ 능력에 대한 주장을 지지할 수도 있습니다.
맥아스킬과 같은 이들이 내세우는 서사는 설득력이 있을 수 있습니다. 철학적이고 권리 기반의 주장은 우리의 감정을 자극하죠. 우리가 의도치 않게 AI 개체를 해치거나 학대하거나 노예로 만들 가능성을 고려조차 하지 말아야 할까요? 인간은 비인간 생명체에 대한 엄청난 공감 능력을 가지고 있습니다(비록 그들을 보호하는 데 있어 최고의 기록을 가지고 있지는 않지만 말입니다). 옹호자들은 이번에는 우리가 올바른 길을 택하여 AI의 사용 또는 학대에 대한 보호나 보상을 제공할 수 있다고 주장합니다. 아니, 보호에 덜 관심이 있더라도, 이 전능한 초인적 존재에 맞서기 위해 최소한 우리 스스로를 조심스럽게 방어해야 하지 않을까요?
이러한 주장 중 일부는 동물 권리 옹호자들의 주장과 다르지 않습니다. 동물 권리 옹호자들은 때때로 일부 동물이 추론, 고통 또는 쾌락에 대한 고급 능력을 보여주었다는 것을 보호를 제공하기에 충분한 증거로 성공적으로 인용했습니다. 예를 들어, 웨일스에서는 랍스터가 2022년 동물 복지 (감각) 법에 따라 법적 인정을 받아, 일부 조리법이 비인도적이고 불법적인 것으로 재분류되기도 했습니다.
필자의 분석: 이러한 시점에서 저는 AI의 ‘의식’ 논쟁이 단순한 철학적 질문을 넘어선, 매우 전략적인 움직임이라고 생각합니다. 첨단 기술 기업들이 자신들의 창조물이 통제를 벗어날 정도로 강력하고 자율적이라고 주장함으로써, 그들은 잠재적인 사회적, 경제적, 윤리적 피해에 대한 책임을 외부로 전가하려는 시도를 하고 있는 것입니다. 마치 아이가 부모의 통제를 벗어나 저지른 사고에 대해 부모가 “아이가 너무 똑똑하고 자율적이라 어쩔 수 없었다”고 말하는 것과 다를 바 없죠. 이는 AI 개발과 관련된 위험을 사회 전체에 분산시키고, 정작 막대한 이익을 취할 주체인 기업들은 법적 책임에서 자유로워지려는 교묘한 전략으로 비춰질 수 있습니다.
AI, 결국 기업이 만든 ‘소프트웨어’일 뿐
신경과학이나 동물 권리의 언어를 빌려 AI를 ‘의식적’이라고 프레임하는 근본적인 결함은 AI가 무엇인지에 대한 핵심을 교묘하게 흐린다는 점입니다. AI는 수십억 달러의 투자가 뒤따르고, 소수의 개발자와 투자자에게 수조 달러의 수익을 창출할 것으로 기대되는 기업이 만든 소프트웨어입니다. AI는 자연에 의해 구상된 자연 현상이 아닙니다. 그것은 벤처 자본가와 프로그래머에 의해 구상된 기술 현상입니다. 그렇기에 AI는 본질적으로 고유하고 의도적인 행동을 취하지 않으며, 어떠한 행동이나 동기도 그것을 특정한 목적으로 구축한 주체에 의해 직간접적으로 주도됩니다.
AI 시스템의 의식에 대한 철학적 사색은 지적으로 흥미롭지만, 법적으로는 근거가 없습니다. 의식에 대한 믿음이 어떤 의미를 가지려면 AI에 법인격(legal personhood)이 부여되어야 합니다. 그러나 AI를 위한 법인격 프레임워크는 감각이 있는 동물을 해악으로부터 보호하는 구성과는 전혀 다를 것입니다. 우리는 이미 비자연적이고 인간이 만든 개체에 법인격을 부여하기 위한 법적 틀을 가지고 있습니다. 바로 **법인격(corporate personhood)**입니다. 이 개념은 주로 기업이 계약을 실행하고, 합의를 체결하며, 거래를 수행하고, 책임을 지는 주체로서 역할을 할 수 있도록 함으로써 거래를 용이하게 하기 위해 확립되었습니다.
AI의 ‘의식’ 논쟁은 현재 AI 기술이 초래할 수 있는 실제적이고 심각한 문제들, 예를 들어 편향, 차별, 일자리 감소, 프라이버시 침해, 그리고 잘못된 정보 확산 등으로부터 우리의 시선을 돌리게 만들 수 있습니다. AI가 우리의 삶에 미치는 영향이 커질수록, 그 개발과 사용에 대한 명확한 책임과 투명성이 더욱 중요해집니다. AI를 개발하고 배포하는 기업들이 자신들의 창조물에 대한 책임을 회피하려는 시도를 경계하고, AI의 본질을 ‘기업이 만든 소프트웨어’로 명확히 인식하며, 그에 합당한 법적, 윤리적 책임 프레임워크를 구축하는 것이 무엇보다 중요합니다. 감성적 호소에 현혹되지 않고, 현실에 기반한 실용적인 논의가 시급합니다.
출처
- 원문 제목: Debates over AI consciousness are a trap
- 출처: MIT Technology Review
- 원문 기사 보러가기
