AI, 생물학 무기의 악몽을 깨우다: 기술 리더들의 경고, 어디까지 심각한가?
Published Sep 21, 2026
최근 인공지능(AI) 업계는 심상치 않은 경고음으로 술렁이고 있습니다. 최전선에서 기술을 개발하고 있는 리더들이 스스로 만들어내는 기술의 위험성을 지적하며 대중의 이목을 집중시키고 있는 것이죠. 지난 주말, 선도적인 AI 연구 기업인 앤트로픽(Anthropic)의 CEO 다리오 아모데이(Dario Amodei)는 AI가 심각한 위험을 내포하고 있으며 발전 속도를 늦춰야 한다고 주장했습니다. 이에 오픈AI(OpenAI) CEO 샘 알트만(Sam Altman) 역시 “다리오의 의견에 동의한다. 우리는 (AI 발전의) 속도를 조절해야 한다”고 X(구 트위터)를 통해 화답했습니다.
하지만 문제는 단순히 ‘속도 조절’에서 그치지 않습니다. 이들의 발언 며칠 전, 앤트로픽에 몸담았던 AI 연구자 제이콥 콕슨(Jacob Coxon)은 회사와 오픈AI 모두 책임감 있게 행동하지 않는다며 사임을 발표했습니다. 그의 충격적인 주장은 이러했습니다. “AI를 개발하는 사람들은 진정으로 AI가 10년 안에 우리 모두를 죽일 수 있다고 믿는다.” 앤트로픽의 또 다른 직원 에반 허빙거(Evan Hubinger)도 공개적으로 이에 동의하며 “우리 모두 AI가 인류를 전멸시킬 수 있다고 진정으로 믿는다! 개인적으로는 10년 안에 그럴 가능성이 10%를 넘는다고 생각한다”고 덧붙였습니다.
기술 개발의 선두에 선 이들이 이처럼 극단적인 경고를 쏟아내는 것은 극히 이례적인 일입니다. 이는 AI가 단순한 기술 발전을 넘어 인류의 생존 자체를 위협할 수 있는 잠재력을 가졌다는 심각한 인식에서 비롯된 것이죠. 이러한 충격적인 경고들이 집중적으로 향하는 곳 중 하나가 바로 AI가 생물학 무기의 설계, 생성, 배포를 돕는 시나리오입니다. 도대체 어떤 근거로 이러한 섬뜩한 예측들이 나오고 있는 것일까요? 왜 AI 리더들은 자신들의 창조물이 인류를 죽일 수 있다고 솔직하게 말하는 것일까요? 사실 이건, 우리의 상상보다 훨씬 더 현실에 가까이 와 있는 위협일지도 모릅니다.
AI, 너무나 쉽게 살상 병기를 디자인하다
생물학 무기라는 단어는 듣기만 해도 전율이 흐릅니다. 특정 유전자를 가진 사람만을 표적으로 삼아 공격하는 치명적인 바이러스, 혹은 특정 지역의 핵심 작물을 전멸시켜 대규모 식량 안보 위기를 초래할 수 있는 곰팡이, 심지어는 맛과 냄새가 없어 감지되지 않은 채 조용히 지역의 식수원에 스며들어 대규모 피해를 유발할 수 있는 독소… 상상만으로도 끔찍하고 파괴적인 시나리오들입니다. 그런데 이러한 파괴적인 물질들을 AI 도구가 과거에는 상상할 수 없을 만큼 쉽고 빠르게 설계하고 생성하는 데 도움을 줄 수 있다는 것이 현재 AI 커뮤니티의 핵심 우려 사항입니다.
이러한 우려가 단순한 SF적 상상이 아니라는 것은 이미 2022년에 명확히 드러났습니다. Collaborations Pharmaceuticals의 연구원들은 인간 질병의 잠재적 약물을 찾기 위해 개발했던 AI **‘분자 생성기(molecule generator)‘**를 사용해 놀랍도록 쉽게 생물학 무기 후보 물질을 만들 수 있음을 발견했습니다. 그 과정은 충격적이었습니다. 불과 6시간도 채 되지 않는 시간 동안, 이 모델은 40,000가지에 달하는 잠재적 화학전(chemical warfare) 물질을 생성했습니다. 놀라운 점은, 이들 중 일부는 이미 알려진 치명적인 신경 작용제보다 훨씬 더 독성이 강하도록 설계되었다는 것입니다. 이 연구는 AI가 악의적인 의도 없이 개발된 도구일지라도, 그 기능을 오용할 경우 얼마나 파괴적인 결과를 초래할 수 있는지 극명하게 보여주었습니다. 당시 연구자들은 “지나치게 경고하는 것이 아니더라도, 이는 ‘신약 발굴을 위한 AI’ 커뮤니티의 동료들에게 경종을 울려야 한다”고 경고했습니다.
스탠퍼드 대학교 의학 및 생명윤리학 교수인 데이비드 매그너스(David Magnus)에게도 이 연구 결과는 큰 충격으로 다가왔습니다. 그는 1990년대 후반부터 의료 과학 및 생명공학 오용과 관련된 위험을 평가해 왔음에도 불구하고 “그것은 나에게 매우 무서운 일이었다. 물론 그 이후 모든 것이 폭발적으로 증가했다”고 말했습니다.
이 부분에서 주목할 점은, AI가 악의적인 목적으로 처음부터 개발된 것이 아니라, 질병 치료와 같은 선한 목적으로 만들어진 도구조차도 그 방향을 틀어 치명적인 결과를 초래할 수 있다는 점입니다. 이 연구 결과는 AI의 이중 사용(dual-use) 잠재력을 극명하게 보여줍니다. 솔직히 말해서, 단 6시간 만에 4만 개의 치명적인 분자 후보를 만들어낼 수 있는 효율성은 경각심을 불러일으키기에 충분합니다. 과거에는 이러한 물질을 설계하고 합성하는 데 수많은 시간과 고도의 전문 지식이 필요했으며, 이는 소수의 국가나 기관만이 접근할 수 있는 영역이었습니다. 하지만 이제는 AI의 도움으로 개인이 집 안 실험실에서 특정 조건만 갖추면 이론적으로나마 이러한 시도를 할 수 있는 수준까지 온 것입니다. 이는 생물학 무기의 개발 문턱을 과거와는 비교할 수 없을 정도로 낮추는 결과를 초래하며, 잠재적 위협의 주체를 예측하기 어렵게 만듭니다.
AI와 DIY 바이오, 예측 불가능한 시너지의 위험
오늘날 AI 챗봇들은 과학의 모든 영역에 걸쳐 방대한 지식에 접근하고 질문에 답할 수 있습니다. 독일 함부르크 대학교의 생물보안 연구원 던자 사브라(Dunja Sabra)는 “거의 모든 과학자의 지식과 경험을 학습한 대규모 언어 모델(LLM)을 누구나 사용할 수 있다”고 설명합니다. 이러한 모델들은 복잡한 실험 수행 방법에 대한 상세한 지침과 심지어는 실제 실험을 시뮬레이션하는 비디오 교육까지 제공할 수 있습니다. 이는 과거에 소수의 엘리트 과학자들만이 접근할 수 있었던 고도의 전문 지식이 이제는 누구나 클릭 한 번으로 손에 넣을 수 있는 ‘민주화’가 이루어졌음을 의미합니다.
여기에 유전자 편집(예: CRISPR) 및 합성 생물학 도구의 접근성이 크게 향상된 최신 생명공학 발전이 결합되면, 잠재적으로 매우 위험한 상황이 발생할 수 있습니다. 이미 ‘DIY 생물학(DIY biology)’ 운동은 전문적인 훈련을 받지 않은 많은 사람이 집에서 자신만의 소규모 실험실을 설치하고 유전자 조작 실험을 할 수 있도록 만들었습니다. 값싼 키트와 온라인 커뮤니티를 통해 과거에는 상상하기 어려웠던 생물학 실험이 가능해진 것이죠. 사브라는 이러한 상황을 지적하며 “결정적인 의도를 가진 사람이라면 결국 성공할 가능성이 높다”고 경고합니다. 개인적으로는 이러한 기술적 접근성의 확장이 AI의 위험성을 배가시키는 핵심 요인이라고 생각합니다. 과거에는 특정 기술에 대한 접근성이 소수의 기관이나 전문가에게 국한되어 통제와 감시가 비교적 용이했지만, 이제는 인터넷만 연결되어 있다면 누구나 전문적인 지식과 실험 가이드를 얻을 수 있는 세상이 되었기 때문입니다. 이는 통제와 감시의 범위를 획기적으로 넓혀야 한다는 숙제를 우리에게 안겨주며, 기존의 방어 체계로는 대응하기 어려운 새로운 형태의 위협을 예고합니다.
물론, 현재로서는 여러 가지 안전장치가 마련되어 있습니다. 새로운 게놈을 만들고자 하는 사람들은 일반적으로 수상한 요청을 걸러내는 DNA 합성 서비스 회사로부터 DNA 조각을 주문해야 합니다. 책임감 있는 연구자들은 잠재적으로 위험한 연구를 ‘레드 팀(red-teaming)’ 분석을 거치게 합니다. 이는 독립적인 과학자들이 해당 연구가 오용될 수 있는 방법을 찾는 과정이며, 이어서 **‘블루 팀(blue-teaming)‘**이 잠재적인 완화책을 고안하는 방식입니다. 또한, AI 기업들은 자사의 도구가 오용될 수 있는 과학 정보를 제공하는 것을 막기 위해 기능을 조정하고 있습니다. 하지만 매그너스 교수의 말처럼, 이 모든 보호 장치들이 철벽같지는 않습니다. “우리는 끊임없이 공방을 벌이고 있습니다. 더 나은 감시 및 심사 도구를 만들어야 하지만, AI는 그것을 우회하는 방법을 찾는 데 정말 능숙합니다.” 결국 AI의 사용을 제한하는 방법을 찾는 데 AI를 활용해야 할 가능성이 높다고 그는 말합니다. 이는 방패를 만들 때도 창을 만들 때도 AI가 활용될 수 있다는 섬뜩한 아이러니를 보여줍니다.
지난주에 발표된 앤트로픽 보고서만 봐도 이 문제가 얼마나 현실적인지 알 수 있습니다. 보고서에 따르면, 사람들이 치쿤구니야 바이러스의 전염성을 높이는 방법, 인간에게 더 위험한 형태의 조류독감을 만드는 방법, 그리고 ‘독소 펩타이드 아틀라스’를 구축하는 방법 등을 탐색하기 위해 자사 모델을 사용하려 시도했다고 인정했습니다. 정말 놀랍지 않습니까? 인류에게 치명적인 영향을 줄 수 있는 시도를 AI 모델에 직접 문의했다는 사실 자체가 AI 기술의 양면성을 극명하게 보여주며, 잠재적 위협이 이미 ‘상상’의 영역을 넘어 ‘시도’의 영역으로 들어섰음을 의미합니다.
경고 속의 낙관론, 그리고 우리가 나아가야 할 길
물론, 모든 과학자들이 AI가 초래할 생물학 무기 위협의 수준에 대해 동의하는 것은 아닙니다. 최근 한 언론 브리핑에서 임페리얼 칼리지 런던의 일부 생물학자들은 AI 도구가 생물학 무기를 ‘완전히’ 개발할 만큼 충분히 정교하지 않으며, 새로운 병원균을 실험실에서 테스트하는 것은 여전히 어렵고 시간 많이 소요되는 인간의 전문적인 작업이 필요하다고 주장했습니다. 이들은 현재의 안전장치만으로도 충분히 위협을 관리할 수 있다고 생각하기도 합니다. 임페리얼 대학의 전염병학 교수 웬디 바클레이(Wendy Barclay)는 현재 상황에서 팬데믹의 가장 큰 위험은 생물학 무기보다는 이미 자연계에서 순환하고 있는 병원균에서 온다고 지적했습니다. 수백만 마리의 새를 죽이고 미국 젖소들 사이에서 널리 퍼진 조류독감 바이러스 H5N1을 예로 들었습니다. 지난달에는 유타주의 한 농장에서 사육되던 밍크에서도 이 바이러스가 검출되기도 했습니다. 그녀의 지적은 AI가 당장 내일 인류를 멸망시킬 것이라는 과도한 공포에 빠지기보다, 이미 존재하는 자연적 위협에 대한 대비도 소홀히 해서는 안 된다는 현실적인 관점을 제시합니다.
하지만 던자 사브라는 이러한 단기적 관점을 넘어 5년에서 10년 앞을 내다봐야 한다고 강조합니다. 그녀는 각국이 의료 시스템을 강화하고, 알려진 독소에 대한 해독제를 준비하며, 의약품을 비축해야 한다고 말합니다. “우리는 대비해야 합니다.” 이는 장기적인 관점에서 AI의 발전 속도를 단순히 늦추는 것 이상의 근본적인 대응책 마련이 필요하다는 강력한 메시지입니다. 즉, AI 기술이 가져올 미래의 잠재적 위험에 선제적으로 대비하기 위한 전방위적인 노력이 필요하다는 뜻이죠.
MIT 생물학자 케빈 에스벨트(Kevin Esvelt)는 유전적 특성을 전체 인구에 빠르게 전파시키는 기술과 이를 제한하는 방법을 모두 발명한 인물인데, 그 역시 수요일 X 게시물에서 이러한 우려에 동조했습니다. 그는 대규모 언어 모델이 “내가 가능하다고 생각하지 못했던 새로운 형태의 생물학 무기를 공개했다”고 밝히며, AI가 인간 과학자들의 상상력을 뛰어넘는 파괴적인 아이디어를 제안할 수 있음을 시사했습니다. 그는 “제발, 신, 자녀, 인류의 미래, 혹은 당신이 신성하게 여기는 모든 것을 위해서라도 여기서는 신중함의 편에 서자”고 덧붙였습니다. 그의 호소는 기술 발전의 윤리적 책임에 대한 깊은 고민과 신중한 접근의 필요성을 절실하게 보여줍니다.
업계 흐름을 보면, AI 기술의 발전은 멈추기 어렵다는 것이 현실입니다. 하지만 이러한 위험에 대한 인식과 공개적인 논의는 기술을 안전한 방향으로 이끌기 위한 첫걸음입니다. 개인적으로는 AI가 인류에게 미칠 잠재적 위험, 특히 생물학 무기화 가능성에 대한 투명한 정보 공유와 국제적 협력이 그 어느 때보다 중요하다고 생각합니다. 단순히 기술 개발을 늦추는 것을 넘어, AI의 악용을 막기 위한 기술적 방어 체계를 고도화하고, 동시에 기술 윤리 및 거버넌스 프레임워크를 강화해야 합니다. AI 개발자들이 ‘스스로’ 자신들의 기술에 대한 위험을 경고하고 나선 이례적인 상황은, 단순한 논의를 넘어 실제적이고 즉각적인 행동이 필요하다는 강력한 신호일 것입니다. 인류의 미래가 걸린 문제인 만큼, 우리는 더욱 신중하고 현명하게 이 대화에 참여하고, 실질적인 해결책을 모색해야 할 때입니다.
출처
- 원문 제목: The specter of AI-enabled bioweapons is a wake-up call for biotech
- 출처: MIT Technology Review
- 원문 기사 보러가기
