기업 AI 거버넌스, 불확실성 시대의 최후 방어선인가?
Published Apr 11, 2026
“대규모 인프라 단계에서 보안은 엄격한 은폐보다는 엄격한 외부 검증을 통해 향상됩니다.” IBM의 SVP 겸 CCO인 롭 토마스의 이 발언은 오늘날 기업 AI 환경의 가장 첨예한 쟁점을 날카롭게 꿰뚫고 있습니다. AI 기술이 단순한 제품을 넘어 기업 운영의 핵심 인프라로 진화함에 따라, 과거의 폐쇄적인 접근 방식이 더 이상 통하지 않는다는 강력한 경고음이 울리고 있는 것이죠. IBM은 기업 이윤을 보호하기 위해 비즈니스 리더들이 견고한 AI 거버넌스, 특히 개방성을 기반으로 한 접근 방식에 투자해야 한다고 역설합니다.
AI, 이제는 ‘실험실’이 아닌 ‘기반 시설’이다
일반적으로 엔터프라이즈 소프트웨어의 채택 과정을 보면, 기술이 성숙해지는 일관된 패턴을 발견할 수 있습니다. 롭 토마스가 설명했듯이, 소프트웨어는 초기 독립형 제품 단계에서 출발하여 플랫폼으로 진화하고, 최종적으로 **기반 시설(foundational infrastructure)**이 되면서 지배적인 규칙 자체를 완전히 바꿔놓습니다. 초기 제품 단계에서는 기업이 개발 환경을 긴밀하게 통제하고 엔드유저 경험을 관리하며, 모든 재정적 가치를 단일 기업 내에 집중시키는 것이 매우 유리하게 느껴질 수 있습니다. 이러한 방식은 초기 제품 개발 주기 동안에는 효과적으로 작동합니다.
그러나 IBM의 분석은 기술이 기반 시설로 확고해질 때 기대치가 완전히 달라진다는 점을 강조합니다. 다른 제도적 프레임워크, 외부 시장, 광범위한 운영 시스템이 해당 소프트웨어에 의존하게 되면, 지배적인 표준은 새로운 현실에 적응하게 됩니다. 인프라 규모에서는 개방성을 수용하는 것이 더 이상 이념적인 입장이 아니라, 매우 실용적인 필수 요소가 됩니다. 그리고 현재 AI는 기업 아키텍처 스택 내에서 바로 이 임계점을 넘어서고 있습니다. AI 모델은 이제 조직이 네트워크를 보호하고, 소스 코드를 작성하고, 자동화된 의사결정을 실행하며, 상업적 가치를 창출하는 방식에 직접적으로 내장되고 있습니다. AI는 더 이상 실험적인 유틸리티가 아니라 핵심 운영 인프라로서 기능하고 있는 셈입니다.
최근 앤트로픽(Anthropic)이 제한적으로 공개한 클로드 미토스(Claude Mythos) 모델은 이러한 현실을 리스크를 관리하는 기업 임원들에게 더욱 명확하게 보여줍니다. 앤트로픽은 이 특정 모델이 소수의 인간 전문가와 동등한 수준으로 소프트웨어 취약점을 발견하고 악용할 수 있다고 보고했습니다. 이러한 강력한 능력에 대응하여 앤트로픽은 이러한 고급 기능을 네트워크 방어자들에게 먼저 제공하기 위한 제한적 이니셔티브인 프로젝트 글래스윙(Project Glasswing)을 시작했습니다. IBM의 관점에서 볼 때, 이러한 발전은 기술 책임자들이 즉각적인 구조적 취약점에 직면하도록 만듭니다. 자율 모델이 익스플로잇을 작성하고 전반적인 보안 환경을 형성할 수 있는 능력을 가지고 있다면, 토마스는 이러한 시스템에 대한 이해를 소수의 기술 벤더에게 집중시키는 것이 심각한 운영 노출을 초래한다고 지적합니다.
불투명한 AI 모델이 기업에 안기는 치명적 리스크
모델이 인프라 지위를 달성함에 따라, IBM은 주요 이슈가 더 이상 머신러닝 애플리케이션이 무엇을 실행할 수 있는지에 국한되지 않는다고 주장합니다. 이제 우선순위는 이러한 시스템이 어떻게 구축되고, 거버넌스되며, 검사되고, 장기간에 걸쳐 적극적으로 개선되는지가 됩니다. 근본적인 프레임워크가 복잡해지고 기업 내 중요성이 커짐에 따라, 폐쇄적인 개발 파이프라인을 유지하는 것은 극도로 어려워집니다. 단일 벤더가 모든 운영 요구사항, 적대적 공격 벡터 또는 시스템 고장 모드를 성공적으로 예측할 수는 없습니다.
불투명한 AI 구조를 구현하는 것은 기존 네트워크 아키텍처 전반에 걸쳐 심각한 마찰을 야기합니다. 폐쇄적인 독점 모델을 기존 엔터프라이즈 벡터 데이터베이스 또는 매우 민감한 내부 데이터 레이크와 연결하는 것은 종종 엄청난 문제 해결 병목 현상을 만듭니다. 이상한 출력이 발생하거나 환각률이 급증할 때, 팀은 오류가 RAG(Retrieval-Augmented Generation) 파이프라인에서 발생했는지, 아니면 기본 모델 가중치에서 발생했는지 진단하는 데 필요한 내부 가시성을 확보하지 못합니다.
레거시 온프레미스 아키텍처를 고도로 제한된 클라우드 모델과 통합하는 것 또한 일상적인 운영에 심각한 **지연(latency)**을 초래합니다. 기업 데이터 거버넌스 프로토콜이 민감한 고객 정보를 외부 서버로 전송하는 것을 엄격히 금지할 때, 기술 팀은 데이터를 처리하기 전에 데이터 세트를 제거하고 익명화하려고 시도해야 합니다. 이러한 지속적인 데이터 정제 작업은 막대한 운영 부담을 발생시킵니다.
더 나아가, 잠긴 모델에 대한 지속적인 API 호출과 관련된 천정부지로 치솟는 컴퓨팅 비용은 이러한 자율 시스템이 향상시키기로 되어 있는 바로 그 이윤을 잠식합니다. 불투명성으로 인해 네트워크 엔지니어는 하드웨어 배포 규모를 정확하게 예측할 수 없게 되어, 기업은 기본 기능을 유지하기 위해 값비싼 과잉 프로비저닝(over-provisioning) 계약을 체결해야 하는 상황에 놓이게 됩니다.
개방형 AI 거버넌스, 리스크를 관리하고 혁신을 선도하는 길
강력한 애플리케이션에 대한 접근을 제한하는 것은 신중함과 밀접하게 닮은 이해할 만한 인간의 본능입니다. 하지만 토마스가 지적했듯이, 대규모 인프라에서는 보안이 엄격한 은폐보다는 엄격한 외부 검증을 통해 향상됩니다. 이는 오픈소스 소프트웨어 개발의 영원한 교훈을 대변합니다. 오픈소스 코드가 기업 리스크를 제거하는 것은 아닙니다. 대신 IBM은 오픈소스가 조직이 리스크를 관리하는 방식을 적극적으로 변화시킨다고 주장합니다. 개방형 기반은 더 넓은 연구자, 기업 개발자, 보안 방어자들이 아키텍처를 검토하고, 근본적인 약점을 찾아내고, 근본적인 가정을 테스트하며, 실제 조건에서 소프트웨어를 강화할 수 있도록 합니다.
사이버 보안 운영 내에서 광범위한 가시성은 운영 복원력의 적이 되는 경우는 거의 없습니다. 사실, 가시성은 종종 그 복원력을 달성하기 위한 엄격한 전제 조건으로 작용합니다. 매우 중요하다고 여겨지는 기술은 더 많은 사람들이 도전하고, 논리를 검사하며, 지속적인 개선에 기여할 수 있을 때 더 안전하게 유지되는 경향이 있습니다.
토마스는 오픈소스 기술에 대한 가장 오래된 오해 중 하나, 즉 오픈소스가 기업 혁신을 필연적으로 **상품화(commoditise)**한다는 믿음에 대해 언급합니다. 실제 적용에 있어서, 개방형 인프라는 일반적으로 시장 경쟁을 기술 스택의 더 높은 곳으로 밀어 올립니다. 개방형 시스템은 재정적 가치를 파괴하는 것이 아니라 이전시킵니다. 공통 디지털 기반이 성숙해짐에 따라, 상업적 가치는 복잡한 구현, 시스템 오케스트레이션, 지속적인 신뢰성, 신뢰 메커니즘, 그리고 특정 도메인 전문 지식 쪽으로 이동합니다. IBM의 입장은 장기적인 상업적 승자는 기반 기술을 소유하는 기업이 아니라, 이러한 개방형 기반 위에서 가치를 재창출하고 복잡한 문제 해결 능력을 제공하는 기업이 될 것이라고 단언합니다.
개인적으로 저는 이 부분이 국내 기업들이 AI 전략을 수립하는 데 있어 가장 중요하게 고려해야 할 지점이라고 생각합니다. 여전히 많은 기업이 독점적인 AI 솔루션만이 경쟁 우위를 제공할 것이라는 환상에 사로잡혀 있습니다. 하지만 IBM의 분석은 AI가 점차 기업의 근간을 이루는 인프라가 될수록, 폐쇄적인 접근 방식이 오히려 보안 취약성, 엄청난 비용, 그리고 혁신 속도의 저하로 이어질 수 있음을 명확히 보여줍니다. 특히 한국과 같이 빠르게 변화하는 기술 환경에서는, 개방형 AI 거버넌스를 통해 외부의 지혜와 역량을 활용하고, 내부적으로는 AI를 활용한 비즈니스 프로세스 혁신과 차별화된 서비스 개발에 집중하는 것이 장기적인 생존과 성장을 위한 현명한 전략이 될 것입니다. 단순히 AI 모델을 개발하는 것을 넘어, AI를 어떻게 안전하고 효율적으로 관리하고 활용할 것인가에 대한 거시적인 시야가 필요한 시점입니다.
결론적으로, AI가 기업의 핵심 동력으로 자리매김하면서 강력한 거버넌스의 중요성은 그 어느 때보다 커지고 있습니다. IBM은 폐쇄적이고 불투명한 AI 접근 방식이 가져올 잠재적 위험과 비용 증가를 경고하며, 개방적이고 투명한 AI 거버넌스만이 기업이 AI 시대를 성공적으로 헤쳐나가고 지속적인 이윤과 혁신을 확보할 수 있는 길임을 강조하고 있습니다.
출처
- 원문 제목: IBM: How robust AI governance protects enterprise margins
- 출처: AI News
- 원문 기사 보러가기
