AI 보안, 더 이상 이론이 아니다: HiddenLayer, 1억 달러 투자 유치로 급변하는 시장 선점 가속화
Published Sep 3, 2026
우리 주변의 AI가 점점 더 스마트해지고, 우리 삶의 곳곳에 깊숙이 파고드는 지금, 혹시 이런 상상 해보셨나요? 매일 쓰는 AI 비서가 갑자기 엉뚱한 명령을 수행하거나, 금융 AI가 잘못된 판단으로 손실을 일으키고, 자율주행 차량의 AI가 오작동하는 상황 말이죠. 몇 년 전만 해도 이런 시나리오는 공상과학 영화에서나 나올 법한 이야기로 치부되곤 했습니다. 당시만 해도 인공지능에 대한 사이버 공격이 현실화될 것인가에 대한 회의적인 시각이 많았고, 대규모 AI 공격의 실제 사례를 찾기란 쉽지 않았습니다.
하지만 이제 상황은 완전히 달라졌습니다. 기업들은 AI 에이전트는 물론, AI가 사용하는 도구와 애드온까지 모니터링할 수 있는 보안 제품을 구축하기 위해 말 그대로 경쟁적으로 뛰어들고 있습니다. 아직 AI 에이전트가 악용되었다는 충격적인 헤드라인은 많지 않지만, 생산 단계에서 AI 에이전트가 오작동할 수 있는 위험은 엄연한 현실이 되었습니다. 그리고 이러한 사태를 막기 위한 도구 시장은 그야말로 폭발적으로 성장하고 있습니다. 가트너는 올해 기업들이 AI 도구 보안 제품에 28억 3천만 달러를 지출할 것으로 예상했는데, 이는 2025년 대비 83% 증가한 수치이며, 내년에는 거의 47억 8천만 달러에 이를 것으로 전망합니다. AI 보안은 더 이상 먼 미래의 이야기가 아니라, 바로 지금 우리 기업과 사용자들에게 직접적인 영향을 미치는 핵심 과제가 된 것입니다.
AI 보안 시장의 폭발적인 성장과 HiddenLayer의 비상
이러한 시장의 흐름을 가장 잘 활용하고 있는 기업 중 하나가 바로 AI 보안 스타트업 HiddenLayer입니다. 이들은 AI 모델, 에이전트, 워크플로우를 적대적 공격, 취약점, 악성 코드 주입으로부터 보호하는 도구를 개발합니다. 공동 창업자이자 CEO인 크리스 세스티토(Chris Sestito)는 지난 한 해 동안 회사의 연간 반복 매출(ARR)이 10배 이상 성장했다고 밝혔습니다. 정확한 수치를 공개하지는 않았지만, 현재 ARR은 “수천만 달러” 수준이며, 이 성장의 90% 이상이 지난 한 해 동안 신규 고객 유치 덕분이었다고 하니 정말 놀랍습니다.
HiddenLayer의 주요 고객층은 금융 서비스 및 AI 제품을 개발하는 대형 기술 기업입니다. 국방부 및 정보 기관과도 계약을 맺고 있으며, “7억 명 이상의 주간 사용자를 보유한 선도적인 프론티어 모델 공급업체”가 고객 중 하나라고 언급했는데, 개인적으로는 OpenAI나 Anthropic과 같은 대형 AI 모델 개발사를 의미하는 것으로 해석됩니다. 이 정도의 기업이 HiddenLayer의 기술을 사용한다는 것은 그만큼 이들의 솔루션이 시장에서 신뢰받고 있음을 방증합니다.
이러한 가파른 성장세를 발판 삼아, HiddenLayer는 최근 1억 달러 규모의 시리즈 B 투자 라운드를 성공적으로 마무리했습니다. 이번 투자는 Delta-v Capital이 주도했으며, Ten Eleven Ventures, Morgan Stanley, Microsoft의 M12, Booz Allen Hamilton 등 유수의 투자사들이 참여했습니다. 이 거액의 투자는 HiddenLayer가 AI 보안 시장의 선두 주자로서 입지를 굳히는 데 결정적인 역할을 할 것으로 보입니다.
급변하는 AI 위협에 맞춘 제품 확장: 프롬프트 인젝션부터 악성 모델까지
오스틴에 본사를 둔 HiddenLayer는 2023년과 크게 다르지 않은 제품을 판매하고 있지만, 세스티토 CEO는 가장 큰 변화는 기존 제품인 **발견(discovery), 런타임 보호(runtime protection), 공격 시뮬레이션(attack simulation), 공급망 보안(supply chain security)**을 확장하여 **프롬프트 인젝션(prompt injection), 에이전트 조작(agent manipulation), 악성 도구 사용(malicious tool use)**과 같은 새로운 위협에 대응하도록 한 것이라고 밝혔습니다.
그의 말처럼 “추론은 여전히 추론”입니다. 전통적인 머신러닝 모델이든, 생성 AI이든, 에이전트 기반 작업 스트림이든, HiddenLayer의 기술은 여전히 적용 가능하다고 합니다. 하지만 단순히 적용 가능한 것을 넘어, 전통적인 모델링에서 생성 AI, 그리고 에이전트 기반 시스템으로 범위를 확장해야만 했다고 그는 강조했습니다. 솔직히 말해서, 이 부분은 매우 중요합니다. AI 기술이 발전하면서 공격 벡터 또한 진화하고 있기 때문에, 보안 솔루션 역시 끊임없이 변화에 발맞춰야 합니다.
세스티토 CEO는 특히 기업 전반에 걸쳐 AI 배포가 보편화됨에 따라 **런타임 보안(runtime security)**이 최우선 순위가 되었다고 강조했습니다. 그는 이를 전통적인 엔드포인트 탐지 및 대응(EDR) 솔루션과 비교하며, HiddenLayer가 AI를 위한 EDR과 같은 역할을 한다고 설명했습니다. 즉, AI 모델이 실제 운영되는 동안 발생하는 모든 잠재적 위협을 실시간으로 탐지하고 대응하는 것이 핵심이라는 의미입니다.
회사의 새로운 제품들은 이러한 변화를 반영합니다. 세스티토 CEO는 오픈 소스 모델을 악용하는 공격자들을 위한 새로운 기회가 생겨났다고 지적했습니다. 그는 “우리는 약 50가지의 AI 파일 프레임워크를 분석하고 스캔하여, 특히 오픈 소스, 오픈 웨이트 모델의 경우, 사용하고 있는 도구가 의도한 것과 일치하는지, 그리고 표방하는 것과 일치하는지 확인합니다”라고 말했습니다. 이어서 “모델이 특정 목적을 표방하지만 실제로는 다른 것, 예를 들어 모델 안에 숨겨진 모델 같은 것들을 찾고 있습니다”라고 덧붙였습니다. 이건 정말 소름 끼치는 부분입니다. 우리가 흔히 사용하는 오픈 소스 AI 모델 안에 악의적인 코드가 숨어있을 수 있다는 것을 상상해 보십시오. 이러한 위협은 AI 생태계 전반의 신뢰를 무너뜨릴 수 있는 심각한 문제입니다.
미래를 향한 포부와 업계의 냉정한 현실
HiddenLayer는 이번에 확보한 1억 달러를 이러한 방향으로 역량을 강화하는 데 사용할 계획입니다. 특히 엔지니어링 및 연구 확장에 더해, 영업 및 유통에 더 많은 초점을 맞출 예정이며, 유럽 및 EMEA 지역으로의 확장도 목표로 하고 있습니다. 이는 기술력만큼이나 시장 확장이 중요하다는 현실적인 인식을 보여줍니다.
하지만 HiddenLayer는 이 막대한 자금을 더 많은 용도로 사용해야 할 수도 있습니다. 시스코(Cisco), 팔로알토 네트웍스(Palo Alto Networks), 체크포인트(Check Point)와 같은 대형 사이버 보안 회사들은 이러한 종류의 기술을 직접 개발하기보다는 인수하는 경향이 있습니다. 또한, Noma와 Zenity와 같은 신생 기업들은 이 분야의 인접하거나 겹치는 영역을 다루기 위해 각각 1억 달러 이상의 투자를 유치한 바 있습니다. 즉, 경쟁이 매우 치열하다는 뜻입니다.
세스티토 CEO는 자사 제품의 일부가 마이크로소프트(Microsoft), OpenAI, AWS와 같은 회사들이 구축하는 플랫폼에 결국 번들로 포함될 수 있음을 인정했습니다. 그러나 그는 AI 인프라가 HiddenLayer가 구축하는 종류의 도구보다는 발견, ID, 정책 제어와 같은 거버넌스 기능으로 성장할 것이라고 예상합니다. 이 분석은 일리가 있습니다. 거대 플랫폼 기업들은 범용적인 거버넌스 기능을 제공하고, HiddenLayer와 같은 전문 기업은 더욱 심층적이고 특화된 AI 보안 솔루션을 제공하는 역할 분담이 이루어질 가능성이 높습니다.
현재로서는 HiddenLayer의 목표는 “인공지능과 함께 수직적으로 확장”하고, 궁극적으로는 AI에 점차 의존하게 되는 사이버 보안의 다른 영역으로 수평적으로 확장하는 것입니다. 이는 매우 야심 찬 목표이지만, 이 스타트업은 다른 업계가 따라잡기 전에 자신들의 선점 효과를 지속적인 비즈니스로 전환할 수 있음을 먼저 입증해야 합니다. 업계 전문가로서 제가 주목하는 부분은 바로 이 지점입니다. 기술력과 빠른 성장은 분명 강점이지만, 끊임없이 진화하는 AI 위협 환경 속에서 어떻게 지속적인 혁신을 이루고, 거대 기업들의 진출과 경쟁 스타트업들의 도전을 헤쳐나가며 독자적인 가치를 확립할지 그 귀추가 주목됩니다. 이번 1억 달러 투자가 그들에게 얼마나 큰 날개가 되어줄지, 앞으로의 행보가 정말 기대됩니다.
출처
- 원문 제목: HiddenLayer nabs $100M as enterprises rush to secure their AI deployments
- 출처: AI News & Artificial Intelligence | TechCrunch
- 원문 기사 보러가기
