AI 보안, 거인 구글마저 길을 잃은 혼돈의 시대일까요?

여러분, 혹시 ‘대충’이라는 말이 디지털 세상에서 가장 위험한 단어가 될 수 있다는 사실을 알고 계셨나요? 특히 지금처럼 인공지능이 우리 삶의 모든 영역으로 빠르게 침투하고 있는 이 시점에서는 더욱 그렇습니다. AI가 우리의 업무 방식을 혁신하고 새로운 가치를 창출하는 동안, 그 이면에는 상상조차 하기 어려운 보안 위협이 그림자처럼 따라붙고 있죠. 솔직히 말해서, 많은 기업들이 이 변화의 속도에 발맞추기 위해 고군분투하는 모습은 너무나 당연한 일입니다. 하지만 세상의 디지털 인프라를 지탱하는 거대한 공룡, 구글조차도 AI 보안이라는 미지의 바다에서 방향을 모색하고 있다면, 과연 우리는 어디쯤 와 있는 것일까요?

최근 로스앤젤레스에서 열린 한 행사 백스테이지에서 구글 클라우드의 COO 프랜시스 드 수자와 만날 기회가 있었습니다. 주변의 소란 속에서도 그는 마치 대학교수처럼 차분하고 조리 있는 어조로 AI 보안 시대에 기업들이 나아가야 할 길에 대한 유용한 조언을 건넸습니다. 그는 현재를 ‘전환기’라고 표현하며, ‘더 나은 곳에 도달하게 될 것’이라고 낙관적인 전망을 제시하기도 했습니다. 하지만 그의 말을 자세히 들여다보면, 그 ‘더 나은 곳’으로 가는 길이 결코 순탄치 않을 것이라는 현실적인 경고가 담겨 있었습니다.

드 수자의 핵심 메시지는 오랫동안 보안 전문가들이 경영진에게 강조해왔지만, 이제 AI로 인해 더욱 절박해진 그것이었습니다. 바로 ‘보안은 나중에 덧붙이는 것이 아니다’라는 원칙이죠. 그는 기업들이 AI 여정을 시작할 때 ‘플랫폼 접근 방식’을 취해야 한다고 역설했습니다. 보안은 나중에 볼트처럼 끼워 넣을 수 있는 것이 아니며, 직원들에게만 맡겨둘 수도 없는 문제라는 겁니다. 특히 그는 조직의 감독 없이 직원들이 개인용 AI 도구를 사용하는 **‘섀도 AI(Shadow AI)‘**의 위험성에 대해 경고하며, 기업들이 플랫폼 공급자에게 처음부터 보안, 거버넌스, 감사 가능성을 요구해야 한다고 강조했습니다. 그의 말처럼, ‘데이터 전략과 보안 전략 없이는 AI 전략이라는 것은 존재하지 않는다’는 말이 정곡을 찌르는 것 같습니다. 이 세 가지는 반드시 손을 잡고 가야 하는 운명공동체인 셈이죠.

솔직히 말해서, 그의 조언이 마치 구글 클라우드 광고처럼 들릴 수도 있었습니다. 제가 그렇게 말하자 그는 즉각 반박했습니다. 구글은 멀티클라우드 접근 방식에 전념하고 있으며, 기업들이 단일 클라우드에서만 운영된다고 생각하는 것은 착각일 수 있다고 지적했죠. SaaS 애플리케이션에 의존하고 있거나 비즈니스 파트너들이 다른 클라우드를 사용할 수 있기 때문에, ‘클라우드와 모델 전반에 걸쳐 일관된 보안 태세’를 갖추는 것이 중요하다고 설명했습니다. 이 부분에서 주목할 점은, 드 수자가 자사의 플랫폼을 넘어선 거시적인 관점에서 보안을 강조했다는 것입니다. 이는 AI 보안이 특정 벤더의 기술 솔루션을 넘어선, 산업 전반의 패러다임 변화를 요구하는 문제임을 시사합니다.

또한 드 수자는 위협 환경이 너무나 근본적으로 변했기 때문에 기존의 방어 모델은 너무 느리다고 지적했습니다. 초기 침해부터 다음 공격 단계로 넘어가는 평균 시간이 과거 8시간에서 단 22초로 줄어들었다는 사실은 그 충격이 적지 않습니다. 공격 표면(attack surface)도 전통적인 네트워크 경계를 훨씬 넘어 확장되었습니다. 이제는 여러분의 일반적인 시스템 자산 외에도 모델(Models), 모델 훈련에 사용되는 데이터 파이프라인, 에이전트, 프롬프트 등 모든 것이 보호되어야 할 대상이 되었습니다.

그가 특히 주목해야 한다고 강조한 위협 중 하나는 바로 **‘잊혀진 데이터 저장소’**입니다. 기업 내부 시스템을 돌아다니는 에이전트가 수년 동안 아무도 신경 쓰지 않았던 오래된 데이터 저장소를 찾아낼 수 있다는 것이죠. ‘많은 조직이 오래된 SharePoint 서버와 접근 제어를 제대로 업데이트하지 않았지만, 아무도 그 위치를 몰랐기 때문에 문제가 되지 않았습니다. 하지만 엔터프라이즈를 로밍하는 에이전트는 그러한 데이터 자산을 찾아내고 그 안에 있는 데이터를 노출시킬 것입니다.’ 이 얼마나 섬뜩한 경고인가요! 마치 집 안의 구석진 창고에 잠자고 있던 보물이 도둑에게 발각되는 상황과도 같습니다.

드 수자의 견해로는, 이러한 ‘기계 속도’의 위협에 ‘기계 속도’로 대응해야 합니다. 그는 ‘AI 네이티브, 완전 자율 에이전트 방어(AI-native, fully agentic defense)‘의 등장을 이야기했습니다. 이는 조직이 에이전트를 통해 방어를 실행하는 시스템으로, 인간이 방어를 주도하거나 심지어 인간이 개입하는 것을 넘어, 인간이 완전 자율 에이전트 방어를 감독하는 형태로 진화해야 한다는 메시지입니다. 솔직히 말해서, 이 개념은 공상과학 영화에서나 나올 법한 이야기 같지만, 현실이 되어가고 있는 것이죠. 그리고 그는 이러한 변화가 더 이상 기술적인 문제만을 넘어선 리더십의 문제라고 덧붙였습니다. ‘이것은 이사회 수준의 문제이자 최고 경영진의 문제입니다. 단지 보안 팀만의 문제가 아닙니다.’ 그의 말은 이 대전환의 시대에 기업의 최고 의사결정권자들이 AI 보안에 대한 책임을 회피할 수 없음을 명확히 하고 있습니다.

AI 거인의 발밑에서 벌어진 ‘버그 대재앙’ 서곡

하지만 AI가 방어 업무의 더 많은 부분을 담당하게 될지라도, 이를 감독할 자격을 갖춘 인력은 턱없이 부족한 상황입니다. 게다가 AI 자체가 야기하는 취약점은 보안 팀이 해결할 수 있는 속도보다 훨씬 빠르게 증가하고 있죠. 링크드인의 최고 정보 보안 책임자(CISO) 레아 키스너는 뉴욕타임스와의 인터뷰에서 ‘우리는 **버그 대재앙(bug-pocalypse)**에 대처할 사람들이 필요할 것’이라고 말하며, 업계가 AI 보안을 지속 가능한 장기적인 방식으로 이해하는 데 최소한 몇 년은 더 걸릴 것이라고 예상했습니다. 사실 이건 매우 현실적인 진단입니다. 기술의 발전 속도가 인간의 이해와 대응 능력을 앞지르고 있는 셈이니까요.

그리고 이 문제는 결국 플랫폼 제공업체 자체의 이야기로 귀결됩니다. 최근 몇 주 동안 더 레지스터(The Register)는 구글 클라우드 개발자들이 무단 제미니(Gemini) 모델 API 호출로 인해 수만 달러에 달하는 청구서를 받은 사례들을 연이어 보도했습니다. 이들 중 상당수는 제미니 서비스를 사용한 적도, 의도적으로 활성화한 적도 없었다고 합니다. 이 사례들은 한 가지 공통된 패턴을 따랐습니다. 원래 구글 지도(Google Maps)용으로 배포되었던 API 키가 구글의 지침에 따라 공개적으로 배치되어 있었는데, 구글이 이 키들의 범위를 명확한 고지 없이 확장하면서 조용히 제미니에 접근할 수 있게 된 것입니다.

• 프렌터스(Prentus) CEO 로드 다난(Rod Danan): 해킹된 API 키가 악용된 지 약 30분 만에 10,138달러의 청구서를 받았습니다. 상상이나 해보셨습니까? 커피 한 잔 마시는 시간 동안 수천만 원의 비용이 발생하는 상황이라니!
• 시드니 개발자 이수루 폰세카(Isuru Fonseka): 250달러의 지출 상한선이 설정되어 있다고 믿었지만, 잠에서 깨어나 보니 약 17,000 호주 달러의 요금이 청구되어 있었습니다.

이 두 개발자는 모두 구글의 자동화 시스템이 계정 기록에 따라 결제 등급을 업그레이드하여, 명시적인 동의 없이도 실질적인 한도를 10만 달러까지 인상했다는 사실을 전혀 알지 못했습니다. 더 레지스터가 초기 보고서를 발행한 후에야 구글은 두 개발자에게 환불 조치를 취했지만, 구글은 자동 등급 업그레이드 정책을 변경할 계획이 없다고 밝혔습니다. 서비스 중단 방지를 사용자의 설정 예산보다 우선시한다는 것이 그 이유였습니다. 개인적으로는 이 부분에서 구글의 책임 회피성 발언이 아닌가 하는 의구심을 지울 수 없습니다. 사용자에게 명확한 고지 없이 지출 한도를 상향 조정하는 것이 과연 ‘사용자 편의’를 위한 최선의 선택일까요? 이는 기업의 투명성과 사용자 신뢰 측면에서 심각하게 재고해야 할 문제입니다.

해킹된 키, 삭제 후에도 23분간 유효? 구글 시스템의 맹점

엎친 데 덮친 격으로, 개발자가 문제가 된 키를 폐쇄하려 할 때 발생하는 또 다른 문제가 있습니다. 더 레지스터는 이번 주 보안 회사 아이키도(Aikido)의 연구 결과를 보도했는데, 이 연구에 따르면 해킹된 키를 발견하고 즉시 삭제하더라도 개발자들이 안전하지 않을 수 있다는 충격적인 사실이 드러났습니다. 아이키도의 조사 결과, 공격자들은 구글의 키 폐지(revocation)가 인프라 전반에 걸쳐 점진적으로 전파되기 때문에, 삭제된 키를 최대 23분 동안 계속 사용할 수 있다고 합니다. 아이키도 연구원 조셉 레온은 이 ‘유효 기간’ 동안 요청 성공률이 예측 불가능하며, 어떤 시간에는 요청의 90% 이상이 여전히 인증되었다고 말했습니다. 공격자들은 이 시간을 이용하여 제미니에서 파일과 캐시된 대화 데이터를 빼낼 수 있었다는 것이죠. 와, 정말 믿기 어려운 상황 아닌가요? 문을 잠갔다고 생각했는데, 사실은 여전히 열려 있던 셈이니까요.

레온은 또한 구글의 새로운 인증 정보 형식(credential formats)은 이러한 문제가 없는 것으로 보인다고 언급했습니다. 이는 구형 시스템과 신형 시스템 간의 보안 격차가 존재함을 암시합니다. 결국 구글조차도 자사의 방대한 인프라와 레거시 시스템을 AI 보안 시대에 맞춰 완벽하게 전환하는 데 어려움을 겪고 있다는 방증인 셈입니다. 이 모든 상황을 종합해 볼 때, 드 수자의 말처럼 우리는 확실히 ‘과도기’에 있습니다. 그리고 이 과도기는 단순히 기술적인 도전만을 의미하는 것이 아니라, 정책, 책임, 투명성 등 기업 거버넌스의 전반적인 재정비를 요구하고 있습니다. 거대 기술 기업조차 발밑의 지뢰밭을 헤쳐나가고 있는 지금, AI 보안은 우리 모두가 함께 풀어야 할 숙명이 아닐까요?

---

출처

• 원문 제목: Everyone is navigating AI security in real time — even Google
• 출처: AI News & Artificial Intelligence | TechCrunch
• 원문 기사 보러가기