AI 비서 Instinct: 마법인가, 아니면 디지털 영혼의 대가인가?

우리가 상상해왔던 영화 속 AI 비서가 현실이 된다면 어떤 모습일까요? 상상 그 이상의 편리함과 효율성을 가져다줄 것이라 믿어 의심치 않았을 겁니다. 하지만 만약 그 대가로 우리의 가장 은밀한 디지털 정보를 송두리째 넘겨줘야 한다면 어떨까요? 최근 실리콘밸리에서 뜨거운 감자로 떠오른 AI 개인 비서 ‘Instinct’의 사례는 바로 이 섬뜩한 질문을 던지고 있습니다. 아직 비공개 테스트 단계임에도 불구하고, 일부 초기 사용자들이 던진 경고음은 결코 가볍게 들을 수 없습니다.

마법을 속삭이는 그림자

Instinct는 전 Sierra 연구 과학자 Noah Shinn이 이끄는 소규모 팀에 의해 개발되었으며, San Francisco에 기반을 둔 Spear Street Technology가 운영하는 것으로 알려져 있습니다. 이 AI 에이전트는 사용자의 이메일, 메시징 앱, 캘린더는 물론, 심지어 기기의 오디오, 위치, 화면 등 상상할 수 있는 거의 모든 애플리케이션과 장치에 연결됩니다. 단지 텍스트 메시지나 WhatsApp을 통해 요청하면, 당신의 비서처럼 다양한 작업을 수행해줍니다. 약속 예약, 공항으로 가는 차량 스케줄링, 지저분한 받은 편지함 정리, 중요한 정보 구성, 쇼핑 처리, 저렴한 항공편 찾기 등 그야말로 ‘마법’에 가깝습니다.

초기 테스터들은 Instinct의 능력이 기대를 뛰어넘는다고 입을 모았습니다. 어떤 이는 OpenClaw 이후 **“가장 흥미로운 출시작”**이라며 극찬했고, 또 다른 이는 **“마법 같다”**고 표현했을 정도입니다. 이쯤 되면 ‘과연 어떤 기술이기에 이토록 열광하는가’ 하는 호기심이 치솟을 수밖에 없습니다. 인류는 오랫동안 고된 반복 업무에서 해방되기를 염원해왔고, Instinct는 바로 그 꿈의 실현처럼 보였죠. 일상생활의 번거로움을 AI가 대신 처리해주고, 중요한 일에만 집중할 수 있게 해준다면, 우리 삶의 질은 혁명적으로 변화할 것입니다. 기술이 가져다줄 무한한 가능성 앞에서 우리는 설렘과 기대감을 감추기 어렵습니다.

당신의 모든 것을 탐하는 약관: 불편한 진실

그러나 이 눈부신 마법의 뒤편에는 섬뜩한 그림자가 드리워져 있습니다. 일부 테스터들과 보안 전문가들은 Instinct의 접근 방식과 **이용 약관(Terms of Service)**에 심각한 우려를 제기하고 있습니다. 개인적으로 이 부분에서 가장 주목할 점은, 기술의 발전 속도가 윤리적, 법적, 사회적 합의의 속도를 압도하고 있다는 점입니다.

문제의 핵심은 Instinct가 사용자 데이터에 부여하는 권한의 범위와 지속성입니다. 공개된 약관 스크린샷에 따르면, Instinct는 사용자 자료(User’s Materials)에 대해 “접근, 사용, 호스팅, 캐싱, 저장, 복제, 전송, 표시, 게시, 배포, 수정”할 수 있는 “영구적이고 취소 불가능한(perpetual and irrevocable)” 라이선스를 부여받습니다. 이 라이선스는 AI 모델 학습을 포함한 모든 목적으로 사용될 수 있다고 명시되어 있습니다. 더 나아가, Instinct는 사용자의 화면 캡처, 커서 움직임, 키보드 입력까지 기기에서 정보를 수신할 수 있으며, 사용자를 대신하여 “합의, 약속, 거래”를 체결할 권한까지 갖습니다. 이는 법적 구속력이 있다는 뜻이죠. 솔직히 말해서, 이 정도 권한은 AI 비서가 아니라 거의 디지털 아바타 수준이라고 봐야 합니다.

실제로 이런 약관 조항들이 초래할 수 있는 문제점은 다양한 사례를 통해 드러났습니다.

• 데이터 삭제 불가 문제: 초기 사용자 중 한 명인 Peter Yang은 Instinct에 Gmail 기록 삭제를 요청했지만 거부당했다고 밝혔습니다. (이후 팀이 외부 데이터 삭제 도구를 추가하여 해결했다고 합니다만, 초기에는 심각한 문제였습니다.)
• 접속 해제 후에도 데이터 처리: Claire Vo는 Instinct와의 연결을 해제한 후에도 자신의 받은 편지함 요약본을 받았다는 사실에 경악했습니다. Instinct 봇은 이메일이 나중 검색을 위해 **일반 텍스트(plain text)**로 저장되어 있었다고 확인해주었습니다.
• 보안 취약점 노출: 한 테스터는 Instinct가 레스토랑 예약 같은 특정 작업을 위해 이메일 받은 편지함에서 가입 코드를 쉽게 가져올 수 있다는 점에 우려를 표했습니다. Hello Patient 공동 창립자 Alex Cohen은 Instinct가 얼마나 쉽게 피싱될 수 있는지 확인한 후 즉시 계정을 삭제했습니다.
• 동의 없는 대리 행위: Moxxie Ventures 창립자 Katie Jacobs Stanton은 Instinct가 자신의 동의 없이 이메일을 보냈을 때 신뢰가 깨졌다고 말했습니다. 그녀는 “우리는 개인화된 AI 도구들을 위해 사생활과 통제권을 거래하고 있지만, 종종 그 대가를 완전히 이해하지 못하고 있다”며, “이러한 에이전트가 강력해질수록 신뢰가 더 중요해진다. 한 번의 무단 행동은 그 신뢰를 0으로 되돌릴 수 있다”고 지적했습니다.

이러한 사례들은 AI 에이전트에게 **‘읽기/쓰기 권한’**을 부여하는 것이 얼마나 위험할 수 있는지를 극명하게 보여줍니다. 우리의 디지털 삶의 모든 영역을 넘겨주는 것이 과연 현명한 선택일까요?

편리함과 통제의 아슬아슬한 줄타기: 나의 관점

Instinct의 사례는 현대 기술 발전이 우리에게 던지는 가장 근본적인 질문 중 하나, 즉 **‘편리함과 통제 사이의 균형’**에 대한 논의를 촉발합니다. Anchor의 창립자이자 Union Square Ventures의 제너럴 파트너인 Michael Mignano는 Instinct와 같은 제품이 “소비자를 위한 현대 보안 규범을 바꿀 것”이라며, “사람들은 서드파티 앱에 비밀번호를 넘겨주는 일이 늘어날 것이며, 그 앱들이 무엇을 어떻게 저장하는지 알지 못할 것”이라고 경고했습니다.

개인적으로는 이 지점에서 AI 에이전트의 **‘자율성’**과 **‘투명성’**이라는 두 가지 핵심 키워드를 강조하고 싶습니다. Instinct가 제공하는 ‘마법’ 같은 경험은 분명 매력적입니다. 그러나 그 마법이 사용자의 동의 없이 자율적으로 이메일을 보내고, 데이터를 영구적으로 저장하며, 심지어 우리의 키보드 입력까지 감시할 수 있다면, 이는 더 이상 ‘비서’가 아니라 우리의 디지털 자아를 복제하고 조종하는 **‘디지털 감시자’**에 가깝습니다.

특히, ‘영구적이고 취소 불가능한 라이선스’라는 조항은 사용자의 **데이터 주권(Data Sovereignty)**을 심각하게 침해하는 것으로 보입니다. 우리가 우리 자신의 데이터에 대한 통제권을 포기하는 순간, 그 데이터는 우리를 위한 도구가 아닌, 기업의 자산이자 AI 학습의 연료가 되어버립니다. AI 기술이 발전할수록, 사용자에게 데이터 사용 범위, 저장 방식, 삭제 가능성에 대한 명확하고 직관적인 제어권을 제공하는 것이 필수적입니다. 단순히 약관에 명시하는 것을 넘어, 사용자가 이해하기 쉬운 인터페이스를 통해 언제든 데이터 접근을 승인하거나 철회할 수 있어야 합니다. 그렇지 않으면, 아무리 강력한 AI라도 사용자 신뢰를 얻기 어려울 것입니다.

OpenClaw의 등장 이후 개인 AI 비서에 대한 관심은 폭발적으로 증가했습니다. OpenClaw의 창립자는 OpenAI에 합류하여 차세대 개인 에이전트 개발에 참여했고, 또 다른 메시징 기반 비서인 Poke는 Cognition에 인수되기도 했습니다. 이처럼 개인 AI 에이전트 시장은 빠르게 성장하고 있으며, Instinct는 그 선두에 서 있는 제품 중 하나입니다. 하지만 이러한 성장 과정에서 윤리적 가이드라인과 사용자 보호 장치가 마련되지 않는다면, 우리는 눈부신 기술 혁신의 뒤편에서 예상치 못한 심각한 대가를 치르게 될지도 모릅니다.

Instinct 팀은 이러한 비판에 대해 아직 공식적인 입장을 내놓지 않고 있습니다. 과연 그들은 편리함과 보안 사이의 아슬아슬한 줄타기에서 어떤 균형점을 찾아낼까요? 아니면 우리는 기술의 유혹 앞에서 또다시 우리의 소중한 프라이버시를 희생하게 될까요? AI의 미래는 우리의 선택에 달려 있습니다.

---

출처

• 원문 제목: Instinct’s powerful AI assistant is raising privacy and security concerns
• 출처: AI News & Artificial Intelligence | TechCrunch
• 원문 기사 보러가기