AI 사용의 불편한 진실: 기업 보고서와 독립 연구의 극명한 대조
Published Aug 18, 2026
“실제로 AI가 어떻게 사용되는지에 대한 어떠한 독립적인 정보원도 없습니다.” 스탠포드 신뢰할 수 있는 AI 연구소(STAIR Lab)의 컴퓨터 과학 박사 과정생 안카 로이엘(Anka Reuel)의 이 발언은 현재 AI 업계가 직면한 데이터 투명성 문제의 핵심을 꿰뚫고 있습니다. 우리는 앤트로픽(Anthropic)이나 오픈AI(OpenAI)와 같은 거대 AI 기업들이 클로드(Claude)나 챗GPT(ChatGPT)의 사용 보고서를 정기적으로 발표하는 것을 보아왔습니다. 하지만 이 보고서들이 우리에게 보여주는 것은 과연 실제 AI 활용의 전부일까요? 이 질문에 대한 독립 연구기관의 답변은 ‘아니오’입니다.
AI 기업 보고서의 맹점: ‘일’ 너머의 광범위한 사용
생성형 AI 기술은 이제 우리 일상과 업무 깊숙이 침투했습니다. 그러나 이 혁신적인 도구가 실제 사용자들에 의해 어떻게, 어떤 목적으로 활용되는지에 대한 정보는 놀랍도록 제한적입니다. 기업들은 자사 AI 제품의 이점과 리스크에 대한 중요한 의사결정이 매우 제한적인 데이터에 기반하여 이루어지고 있다고 지적합니다. 이 지점에서 스탠포드와 MIT 등의 연구진이 주도하는 새로운 연구 프로젝트인 **AI 옵저버토리(AI Observatory)**의 등장은 매우 시의적절하며 중요합니다. 이 공공 플랫폼은 사용자의 동의를 얻어 수집된 7개의 기존 데이터셋을 통해 클로드, 제미니(Gemini)와 같은 인기 모델들과의 실제 AI 대화를 집계하고 분석하여 독립적인 정보원을 제공하는 것을 목표로 합니다.
이 연구의 핵심은 바로 AI 기업 보고서와 실제 사용 데이터 간의 현격한 차이를 밝혀냈다는 점입니다. 예를 들어, 앤트로픽의 **경제 지표(Economic Index)**는 AI 활용 데이터의 가장 잘 알려진 출처 중 하나이지만, 이름에서 알 수 있듯이 주로 업무 및 생산성 관련 클로드 AI 사용에 초점을 맞춥니다. 이 지표는 업무와 관련 없는 대화를 필터링하는 방식으로 데이터를 분석합니다.
그러나 AI 옵저버토리 연구진이 앤트로픽의 방법론을 자신들의 데이터셋에 적용했을 때, 놀랍게도 거의 절반에 가까운 대화(48%)가 필터링되었을 것이라는 사실을 발견했습니다. 필자의 관점에서 볼 때, 이러한 데이터 필터링 방식은 AI의 실제 활용 양상을 왜곡할 수 있는 심각한 위험을 내포한다고 생각합니다. 기업이 특정 관점에서 데이터를 제시하는 것은 이해할 수 있지만, 이는 전체 그림을 보지 못하게 하여 잠재적인 문제점이나 예기치 못한 사용 방식을 간과할 수 있습니다. 앤트로픽의 분석에서는 각각 31.2%, 2.1%, 5.66%, 2.4%로 나타났던 비업무 관련 대화의 비율은 AI 옵저버토리의 데이터에서 다음과 같이 훨씬 높게 나타났습니다.
- 건강 및 관계: 44.2%
- 성인 또는 불법 주제: 7.9%
- 괴롭힘 및 혐오: 27.5%
- 성적인 콘텐츠: 16.7%
오픈AI의 2025년 챗GPT 보고서 역시 소비자 사용의 30%만이 업무와 관련되어 있다고 밝혔으니, 사실 이러한 차이는 기업들이 발표하는 ‘업무 중심’의 AI 활용 보고서가 빙산의 일각만을 보여주고 있다는 명백한 증거인 셈입니다. 앤트로픽이 클로드의 지원이나 교제, 심지어 CSAM(아동 성착취물) 생성에 대한 별도의 블로그 게시물을 발표한 적은 있지만, 텍사스 대학교 오스틴 캠퍼스의 데이비드 위더(David Widder) 조교수는 AI 옵저버토리와 같은 ‘조감도 분석(bird’s-eye-view analysis)‘이 정보를 개별 보고서로 ‘분리’하는 것보다 사용자들이 다양한 AI 활용 방식을 일관되게 이해하는 데 도움이 된다고 말합니다.
AI 사용 패턴의 변화와 모델별 고유성
AI 옵저버토리는 2023년부터 2025년 사이에 이루어진 대화를 분석하며, 시간 경과에 따른 AI 사용 방식의 변화와 다양한 AI 플랫폼의 반응에서도 유의미한 차이를 발견했습니다. 특히 가장 크고 상세한 데이터셋 중 하나인 와일드챗(WildChat) 내 대화는 시간이 지남에 따라 더 길고 정교해지는 경향을 보였습니다. 이는 프롬프트 토큰, 응답 토큰, 대화 턴 수의 증가로 확인됩니다.
흥미로운 점은 시간이 지남에 따라 ‘잡담(small talk)‘의 양이 상당히 증가했다는 것입니다. 이는 AI 동반자 기능이 증가하고 있음을 시사하며, 동시에 AI 어시스턴트의 자기 공개(즉, 챗봇임을 인정하는 발언)는 감소했습니다. 또한, 연구자들이 민감한 내용—잠재적으로 해롭거나 제한된 콘텐츠, 성희롱 및 혐오 발언을 포함—으로 분류한 교환은 점차 줄어들었습니다. 이는 플랫폼들이 전반적으로 더 효과적인 안전장치를 배치하고 있음을 시사할 수 있습니다.
AI 옵저버토리는 모델마다 주제, 상호작용 스타일, 대화 구조, 민감한 사용 사례의 가능성과 유형이 다르다는 점도 밝혀냈습니다. 이는 솔직히 말해서, 각 AI 모델이 가진 고유한 특성과 그들이 목표로 하는 사용자층을 고려하면 당연한 결과일지도 모릅니다.
- 그록(Grok) 및 제미니: 정보 검색 목적으로 더 자주 사용되었습니다. 특히 그록은 뉴스 및 정치 정보에 특히 인기가 많았는데, 동시에 오정보가 집중되는 경향도 있었습니다. 이는 다른 연구에서도 그록에서 오정보가 얼마나 쉽게 확산되는지 보여준 바와 일치합니다.
- 앤트로픽(Anthropic): 코딩 작업에 더 많이 활용되었습니다.
- 제미니: 사회적 상호작용 및 역할극에 많이 사용되었습니다.
- 챗GPT: 숙제 지원에 주로 사용되었습니다.
심지어 같은 모델의 다른 버전 간에도 차이가 있었습니다. 연구진은 챗GPT가 GPT-3.5로 구동될 때 더 짧은 대화를, GPT-4o로는 더 길고 반복적인 대화를 한다는 것을 발견했습니다. GPT-4o가 감정적 중독을 유발하는 것으로 알려진 점을 고려하면 이 또한 이해가 가는 부분입니다. 하지만 쉐인 롱프레(Shayne Longpre) MIT 미디어 랩 박사는 “어떤 단일 기업 보고서도 전체 이야기를 말해주지 않는다”며, 기업 보고서들이 이러한 미묘한 차이를 잘 포착하지 못한다고 강조합니다.
투명성을 향한 작은 한 걸음, 그러나 그 의미는 막대합니다
AI 옵저버토리는 MIT, 스탠포드, 데이터 출처 이니셔티브(Data Provenance Initiative) 및 기타 기관의 연구자들이 협력하여 만들어졌습니다. 그들은 2023년부터 2025년 사이에 5,000명의 사용자가 챗GPT, 제미니, 클로드, 그록을 포함한 52개의 다른 모델과 상호작용한 24,521개의 대화에서 85,633개의 대화 턴(사용자 프롬프트와 AI 응답)을 집계했습니다.
이 데이터는 대형 연구소들이 접근할 수 있는 데이터에 비하면 ‘우물 안 한 방울’에 불과합니다. 예를 들어, 앤트로픽의 최신 경제 AI 지표는 100만 개의 클로드 대화 분석에 기반하고, 오픈AI의 챗GPT 사용 보고서는 150만 개의 대화를 분석했습니다. 그러나 AI 옵저버토리의 데이터셋이 자발적으로 제공된 출처에서 비롯되었다는 점은 분명한 한계점이자 동시에 의미 있는 출발점입니다. 필자의 관점에서 볼 때, 민감한 사용 사례가 과소평가될 가능성이 있다는 점은 인정해야 하지만, 그럼에도 불구하고 기업 보고서의 맹점을 보완하는 첫 독립적인 시도라는 점에서 그 가치는 매우 높습니다.
AI의 잠재적 위험과 사회적 영향에 대한 논의가 뜨거운 지금, AI 기술의 개발 방향과 규제 정책을 올바르게 설정하기 위해서는 AI가 실제로 어떻게 사용되고 있는지에 대한 정확하고 독립적인 데이터가 필수적입니다. 앤트로픽 대변인은 자사의 연구가 특정 질문과 관심사를 반영하며, 외부 독립 연구를 지원하는 것이 중요하다고 언급했습니다. 오픈AI는 코멘트 요청에 응답하지 않았지만, 이러한 독립적인 관찰과 분석이 AI 생태계의 건전한 성장을 위한 중요한 촉매제가 될 것임은 분명합니다. AI 옵저버토리가 보여준 첫걸음은 AI 사용의 불투명성을 해소하고 더 책임감 있는 AI 개발로 나아가는 데 중요한 시사점을 제공합니다. 앞으로 이러한 독립적인 연구들이 더욱 활발해지기를 기대합니다.
출처
- 원문 제목: We still don’t know how people are really using AI
- 출처: MIT Technology Review
- 원문 기사 보러가기
