거대 언어 모델의 치명적 함정: 모두가 '7'을 외칠 때, 당신의 AI는 달라야 한다!
Published Jul 4, 2026
최근 몇 년간 인공지능, 특히 대규모 언어 모델(LLM)은 우리의 일상과 업무 방식을 혁신적으로 변화시켰습니다. 챗GPT, 클로드, 제미니 등 수많은 LLM들이 복잡한 코드를 작성하고, 방대한 정보를 요약하며, 심지어 시를 쓰는 등 놀라운 능력을 보여주며 ‘만능 해결사’처럼 여겨져 왔습니다. 하지만 이러한 인상적인 능력의 이면에는 우리가 미처 깨닫지 못했던 미묘하지만 치명적인 한계가 숨어 있습니다. 바로 LLM들이 생각보다 훨씬 더 예측 가능하고 획일적인 응답을 생성하는 경향이 있다는 점입니다. 이러한 ‘집단사고’ 현상은 단순히 흥미로운 관찰을 넘어, AI의 본질적인 창의성과 활용성에 대한 중요한 질문을 던지고 있습니다.
챗봇의 은밀한 ‘집단사고’ 현상, 정말 안전할까요?
MIT Technology Review의 최신 기사는 이 문제에 대한 매우 흥미로운 실험으로 시작합니다. 여러분도 지금 바로 좋아하는 챗봇에게 “1부터 10 사이의 임의의 숫자 하나를 알려줘”라고 질문해보세요. 아마 높은 확률로 **‘7’**이라는 숫자를 보게 될 것입니다. 다시 “다른 숫자”라고 물으면 ‘3’이나 ‘4’를, 또다시 “다른 숫자”를 물으면 ‘8’이나 ‘9’를 얻을 가능성이 높다고 합니다. 물론 항상 그런 것은 아니지만, 이러한 패턴은 결코 우연이 아닙니다. 이처럼 챗봇들은 우리가 예상하는 것보다 훨씬 더 예측 가능하고 덜 창의적인 응답을 내놓는 경향이 있습니다. 코딩이나 단순 정보 검색과 같은 특정 작업에서는 문제가 되지 않지만, 브레인스토밍이나 새로운 아이디어를 필요로 하는 창의적인 영역에서는 이러한 집단사고가 심각한 한계로 작용합니다.
기사는 몇 가지 더 구체적인 사례를 제시합니다. 자동차 이름을 물으면 대부분의 LLM이 토요타나 혼다 같은 대중적인 브랜드를 말하고, 밴드 이름을 물으면 ‘유리(Glass)’, ‘네온(Neon)’, ‘벨벳(Velvet)’, ‘정적(Static)’ 같은 단어를 포함하는 이름을 제안하는 식입니다. 심지어 챗GPT가 제안한 ‘Sofa Astronauts’라는 밴드 이름은 이미 실제로 존재하는 밴드의 이름이었다고 하니, AI가 정말 ‘새로운’ 것을 만들어내고 있는 것인지 의문이 들 정도입니다.
이러한 현상은 단순히 몇몇 LLM의 특성이 아닙니다. 2024년 11월, NeurIPS AI 컨퍼런스에서 최고 논문상을 수상한 “인공 군집 지능: 언어 모델의 개방형 동질성(Artificial Hivemind: The Open-Ended Homogeneity of Language Models (and Beyond))“이라는 연구는 이 문제의 심각성을 여실히 보여줍니다. 이 연구는 25개의 다양한 LLM(주요 미국 모델과 중국 및 기타 오픈소스 모델 포함)에 ‘시간에 대한 은유를 작성해달라’는 질문을 각각 50번씩 던졌습니다. 그 결과, 총 1,250개의 응답 대부분이 “시간은 강물이다(Time is a river)” 또는 **“시간은 직조공이다(Time is a weaver)“**와 같은 유사한 표현으로 수렴했다고 합니다. 연구진은 그 원인으로 오늘날 대부분의 LLM이 유사한 방식으로, 유사한 데이터를 통해, 유사한 작업을 수행하도록 훈련되기 때문이라고 추측합니다. 이 부분에서 개인적으로 주목할 점은, 이러한 현상이 단순히 개별 LLM의 ‘편향’을 넘어, 현존하는 LLM 생태계 전반에 걸친 구조적인 동질성을 보여준다는 점입니다. 마치 다른 회사에서 만든 다른 제품들이지만, 그 기저에 깔린 ‘설계 사상’이 너무나도 유사하여 결과물 역시 크게 다르지 않은 상황과도 같습니다. 이는 AI의 발전 방향이 특정 경로로 수렴되고 있음을 시사하며, 진정한 다양성과 독창성을 추구하는 데 큰 걸림돌이 될 수 있다고 생각합니다.
획일화된 응답 속, 창의성의 불씨를 지피다: Springboards의 Flint
이러한 ‘집단사고’의 한계를 인식하고 돌파구를 찾으려는 시도가 있습니다. 호주의 스타트업 Springboards는 이러한 문제의식에서 출발하여 Flint라는 새로운 LLM을 개발했습니다. Springboards의 공동 설립자이자 CEO인 Pip Bingemann은 주류 LLM들이 ‘환각(hallucination)’ 현상과 싸우는 동안, 자신들은 **“환각을 환영한다”**고 말합니다. 이는 매우 파격적인 발언인데요, 기존 LLM 개발의 최대 목표 중 하나가 사실성 기반의 신뢰도 높은 정보 제공을 위해 환각을 줄이는 것이었기 때문입니다. 하지만 Springboards는 ‘새로운 아이디어’라는 맥락에서, 통제된 형태의 ‘환각’ 즉 **‘주류와 다른, 예상치 못한 발상’**이 오히려 창의성을 촉진하는 데 필수적이라고 본 것입니다.
Flint는 “유럽 어디로 여행 가야 할까요?”와 같은 개방형 질문에 주류 LLM보다 훨씬 더 다양한 응답을 생성하도록 훈련되었습니다. Bingemann이 진행한 실험은 Flint의 차별점을 명확히 보여줍니다.
- 임의의 숫자 게임: 챗GPT와 클로드가 모두 ‘7’을 내놓았을 때, Flint는 **‘3.7916’**이라는 훨씬 더 임의적인 숫자를 제시했습니다. 단순히 1~10 사이의 정수가 아닌 소수점까지 포함하여, 기존 LLM이 회피하는 ‘비정형적’ 응답을 과감히 내놓은 것입니다.
- 자동차 이름: 챗GPT와 클로드가 토요타나 혼다를 언급할 때, Flint는 **‘Ford F-150’**을 제시했습니다. Bingemann은 “이 모델들도 뷰익이나 테슬라를 말할 수 있지만, 그렇게 하지 않을 뿐이다. 편향되어 있다”고 지적합니다.
- 뉴발란스 러닝화 태그라인: 챗GPT와 클로드가 모두 “Run your way”라는 동일한 태그라인을 내놓은 반면, Flint는 **“Built to last, run to win”**이라는 차별화된 문구를 제시했습니다. 수상할 만한 문구는 아닐지라도, 최소한 다른 결과물임은 분명합니다.
- MBA 사례 연구: 젊은 세대를 위한 금융 회사 재창조 방안에 대한 고전적인 MBA 사례 연구 질문에, 주류 모델들은 “재미있고 힙한 방식으로 금융 문해력을 가르쳐야 한다”는 획일적인 답을 내놓았습니다. 반면 Flint는 ‘부 축적’이라는 개념 자체를 재정의해야 한다는 훨씬 더 근본적이고 통찰력 있는 제안을 내놓았다고 합니다.
Flint의 이러한 접근 방식은 AI가 단순한 정보 요약이나 패턴 인식 도구를 넘어, 진정으로 ‘생각의 지평을 넓혀주는’ 도구가 될 수 있음을 보여줍니다. 개인적으로 이 지점에서 AI의 역할에 대한 중요한 통찰을 얻을 수 있다고 생각합니다. 기존 LLM이 ‘가장 그럴듯하고 안전한 답’을 찾아내는 데 집중했다면, Flint는 ‘가장 그럴듯하지 않지만 신선한 답’을 찾아내는 데 집중하는 것으로 보입니다. 이는 특히 광고, 마케팅, 디자인, 예술 등 창의성과 혁신이 핵심 경쟁력인 분야에서 LLM이 지닌 잠재력을 극대화할 수 있는 방향성을 제시합니다. 인간의 창의성 역시 기존의 틀에서 벗어나 ‘미친 소리’처럼 들릴 수 있는 발상에서 시작되는 경우가 많다는 점을 고려하면, Flint의 ‘환각 환영’ 철학은 AI가 인간의 창의적 사고를 보완하고 확장하는 데 있어 매우 의미 있는 진전을 보여주는 것이라고 할 수 있습니다.
AI 창의성, 미래는 어떻게 진화할 것인가
Springboards는 창의적인 전문가들, 예를 들어 광고나 마케팅 분야 종사자들이 아이디어를 브레인스토밍할 때 사용할 수 있는 도구를 개발했습니다. 이 도구는 챗GPT와 클로드 같은 다양한 LLM을 활용하며, 사용자가 선호하는 텍스트 조각들을 드래그 앤 드롭 방식으로 조합하여 새로운 아이디어를 만들 수 있도록 합니다. 여기에 Flint는 더 큰 다양성을 추구하는 사용자들을 위한 대안적인 모델로 제공됩니다.
비즈니스 전략 스타트업 Bodacious의 설립자이자 LA 레이커스의 Luka Dončić이 설립한 팬 마케팅 플랫폼 77X의 최고 전략 책임자인 Zoe Scaman은 Flint를 사용해보고 “완전히 다른 방향으로 나를 이끌어주는 데 정말 유용하다”며, “내가 이리저리 뛰어다니고 싶을 때 사용한다”고 평가했습니다. 이는 Flint가 단순한 정보 제공을 넘어, 사용자의 사고를 확장하고 새로운 관점을 제시하는 데 기여하고 있음을 보여줍니다.
LLM의 ‘집단사고’ 현상은 AI 기술의 고도화가 가져온 그림자 중 하나입니다. 그러나 Springboards의 Flint와 같은 시도는 이러한 한계를 극복하고, AI가 진정한 창의적 파트너로서 기능할 수 있는 가능성을 열어주고 있습니다. 앞으로 LLM 개발은 단순히 정확성과 효율성을 넘어, **다양성, 독창성, 그리고 ‘예측 불가능한 유용성’**을 어떻게 담보할 것인가에 대한 깊은 고민을 수반하게 될 것입니다. 인간처럼 완전히 자유롭고 무작위적인 사고를 하는 AI를 만드는 것은 여전히 먼 미래의 이야기일 수 있지만, Flint와 같은 특화된 모델의 등장은 AI가 우리의 창의성을 증폭시키는 새로운 시대를 열어줄 것이라는 기대를 갖게 합니다. 이 분야의 진화는 정말 놀랍습니다!
출처
- 원문 제목: LLMs are stuck in a groupthink groove. This startup is trying to get them out.
- 출처: MIT Technology Review
- 원문 기사 보러가기
