80년 난제 푼 AI: 오명을 벗고 수학의 새로운 지평을 열다
Published May 21, 2026
“수세기에 걸쳐 우리가 쌓아온 수학이라는 대성당을 AI가 더 깊이 탐험하도록 돕고 있습니다. 아직 발견되지 않은 다른 어떤 경이로운 일들이 우리를 기다리고 있을까요?”
토마스 블룸(Thomas Bloom) 교수의 이 말은 단순히 수사적인 질문이 아닙니다. 지난 몇 년간 인공지능이 인간 지식의 다양한 영역에서 놀라운 성과를 보여왔지만, 이 말만큼 AI의 잠재력을 직관적으로 와닿게 하는 표현도 드물지 않을까 싶습니다. 그리고 최근 OpenAI가 내놓은 소식은 이 질문에 대한 AI의 첫 번째, 아니 어쩌면 ‘두 번째’ 대답일지도 모릅니다. 그들은 자사의 새로운 추론 모델이 1946년 전설적인 수학자 폴 에르되시(Paul Erdős)가 제기한 이래 80년 동안 풀리지 않았던 기하학 난제를 뒤집는 독창적인 수학적 증명을 만들어냈다고 주장합니다.
솔직히 말해서, 이 소식을 들었을 때 많은 이들이 저처럼 ‘어디서 많이 들어본 이야기인데?‘라는 기시감을 느꼈을 것입니다. 실제로, 불과 7개월 전 OpenAI는 이와 비슷한 대담한 주장을 펼쳤다가 크게 망신을 당한 적이 있기 때문입니다. 당시 OpenAI의 전 부사장 케빈 와일(Kevin Weil)은 X(구 트위터)에 “GPT-5가 이전에 풀리지 않았던 에르되시 문제 10개를 해결했고, 11개에 대해 진전을 보였다”는 게시물을 올렸습니다. 하지만 곧 이 주장은 사실이 아님이 밝혀졌습니다. GPT-5가 찾아낸 솔루션들은 이미 문헌에 존재하는 것들이었을 뿐, 새로운 발견이 아니었던 것이죠.
7개월 전의 악몽, 그리고 이번에는?
당시 이 사건은 AI 업계에 큰 파장을 일으켰습니다. 얀 르쿤(Yann LeCun)과 구글 딥마인드의 CEO 데미스 허사비스(Demis Hassabis) 같은 경쟁사들은 공개적으로 OpenAI를 조롱했고, 와일 부사장은 결국 자신의 성급했던 게시물을 삭제해야 했습니다. 특히 에르되시 문제 웹사이트를 관리하고 있는 수학자 토마스 블룸은 당시 와일의 주장을 “극적인 오해(dramatic misrepresentation)“라고 맹렬히 비판하기도 했습니다. 이 사건은 AI가 고도의 수학적 문제를 ‘해결’하는 능력에 대한 근본적인 의구심을 불러일으켰고, AI 기업들의 과장된 발표에 대한 회의적인 시각을 증폭시켰습니다.
그런데 이번에는 상황이 사뭇 다릅니다. OpenAI는 지난번과 같은 실수를 반복하지 않으려 한 듯합니다. 이번 발표와 함께 그들은 놀랍게도 노가 알론(Noga Alon), 멜라니 우드(Melanie Wood), 그리고 바로 그 토마스 블룸 교수 등 저명한 수학자들의 지지 발언을 함께 공개했습니다. 이전에 OpenAI를 비판했던 바로 그 수학자들이 이번에는 그들의 발견을 옹호하고 나선 것입니다. 이 사실 하나만으로도 이번 주장의 무게감은 남다르지 않을까요?
OpenAI는 X 게시물에서 “거의 80년 동안 수학자들은 최상의 솔루션이 대략 사각형 격자 모양이라고 믿었습니다. 이제 OpenAI 모델은 이러한 믿음을 뒤엎고, 더 나은 성능을 보이는 완전히 새로운 형태의 구조군을 발견했습니다”라고 밝혔습니다. 이는 단순히 답을 찾은 것을 넘어, 오랜 기간 정설로 여겨지던 가정을 뒤집는, 한 분야의 패러다임을 바꿀 수 있는 발견이라는 의미입니다.
AI, 80년의 벽을 허물다: 새로운 통찰력
에르되시의 기하학 난제는 언뜻 복잡해 보이지만, 핵심은 특정 조건 하에서 최적의 기하학적 배열을 찾는 문제였습니다. 80년이라는 긴 세월 동안 수많은 수학자들이 이 문제에 매달렸고, 그 과정에서 ‘최적의 해는 사각형 격자 형태일 것’이라는 일종의 직관적 믿음이 굳어졌던 것이죠. 하지만 OpenAI의 모델은 이러한 인간의 고정관념을 깨고 ‘완전히 새로운 형태의 구조군(an entirely new family of constructions)‘을 제시하며 기존의 믿음이 틀렸음을 증명했습니다.
이 부분에서 주목할 점은 이것이 단순히 특정 문제를 풀도록 설계된 시스템이 아니라는 것입니다. OpenAI에 따르면, 이 증명은 특정 수학 문제를 풀거나 심지어 이 특정 문제를 위해 특별히 설계된 시스템이 아닌, **새로운 범용 추론 모델(new general-purpose reasoning model)**에서 나왔다고 합니다. 개인적으로는 이 점이 이번 성과의 진정한 핵심이라고 생각합니다. 특정 분야에 특화된 AI가 특정 문제를 해결하는 것은 이미 여러 차례 보아왔지만, 범용적인 추론 능력을 가진 모델이 자율적으로 수학의 중심 난제를 해결했다는 것은 AI의 추론 능력과 문제 해결 방식이 한 단계 도약했음을 의미합니다.
이는 AI 시스템이 이제 **길고 어려운 추론의 사슬(long, difficult chains of reasoning)**을 유지하고, **서로 다른 분야의 아이디어들을 연결(connecting ideas across fields)**하는 능력에 있어서 연구자들이 이전에 탐구하지 못했던 방식으로 더 뛰어날 수 있음을 시사합니다. 상상해 보세요. 인간 연구자들이 수십 년간 쌓아온 지식의 경계를 넘어, AI가 완전히 다른 분야의 개념들을 조합하여 예상치 못한 통찰을 제공할 수 있다면? 이는 수학뿐만 아니라 생물학, 물리학, 공학, 의학과 같은 광범위한 분야에 엄청난 영향을 미칠 수 있습니다.
AI가 여는 미지의 수학 성전
토마스 블룸 교수의 말처럼, AI는 인간이 오랜 세월 쌓아 올린 ‘수학이라는 대성당’을 탐험하는 데 있어 강력한 도우미를 넘어, 이제는 스스로 미지의 문을 열어젖히는 탐험가가 될 준비를 마친 듯합니다. 이전의 ‘실수’로 인해 얻었던 오명을 씻고, OpenAI는 이번 성과를 통해 AI가 자율적으로, 그리고 검증 가능한 방식으로 수학적 발견을 해낼 수 있음을 증명했습니다.
업계 흐름을 보면, 이제 AI는 더 이상 인간이 입력한 데이터 내에서 패턴을 찾거나 기존의 해답을 재구성하는 수준을 넘어, 스스로 가설을 세우고, 복잡한 논리적 단계를 거쳐, 심지어 오랜 기간 확고부동했던 인간의 직관과 믿음까지도 뒤엎는 능력을 보여주고 있습니다. 이는 AI와 인간의 협력 관계가 단순히 AI가 인간의 작업을 보조하는 수준을 넘어, 인간이 미처 보지 못했던 새로운 관점과 방법론을 제시하며 공동 연구자로 발전할 가능성을 높게 보여주는 사례라고 할 수 있습니다. 앞으로 AI가 수학뿐만 아니라 다양한 기초 과학 분야에서 또 어떤 ‘미지의 경이로운 일’들을 발견하게 될지 기대가 됩니다.
출처
- 원문 제목: OpenAI claims it solved an 80-year-old math problem — for real this time
- 출처: AI News & Artificial Intelligence | TechCrunch
- 원문 기사 보러가기
