AI는 수학을 ‘파괴’하고 있는가? 학계가 던진 경고의 메시지
Published Jun 8, 2026
수학. 인류 지성의 가장 순수하고 근원적인 영역 중 하나죠. 피타고라스부터 뉴턴, 아인슈타인에 이르기까지, 이성적 사고의 정수를 보여주는 학문이라고 말할 수 있습니다. 그런데 만약, 이 수학의 심장부에 인공지능이 침투해 들어와 그 가치와 미래를 뒤흔들고 있다면 어떠실까요? 단순히 계산을 돕는 보조 도구가 아니라, 학문의 본질을 위협하는 존재로 인식되고 있다면 말이죠. 마치 철옹성 같던 과학의 마지막 보루가 흔들리는 것처럼 말입니다.
최근 국제수학연맹(International Mathematical Union, IMU)이 라이덴 선언(Leiden Declaration on Artificial Intelligence and Mathematics)을 공식적으로 지지하며, 인공지능과 거대 기술 기업의 영향력 확대에 대한 심각한 경고를 보냈습니다. 국제수학연맹은 필즈 메달(Fields Medal)과 같은 가장 권위 있는 수학상을 주관하는 비정부 기구임을 감안할 때, 그들의 지지는 이번 선언의 무게감을 상상 이상으로 끌어올립니다. 이는 단순히 일자리 감소에 대한 우려를 넘어, 수학이라는 학문 자체가 직면한 정체성 위기에 대한 깊은 성찰의 결과입니다. 과연 수학자들은 무엇 때문에 이토록 강력한 경고를 보낸 것일까요?
AI, 순수한 수학의 세계를 침범하다
이러한 경고가 나온 배경에는 최근 OpenAI가 80년 묵은 기하학 분야의 수학적 추측을 자신들의 AI 모델이 ‘반증’했다고 발표한 사건이 있습니다. 이 소식은 학계에 큰 파장을 일으켰고, 라이덴 선언이 발표된 시점과 맞물려 더욱 큰 의미를 가집니다. 마치 수학계가 “우리만의 방식대로 진행할 시간이 필요하다”고 외치는 순간, 거대 기술 기업은 “우리는 이미 다음 단계로 가고 있다”고 선전한 격이랄까요. 이처럼 학문의 엄밀성과 상업적 속도가 정면으로 충돌한 상징적인 사건이 아닐 수 없습니다.
지난 2025년 9월 레이던 대학교에서 열린 컨퍼런스 이후, 16명의 연구원으로 구성된 워킹 그룹은 8개월간의 심도 깊은 논의 끝에 2026년 6월 2일 라이덴 선언을 발표했습니다. 그리고 이 선언은 앞서 언급했듯이 국제수학연맹의 지지를 받으며 그 무게감을 더했습니다. 임페리얼 칼리지 런던의 수학자 케빈 버자드(Kevin Buzzard)는 “수학자들은 기술 기업들이 갑자기 자신들의 연구에 관심을 갖는다는 점이 꽤나 놀랍다고 생각해야 한다”며, 과거 순수 학문으로 분류되던 수학이 상업적 이익과 결부되는 현상에 대한 경각심을 일깨웠습니다. 그는 “라이덴 선언은 AI가 이 분야를 계속해서 뒤흔들고 있는 현 상황에 대한 면밀한 대응”이라고 강조했습니다.
선언은 AI의 발전이 수학 연구의 “특징적인 가치”를 위협하고 있으며, 특히 “학생과 초기 경력 수학자들에게 불균형적으로 영향을 미쳐 학문의 장기적인 미래에 해를 끼치고 있다”고 경고합니다. 그 핵심 내용은 다음 다섯 가지로 요약됩니다.
- “그럴듯하지만 틀린” 증명의 범람: AI 모델은 “그럴듯하지만 신뢰할 수 없거나 심지어 잘못된 주장을 생성”할 수 있으며, 이를 “올바른 수학적 증명과 구별하기 어렵다”고 지적합니다. 이는 학계의 전통적인 증명의 정확성, 투명성, 독립적인 검증 가능성 기준을 위태롭게 만듭니다. 옥스퍼드 대학교 컴퓨터 과학 학과장 레슬리 앤 골드버그(Leslie Ann Goldberg)는 “부정확한 AI 생성 초안은 제작 비용이 저렴하며, 단순히 틀린 결과들로 학술 문헌이 난잡해질 위험이 있다”며, “일단 그런 일이 발생하면, 잘못된 기반 위에 새로운 결과들이 쌓이면서 오류가 전파될 가능성이 높다”고 경고했습니다.
- 개인적으로 이 부분이 가장 우려스럽습니다. 수학은 논리의 엄밀함 위에 세워진 학문이며, 동료 검토(peer review)는 그 엄밀함을 지키는 최후의 보루입니다. 만약 AI가 만들어낸 ‘그럴듯한 거짓’이 판을 친다면, 학문적 신뢰도는 물론이고 다음 세대의 수학자들이 올바른 길을 찾기 매우 어려워질 것입니다. 마치 GPS가 정확한 것 같지만 실제로는 틀린 길로 안내하는 것과 같은 상황인 거죠. 학계 전체가 검증되지 않은 정보의 홍수에 빠질 수도 있습니다.
- 부적절한 인용 및 저작권 침해: AI 모델이 “게시된 작품들을 학습하여 합성된 결과물을 적절히 인용하지 않는” 경우가 잦으며, 많은 AI 모델이 “라이선스 및 접근 협약을 악용하거나 단순히 저작권 보호를 위반하여” 데이터를 획득했다고 지적합니다.
- 이는 비단 수학계만의 문제가 아닙니다. AI 학습 데이터의 투명성과 윤리적 확보는 인공지능 시대의 가장 뜨거운 논쟁거리 중 하나입니다. 인간 연구자들이 평생을 바쳐 이룩한 지식이 제대로 된 보상이나 인용 없이 AI 모델의 먹이가 된다면, 누가 더 많은 지식을 생산하려 할까요? 지식 생태계의 지속 가능성에 대한 심각한 질문을 던지는 대목입니다.
- 가치 불일치와 접근성 문제: AI 사용이 “그 자체로 장려되어 채용, 자금 지원 및 인정 메커니즘을 교란”하고, “자신들이 가치를 공유하지 않는 조직이 통제하는 기술 사용을 꺼리거나 접근성이 부족한 연구자들을 배제”할 수 있다고 경고합니다.
- 솔직히 말해서, 이 지점은 학문의 자율성과 공정성을 심각하게 훼손할 수 있는 부분입니다. 특정 기업의 독점적인 AI 기술 없이는 연구비를 받거나, 논문을 발표하거나, 심지어 직업을 얻기도 어려워진다면, 이는 학문의 독립성을 뿌리째 흔드는 일입니다. 학문의 방향성마저 소수 기업의 기술적 이니셔티브에 좌우될 수 있다는 뜻이기도 합니다.
- 비공식 채널을 통한 연구 홍보: “보도 자료나 블로그 게시물과 같은 비공식 채널을 통해 전달되는 수학 연구”에 대해 경고합니다. 이는 “과학적 평가에 필요한 연구 논문이나 기타 정보 공개 없이” 이루어지는 경우가 많아, 미디어 보도에서 AI 도구의 중요성을 과장하고 이전의 인간 기여를 간과하는 “지나친 단순화”를 초래할 수 있다고 합니다. 나아가 “특정 수학적 과제를 상업 제품의 일반적인 추론 능력 지표로 오해하게 만드는” 경향도 문제입니다.
- 이 대목에서 OpenAI의 사례가 다시 떠오릅니다. 그들의 ‘반증’ 발표가 학계의 정식 검증 절차를 거치기도 전에 대중에게 홍보된 방식은, 학술적 가치보다는 시장적 타이밍을 우선시하는 거대 기술 기업의 전형적인 전략으로 비칠 수밖에 없습니다. 미디어가 AI의 성과를 과도하게 단순화하여 전달함으로써, 대중은 AI가 아직 도달하지 못한 수준의 ‘일반 지능’을 가진 것으로 오해할 수 있다는 점도 심각합니다.
- 수학의 자율성 위협: “기술 기업들의 수학 연구에 대한 개입 증가”가 “수학의 자율성”을 위협한다고 묘사합니다. 특히 대학 예산이 압박을 받는 상황에서 연구자들이 “불균형적인 조건”으로 기술 기업과 협력해야 할 직업적 유인이 커질 수 있으며, 이는 AI 구동 기술에 적합한 수학 연구 질문이 우선시될 위험을 높입니다.
- 콜럼비아 대학교의 수학자이자 선언의 저자 중 한 명인 마이클 해리스(Michael Harris)는 뉴욕타임즈와의 인터뷰에서 “기술 산업은 상업적 논리에 따라 진행되며, 이는 수학의 가치와는 대척점에 있다”고 말했습니다. 그는 또한 선언이 “AI 산업으로부터 수학의 가치와 목표에 대한 서사의 통제권을 되찾으려는 시도”라고 역설했습니다. 이는 단순히 연구비가 많다고 해서 좋은 것이 아님을 시사합니다. 연구의 방향성 자체가 상업적 이익에 종속될 수 있다는 근본적인 우려를 담고 있는 것이죠.
OpenAI, 그리고 ‘블랙박스’의 경고
라이덴 선언의 여러 경고 중 상당수는 OpenAI가 자사 모델의 수학적 성과를 발표한 방식과 특히 관련이 깊습니다. 회사가 일반 대중에게 주식 판매를 준비하고 있다는 보도가 나온 같은 날, 그들은 AI의 수학적 ‘업적’을 홍보했습니다. 선언은 이러한 기업의 보도 자료가 “수학 공동체의 인정된 평가 과정이 이루어지기도 전에 시장의 시간표에 따라” 작동한다고 명확히 비판했습니다. 이는 학문적 진실 규명보다 기업의 이익과 홍보가 우선시되는 상황에 대한 날카로운 비판입니다.
OpenAI는 AI 모델의 수학적 증명을 설명하는 연구 논문을 독립적인 수학자들의 논평과 함께 공개했습니다. 하지만 레이던 대학교의 컴퓨팅 및 인공지능 역사가이자 인류학자이자 선언의 또 다른 저자인 로드리고 오치감(Rodrigo Ochigame)에 따르면, 회사는 해당 수학 문제를 해결하는 데 사용된 프롬프트, AI 훈련 데이터, 그리고 계산 자원의 양에 대한 정보를 공개하지 않았습니다. 이것은 과학의 핵심 원칙인 투명성과 재현성을 정면으로 거스르는 행위입니다.
오치감은 뉴욕타임즈에 “AI 모델은 독점적이며 회사 외부의 누구도 이용할 수 없다”며, “우리는 화려한 홍보 영상만 볼 수 있을 뿐, 결과의 과학적 의미를 평가하는 데 필요한 기본적인 정보는 비밀로 유지된다”고 비판했습니다. 이른바 ‘블랙박스’ 문제의 전형적인 사례라고 볼 수 있습니다. 어떻게 증명되었는지, 어떤 데이터로 학습되었는지 알 수 없다면, 우리는 그 증명을 과연 수학적 진리로 받아들일 수 있을까요? 개인적으로는 이러한 불투명성이야말로 수학이라는 학문의 근간을 가장 심각하게 위협하는 요소라고 생각합니다. 진실은 투명해야 합니다.
옥스퍼드 대학교의 수학자이자 컴퓨터 과학자이자 선언의 저자이기도 한 우르술라 마틴(Ursula Martin)은 OpenAI의 성과가 “놀랍다”고 인정하면서도, 상당한 계산 자원이 투입되었을 것이라고 말했습니다. 그녀는 인간 수학자들이 유사한 양의 동등한 노력을 기울였다면 같은 방식으로 문제를 해결했을 가능성이 높다고 시사했습니다. 무엇보다 중요한 것은, 그녀가 “수학은 문제 해결을 넘어선 ‘아이디어, 이해, 판단 및 인간적 통찰의 함양’이기도 하다”고 경고했다는 점입니다. AI는 문제를 해결할 수 있지만, 문제의 본질을 이해하고 새로운 개념을 창조하며, 그 지식을 통해 인류의 지평을 넓히는 ‘인간적 통찰’은 여전히 인간 고유의 영역이라는 깊은 메시지를 담고 있습니다.
AI가 가져올 미래, 우리가 선택해야 할 것들
사실 이건 단순히 수학이라는 학문 영역만의 문제가 아닙니다. 과학, 의학, 공학 등 인간의 지성이 깊이 관여하는 모든 분야에 AI가 적용될 때, 우리는 과연 어떤 가치를 우선시해야 할까요? 빠르고 효율적인 결과를 만들어내는 AI의 능력은 분명 매력적입니다. 하지만 그 과정의 투명성, 결과의 신뢰성, 그리고 그 지식 생산의 주체가 과연 누구여야 하는가 하는 근본적인 질문들을 끊임없이 던져야 합니다.
저의 분석으로는, 이번 라이덴 선언은 AI가 더 이상 단순한 ‘도구’를 넘어 학문 자체의 본질과 시스템을 뒤흔들 수 있는 ‘주체’가 될 수 있음을 시사하는 강력한 경고음입니다. 특히 빅테크 기업들이 AI 기술을 통해 학계에 미치는 영향력이 커질수록, 학문의 순수성과 자율성을 지키기 위한 노력은 더욱 중요해질 것입니다. 수학자들이 두려워하는 것은 AI가 문제를 ‘풀지 못하는’ 것이 아니라, AI가 문제를 ‘풀어내는 방식’과 그 방식이 학문의 본질에 미치는 영향이라는 점을 우리는 명심해야 합니다. 학문적 진실은 오픈소스처럼 투명하고 공개되어야 하며, 특정 기업의 소유물처럼 폐쇄적이어서는 안 될 것입니다.
결국 이 논쟁의 핵심은 기술의 발전 속도를 늦추는 것이 아니라, 기술이 어떤 방향으로 나아가야 하는지에 대한 인간의 주도적인 성찰과 통제에 있습니다. 수학계가 던진 이 경고는 모든 과학 분야에 울리는 메아리가 되어, AI 시대의 윤리적, 학술적 프레임워크를 재정립하는 중요한 기점이 될 것이라고 저는 확신합니다. 우리에게 필요한 것은 AI의 잠재력을 인정하면서도, 인간의 지성과 학문의 고유한 가치를 잃지 않으려는 끊임없는 노력일 겁니다.
출처
- 원문 제목: Mathematicians warn of AI threats to profession as industry encroaches
- 출처: Artificial Intelligence - Ars Technica
- 원문 기사 보러가기
