슈퍼 마리오가 단순한 오락이 아니었다고? 이론 컴퓨터 과학의 경계를 허문 놀라운 발견
Published Jun 24, 2026
최근 인공지능과 복잡계 연구가 빠르게 발전하면서, 우리는 ‘해결 불가능한 문제’의 영역이 점점 좁아질 것이라는 막연한 기대를 하곤 합니다. 특히 딥러닝 알고리즘이 과거에는 상상하기 어려웠던 문제들을 해결해내는 모습을 보면, 세상의 모든 문제가 결국은 컴퓨터의 힘으로 해답을 찾을 수 있을 것만 같죠. 하지만 과연 그럴까요? 컴퓨터 과학의 깊은 뿌리에는 ‘결코 풀 수 없는’ 문제들이 존재한다는 냉엄한 현실이 있습니다. 그리고 놀랍게도, 이 근본적인 한계에 대한 새로운 통찰이 바로 우리가 어릴 적 열광했던 그 게임, 슈퍼 마리오에서 나왔다는 사실은 저를 포함한 많은 이들을 경악하게 만들었습니다.
MIT 테크놀로지 리뷰에 실린 이 기사는 우리가 알고 있던 마리오의 세계가 단순한 플랫포머 게임을 넘어 이론 컴퓨터 과학의 최전선에 서 있음을 보여줍니다. 거북이 등껍질을 밟고, 파이프 속을 드나들며 공주를 구하는 이 영웅의 여정이 사실은 그 어떤 컴퓨터도 완벽하게 예측할 수 없는, 즉 ‘판정 불가능(undecidable)‘한 난제를 품고 있었다는 건 정말이지 충격적인 발견이 아닐 수 없습니다.
고전 게임에서 발견된 미지의 영역: 복잡성 이론의 새로운 경계
브루클린 출신의 배관공이 고슴도치 괴물과 버섯 돌이 가득한 위험천만한 세상을 가로질러 사랑하는 공주를 구하러 가는 여정. 여러분은 학창 시절 이런 문제를 풀어본 적이 없을 겁니다. 하지만 이 모험은 너무나도 고되어서, 실제든 가상이든 그 어떤 컴퓨터도 마리오가 과연 공주에게 도달할 수 있을지 정확히 알아낼 만큼 강력하지 않다는 것이 밝혀졌습니다. MIT ‘하드니스 그룹(MIT Hardness Group)‘의 연구에 따르면, 마리오의 이 퀘스트가 가능한지 여부를 판단하는 것은 금융 거래의 암호화를 해독하는 것만큼이나 복잡한 문제입니다. 솔직히 말해서, 이 문제를 마리오가 직접 풀었다면 첫마디는 “안녕, 나야, 마리오!”였을 겁니다.
MIT 하드니스 그룹은 실제 공식 연구 그룹은 아닙니다. 대신 에릭 디메인(Erik Demaine) 교수의 ‘알고리즘 하한: 난이도 증명의 즐거움(Algorithmic Lower Bounds: Fun with Hardness Proofs)’ 수업에서 슈퍼 마리오 관련 프로젝트를 포함한 이론 컴퓨터 과학 프로젝트들을 진행하는 임시 명칭입니다. 컴퓨터 과학 교수인 디메인은 단백질 접힘과 종이접기에 대한 계산 기하학 연구로 맥아더 펠로우십(일명 ‘천재’ 상)을 수상한 인물입니다. 그는 또한 컴퓨터가 문제를 해결하는 데 필요한 시간과 메모리 공간을 기준으로 문제를 분류하는 **복잡성 이론(complexity theory)**을 연구합니다. 무엇보다, 그는 열렬한 슈퍼 마리오 팬이기도 하죠. “어릴 적 NES 게임을 하면서 자랐어요. 수많은 시간을 플레이하는 데 쏟아부었죠. 이렇게 오랜 시간이 지나 연구와 연결시키니 정말 즐겁습니다.” 디메인 교수는 말합니다.
슈퍼 마리오는 플랫폼, 파이프, 그리고 여러 장애물로 이루어진 수평 스크롤 세계에서 진행됩니다. 버섯 왕국의 군주인 피치 공주를 구하기 위해 쿠파와 가시돌이 같은 몬스터들을 피하거나 물리치며 이 지형을 빠르게 통과하는 것이 게임의 목표입니다. 게임은 여러 레벨로 구성되며, 오리지널 버전에서는 각 레벨이 깃대로 끝나고 마리오는 다음 미션으로 넘어갑니다.
지난 14년 동안 디메인 교수와 그의 동료들은 슈퍼 마리오에 대해 많은 것을 증명했습니다. 예를 들어, 슈퍼 마리오가 악명 높은 **외판원 문제(traveling-salesman problem)**나 큰 숫자의 인수분해 문제보다도 더 어렵다는 것을 밝혀냈습니다. 하지만 디메인 교수를 가장 놀라게 한 결과는 그의 학생 네 명에게서 나왔습니다. 2023년 수업의 최종 프로젝트에서, 이 팀은 팬들이 만든 슈퍼 마리오 레벨 에디터와 ‘슈퍼 마리오 메이커(Super Mario Maker)’ 플랫폼을 조합하여, 판정 불가능한(undecidable) 수준의 어려운 레벨을 만들었습니다. 즉, 해당 레벨에서 마리오가 성에 도달할 수 있는지 여부를 항상 정확하게 예측하는 컴퓨터 프로그램을 작성하는 것이 불가능하다는 것이죠.
이전에는 디메인 교수는 슈퍼 마리오가 PSPACE 복잡성 클래스에 속한다고 믿었습니다. PSPACE는 해결 가능하지만, 문제의 크기가 커질수록 해결책이 비실용적으로 복잡해지는 문제들을 포함하는 클래스입니다. 당시 그는 PSPACE가 마리오의 “영구적인 집”이라고까지 말했습니다. 하지만 새로운 발견은 슈퍼 마리오를 RE-Complete라는, 판정 불가능한 문제들의 클래스로 밀어 넣었습니다. 디메인 교수는 “이런 종류의 게임에 대해 우리가 상상할 수 있는 가장 어려운 복잡성 클래스”라고 평했습니다.
앨런 튜링의 유산, 그리고 마리오의 역설
이 판정 불가능이라는 개념을 이해하려면 현대 컴퓨터 과학의 아버지, 앨런 튜링(Alan Turing)이 1936년에 제시한 **정지 문제(Halting Problem)**로 거슬러 올라가야 합니다. 튜링은 컴퓨터가 모든 것을 해결할 수는 없다는 것을 증명하기 위해 이 퍼즐을 만들었습니다. 정지 문제의 핵심에는 역설이 있습니다.
만약 어떤 프로그램이 주어졌을 때, 그 프로그램이 결국 멈출지(halt) 아니면 영원히 실행될지(run forever) 정확히 판단하는 ‘오라클(Oracle)‘이라는 환상적인 컴퓨터가 있다고 가정해 봅시다. 예를 들어, “1을 가져와서 3을 더하라”는 프로그램을 보면 오라클은 멈춘다고 말할 것이고, “1을 가져와서 0이 될 때까지 1을 계속 더하라”는 프로그램을 보면 오라클은 영원히 실행된다고 말할 겁니다.
이제 ‘반대자(Contrarian)‘라는 또 다른 컴퓨터가 있고, 그 안에 오라클이 들어 있다고 상상해 보세요. 반대자에게 프로그램을 주면, 반대자는 그 프로그램을 오라클에게 넘기고, 오라클이 그 프로그램이 할 것이라고 말하는 것과 정반대로 행동합니다. 그러니 만약 오라클이 반대자의 프로그램을 평가하고 그것이 멈출 것이라고 생각한다면, 반대자는 영원히 실행될 겁니다. 만약 오라클이 그 프로그램이 영원히 실행될 것이라고 생각한다면, 반대자는 멈출 겁니다. 어떤 경우든, 오라클의 평가는 틀리게 되는 역설이 발생합니다. 이것이 바로 분류 문제가 **판정 불가능(undecidable)**하다는 증명입니다.
슈퍼 마리오가 판정 불가능하다는 증명은 이 아이디어의 더 복잡한 버전에 의존합니다. 연구팀의 주장은 **환원(reduction)**이라는 기법을 사용하여 비디오 게임을 분해했습니다. 이는 수학자들이 해결하려는 문제를 이미 알고 있는 다른 문제로 변환하는 기술입니다. 디메인 교수는 기억에 남는 고전적인 예시를 이렇게 회상합니다. “수학 수업에서 기억나는 고전적인 예시는 ‘끓는 물 한 냄비를 어떻게 만드느냐?‘였습니다. 음, 싱크대에서 냄비에 물을 채우고, 스토브에 올리고, 그러면 결국 끓습니다. 좋습니다. 이제 이미 물이 채워진 냄비를 드리겠습니다. 끓는 물 한 냄비를 어떻게 만드나요? 음, 먼저 냄비를 비우고 이전 문제로 환원합니다.”
이러한 환원 기법을 슈퍼 마리오에 적용하면서, 연구팀은 그들만의 플랫폼과 가시돌이 세계에서 슈퍼 마리오 레벨을 ‘가젯(gadgets)‘이라는 마리오 경로의 지역화된 부분들로 분해했습니다. MIT CSAIL 연구원이자 MIT FutureTech의 알고리즘 책임자인 제이슨 린치(Jayson Lynch) 박사는 “우리 의미에서의 가젯은 환경 내에서 특정 패턴을 통과할 수 있는지 여부를 결정하는 모든 것입니다”라고 설명합니다. 예를 들어, 한 가젯에서 마리오는 특정 블록 위로 점프해야만 다음 구간으로 진행할 수 있는 식으로 말입니다. 이런 가젯들을 마치 레고 블록처럼 조합하여, 이론적으로 무한한 복잡성을 가진 레벨을 만들어낼 수 있었고, 결국 앨런 튜링의 정지 문제와 같은 역설적인 상황을 마리오 게임 내에서 재현하는 데 성공한 것입니다.
게임 디자인을 넘어: 이 연구가 던지는 질문들
개인적으로, 이 연구 결과는 단순히 한 고전 게임의 복잡성을 증명한 것을 넘어, 우리가 알고리즘의 한계를 이해하는 데 있어 중요한 시사점을 던진다고 생각합니다. 인간이 만든 규칙 기반 시스템조차도, 특정 조합과 설계에 따라 그 작동 방식을 완벽하게 예측하거나 해결하는 것이 불가능해질 수 있다는 사실은 매우 흥미롭습니다. 이는 인공지능이 아무리 발전해도 결국엔 ‘본질적인 난이도’의 벽에 부딪힐 수 있음을 보여주는 강력한 증거이기도 합니다.
이 발견은 미래의 게임 디자인에도 영향을 미칠 수 있습니다. ‘슈퍼 마리오 메이커’처럼 사용자가 직접 레벨을 만드는 게임은 그 자체로 거대한 컴퓨팅 문제를 내포하고 있었던 셈입니다. 이론적으로 판정 불가능한 레벨을 만드는 것이 가능하다는 것은, 게임의 무한한 다양성과 난이도 잠재력을 보여주지만, 동시에 게임 난이도 측정이나 자동 플레이어(AI) 개발에 있어 근본적인 한계가 존재할 수 있다는 것을 의미합니다.
결국, 슈퍼 마리오 연구는 재미와 학문의 경계를 허물고, 우리에게 컴퓨터 과학의 가장 깊은 질문 중 하나를 다시금 상기시켜 줍니다: ‘무엇이 계산 가능한가? 그리고 무엇이 계산 불가능한가?’ 슈퍼 마리오라는 친숙한 옷을 입고 다가온 이 난제는, 디지털 세상의 무한한 가능성 속에서도 여전히 풀리지 않는 미스터리들이 존재한다는 것을 강력하게 일깨워주는 듯합니다. 어쩌면 마리오의 다음 점프는 단순히 공주를 구하는 것을 넘어, 컴퓨터 과학의 새로운 지평을 여는 또 다른 열쇠가 될지도 모를 일입니다.
출처
- 원문 제목: Super Mario is mathier than you think
- 출처: MIT Technology Review
- 원문 기사 보러가기
