AI, 다음 혁명의 문을 두드리다: '재귀적 자기 개선(RSI)'의 뜨거운 그림자
Published May 29, 2026
불과 몇 년 전까지만 해도 인공지능 분야의 가장 큰 화두는 단연 AGI, 즉 인공 일반 지능이었습니다. 인간처럼 사고하고 학습하며 어떤 지적 과제도 수행할 수 있는 궁극의 AI 시스템. 많은 이들이 AGI의 도래를 점치거나 우려했지만, 그 개념 자체가 모호하고 실현 가능성은 여전히 먼 미래처럼 느껴졌죠. 그런데 최근 AI 커뮤니티에는 AGI만큼이나 혹은 그 이상으로 강력하고 혁명적인, 그러나 동시에 파악하기 어려운 새로운 개념이 떠오르고 있습니다. 바로 **재귀적 자기 개선(RSI, Recursive Self-Improvement)**입니다.
이름만 들어도 벌써 복잡하게 들릴 수 있지만, 핵심은 간단합니다. RSI는 AI 시스템이 스스로를 끊임없이 업그레이드할 수 있는 능력을 의미합니다. 즉, AI가 자신이 가진 한계를 파악하고, 더 나은 알고리즘이나 구조를 고안하며, 스스로를 재구성하여 더욱 강력하고 효율적인 버전으로 진화하는 것이죠. 궁극적으로는 AI가 인간의 개입 없이도 이러한 개선 주기를 관리할 수 있게 되면, 그 과정은 오직 연산 능력에 의해서만 제한되는 **폐쇄 루프(closed loop)**에 진입하게 됩니다. 이 지점에 이르면 인간은 더 이상 AI의 발전에 필수적이지 않거나, 심지어 도움이 되지 않을 수도 있습니다. 섬뜩하게 들릴 수도 있지만, 많은 AI 연구소들이 이 비전을 쫓기 위해 열정적으로 매달리고 있는 것이 현실입니다.
RSI를 향한 선구자들의 담대한 도전
최근 몇 달 사이에 여러 새로운 AI 연구실들이 RSI를 명시적인 목표로 내세우며 전면에 등장했습니다. 이는 단순히 트렌드를 좇는 것이 아니라, AI의 다음 거대한 도약을 이끌어낼 잠재력에 대한 확신이 있기 때문입니다.
이번 달 초, 저명한 AI 연구자 **리처드 소처(Richard Socher)**는 자신의 새로운 스타트업에 ‘Recursive Superintelligence’라는 이름을 붙였습니다. 이름에서부터 RSI에 대한 강력한 의지가 엿보이죠. 소처는 론칭 당시 테크크런치와의 인터뷰에서 “우리의 주요 목표는 진정으로 재귀적이고 자가 개선하는 초지능을 대규모로 구축하는 것”이라며, “이는 연구 아이디어의 구상, 구현, 검증의 전체 과정이 자동화될 것을 의미한다”고 밝혔습니다. 인간 연구자의 역할이 거의 사라지는, 상상만 해도 대담한 비전입니다.
이러한 비전을 쫓는 이는 소처뿐만이 아닙니다. 테슬라와 오픈AI의 전설적인 인물인 **안드레이 카르파티(Andrej Karpathy)**는 ‘Auto-Research’라는 프로젝트를 통해 에이전트 스웜을 사용하여 LLM을 단순 작업에 훈련하고 있습니다. 그는 이 프로젝트에 대해 매우 개방적인 태도를 보여왔으며, 트위터를 통해 정기적으로 성과를 공유하고 심지어 그 구성 요소를 공개 GitHub 저장소에 올려두기도 했습니다. 사실 카르파티 스스로도 “아직은 새롭거나 획기적인 연구는 아니다”라고 인정했지만, 그의 작업은 GPT-2 스케일 모델의 작은 개선에 머물러 있음에도 불구하고 수많은 다른 연구자들이 RSI의 꿈을 따르도록 설득하기에 충분했습니다. 현재 카르파티가 앤트로픽에서 사전 훈련 작업을 맡고 있다는 점을 고려하면, 그가 이 아이디어를 더 큰 규모로 적용할 기회는 충분할 것으로 보입니다.
코히어(Cohere)와 구글 출신인 **사라 후커(Sara Hooker)**가 설립한 어댑테이션(Adaption) 또한 최근 ‘AutoScientist’라는 유사한 도구를 선보였습니다. 이 역시 최첨단 훈련을 자동화하기 위한 노력의 일환인데요, 카르파티의 오토-리서처처럼 점진적인 개선을 위해 에이전트를 훈련시키지만, 어댑테이션의 목표는 풀 스케일 프론티어 모델(full-scale frontier model)을 더 쉽게 훈련시키는 데 있습니다. 만약 이 시스템이 연구자들이 최첨단 기술을 발전시키는 데 도움을 주기 시작한다면, 빠르게 RSI와 매우 유사한 형태로 발전할 수 있을 것입니다.
디스어레이(Disarray)의 창업자 **도리스 신(Doris Xin)**은 최근 캐글(Kaggle) 대회에서 그녀의 자가 훈련된 머신러닝 에이전트가 28개의 메달을 획득하며 많은 인간 훈련 에이전트를 제쳤을 때, RSI에 대한 더욱 구체적인 관심을 불러일으켰습니다. 그녀는 가장 큰 과제가 신뢰성이라고 보는데요. “무한한 연산 자원과 무한한 시간만 있다면, 우리는 이미 그곳에 도달했다고 주장할 수 있습니다”라고 신은 말했습니다. 그녀는 “이것은 진정 창의적인 노력이 아닙니다. 단지 수많은 기본적인 엔지니어링일 뿐입니다”라며, RSI가 본질적으로 해결해야 할 기술적 난제에 대한 자신의 관점을 피력했습니다.
개인적으로 이 지점에서 주목할 점은, RSI가 얼핏 들으면 인류의 창의성을 뛰어넘는 혁명적인 도약처럼 보이지만, 이를 추구하는 선구자들은 오히려 시스템적이고 공학적인 접근에 집중하고 있다는 사실입니다. ‘창의적 노력’이 아니라 ‘기본적인 엔지니어링’이라는 도리스 신의 발언은, RSI가 철학적 개념을 넘어 구체적인 문제 해결과 최적화의 영역에 있음을 시사합니다. 이는 AGI가 다소 추상적인 ‘지능’ 자체를 목표로 했던 것과는 다른, 보다 실용적인 그러나 결코 쉽지 않은 접근 방식이라 할 수 있습니다.
현실과 이상 사이: 현재 AI의 자기 개선 능력은 어디까지 왔나?
이처럼 많은 AI 연구자들이 RSI의 실현을 위해 전력투구하고 있지만, AI 업계가 의미 있는 재귀 시스템에 아직 가까이 가지 못했다는 증거도 많습니다. 동시에 대중에게 AI의 진보에 대해 조심스럽게 설명하는 데에도 어려움을 겪고 있죠. 구글 CEO **순다르 피차이(Sundar Pichai)**는 최근 팟캐스트 인터뷰에서 이를 사실상 인정했습니다. “우리는 모두 분명히 진전을 이루고 있지만, 사람들이 RSI를 설명하는 방식대로라면 가속도의 다음 단계를 의미할 것이고 많은 함의를 가질 것입니다. 하지만 우리는 아직 그 단계에 이르지 못했습니다.”
하지만 ‘아직 이르지 못했다’는 말은 현재 AI 시스템들이 자기 개선의 연속선상에 있다는 것을 의미하기도 합니다. 그리고 실제로 많은 자기 개선 AI 시스템들이 이미 우리 생활과 연구 현장에 깊숙이 들어와 있습니다.
예를 들어, 지난 1월 앤트로픽(Anthropic)의 Claude Code를 담당하는 한 수석 프로그래머는 자신의 팀 코드 중 “거의 100%“가 이 도구에 의해 작성되었다고 솔직하게 인정했습니다. 이는 Claude Code가 문자 그대로 스스로 코드를 작성하고 있었다는 강력한 증거입니다. 엔지니어가 AI 도구를 사용한다고 해서 그 도구가 엔지니어를 대체할 수 있다는 뜻은 아니지만, 앤트로픽은 엔지니어를 대체하는 데도 가까워지고 있는 듯합니다. 최근 Mythos 프리뷰와 관련된 설문조사에서, 앤트로픽 엔지니어 18명 중 5명은 Mythos의 개선을 통해 이 버전이 곧 L4 엔지니어, 즉 감독 없이도 복잡한 프로젝트를 수행할 수 있는 중간급 프로그래머를 대체할 수 있을 것이라고 믿었습니다.
그럼에도 불구하고 예상할 수 있는 몇 가지 약점은 여전히 존재합니다. 보고서에 따르면, “L4 엔지니어와 비교했을 때 클로드의 주요 약점으로는 몇 주에 걸친 모호한 작업을 스스로 관리하는 능력, 조직의 우선순위를 이해하는 능력, 취향, 검증, 지시 따르기, 그리고 인식론적 측면”이 지적되었습니다. 다시 말해, 클로드의 약점은 자기 주도성과 관련된 모든 것이며, 이는 RSI의 핵심 기반이라고 할 수 있습니다. 코드 작성 등 특정 기능에서는 강력하지만, 전체적인 방향 설정과 판단력에서는 아직 인간의 영역이 건재한 셈입니다.
AGI처럼, 예측 불가능한 RSI의 미래
AGI 용어 이전과 마찬가지로, AI 산업은 의미 있는 재귀 시스템을 선보이는 데 얼마나 멀리 떨어져 있는지 정확히 말할 수 없습니다. 작년에 조지타운의 안보 및 신흥 기술 센터(CSET)가 RSI를 연구하기 위해 전문가 그룹을 소집했을 때, 그룹은 평가에서 큰 의견 차이를 발견했습니다. 일부는 임박한 “초지능” 스타일의 폭발을 예상했지만, 다른 이들은 더딘 진전과 결국 고원에 도달할 것이라고 예측했습니다. 하지만 모두가 재귀가 미래를 예측하기 특히 어렵게 만든다는 점에는 동의했습니다.
CSET의 헬렌 토너(Helen Toner) 이사(전 오픈AI 이사회 멤버)는 단순히 AI 도구를 사용하여 AI 연구를 하는 것만으로는 RSI로 자격이 충분하지 않다고 지적합니다. “그들은 가능한 한 AI를 많이 사용할 뿐입니다”라고 토너는 말합니다. “그리고 저는 그것이 고전적인 RSI의 정의와는 다르다고 생각합니다. 고전적인 RSI는 정말 인간이 필요 없는 상태를 의미합니다.”
토너는 METR의 아제야 코트라(Ajeya Cotra)의 최근 게시물을 언급하며, AI 연구 점령 경로상의 여러 이정표를 구분합니다.
- 적절성(Adequacy) 단계는 모든 인간이 제거된 후에도 시스템이 연구를 수행할 수 있는 때를 말합니다. 비록 그 결과물이 인간이 했을 때만큼 가치 있거나 효율적이지 않더라도 말이죠.
- 동등성(Parity) 단계는 AI 전용 시스템이 인간 전용 시스템만큼 연구를 잘 수행할 때를 의미합니다.
- 최종 단계인 **우위(Supremacy)**는 AI 전용 시스템이 인간과 AI 간의 협력 시스템보다 뛰어난 성능을 발휘할 때 도달합니다.
궁극적으로 ‘인간이 필요 없는’ 상태에 도달하는 것이 RSI의 진정한 목표이자 가장 큰 난관이라는 점이 명확해집니다. 현재의 AI 시스템들이 보여주는 놀라운 자기 개선 능력에도 불구하고, 이 모든 것은 아직 ‘적절성’ 또는 ‘동등성’ 단계의 초기 형태에 머물러 있을 뿐, 완전한 ‘우위’까지는 갈 길이 멀다는 것이죠.
RSI는 분명 AI의 다음 시대를 이끌 강력한 개념입니다. AI가 스스로 진화하고 개선하며 인간의 개입 없이도 지식의 한계를 확장해 나가는 미래는 상상만으로도 경외심을 불러일으킵니다. 그러나 동시에 그 과정에서 발생할 수 있는 윤리적, 사회적, 심지어 존재론적 질문들은 무겁게 다가옵니다. AGI가 그랬던 것처럼, RSI 역시 그 정의와 실현 가능성, 그리고 그로부터 파생될 결과에 대한 논의가 계속될 것입니다. 중요한 것은 이 뜨거운 추격전이 이미 시작되었고, 우리가 생각하는 것보다 훨씬 빠른 속도로 진화하고 있다는 사실입니다. 우리는 AI가 스스로의 미래를 써 내려가는 이 역사적인 순간을 목도하고 있습니다.
출처
- 원문 제목: RSI is the new AGI — and it’s just as hard to pin down
- 출처: AI News & Artificial Intelligence | TechCrunch
- 원문 기사 보러가기
