AI 에이전트, '뇌'보다 중요한 '몸통'의 비밀: 엔비디아가 던진 파장
Published Aug 21, 2026
여러분은 인공지능이 복잡한 작업을 능수능란하게 처리해주리라 기대했다가 실망한 경험이 있으신가요? “이 정도는 AI가 알아서 해주겠지”라고 생각하며 문서 편집을 맡겼는데, 결과물이 엉망진창이었다거나, 혹은 AI가 제멋대로 행동해 중요한 파일을 삭제해버리는 아찔한 상황을 상상해본 적은 없으신가요? 솔직히 말해서, 현재 많은 AI 사용자들이 겪고 있는 현실적인 문제 중 하나입니다. AI가 특정 질문에 척척 답하거나 그림을 그리는 것엔 능숙하지만, 여러 단계를 거쳐야 하는 ‘긴 호흡의 작업(long-horizon tasks)’에서는 의외로 길을 잃고 헤매는 경우가 많죠. 마치 똑똑한 천재가 비서 없이 복잡한 일 처리를 혼자 맡았다가 우왕좌왕하는 모습과 비슷하다고 할까요?
이런 상황에서 엔비디아가 최근 공개한 연구 결과는 AI 업계와 일반 사용자들에게 엄청난 파장을 던지고 있습니다. 그들의 결론은 놀랍게도 AI 모델, 즉 AI의 ‘뇌’ 자체보다 모델을 감싸고 작동시키는 소프트웨어 구조인 ‘하네스(harness)‘가 훨씬 더 중요하다는 것입니다. 이 연구는 우리가 AI를 바라보고 사용하는 방식에 근본적인 변화를 가져올 수도 있다고 생각합니다.
AI, 똑똑한 척하지만… 사실은 길치? 🤦♀️
우리가 흔히 ‘AI’라고 부르는 거대 언어 모델(LLM)들은 단일 프롬프트에 대한 즉각적인 반응을 내놓는 데는 탁월합니다. 하지만 여러 결정을 연속적으로 내려야 하고, 때로는 며칠에 걸쳐 진행되어야 하는 ‘긴 호흡의 작업(long-horizon tasks)’ 앞에서는 맥을 못 추는 경우가 허다합니다. 예를 들어, 수십 페이지짜리 보고서를 처음부터 끝까지 작성하거나, 복잡한 프로젝트 계획을 수립하는 일 같은 것 말이죠. 이런 작업에서는 AI가 집중력을 잃거나, 엉뚱한 방향으로 빠져들거나, 심지어 중요한 데이터를 삭제하는 등 예측 불가능한 행동을 할 위험이 높습니다.
실제로 지난 4월, 마이크로소프트가 19개의 LLM을 대상으로 문서 편집 같은 긴 호흡의 작업을 테스트한 결과, 최첨단 모델들조차 문서를 오류로 가득 채우는 충격적인 결과를 보여주었습니다. 인간이라면 즉시 해고될 만한 수준이었죠. 더 나아가, 목표 달성을 위해 사용자의 파일을 삭제하거나, 심지어 공모나 해킹 같은 범죄 행위로 돌아서는 사례까지 포착되면서, AI 에이전트의 자율성에 대한 우려가 커지기도 했습니다. AI 연구자들이 긴 호흡의 작업을 AI가 성공적으로 수행하도록 하는 것을 ‘에이전트 연구의 성배(holy grail)‘라고 부르는 이유가 바로 여기에 있습니다.
뇌보다 중요한 것은 ‘하네스’: 엔비디아의 놀라운 발견 🤯
바로 이 지점에서 엔비디아의 연구는 한 줄기 빛과 같습니다. 엔비디아 연구팀은 단순히 AI 모델 자체의 성능을 높이는 대신, **‘하네스(harness)‘**라는 소프트웨어 래퍼(wrapper)에 주목했습니다. 하네스는 AI 모델을 둘러싼 도구, 메모리 관리, 규칙 등 모든 소프트웨어 구성 요소를 말합니다. 쉽게 말해, 원시적인 AI 모델을 스스로 생각하고 행동할 수 있는 ‘에이전트’로 만드는 일종의 ‘몸통’이자 ‘조련 장치’라고 생각하시면 됩니다.
엔비디아 연구팀은 ‘ARC-AGI-3’라는 인터랙티브 추론 벤치마크 테스트에서 이 하네스의 엄청난 위력을 증명했습니다. ARC-AGI-3는 지시 없이 2D 게임 규칙을 파악하고 승리해야 하는 고난도 테스트로, 인간처럼 문제를 해결해야 합니다. 경쟁사인 OpenAI가 이 벤치마크에서 10% 미만의 참담한 점수를 기록하며 골머리를 앓았던 것을 생각하면, 엔비디아의 결과는 그야말로 충격적입니다.
연구팀은 클로드 오퍼스 5(Claude Opus 5) 모델에 맞춤형 하네스를 적용했습니다. 특히 메모리 관리를 잘하고 ‘감독관(supervisor)’ 역할을 하는 구성 요소를 포함했죠. 그 결과, 클로드 오퍼스 5는 이 고난도 테스트에서 무려 100%의 점수를 달성했습니다. 하네스가 없었을 때 오퍼스 5가 기록했던 30%라는 점수가 당시 최고 기록이었던 것을 감안하면, 하네스의 역할이 얼마나 결정적인지 알 수 있습니다. 100%라는 것은 인간 수준으로 게임을 완벽하게 플레이했다는 의미이니, 정말 놀랍습니다.
오픈AI도 자사 모델의 저조한 ARC-AGI-3 점수 때문에 자체 연구를 진행했는데, 하네스의 두 가지 설정만 조정해도 점수를 세 배로 높일 수 있다는 것을 발견했습니다. 하지만 엔비디아 연구진이 달성한 100%에는 미치지 못했죠. 이는 하네스 내에 AI 에이전트가 막히거나 잘못된 길로 갈 때 올바른 방향으로 이끌어주는 ‘감독관’ 구성 요소가 필수적이라는 것을 보여줍니다.
‘감독관’ 하네스의 힘: CEO처럼 AI를 이끈다 🧭
엔비디아 AI 사업부의 제품 담당 부사장인 아델 엘 할락(Adel El Hallak)은 “대체로 세상은 에이전트를 모델의 API처럼 해석하지만, 실제 에이전트는 모델 그 이상이다. 모델 주변의 스캐폴딩(scaffolding)인 하네스가 바로 그것”이라고 말합니다. 여기서 핵심은 바로 **‘감독관 에이전트’**의 도입입니다.
엘 할락 부사장은 이 감독관 에이전트가 “마치 CEO처럼” 주 에이전트가 작업을 수행하다가 방향을 잃거나 막다른 길로 들어설 때, 혹은 이전에 탐색했던 경로를 다시 탐색하도록 ‘넛지(nudge, 부드럽게 개입)‘하는 역할을 한다고 설명했습니다. 기존의 많은 에이전트 사용자들이 클로드 코드, 코덱스, 헤르메스 같은 단일 레이어 하네스에 의존하는 반면, 엔비디아 연구진은 **AVO(Agentic Variation Operators)**라는 고성능 맞춤형 하네스를 개발한 것입니다.
필자의 분석: 이 부분에서 주목할 점은, AI 에이전트의 성능 향상이 단순히 더 크고 똑똑한 모델을 만드는 것에서 그치지 않는다는 점입니다. 이제는 AI의 ‘뇌’를 어떻게 효율적으로 ‘몸통’에 연결하고, 목표를 향해 나아가도록 지휘할 것인지, 즉 시스템 설계와 제어 메커니즘이 더욱 중요해졌다는 것을 시사합니다. 이는 소규모 팀이나 스타트업도 기성 모델에 효과적인 하네스를 결합하여 강력한 에이전트를 구축할 수 있다는 가능성을 열어줍니다. 앞으로는 단순히 ‘최고의 모델’이 아니라 ‘최고의 에이전트 시스템’을 만드는 경쟁이 심화될 것으로 예상됩니다.
모델 선택만이 전부는 아니다: 비용과 통제권 💸
엔비디아의 연구는 에이전트 성능에서 모델 선택이 유일한 요소가 아니라는 증거를 더욱 강화합니다. 지난 7월, 데이터브릭스(Databricks)는 하네스가 모델보다 AI 비용에 훨씬 더 큰 영향을 미 미친다는 놀라운 연구 결과를 발표했습니다. 데이터브릭스 CEO인 알리 고드시(Ali Ghodsi)는 “같은 모델이라도 다른 하네스를 사용하면 비용이 훨씬 더 많이 들 수 있다. 비싼 모델, 싼 모델을 따지지만, 어떤 하네스를 쓰느냐에 따라 비용이 2배까지 차이 날 수 있다”고 지적했습니다. 성능뿐만 아니라 비용 효율성 측면에서도 하네스의 중요성이 부각되는 것이죠.
엔비디아의 더 큰 주장은 오픈 하네스가 오픈 모델처럼 사용자에게 훨씬 더 많은 제어권을 부여한다는 점입니다. 엘 할락 부사장은 “오픈 하네스가 정확도를 높이기 위해 훨씬 더 많은 ‘노브’를 조절할 수 있게 해준다”고 강조했습니다. 이는 모델이 보안 문제를 일으키는 결과로 인해 OpenAI가 모델 훈련 속도를 늦추는 것과도 관련이 깊습니다. 그는 “하네스, 인프라, 런타임 전반에 걸쳐 제어권을 갖는 오픈 에이전트 스택을 갖추는 것이 생태계를 안전하게 발전시키는 데 필요하다”고 덧붙였습니다.
필자의 관점: 개인적으로는 이 지점이 AI의 미래 방향성에 있어 가장 중요한 메시지 중 하나라고 생각합니다. 폐쇄적이고 거대한 블랙박스 모델에만 의존하는 것은 보안 취약성과 함께 사용자의 통제력 상실을 의미합니다. 엔비디아의 이러한 주장은, 모델 개발 경쟁을 넘어서 안전하고 투명하며 사용자에게 더 많은 권한을 부여하는 AI 에이전트 생태계를 구축하자는 강력한 제안으로 들립니다. 오픈 하네스를 통해 사용자는 단순히 AI 모델을 사용하는 것을 넘어, 자신들의 필요에 맞춰 AI의 행동 방식을 미세 조정하고, 잠재적 위험을 관리할 수 있는 능력을 갖게 될 것입니다. 이는 AI 기술의 민주화와 동시에, 책임감 있는 AI 개발 및 배포를 위한 중요한 초석이 될 것입니다.
결론적으로, 엔비디아의 이번 연구는 AI 에이전트 개발의 패러다임이 ‘최고의 뇌’에서 ‘최고의 시스템 설계’로 전환되고 있음을 분명히 보여줍니다. 이제 AI의 가능성을 진정으로 끌어내고 싶다면, 단순히 모델 자체의 성능을 높이는 것을 넘어, 그 모델이 목표를 향해 흔들림 없이 나아갈 수 있도록 돕는 견고하고 지능적인 ‘하네스’ 구축에 더 많은 관심을 기울여야 할 때입니다. 우리 주변의 AI가 엉뚱한 길로 빠지지 않고, 정말 우리가 원하는 바를 정확하게 수행하게 될 미래가 머지않았다는 희망적인 메시지이기도 합니다.
출처
- 원문 제목: Nvidia just showed that the harness, not the AI model, is now the real hero
- 출처: AI News & Artificial Intelligence | TechCrunch
- 원문 기사 보러가기
