LLM의 한계를 넘어선 ‘Jev’: 왜 개발자들은 열광하는가?

우리가 현재 누리는 AI 혁명의 가장 큰 주역 중 하나인 RLHF(인간 피드백 기반 강화 학습) 기법을 공동 개발하고 ChatGPT를 구축했던 OpenAI 연구원, 디오고 알메이다. 그의 입에서 “우리는 병 안에 번개를 가두었지만, 그것은 유용하지 않다”라는 충격적인 발언이 나왔습니다. 사실 이 말은, 그가 LLM의 탁월한 언어 처리 능력에도 불구하고, 실제 소프트웨어 자동화 분야에서는 여전히 본질적인 한계가 있다고 통감했음을 의미합니다.

인간의 언어에 최적화된 LLM은 컴퓨터가 사용하는 ‘언어’와는 너무나도 달랐던 것이죠. 느리고, 비싸고, 때로는 멋대로 정보를 지어내는 환각(hallucination) 문제까지. 이것은 강력한 도구를 가졌음에도 불구하고, 정작 중요한 지점에서 발목을 잡는 ‘아킬레스건’과 같았습니다. 2년 전, 알메이다는 이 문제를 해결하기 위해 OpenAI를 떠나 TypeSafe AI를 설립했고, 마침내 그의 해답인 새로운 변환기(transformer) 기반 모델, Jev를 세상에 선보였습니다. 그리고 그 결과는, 업계에 작은 파문을 일으키고 있습니다.

언어를 버리고 ‘확률’을 택하다: Jev의 혁신적인 접근

Jev는 기존의 대규모 언어 모델(LLM)이 아닙니다. 텍스트를 출력하는 대신, 확률, 즉 TypeSafe AI가 **‘보정된 결정(calibrated decisions)‘**이라고 부르는 것을 생성합니다. 이 부분이 Jev의 가장 핵심적인 혁신이라고 할 수 있는데요, 인간의 언어를 벗어던짐으로써 얻게 되는 이점들은 실로 놀랍습니다.

• 극도로 저렴하고 빠르다: 출력 토큰이 무료이며, 입력 토큰은 100만 개 단위가 아닌 10억 개 단위로 과금됩니다. 이는 비용 효율성 측면에서 LLM과는 비교할 수 없는 수준입니다.
• 환각(Hallucination)이 없다: 사용자가 미리 출력을 정의하기 때문에, Jev는 멋대로 정보를 지어낼 가능성이 원천적으로 차단됩니다. ‘신뢰성’이라는 측면에서 소프트웨어 자동화에 필수적인 요소이죠.
• “System One 모델”: 알메이다는 Jev를 ‘직관’에 초점을 맞춘 “시스템 1 모델”이라고 설명합니다. 추론보다는 특정 작업에 특화된 직관적인 판단을 내리는 데 강점이 있다는 의미입니다.

이러한 특성 덕분에 Jev는 출시 직후 개발자들 사이에서 폭발적인 관심을 끌었습니다. 수요가 너무 많아 한때 API 서버가 감당하지 못할 정도였다고 하니, 그 열기가 얼마나 뜨거운지 짐작할 수 있습니다. 사실 이건 AI 기술이 단순한 ‘말 잘하는 챗봇’을 넘어, 실제 산업 현장의 효율성과 직결되는 ‘지능형 도구’로 진화하고 있음을 보여주는 중요한 지표라고 생각합니다. 개인적으로는 이 지점에서 Jev가 AI 기술의 새로운 ‘지평’을 열 가능성이 매우 높다고 봅니다. LLM이 가져온 충격이 ‘범용 지능의 가능성’을 보여줬다면, Jev는 ‘실용적이고 효율적인 지능의 구현’이라는 새로운 방향을 제시하는 것이죠.

현장에서 증명된 Jev의 놀라운 성능

그렇다면 Jev는 실제 어떤 문제들을 해결하고 있을까요? 몇 가지 구체적인 사례를 통해 Jev의 가치를 더 깊이 이해해 봅시다.

• Vercel의 혁신: 에이전트 기반 인프라를 구축하는 Vercel의 소프트웨어 엔지니어 Pranit Sharma는 명령 안전성 검토 분류기로 OpenAI의 ChatGPT Luna 5.6을 사용하고 있었습니다. 그런데 이를 Jev로 교체하자, 결과는 5배에서 18배까지 빨라졌고 정확도 또한 높아졌습니다. 속도와 정확성이라는 두 마리 토끼를 모두 잡은 셈입니다.
• Bryo AI의 비용 효율성: Bryo AI의 CTO Nikhil Mudholkar는 비즈니스 이메일 분류에 Jev를 Gemini와 비교 테스트했습니다. Gemini가 아주 약간 더 정확했지만, Jev는 무려 10배에서 20배 더 저렴했습니다. Mudholkar는 특히 Jev의 **‘확신 점수(confidence scores)‘**에 주목했습니다. Jev가 ‘진정한 확률’을 반환하여 워크플로우 자동화에 이상적이라는 것이죠.
• LLM 에이전트의 ‘감시자’ 역할: Jev는 단순히 LLM을 대체하는 것을 넘어, LLM을 보강하는 역할도 수행할 수 있습니다. 예를 들어, LLM 에이전트의 오작동을 모니터링하고 **‘탈옥(jailbreaks)‘**을 방지하는 스마트한 검증 도구로 활용될 수 있습니다. 에이전트가 다른 에이전트를 모니터링하는 데 LLM을 사용하면 비용이 크게 들지만, Jev를 사용하면 훨씬 효율적입니다.
• 모델 라우팅의 효율성: 특정 작업 부하에 어떤 모델이 필요한지 예측하는 모델 라우팅 또한 Jev의 강력한 잠재적 활용 분야입니다. 이 작업에 LLM을 사용하면 비용이 많이 들지만, Jev의 낮은 비용과 빠른 속도는 이러한 실시간 분류를 가능하게 합니다.

이러한 사례들은 Jev가 단순히 기술적 호기심을 넘어, 실제 산업 현장에서 비용 절감, 효율성 증대, 신뢰성 향상이라는 구체적인 가치를 제공하고 있음을 명확히 보여줍니다. 특히 LLM의 단점들을 정확히 공략하여, 마치 LLM이 미처 닿지 못했던 사각지대를 파고드는 듯한 인상마저 줍니다.

Jevons 역설과 ‘지능의 대중화’

Jev의 이름은 19세기 경제학자 윌리엄 스탠리 제본스(William Stanley Jevons)에서 따왔습니다. 그의 이름을 딴 **‘제본스 역설(Jevons Paradox)‘**은 어떤 상품의 비용이 하락하면 그 사용량이 오히려 증가한다는 경제 현상을 설명합니다. 알메이다는 이 역설이 지능의 세계에도 적용되기를 희망합니다. 즉, 지능의 비용이 하락하면, 그만큼 지능이 더 널리, 그리고 더 깊이 활용될 것이라는 비전을 제시하는 것입니다.

알메이다는 “우리는 어디에나 스마트 소프트웨어가 출현하고 분산될 것이라고 생각한다”고 말합니다. 그가 꿈꾸는 미래는 지금 사람들이 구축하려는 ‘메가 앱’보다는 ‘초기 인터넷’처럼 더 개방적이고 분산된 지능 생태계에 가깝습니다. 이러한 비전은 AI 기술의 접근성을 높여 더 많은 개발자와 기업이 지능형 솔루션을 쉽게 구현할 수 있게 할 것이라는 점에서 매우 중요합니다.

앞으로의 전망: 새로운 AI 경주의 시작?

알메이다는 Jev의 아키텍처에 대해 극도로 말을 아끼고 있지만, 외부 관측자들은 Jev가 오픈 가중치 LLM 위에 구축되었을 가능성을 제기하고 있습니다. 하지만 그보다 더 중요한 것은, Jev가 **합성 데이터(synthetic data)**만을 사용하여 **‘보정된 결정으로부터의 강화 학습(reinforcement learning from calibrated decisions)‘**이라는 독자적인 기법으로 훈련되었다는 점입니다. 알메이다는 이 ‘데이터 자체를 만드는’ 방식이 자신의 인생 최고의 베팅이었다고 말할 정도로 자부심을 가지고 있습니다.

물론, 현재 Jev는 이러한 종류의 모델 중 독보적인 위치를 차지하고 있지만, 다른 경쟁자들이 빠르게 등장할 것으로 예상됩니다. Earendil의 CTO Armin Ronacher는 “LLM이 너무 저렴하고 보조금을 받았기 때문에, 종종 창의적일 필요가 없었지만, 이제 Jev의 유용성이 명백해졌으므로 경쟁자들이 나타날 것”이라고 언급했습니다.

TypeSafe AI는 Jev의 더 많은 버전을 새로운 양식으로 구축할 예정입니다. 알메이다는 TypeSafe가 ‘두려움이나 과대광고’가 아닌 ‘지능’ 그 자체를 추구하는 ‘프런티어 연구소’가 되기를 바란다고 말합니다. 그의 목표는 데이터 센터에서 신을 만들거나 무한한 부를 좇는 것이 아니라, 오로지 실용적이고 보정된 지능을 통해 세상을 바꾸는 것입니다.

Jev의 등장은 LLM 위주의 AI 개발 패러다임에 신선한 충격을 던져주고 있습니다. 모든 문제에 LLM이 최선의 답은 아니라는 명확한 메시지를 전달하며, 특정 목적에 최적화된 ‘작지만 강한’ AI 모델의 가능성을 열어젖혔습니다. 이제 AI 업계는 더 빠르고, 저렴하며, 신뢰할 수 있는 지능을 향한 새로운 경쟁의 서막을 맞이하고 있습니다.

---

출처

• 원문 제목: A new kind of AI model from a ChatGPT inventor is thrilling developers
• 출처: AI News & Artificial Intelligence | TechCrunch
• 원문 기사 보러가기