새로운 종류의 AI 모델이 이번 주에 데뷔했는데, 이는 트랜스포머 아키텍처를 기반으로 구축된 모델에서는 특이한 작업을 수행합니다. 즉, 텍스트 한 단어도 생성하지 않습니다. TechCrunch에 따르면, 2년 된 스타트업 TypeSafe AI가 출시한 Jev는 대신에 회사에서 입력된 보정된 결정이라고 부르는 보정된 확률을 출력하여 분류, 라우팅 및 자동화 작업을 위한 대규모 언어 모델에 대한 저렴하고 빠른 대안으로 자리매김했습니다.

이 회사는 ChatGPT 구축을 도왔고 현재 세대의 AI 보조원을 형성하는 데 널리 알려진 교육 기술인 인간 피드백 강화 학습(RLHF)의 발명에 기여한 OpenAI 연구원인 Diogo Almeida에 의해 설립되었습니다. 새로운 모델에 대한 수요가 너무 강해서 TypeSafe는 출시 후 일부 API 사용자에게 서비스를 제공할 수 있는 능력을 잠시 상실했습니다. 이 이야기에 대한 자세한 내용은 인공지능 뉴스를 참조하세요.

ChatGPT 개척자가 언어를 포기한 이유

텍스트가 아닌 모델로의 Almeida의 경로는 OpenAI에 대한 실망으로 시작되었습니다. Almeida는 TechCrunch와의 인터뷰에서 ChatGPT의 기능에도 불구하고 이 기술이 진정한 자동화에 미치지 못한다는 좌절감을 설명하면서 "우리는 번개를 병 속에 갖고 있지만 아직 유용하지 않습니다."라고 말했습니다. "그 이후로 나는 그 문제와 싸워왔습니다. 결론에 도달하는 데 시간이 좀 걸렸습니다. 문제는 우리가 인간의 언어에 맞게 최적화하고 있다는 것입니다. 우리는 4년 동안 인간의 언어에 매우 능숙했지만 컴퓨터는 다른 언어를 사용하기 때문에 자동화에는 유용하지 않습니다."

2년 전, Almeida는 OpenAI를 떠나 TypeSafe AI를 설립하고 그 논문을 추구했습니다. 그 결과 회사가 대규모 언어 모델이 아니라고 주장하는 변환기 기반 모델인 Jev가 탄생했습니다. LLM이 개방형 텍스트를 생성하는 경우 Jev는 사용자가 미리 정의한 일련의 출력에 걸쳐 확률을 반환합니다. 회사에서는 이 디자인이 모델이 주어진 옵션으로만 대답할 수 있기 때문에 환각을 구조적으로 불가능하게 만든다고 말합니다.

효율성 향상은 프레젠테이션의 핵심 부분입니다. TechCrunch에 따르면 Jev의 출력 토큰은 무료이며 입력 토큰은 백만 개가 아닌 10억 단위로 측정됩니다. 이 회사는 Jev를 추론보다는 직관에 초점을 맞춘 "System One 모델"이라고 설명하며 Almeida가 보정된 결정을 통해 강화 학습이라고 부르는 기술을 사용하여 합성 데이터에 대해서만 훈련을 받았다고 말합니다.

TypeSafe는 Jev의 아키텍처를 비밀로 유지했지만 외부 관찰자들은 시스템이 개방형 LLM 위에 구축되었다고 의심합니다. Almeida는 TechCrunch에 "[우리 회사]의 절반은 기본적으로 통계적으로 잘 이해된 합성 데이터의 전체 하위 필드를 소유하는 연구소입니다. 이는 이제 내 인생의 기쁨입니다."라고 말했습니다.

초기 개발자 결과: 더 빠르고 저렴해졌습니다.

얼리 어답터들은 테스트에서 주목할만한 이득을 보고했습니다. Vercel의 소프트웨어 엔지니어인 Pranit Sharma는 TechCrunch에 그의 회사가 OpenAI의 ChatGPT Luna 5.6을 사용하여 안전을 위한 명령을 검토하는 분류기를 실행했다고 말했습니다. 해당 워크로드를 Jev로 전환한 후 Vercel은 5~18배 더 빠르고 더 정확한 결과를 확인했습니다.

Bryo AI의 CTO인 Nikhil Mudholkar는 Jev의 비즈니스 이메일을 Google의 Gemini와 비교하여 다른 비교를 실시했습니다. 그의 테스트에서 Gemini는 약간 더 정확했지만 10~20배 더 비쌌습니다. Mudholkar의 경우 Jev의 가장 귀중한 자산은 불확실성 처리였습니다. 그는 TechCrunch에 "워크플로우 자동화에 이상적인 실제 확률을 제공하는 유일한 제품입니다"라고 말했습니다.

계산서 없이 에이전트를 감시하는 에이전트

TypeSafe는 분류 작업에서 LLM을 교체하는 것 외에도 Jev가 LLM을 감시할 수 있다고 주장합니다. AI 에이전트를 사용하여 다른 에이전트를 모니터링하는 것은 비용이 빨리 들지만 Almeida는 Jev의 속도와 비용 프로필을 통해 LLM 에이전트 추적을 추적하고 탈옥을 실시간으로 방지하는 것이 실용적이라고 주장합니다.

Earendil의 CTO이자 오픈 소스 모델 하네스 Pi의 개발자인 Armin Ronacher는 TechCrunch에 이 접근 방식이 불확실성에 대한 책임을 개발자에게 전가한다고 말했습니다. "이것은 환각 문제를 사용자에게 약간 위임합니다"라고 Ronacher는 말했습니다. "사용자는 '알겠습니다. 이것이 50% 확률로 돌아오면 동전 던지기일 수도 있으니 무시합니다. 하지만 95%라면 물론 뭔가를 할 수 있습니다.'라고 말해야 합니다.

Ronacher는 또한 모델 라우팅을 유망한 사용 사례로 지정했습니다. 즉, 주어진 워크로드에 더 비싼 특정 모델이 필요한지 여부를 예측하는 것입니다. LLM을 사용하여 정렬을 수행하면 비용이 많이 들지만 Jev의 낮은 대기 시간과 가격으로 인해 실시간 라우팅이 가능해집니다.

경제학에서 빌려온 이름

이 모델은 제본스 역설(상품이 저렴해지면 소비가 증가하는 경향이 있다는 관찰)을 주장한 19세기 경제학자 윌리엄 스탠리 제본스(William Stanley Jevons)의 이름을 따서 명명되었습니다. Almeida는 의사 결정 수준 인텔리전스의 비용 절감으로 인해 주력 챗봇뿐만 아니라 모든 곳에 배포될 것이라고 확신합니다.

Almeida는 TechCrunch에 "우리는 출현하고 배포되는 방식으로 곳곳에 스마트 소프트웨어가 있을 것이라고 생각합니다... 사람들이 지금 구축하려고 하는 대형 앱보다 초기 인터넷과 훨씬 더 비슷합니다"라고 말했습니다.

경쟁업체가 이를 따를지 여부는 여전히 공개된 질문으로 남아 있습니다. Ronacher는 TechCrunch에 "우리는 이것을 여러 가지 면에서 더 일찍 봤어야 했지만 아마도 LLM이 너무 저렴하고 보조금을 받기 때문에 아직 창의력을 발휘할 필요가 없는 경우가 많습니다"라고 말했습니다. TypeSafe는 새로운 방식으로 Jev의 추가 버전을 계획하고 있습니다.

TypeSafe가 프론티어 연구소로 간주되는지 여부에 대해 Almeida는 다음과 같이 날카로운 대답을 제시했습니다. "프론티어 연구소의 주요 제품은 두려움이나 과대광고입니다. 저는 우리의 주요 제품이 지능이기를 바랍니다... [그러나 우리는] 무한한 부나 종교, 데이터 센터에 신을 세우는 것과 같은 의미에서 실험실이 아닙니다."

---

AI 최신 소식

최신 AI 뉴스, 분석 및 혁신을 한 곳에서 확인하세요.

AI 뉴스 더 보기 →