Associated Press의 보고서에 따르면 인공지능 기술에 대한 기업의 유행인 "tokenmaxxing"이 한계에 부딪히고 있습니다. 모든 일에 AI를 사용하는 작업장은 생산성의 비슷한 급증 없이 비용만 증가하고 있기 때문입니다.
2026년 봄 기술 산업에 힘입어 OpenAI의 ChatGPT 및 Anthropic의 Claude와 같은 제품에서 AI 생성 작업을 최대한 많이 압축하겠다는 과장된 광고로 시작된 것이 여름철 반발로 바뀌었습니다. 경영진, 분석가 및 개발자는 이제 AI 토큰 소비를 극대화하는 것이 건전한 전략인지 공개적으로 의문을 제기하고 있습니다. AI 비즈니스 환경에 대한 지속적인 보도를 보려면 최신 AI 산업 보고서를 방문하세요.
유행의 흥망성쇠
"Tokenmaxxing"은 AI 시스템이 읽거나 쓰는 작은 텍스트 조각에 해당하는 생성 AI의 구성 요소인 토큰의 사용을 극대화하는 것을 의미합니다. 각 토큰은 대략 단어의 4분의 3을 나타내며 AI 제공업체는 일반적으로 사용 제한을 부과하며 더 비싼 구독일수록 더 높은 한도를 제공합니다.
이러한 추세는 기술 분야의 가장 저명한 리더들에 의해 적극적으로 추진되었습니다. OpenAI CEO인 Sam Altman은 2026년 5월 "tokenmaxxing 스타트업의 내부 작업 방식과 구축할 수 있는 제품 모두에서 어떤 일이 일어날지 기대된다"고 말했습니다. Nvidia CEO Jensen Huang은 "50만 달러의 엔지니어가 25만 달러의 토큰을 소모하지 않는다면 뭔가 잘못된 것입니다."라고 선언했습니다. Facebook의 모기업인 Meta는 높은 토큰 사용량에 대해 보상하는 내부 경쟁을 벌였습니다.
하지만 비용이 쌓이면서 열정은 식어갔습니다. Moody's Ratings의 AI 분석 책임자이자 보다 엄격한 접근 방식을 권장하는 새 보고서의 저자인 Vincent Gusdorf는 "청구서가 쌓이기 시작하면서 사람들은 새로운 도구가 상당히 비싸므로 현명하게 사용해야 한다는 것을 깨달았습니다."라고 말했습니다.
Gusdorf는 "AI를 사용하면 필요하지 않은 것을 만드는 것이 매우 쉽습니다."라고 덧붙였습니다.
경영진의 반발
반발은 기술 업계에서 가장 영향력 있는 일부 목소리에 의해 주도되었습니다. Microsoft CEO Satya Nadella는 tokenmaxxing이 중독성이 있을 수 있음을 인정하면서도 고객이 실제로 AI에 대해 두 배의 비용을 지불하고 있다고 경고했습니다. 첫 번째는 토큰에 지출하고 두 번째는 독점 데이터를 AI 제공업체에 제공함으로써 발생합니다. 나델라의 발언은 마이크로소프트 자체 AI 전략을 홍보하면서도 선도적인 AI 기업의 데이터 보호 보장에 대한 의구심을 불러일으킨다는 점에서 이례적이었다.
Palantir CEO Alex Karp는 더 나아가 CNBC에 뭔가 "완전히 잘못되었습니다"라고 말했습니다. 그는 아무런 가치도 창출하지 못하는 토큰에 막대한 금액을 지불하는 것에 대해 개인적으로 "분노적인" 미국 기업의 목소리를 전달하고 있다고 말했습니다.
Karp는 "이 나라 기업들 사이의 기본 견해는 '나는 토큰 때문에 긴장을 풀고 시간을 낭비할 것입니다. 나는 아무런 가치도 얻지 못할 것이며 그들은 내 IP를 얻을 것입니다'라고 말합니다."라고 Karp는 말했습니다.
Mozilla의 최고 기술 책임자인 Raffi Krikorian은 tokenmaxxing을 코드 줄로 프로그래머 생산성을 측정하는 신뢰할 수 없는 관행에 비유했습니다. "나는 tokenmaxxing이 똑같은 패턴을 통해 움직이고 있다고 생각합니다"라고 그는 말했습니다. "내 생각에 이것은 우리 모두가 1년 안에 웃으며 되돌아보게 될 흥미로운 순간이 될 것입니다."
대규모 비용 문제
재정적 영향은 기업 규모에서 극명해집니다. Bain & Company 경영 컨설턴트인 Jue Wang은 자신의 회사가 조언하는 많은 대기업이 AI 투자 수익을 면밀히 조사하고 있다고 말했습니다.
Wang은 "그들에 대한 토큰 비용은 거의 격월로 두 배로 증가했습니다"라고 말했습니다. "개발자당 월 200달러라고 가정해 보겠습니다. 여기에 20,000명의 개발자를 곱하면 됩니다. 이는 종종 우리가 이들 회사에서 상대하는 방식이며, 이는 일반 관리자가 계획한 항목이 아닌 숫자에 빠르게 도달하게 됩니다."
Wang은 일반적인 오용 패턴을 지적했습니다. 즉, 필요하지 않은 작업에 가장 강력하고 가장 비용이 많이 드는 AI 모델을 기본적으로 사용하는 것입니다. 그녀는 소프트웨어 엔지니어링이나 심층 연구에 적합한 Anthropic의 가장 유능한 모델 중 하나에 대해 "모든 것에 Claude Opus 4.6이 필요한 것은 아닙니다"라고 말했습니다. "하지만 이메일 생성을 포함한 모든 작업에 기본적으로 Opus를 사용하는 회사와 사용자가 너무 많습니다."
모델 라우팅 및 공개 가중치의 증가
비용 압박으로 인해 복잡한 작업을 위해 강력한 모델을 예약하면서 더 저렴하고 효율적인 AI 시스템에 간단한 쿼리를 자동으로 보내는 AI "모델 라우팅" 도구에 대한 수요가 높아졌습니다. 스타트업 투게더 AI(Together AI)에서 개발자 경험을 이끌고 있는 소프트웨어 개발자 하산 엘 음가리(Hassan El Mghari)는 미국 선두 기업의 AI 제품 구독에 지출한 '터무니없는 금액'에 대한 기업들의 충격으로 많은 사람들이 활용 극대화 접근 방식을 다시 생각하게 됐다고 말했다.
El Mghari는 "직원들에게 이러한 기능을 사용하는 방법에 대한 권한을 부여하고 필요할 때 얼마만큼 AI를 사용할 수 있도록 하는 것이 더 좋습니다."라고 말했습니다.
한편, 높은 토큰 소비를 지지하는 사람들은 Moonshot의 Kimi 및 Zhipu의 GLM과 같은 중국 스타트업의 개방형 모델에서 새로운 무기를 찾고 있습니다. 이는 적은 비용으로 미국 최고의 모델의 기능과 거의 일치합니다. Krikorian은 "이것이 tokenmaxxing을 좀 더 발전시킬 수 있다는 이론에 어느 정도 타당성"이 있음을 인정했지만, 더 광범위한 업계 추세는 보다 규율 있는 사용을 지향하고 있다고 주장했습니다.
기업을 위한 교훈
tokenmaxxing 에피소드는 AI 환경을 탐색하는 기업에 대한 경고 이야기를 제공합니다. OpenAI 및 Anthropic과 같은 선도적인 AI 모델 개발자는 소비 급증의 혜택을 누렸지만, 이러한 경험으로 인해 많은 조직은 AI가 원시 사용 지표를 최대화하기보다는 측정 가능한 수익을 제공하는 특정 사용 사례에 초점을 맞춘 보다 측정된 접근 방식을 채택하게 되었습니다.
초기 AI 과대 광고 주기가 실용적인 구현으로 바뀌면서 AI를 무딘 도구가 아닌 정밀 도구로 취급하고 올바른 모델을 올바른 작업에 연결하고 청구서를 면밀히 관찰하는 기업이 성공할 수 있습니다.
