OpenAI는 Broadcom과 협력하여 설계 및 제조된 Jalapeño라는 칩인 최초의 맞춤형 추론 프로세서를 공개했습니다. 이번 발표는 AI 서비스 뒤의 전체 하드웨어 스택을 소유하기 위한 ChatGPT 제조업체의 가장 중요한 단계를 의미하며, 현재 GPU가 가장 큰 언어 모델 배포를 지원하는 Nvidia에 대한 경쟁 압력을 강화합니다.

2026년 6월 24일에 공개된 이 프로세서는 사용자 요청에 응답하여 사전 훈련된 AI 모델을 실행하는 프로세스인 OpenAI 추론 시스템의 요구 사항을 위해 특별히 설계되었습니다. 출시를 보도한 TechCrunch에 따르면 회사는 자체 AI 모델이 칩 개발에 도움을 주기도 했다고 밝혔습니다. Jalapeño는 아직 테스트 중이지만 OpenAI는 초기 결과가 현재의 최첨단 대안보다 훨씬 더 나은 와트당 성능을 보여준다고 주장합니다. 이 이야기에 대한 자세한 내용은 인공지능 뉴스를 참조하세요.

훈련이 아닌 추론을 위해 제작된 칩

훈련과 추론의 차이는 OpenAI가 Jalapeño를 구축한 이유를 이해하는 데 핵심입니다. 처음부터 신경망을 교육하는 수개월에 걸친 컴퓨팅 집약적 프로세스인 프론티어 모델 교육은 계속해서 Nvidia 하드웨어에 크게 의존하게 될 것입니다. 이와 대조적으로 추론은 사용자가 메시지를 보낼 때마다 발생하며 ChatGPT와 같은 서비스를 실행하는 데 드는 지속적인 비용의 대부분을 차지합니다.

발표에서 OpenAI는 실시간 코딩 모델을 실행할 때 칩의 낮은 운영 비용, 즉 Codex와 같은 제품을 통해 추진해 온 일종의 에이전트 워크로드를 강조했습니다. TechCrunch는 플랫폼이 매일 처리하는 엄청난 양의 요청을 고려할 때 추론 비용을 약간만 줄여도 회사의 경제성을 의미 있게 향상시킬 수 있다고 보고했습니다.

Broadcom과의 설계 파트너십은 2025년 10월에 공식적으로 발표되었지만 OpenAI의 실리콘 야망은 훨씬 오랫동안 소문이 나 있었습니다. Reuters, Bloomberg, CNBC 및 Wall Street Journal은 모두 독립적으로 6월 24일 공개를 확인하여 출시에 따른 업계의 광범위한 관심을 알렸습니다.

풀스택 베팅

OpenAI는 인프라의 모든 계층을 제어하기 위한 광범위한 전략의 일부로 Jalapeño를 구성했습니다. 회사는 "프론티어 모델을 개발하거나 그 위에 제품을 구축할 뿐만 아니라 그 아래에 칩 아키텍처, 커널, 메모리 시스템, 네트워킹, 스케줄링, 배포 시스템 및 제품 경험 등 인프라를 설계하고 있다"고 썼습니다.

OpenAI 사장 Greg Brockman은 Broadcom 파트너십이 처음 공개된 직후 사내 팟캐스트에 대한 회사의 이론적 근거를 설명했습니다. Brockman은 "우리는 작업 부하를 깊이 이해하고 있습니다."라고 말했습니다. "우리는 실제로 서비스가 부족한 특정 워크로드를 찾고 있으며 가능한 작업을 가속화할 수 있는 무언가를 어떻게 구축할 수 있는지 묻고 있습니다."

OpenAI는 전체 스택에서 작동하기 때문에 각 계층은 단일 목표를 위해 최적화될 수 있다고 주장합니다. 즉, 사용자에게 모델을 더 빠르고 안정적이며 저렴하게 만드는 것입니다.

맞춤형 실리콘에서 Google과 Amazon에 합류

OpenAI가 자체 가속기를 구축한 최초의 AI 회사는 아닙니다. Google은 모델을 제공하기 위해 오랫동안 TPU(Tensor Process Unit)를 설계해 왔으며 Amazon은 AWS 고객을 위해 Trainium 및 Inferentia 칩을 개발했습니다. 이러한 소위 AI 가속기는 기계 학습 워크로드의 속도를 높이기 위해 특별히 조정된 실리콘이며 OpenAI 규모로 운영되는 모든 하이퍼스케일러의 경쟁 필수 요소가 되었습니다.

동기는 간단합니다. Nvidia의 범용 GPU는 강력하지만 비용이 많이 들고 가격과 가용성이 성장을 제한할 수 있는 단일 공급업체에 운영자를 연결합니다. 맞춤형 추론 칩을 통해 OpenAI는 수익에 가장 중요한 워크로드에 대한 비용, 공급 및 성능을 더 효과적으로 제어할 수 있습니다.

엔비디아에 남은 것

Jalapeño를 Nvidia로부터의 완전한 휴식으로 읽는 것은 실수입니다. AI 파이프라인에서 가장 성능 집약적인 작업, 특히 프론티어 모델의 사전 훈련은 여전히 ​​Nvidia의 GPU가 뛰어난 일종의 원시 범용 처리량을 요구하며 OpenAI는 여전히 Nvidia의 주요 고객입니다. 대신 Jalapeño는 특별히 제작된 칩이 엄청난 절감 효과를 제공할 수 있는 더 좁지만 막대한 추론 워크로드를 목표로 합니다.

이러한 좁은 초점은 칩을 신뢰할 수 있게 만드는 요소이기도 합니다. OpenAI는 전반적으로 Nvidia를 대체하려고 시도하는 대신 자체 워크로드에 대한 심층적인 지식이 우위를 점한다고 믿는 곳에서만 경쟁하고 있습니다. 이는 Google과 Amazon이 처음에 특수 가속기를 구축하게 만든 것과 동일한 논리입니다.

반도체 환경의 변화

이번 출시는 AI 반도체 환경이 더욱 광범위하게 개편되는 가운데 이루어졌습니다. 메모리 칩 거대 기업인 SK하이닉스는 급증하는 AI 메모리 수요를 활용하기 위해 약 290억 달러 규모의 미국 상장을 신청했으며, Amazon에서 Qualcomm에 이르는 기업들은 맞춤형 실리콘을 만들거나 인수하기 위해 경쟁하고 있습니다. OpenAI의 칩 설계 진출로 Nvidia가 지배했던 시장에 자금력이 풍부한 경쟁자가 하나 더 추가되었습니다.

현재 Jalapeño는 테스트 중이며 OpenAI는 자세한 성능 벤치마크나 배포 일정을 공개하지 않았습니다. 그러나 신호는 분명합니다. ChatGPT를 구축한 회사는 이제 이를 실행하는 하드웨어를 구축할 계획이며 이를 위해 수십억 달러를 기꺼이 지출할 의지가 있습니다.

Jalapeño가 초기 와트당 성능 약속을 이행하는지 여부에 따라 OpenAI가 비용 대비 얼마나 많은 영향력을 얻을 수 있는지, 그리고 AI 인프라 시장이 결국 단일 지배적인 칩 제조업체로부터 얼마나 많이 이동하는지가 결정됩니다.

---

AI 최신 소식

최신 AI 뉴스, 분석 및 혁신을 한 곳에서 확인하세요.

AI 뉴스 더 보기 →