OpenAI telah menerbitkan hasil benchmark pertama untuk Jalapeño, chip inferensi khusus miliknya, dan angka-angkanya mencengangkan: pada benchmark InferenceX SemiAnalysis, silikon baru ini mencatatkan lebih banyak token per pengguna dan lebih banyak throughput per kilowatt dibandingkan prosesor inferensi canggih yang tersedia saat ini — sebuah perbandingan yang mencakup sistem Blackwell milik Nvidia. Hasilnya dipresentasikan pada hari Selasa di konferensi Hot Chips di Palo Alto, bersamaan dengan penjelasan teknis rinci tentang bagaimana chip tersebut dibuat. Bagi pembaca yang melacak perlombaan komputasi yang mendasari setiap rilis model AI, ini adalah salah satu titik data perangkat keras yang paling penting tahun ini.
“Intinya adalah bahwa hasilnya menunjukkan kemajuan kinerja yang sangat, sangat signifikan dibandingkan yang canggih,” kata Richard Ho, kepala perangkat keras OpenAI, dalam panggilan pers yang dilansir TechCrunch. “Jalapeño dapat melayani lebih banyak pekerjaan AI per unit daya, sekaligus memberikan respons lebih cepat. Jalapeño sangat efisien untuk melayani banyak pelanggan, namun latensinya juga sangat rendah.”
Chip yang Dibuat untuk Saluran Inferensi Penuh
Jalapeño diluncurkan pada bulan Juni 2026 sebagai silikon khusus pertama OpenAI, yang dikembangkan melalui kerja sama erat dengan Broadcom, dengan model AI milik OpenAI yang membantu proses pengembangan chip tersebut. Kemitraan ini dimulai pada Oktober 2025, ketika OpenAI menyusun rencana untuk program akselerator khusus multigenerasi bersama raksasa jaringan tersebut.
Apa yang membuat Jalapeño berbeda dari GPU tujuan umum, menurut OpenAI, adalah bahwa Jalapeño dirancang sesuai dengan model yang akan dilayaninya. Karena perusahaan mengendalikan seluruh tumpukan – produk AI, model, chip, dan memori – para insinyurnya mampu menyerang fase tertentu dari proses inferensi yang sering menyebabkan gesekan.
Secara khusus, Jalapeño dirancang untuk meminimalkan penundaan selama fase pemrosesan pra-pengisian dan komunikasi, yang menurut OpenAI sering kali menjadi penghambat saat menyajikan model bahasa besar dalam skala besar.
“Kami merancang Jalapeño untuk meminimalkan pergerakan data dan penundaan komunikasi,” tulis perusahaan itu dalam postingan blog yang memaparkan hasilnya. “Ini berarti bahwa status model, termasuk cache KV yang digunakan saat menghasilkan respons, dapat ditempatkan secara eksplisit dan disimpan secara lokal sementara sistem mengaktifkan kombinasi komputasi, memori, dan jaringan yang tepat untuk setiap fase inferensi.”
Poin terakhir ini penting bagi siapa pun yang menjalankan beban kerja AI produksi. Cache KV — akumulasi konteks yang dimiliki model saat menghasilkan respons — adalah salah satu permasalahan memori dan bandwidth terbesar dalam inferensi modern. Menjaga agar tetap lokal dan dikelola secara eksplisit, dibandingkan memindahkannya ke seluruh cluster, adalah cara klasik untuk mendapatkan kembali latensi dan kekuatan.
Lebih Baik Dari Blackwell — Untuk Saat Ini
Perbandingan utama ini bertentangan dengan sistem Nvidia Blackwell, yang saat ini merupakan pekerja keras dalam inferensi AI frontier. Analisis independen yang diterbitkan pada hari yang sama oleh SemiAnalysis, berjudul "OpenAI Jalapeño: Better than Nvidia Blackwell," mencapai kesimpulan serupa tentang hasil awal chip tersebut, dan cerita tersebut dengan cepat menjadi salah satu item yang paling banyak dibahas di Hacker News.
Namun para eksekutif dan analis OpenAI sama-sama mendesak agar berhati-hati. Ho memperkirakan bahwa Jalapeño akan diterapkan pada akhir tahun 2026 "dalam volume yang sangat kecil", dan penerapan yang lebih signifikan akan dilakukan pada tahun 2027. Pada saat Jalapeño mencapai skala penuh, persaingan mungkin telah meningkat secara signifikan — peta jalan Nvidia terus bergerak, dan perusahaan hyperscaler lainnya termasuk Google, Amazon, dan Microsoft semuanya mendorong silikon khusus mereka sendiri.
Seperti yang dicatat oleh TechCrunch, tolok ukur yang diukur berdasarkan kecanggihan saat ini hanyalah gambaran singkat, bukan jaminan. Sebuah chip yang unggul dalam hal efisiensi pada tahun 2026 harus terus menang melawan apa pun yang dikirimkan Nvidia dan para pesaingnya tahun depan.
Mengapa OpenAI Membuat Silikonnya Sendiri
Logika strategisnya sangat jelas: inferensi adalah biaya berulang terbesar bagi OpenAI. Setiap kueri ChatGPT, setiap panggilan API, dan setiap tugas agen membakar komputasi, dan menyewa komputasi tersebut dari Nvidia dengan harga pasar akan mengurangi margin seiring dengan skala penggunaan. Sebuah chip khusus yang disesuaikan dengan model OpenAI sendiri — dirancang bersama dengan Broadcom dan dibentuk oleh model OpenAI sendiri — memberi perusahaan cara untuk melayani lebih banyak pengguna per watt dan per dolar.
Jalapeño juga direncanakan sebagai platform multigenerasi dan bukan hanya satu kali saja. OpenAI mengatakan pihaknya bermaksud untuk mengembangkan produk, model, chip, dan memori AI bersama-sama, sehingga setiap generasi silikon dapat dioptimalkan dengan model yang akan dijalankannya. Jika hasil generasi pertama bertahan dalam produksi, Jalapeño menjadi contoh untuk semua produk berikutnya.
Taruhannya melampaui OpenAI. Dominasi Nvidia terhadap akselerator AI telah menjadi hambatan paling ketat dalam industri ini selama tiga tahun, dan setiap alternatif yang kredibel – baik dari tim TPU Google, Amazon, atau sekarang OpenAI – mengubah lanskap negosiasi bagi semua orang yang membangun infrastruktur AI. Nvidia sendiri dilaporkan memperingatkan pelanggan akan kenaikan harga sebesar 15 persen atau lebih pada server AI karena melonjaknya biaya memori, yang hanya mempertajam daya tarik alternatif internal.
Apa yang Terjadi Selanjutnya
Untuk saat ini, Jalapeño masih menjadi bagian pra-produksi dengan jumlah kertas yang menjanjikan. Ujian sebenarnya akan tiba pada akhir tahun 2026, ketika volume kecil pertama diterapkan, dan khususnya pada tahun 2027, ketika OpenAI mengharapkan skala yang berarti. Pertanyaan-pertanyaan utama masih belum terjawab: keandalan di dunia nyata pada skala pusat data, total biaya kepemilikan versus kapasitas sewa Blackwell, dan apakah keunggulan efisiensi dapat bertahan dibandingkan generasi Nvidia berikutnya.
Namun, tolok ukur pertama ini menandai sebuah tonggak sejarah: pertama kalinya salah satu laboratorium AI besar secara terbuka mendemonstrasikan silikon inferensi khusus yang tampaknya mengalahkan yang terbaik dari petahana dalam hal efisiensi. Bagi industri yang menganggap pasokan Nvidia sebagai sumber kehidupan yang strategis, hal ini merupakan titik perubahan yang nyata.
---
Tetap Terdepan dalam AIDapatkan berita, analisis, dan terobosan AI terkini — semuanya di satu tempat.
Baca berita AI selengkapnya →
