Tren yang berkembang dalam adopsi AI di tingkat perusahaan menciptakan penghematan bagi perusahaan dan juga menyulitkan penyedia model AI terbesar. Perutean model – praktik mengarahkan kueri AI secara dinamis ke berbagai model berdasarkan kompleksitas – semakin mendapat perhatian seiring dengan upaya perusahaan untuk mengoptimalkan pengeluaran AI mereka.

Menurut laporan dari CNBC, perutean model telah muncul sebagai tren yang signifikan pada tahun 2026 ketika perusahaan berupaya mengendalikan kenaikan biaya penerapan AI dalam skala besar. For more context on this story, see our ongoing AI news.

Cara Kerja Perutean Model

Konsepnya sederhana: tidak semua tugas AI memerlukan model frontier. Sistem perutean model menganalisis kueri masuk dan mengarahkannya ke model paling hemat biaya yang dapat menangani tugas tersebut:

  • Kueri sederhana (pertanyaan dasar, pemformatan, ringkasan sederhana) dialihkan ke model yang lebih kecil dan lebih murah
  • Tugas kompleks (coding, analisis, penulisan kreatif) dikirim ke model frontier seperti GPT-5 atau Claude 4
  • Operasi rutin (ekstraksi data, klasifikasi) menggunakan model kecil khusus

Ekosistem alat dan startup yang berkembang telah muncul untuk menyediakan model perutean sebagai layanan. Platform seperti yang terlihat di Hacker News menawarkan API terpadu yang secara otomatis memilih model terbaik untuk setiap permintaan.

Penghematan Biaya

Dampak finansialnya bisa sangat besar. Perusahaan melaporkan pemotongan pengeluaran AI API mereka sebesar 40-70% dengan mengarahkan kueri sederhana ke model yang lebih murah. Dengan biaya panggilan API model frontier yang jauh lebih mahal dibandingkan model yang lebih kecil, penghematannya semakin besar.

Salah satu postingan Hacker News pada bulan Juni 2026 menyoroti alat yang mengklaim dapat memotong lebih dari 60% token dari tugas agen dengan menghapus konteks berulang — pengoptimalan terkait yang mengurangi masukan yang dikirim ke model.

Mengapa Ini Mengancam Penyedia AI

Untuk perusahaan seperti OpenAI dan Anthropic, perutean model menimbulkan masalah tekanan harga:

Kanibalisasi Pendapatan

Ketika perusahaan mengarahkan sebagian besar permintaan ke model yang lebih murah, pendapatan per pelanggan turun. Perusahaan yang sebelumnya mengirimkan semua kueri ke GPT-5 kini mungkin mengirimkan 70% ke model yang lebih kecil, sehingga mengurangi biaya yang mereka bayarkan secara signifikan.

Persaingan Harga

Perutean model memudahkan pelanggan untuk beralih antar penyedia. Jika Claude Anthropic lebih murah untuk tugas tertentu, router mengirimkan lalu lintas ke sana secara otomatis. Ini mengkomoditisasi kinerja model.

Pengurangan Penguncian

Perusahaan yang menggunakan perutean model tidak terlalu bergantung pada penyedia tunggal mana pun. Router mengabstraksi perbedaan antar model, sehingga memudahkan peralihan.

Startup yang Diuntungkan

Beberapa kategori perusahaan mendapatkan keuntungan dari tren model routing:

Agregator API

Layanan yang menawarkan satu titik akhir API untuk lusinan model AI — termasuk model dari OpenAI, Anthropic, Google, Meta, dan lainnya — berkembang pesat. Hacker News telah melihat banyak peluncuran di bidang ini sepanjang tahun 2026, dengan perusahaan menawarkan API yang kompatibel dengan OpenAI untuk lusinan model dengan harga per token.

Alat Pengoptimalan

Perusahaan yang membangun algoritme perutean cerdas yang meminimalkan biaya sekaligus menjaga kualitas menarik perhatian investor. Alat-alat ini menggunakan pembelajaran mesin untuk memprediksi model mana yang akan menangani setiap kueri dengan paling efisien.

Optimasi Konteks

Alat yang mengurangi jumlah teks yang dikirim ke model — dengan menghapus konteks yang berlebihan, mengompresi perintah, atau menyimpan respons sebelumnya dalam cache — merupakan pelengkap perutean model dan juga mendapatkan daya tarik.

Gambaran Yang Lebih Besar

Perutean model mencerminkan pasar AI yang semakin matang. Pada masa-masa awal booming AI, perusahaan bersedia membayar harga premium untuk model terdepan apa pun tugasnya. Saat penerapan AI beralih dari eksperimen ke produksi, optimalisasi biaya menjadi sangat penting.

Bagi perusahaan, hal ini merupakan perkembangan positif — hal ini menjadikan AI lebih terjangkau dan berkelanjutan. Bagi penyedia model AI, ini berarti era penetapan harga premium untuk semua kueri mungkin akan segera berakhir.

Perusahaan yang akan berkembang dalam lingkungan ini adalah perusahaan yang dapat menawarkan kinerja terbaik pada setiap tingkat harga — bukan hanya kinerja mentah terbaik secara keseluruhan.

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →