Model AI jenis baru memulai debutnya minggu ini, dan melakukan sesuatu yang tidak biasa untuk model yang dibangun berdasarkan arsitektur transformator: model tersebut tidak pernah menghasilkan satu kata pun teks. Jev, yang dirilis oleh startup TypeSafe AI yang berusia dua tahun, malah menghasilkan probabilitas yang dikalibrasi – yang oleh perusahaan disebut sebagai keputusan yang diketik dan dikalibrasi – memposisikan dirinya sebagai alternatif yang murah dan cepat untuk model bahasa besar untuk pekerjaan klasifikasi, perutean, dan otomatisasi, menurut TechCrunch.
Perusahaan ini didirikan oleh Diogo Almeida, seorang peneliti OpenAI yang membantu membangun ChatGPT dan berkontribusi pada penemuan pembelajaran penguatan dari umpan balik manusia (RLHF), teknik pelatihan yang secara luas dianggap berkontribusi dalam membentuk generasi asisten AI saat ini. Permintaan untuk model baru ini cukup tinggi sehingga TypeSafe sempat kehilangan kemampuan untuk melayani beberapa pengguna API setelah peluncuran. For more context on this story, see our ongoing AI industry coverage.
Mengapa Pelopor ChatGPT Meninggalkan Bahasa
Perjalanan Almeida menuju model non-teks dimulai dengan kekecewaan terhadap OpenAI. “Kami memiliki kilat dalam botol, namun itu tidak berguna,” kata Almeida kepada TechCrunch, menggambarkan rasa frustrasinya karena meskipun memiliki kemampuan ChatGPT, teknologi tersebut masih belum mencapai otomatisasi yang sebenarnya. "Saya telah berjuang melawan masalah tersebut sejak saat itu. Butuh beberapa saat bagi saya untuk sampai pada kesimpulan: Masalahnya adalah kita sedang mengoptimalkan bahasa manusia... Kita sudah sangat mahir dalam bahasa manusia selama empat tahun, namun hal ini tidak berguna untuk otomatisasi karena komputer berbicara dalam bahasa yang berbeda."
Dua tahun lalu, Almeida meninggalkan OpenAI untuk mendirikan TypeSafe AI dan melanjutkan tesisnya. Hasilnya adalah Jev, model berbasis transformator yang menurut perusahaan bukanlah model bahasa besar. Saat LLM menghasilkan teks terbuka, Jev mengembalikan probabilitas pada serangkaian keluaran yang ditentukan pengguna sebelumnya — sebuah desain yang menurut perusahaan membuat halusinasi secara struktural tidak mungkin dilakukan, karena model hanya dapat menjawab dengan opsi yang diberikan.
Peningkatan efisiensi adalah bagian inti dari upaya ini. Token keluaran dari Jev gratis, dan token masukan diukur dalam satuan miliar, bukan satu juta, menurut TechCrunch. Perusahaan tersebut menggambarkan Jev sebagai "model Sistem Satu", yang berfokus pada intuisi daripada penalaran, dan mengatakan bahwa Jev dilatih secara eksklusif pada data sintetis menggunakan teknik yang disebut Almeida sebagai pembelajaran penguatan dari keputusan yang dikalibrasi.
TypeSafe menyembunyikan arsitektur Jev, meskipun pengamat luar menduga sistem ini dibangun di atas LLM berbobot terbuka. “Setengah dari [perusahaan kami] adalah laboratorium yang pada dasarnya memiliki seluruh subbidang data sintetis yang dipahami dengan baik secara statistik, dan itulah yang sekarang menjadi kesenangan hidup saya,” kata Almeida kepada TechCrunch.
Hasil Pengembang Awal: Lebih Cepat dan Lebih Murah
Pengguna awal melaporkan kemajuan penting dalam pengujian. Pranit Sharma, seorang insinyur perangkat lunak di Vercel, mengatakan kepada TechCrunch bahwa perusahaannya telah menggunakan ChatGPT Luna 5.6 OpenAI untuk menjalankan pengklasifikasi yang meninjau perintah untuk keamanan. Setelah mengalihkan beban kerja tersebut ke Jev, Vercel melihat hasilnya lima hingga 18 kali lebih cepat dan dengan akurasi lebih tinggi.
Nikhil Mudholkar, CTO Bryo AI, melakukan perbandingan berbeda: mengklasifikasikan email bisnis dengan Jev melawan Gemini dari Google. Dalam pengujiannya, Gemini sedikit lebih akurat, namun 10 hingga 20 kali lebih mahal. Bagi Mudholkar, properti Jev yang paling berharga adalah penanganannya yang tidak menentu. “Ini adalah satu-satunya yang memberikan kemungkinan nyata sehingga ideal untuk mengotomatisasi alur kerja,” katanya kepada TechCrunch.
Agen Menonton Agen, Tanpa Tagihan
Selain menggantikan LLM dalam tugas klasifikasi, TypeSafe berpendapat Jev dapat mengawasi mereka. Menggunakan agen AI untuk memantau agen lain menjadi mahal dengan cepat, namun Almeida berpendapat bahwa kecepatan dan profil biaya Jev membuatnya praktis untuk melacak jejak agen LLM dan mencegah jailbreak secara real time.
Armin Ronacher, CTO Earendil dan pembuat model open source memanfaatkan Pi, mengatakan kepada TechCrunch bahwa pendekatan ini mengalihkan tanggung jawab atas ketidakpastian kepada pengembang. “Ini sedikit mendelegasikan masalah halusinasi kepada pengguna,” kata Ronacher. "Pengguna harus mengatakan, oke, jika ini hanya muncul dengan probabilitas 50%, mungkin ini adalah lemparan koin, dan saya mengabaikannya. Namun jika 95%, tentu saja, maka saya dapat melakukan sesuatu dengannya."
Ronacher juga menandai perutean model sebagai kasus penggunaan yang menjanjikan: memprediksi apakah beban kerja tertentu memerlukan model yang spesifik dan lebih mahal. Melakukan penyortiran dengan LLM akan memakan biaya, tetapi latensi dan harga Jev yang rendah dapat membuat perutean waktu nyata dapat dilakukan.
Nama yang Dipinjam Dari Ilmu Ekonomi
Nama model ini diambil dari nama William Stanley Jevons, ekonom abad ke-19 yang mendalangi paradoks Jevons – pengamatan bahwa ketika suatu komoditas menjadi lebih murah, konsumsi terhadap komoditas tersebut cenderung meningkat. Taruhan Almeida adalah bahwa penurunan biaya intelijen tingkat keputusan akan menyebabkan penerapannya di mana-mana, tidak hanya di chatbot andalan.
“Kami berpikir bahwa akan ada perangkat lunak pintar di mana-mana dengan cara yang muncul dan didistribusikan... lebih mirip internet awal daripada yang Anda tahu seperti mega aplikasi yang sedang coba dibangun orang saat ini,” kata Almeida kepada TechCrunch.
Apakah pesaing akan mengikuti jejaknya masih menjadi pertanyaan terbuka. “Kita seharusnya melihat hal ini lebih awal dalam banyak hal, tetapi mungkin karena LLM sangat murah dan disubsidi, Anda sering kali tidak perlu berkreasi lagi,” kata Ronacher kepada TechCrunch. TypeSafe merencanakan versi tambahan Jev dalam modalitas baru.
Mengenai apakah TypeSafe dianggap sebagai laboratorium terdepan, Almeida memberikan jawaban tegas: "Produk utama dari laboratorium perbatasan adalah rasa takut atau sensasi. Saya ingin produk utama kami adalah kecerdasan... [tetapi kami] bukanlah sebuah laboratorium dalam artian, Anda tahu, seperti bertaruh pada kekayaan tak terbatas, atau agama, atau membangun Tuhan di pusat data, atau apa pun yang sedang populer saat ini."
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
