Model AI jenis baharu membuat debutnya minggu ini, dan ia melakukan sesuatu yang luar biasa untuk model yang dibina pada seni bina pengubah: ia tidak pernah menghasilkan perkataan teks. Jev, yang dikeluarkan oleh TypeSafe AI permulaan berusia dua tahun, sebaliknya mengeluarkan kebarangkalian yang ditentukur - apa yang syarikat panggil keputusan ditaip, ditentukur - meletakkan dirinya sebagai alternatif yang murah dan pantas kepada model bahasa besar untuk kerja klasifikasi, penghalaan dan automasi, menurut TechCrunch.
Syarikat itu diasaskan oleh Diogo Almeida, seorang penyelidik OpenAI yang membantu membina ChatGPT dan menyumbang kepada ciptaan pembelajaran pengukuhan daripada maklum balas manusia (RLHF), teknik latihan yang dikreditkan secara meluas dengan membentuk generasi pembantu AI semasa. Permintaan untuk model baharu itu cukup kuat sehingga TypeSafe kehilangan keupayaan untuk memberi perkhidmatan kepada sesetengah pengguna API selepas pelancaran. For more context on this story, see our ongoing AI industry coverage.
Mengapa Bahasa Terbengkalai Perintis ChatGPT
Laluan Almeida ke model bukan teks bermula dengan kekecewaan di OpenAI. "Kami mempunyai kilat dalam botol, namun ia tidak berguna," kata Almeida kepada TechCrunch, menggambarkan kekecewaannya bahawa walaupun keupayaan ChatGPT, teknologi itu tidak mencapai automasi sebenar. "Saya telah memerangi masalah itu sejak itu. Saya mengambil sedikit masa untuk membuat kesimpulan: Masalahnya ialah kami mengoptimumkan bahasa manusia... Kami telah sangat mahir dalam bahasa manusia selama empat tahun, tetapi ia tidak berguna untuk automasi kerana komputer bercakap bahasa yang berbeza."
Dua tahun lalu, Almeida meninggalkan OpenAI untuk menemui TypeSafe AI dan meneruskan tesis itu. Hasilnya ialah Jev, model berasaskan pengubah yang ditegaskan syarikat itu bukan model bahasa yang besar. Apabila LLM menjana teks terbuka, Jev mengembalikan kebarangkalian merentas set output yang ditentukan pengguna terlebih dahulu — reka bentuk yang dikatakan syarikat menjadikan halusinasi secara struktur mustahil, kerana model hanya boleh menjawab dengan pilihan yang diberikan.
Keuntungan kecekapan adalah bahagian teras padang. Token output daripada Jev adalah percuma, dan token input diukur dengan bilion berbanding juta, menurut TechCrunch. Syarikat itu menerangkan Jev sebagai "model Sistem Satu", memfokuskan pada gerak hati dan bukannya penaakulan, dan mengatakan ia dilatih secara eksklusif pada data sintetik menggunakan teknik Almeida memanggil pembelajaran pengukuhan daripada keputusan yang ditentukur.
TypeSafe telah menyembunyikan seni bina Jev, walaupun pemerhati luar mengesyaki sistem itu dibina di atas LLM berat terbuka. "Separuh daripada [syarikat kami] ialah makmal yang pada dasarnya memiliki keseluruhan subbidang data sintetik yang difahami dengan baik secara statistik ini, dan itu kini kegembiraan hidup saya," kata Almeida kepada TechCrunch.
Keputusan Pembangun Awal: Lebih Pantas dan Lebih Murah
Pengguna awal melaporkan keuntungan ketara dalam ujian. Pranit Sharma, seorang jurutera perisian di Vercel, memberitahu TechCrunch bahawa syarikatnya telah menggunakan OpenAI's ChatGPT Luna 5.6 untuk menjalankan pengelas yang menyemak arahan untuk keselamatan. Selepas menukar beban kerja itu kepada Jev, Vercel melihat hasil lima hingga 18 kali lebih cepat dan dengan lebih ketepatan.
Nikhil Mudholkar, CTO Bryo AI, menjalankan perbandingan yang berbeza: mengklasifikasikan e-mel perniagaan dengan Jev terhadap Gemini Google. Dalam ujiannya, Gemini sedikit lebih tepat, tetapi 10 hingga 20 kali lebih mahal. Bagi Mudholkar, harta Jev yang paling berharga ialah pengendalian ketidakpastiannya. "Ia adalah satu-satunya yang mengembalikan kebarangkalian sebenar yang menjadikannya ideal untuk mengautomasikan aliran kerja," katanya kepada TechCrunch.
Ejen Memerhati Ejen, Tanpa Bil
Selain menggantikan LLM dalam tugas klasifikasi, TypeSafe berpendapat Jev boleh mengawalnya. Menggunakan ejen AI untuk memantau ejen lain menjadi mahal dengan cepat, tetapi Almeida berpendapat bahawa profil kelajuan dan kos Jev menjadikannya praktikal untuk menjejaki kesan ejen LLM dan mencegah pemecahan penjara dalam masa nyata.
Armin Ronacher, CTO Earendil dan pembina model sumber terbuka memanfaatkan Pi, memberitahu TechCrunch bahawa pendekatan itu mengalihkan tanggungjawab untuk ketidakpastian kepada pemaju. "Ia mewakilkan masalah halusinasi sedikit kepada pengguna," kata Ronacher. "Pengguna perlu berkata, okey, jika ini hanya kembali dengan kebarangkalian 50%, mungkin ini adalah lambungan syiling, dan saya tidak mengendahkannya. Tetapi jika ia 95%, pasti, maka saya boleh melakukan sesuatu dengannya."
Ronacher juga membenderakan penghalaan model sebagai kes penggunaan yang menjanjikan: meramalkan sama ada beban kerja tertentu memerlukan model khusus yang lebih mahal. Melakukan pengisihan itu dengan LLM memerlukan kos yang tinggi, tetapi kependaman dan harga Jev yang rendah boleh menjadikan penghalaan masa nyata berdaya maju.
Nama yang Dipinjam Daripada Ekonomi
Model ini dinamakan sempena William Stanley Jevons, ahli ekonomi abad ke-19 di sebalik paradoks Jevons — pemerhatian bahawa sebagai komoditi menjadi lebih murah, penggunaannya cenderung meningkat. Pertaruhan Almeida ialah penurunan kos perisikan gred keputusan akan membawa kepada penggunaannya di mana-mana, bukan hanya dalam chatbots perdana.
"Kami berpendapat bahawa hanya akan ada perisian pintar di seluruh tempat dengan cara yang muncul dan diedarkan... lebih seperti internet awal daripada yang anda tahu seperti aplikasi mega yang orang cuba bina sekarang," kata Almeida kepada TechCrunch.
Sama ada pesaing mengikuti tetap menjadi persoalan terbuka. "Kita sepatutnya melihat ini lebih awal dalam banyak cara, tetapi mungkin kerana LLM sangat murah dan bersubsidi, anda selalunya tidak perlu kreatif lagi," kata Ronacher kepada TechCrunch. TypeSafe merancang versi tambahan Jev dalam modaliti baharu.
Mengenai sama ada TypeSafe dikira sebagai makmal sempadan, Almeida menawarkan jawapan yang tajam: "Produk utama makmal sempadan ialah ketakutan atau gembar-gembur. Saya ingin produk utama kami adalah kecerdasan... [tetapi kami] bukan makmal dalam erti kata, anda tahu, seperti pertaruhan pada kekayaan yang tidak terhingga, atau agama, atau membina Tuhan dalam pusat data, atau apa sahaja perkara hari ini."
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
