Yeni tür bir yapay zeka modeli bu hafta görücüye çıktı ve transformatör mimarisi üzerine inşa edilmiş bir model için alışılmadık bir şey yapıyor: asla tek kelimelik bir metin üretmiyor. İki yıllık bir startup olan TypeSafe AI tarafından piyasaya sürülen Jev, TechCrunch'a göre bunun yerine kalibre edilmiş olasılıklar (şirketin yazılı, kalibre edilmiş kararlar dediği şey) üretiyor ve kendisini sınıflandırma, yönlendirme ve otomasyon çalışmaları için büyük dil modellerine ucuz, hızlı bir alternatif olarak konumlandırıyor.
Şirket, ChatGPT'nin oluşturulmasına yardımcı olan ve mevcut nesil yapay zeka asistanlarının şekillendirilmesinde büyük itibar kazanan eğitim tekniği olan insan geri bildiriminden takviyeli öğrenmenin (RLHF) icadına katkıda bulunan OpenAI araştırmacısı Diogo Almeida tarafından kuruldu. Yeni modele olan talep, TypeSafe'in lansmandan sonra bazı API kullanıcılarına hizmet verme yeteneğini kısa süreliğine kaybetmesine neden olacak kadar yoğundu. For more context on this story, see our ongoing artificial intelligence updates.
ChatGPT Öncüsü Neden Dilden Uzak Durdu?
Almeida'nın metin olmayan bir modele yönelmesi OpenAI'deki hayal kırıklığıyla başladı. TechCrunch'a konuşan Almeida, "Bir şişede yıldırım var ama yine de kullanışlı değil" dedi ve ChatGPT'nin yeteneklerine rağmen teknolojinin gerçek otomasyona ulaşamamasından duyduğu hayal kırıklığını anlattı. "O zamandan beri bu sorunla mücadele ediyorum. Şu sonuca varmam biraz zaman aldı: Sorun şu ki, insan dilini optimize ediyoruz... Dört yıldır insan dilinde çok iyiyiz, ancak bu otomasyon için yararlı değil çünkü bilgisayarlar farklı bir dil konuşuyor."
İki yıl önce Almeida, TypeSafe AI'yi kurmak ve bu tezi sürdürmek için OpenAI'den ayrıldı. Sonuç, şirketin büyük bir dil modeli olmadığında ısrar ettiği transformatör tabanlı bir model olan Jev'dir. Yüksek Lisansın açık uçlu metin ürettiği durumlarda Jev, kullanıcının önceden tanımladığı bir dizi çıktı üzerinden olasılıkları döndürüyor; şirket, modelin yalnızca kendisine verilen seçeneklerle yanıt verebilmesi nedeniyle halüsinasyonu yapısal olarak imkansız hale getirdiğini söylediği bir tasarım.
Verimlilik kazanımları sahanın temel bir parçasıdır. TechCrunch'a göre Jev'in çıkış tokenleri ücretsiz ve giriş tokenları milyon yerine milyarlarla ölçülüyor. Şirket, Jev'i akıl yürütme yerine sezgiye odaklanan bir "Sistem Bir modeli" olarak tanımlıyor ve Almeida'nın kalibre edilmiş kararlardan takviyeli öğrenme olarak adlandırdığı bir teknik kullanılarak yalnızca sentetik veriler üzerinde eğitildiğini söylüyor.
TypeSafe, Jev'in mimarisini gizli tuttu, ancak dış gözlemciler sistemin açık ağırlıklı bir LLM üzerine inşa edildiğinden şüpheleniyor. Almeida, TechCrunch'a "Şirketimizin yarısı, istatistiksel olarak iyi anlaşılmış sentetik verilerden oluşan bu alt alanın tamamına sahip olan bir laboratuvardır ve bu artık benim yaşam sevincimdir" dedi.
Erken Geliştirici Sonuçları: Daha Hızlı ve Daha Ucuz
İlk benimseyenler testlerde dikkate değer kazanımlar bildirdiler. Vercel'de yazılım mühendisi olan Pranit Sharma, TechCrunch'a, şirketinin güvenlik açısından komutları gözden geçiren bir sınıflandırıcıyı çalıştırmak için OpenAI'nin ChatGPT Luna 5.6'sını kullandığını söyledi. Bu iş yükünü Jev'e aktardıktan sonra Vercel, sonuçları beş ila 18 kat daha hızlı ve daha doğru bir şekilde gördü.
Bryo AI'nın CTO'su Nikhil Mudholkar farklı bir karşılaştırma yaptı: Jev ile olan iş e-postalarını Google'ın Gemini'sine göre sınıflandırmak. Gemini testinde biraz daha doğru sonuç verdi ancak 10 ila 20 kat daha pahalıydı. Mudholkar'a göre Jev'in en değerli özelliği belirsizlikle baş edebilmesiydi. TechCrunch'a "İş akışlarını otomatikleştirmek için onu ideal kılan gerçek bir olasılığı geri veren tek şey bu" dedi.
Temsilciler Temsilcileri Fatura Olmadan Gözetliyor
TypeSafe, sınıflandırma görevlerinde Yüksek Lisans'ları değiştirmenin ötesinde, Jev'in onları denetleyebileceğini savunuyor. Diğer aracıları izlemek için yapay zeka aracılarını kullanmak hızlı bir şekilde pahalı hale geliyor, ancak Almeida, Jev'in hız ve maliyet profilinin LLM aracı izlerini takip etmeyi ve gerçek zamanlı olarak jailbreak'leri önlemeyi pratik hale getirdiğini iddia ediyor.
Earendil'in CTO'su ve açık kaynak model koşum takımı Pi'nin kurucusu Armin Ronacher, TechCrunch'a yaklaşımın belirsizliğin sorumluluğunu geliştiriciye devrettiğini söyledi. Ronacher, "Halüsinasyon problemini bir miktar kullanıcıya devrediyor" dedi. "Kullanıcının şunu söylemesi gerekiyor, tamam, eğer bu sadece %50 olasılıkla geri gelirse, belki de bu bir yazı turadır ve ben bunu dikkate almıyorum. Ama eğer %95 ise elbette, o zaman bununla bir şeyler yapabilirim."
Ronacher ayrıca model yönlendirmeyi umut verici bir kullanım durumu olarak işaretledi: belirli bir iş yükünün belirli, daha pahalı bir model gerektirip gerektirmediğini tahmin etmek. Bu sıralamayı bir Yüksek Lisans ile yapmak maliyetli olabilir, ancak Jev'in düşük gecikme süresi ve fiyatı, gerçek zamanlı yönlendirmeyi uygulanabilir hale getirebilir.
İktisattan Alınmış Bir İsim
Model, adını, bir emtia ucuzladıkça tüketiminin artma eğiliminde olduğu gözlemi olan Jevons paradoksunun arkasındaki 19. yüzyıl ekonomisti William Stanley Jevons'tan almıştır. Almeida'nın iddiası, karar düzeyindeki istihbaratın düşen maliyetlerinin, yalnızca amiral gemisi sohbet robotlarında değil, her yerde konuşlandırılmasına yol açacağı yönünde.
Almeida, TechCrunch'a şöyle dedi: "Her yerde ortaya çıkan ve dağıtılan bir şekilde akıllı yazılımların olacağını düşünüyoruz... insanların şu anda oluşturmaya çalıştığı mega uygulamalar gibi bildiğinizden çok, ilk internete çok benziyor."
Rakiplerin takip edip etmediği açık bir soru olmaya devam ediyor. Ronacher, TechCrunch'a şunları söyledi: "Bunu daha önce pek çok açıdan görmeliydik, ancak muhtemelen Yüksek Lisanslar çok ucuz ve sübvansiyonlu olduğundan, henüz yaratıcı olmanıza gerek kalmıyor." TypeSafe, yeni yöntemlerde Jev'in ek sürümlerini planlamaktadır.
TypeSafe'in bir sınır laboratuvarı olarak sayılıp sayılmadığına gelince, Almeida keskin bir yanıt verdi: "Sınır laboratuvarlarının ana ürünü korku ya da abartıdır. Ana ürünümüzün istihbarat olmasını isterim... [ama biz] sonsuz zenginlik, bir din üzerine bahse girmek ya da bir veri merkezinde Tanrı'yı inşa etmek ya da günümüzün konusu ne olursa olsun anlamında bir laboratuvar değiliz."
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
