Cloudflare Salı günü, şirketin, büyük dil modellerini tanımlayan jeton bazında nesiller olmadan yapısal değerleri yapısal olmayan verilerden çıkarmak için tasarlanmış yeni bir "System One" modelleri sınıfının ilki olarak tanımladığı bir çıkarma modeli olan Clairic'in ön izlemesini duyurdu. Model şu anda Cloudflare'in Workers AI platformunda @cf/cloudflare/clairic adıyla ön izlemede mevcut ve şirket, modelin ağırlıklarını yakın gelecekte açık bir şekilde yayınlamayı planladığını söylüyor.
Lansman, Cloudflare'i şu anda yapay zeka altyapı pazarını yeniden şekillendiren en ilginç tartışmalardan birinin tam ortasına konumlandırıyor: Bir Yüksek Lisans'a atanan her görevin gerçekten bir Yüksek Lisans'a ihtiyacı olup olmadığı. For more context on this story, see our ongoing artificial intelligence updates.
Clairic'in Yaptığı ve Kasten Ne Yapmadığı
Clairic, dar ama son derece yaygın bir iş için yaratılmıştır: karmaşık, yapılandırılmamış girdileri okumak ve yazılan değerleri döndürmek. Cloudflare'in duyurusuna göre model, yapılandırılmamış girdilerden değerleri çıkarabiliyor, hesaplayabiliyor, tahmin edebiliyor ve tahmin edebiliyor; sayıları %80 aralıkla döndürebiliyor; adlar, tarihler, saatler ve listeler gibi yazılan değerleri ve tam olasılık dağılımlarını her biri kalibre edilmiş bir güvenle döndürebiliyor.
Yapmadığı şey metin oluşturmaktır. Clairic'e yapılan bir sorgu, ya geliştiricinin bildirdiği türde bir değer ya da cevabın girdide bulunmama olasılığını tahmin eden bir p_null puanıyla eşleştirilmiş boş bir sonuç döndürür. Her yanıt bir güven puanıyla birlikte gönderilir; böylece alt sistemler yanıta güvenilip güvenilmeyeceğine veya insan incelemesi için işaretlenip işaretlenmeyeceğine karar verebilir.
Cloudflare bu takas konusunda açık bir şekilde konuşuyor. Clairic hiçbir belirteç üretmediğinden hatalı biçimlendirilmiş JSON üretemez, nesil ortasında bir rakamı yanlış okuyamaz veya bir LLM'nin yaptığı gibi bir yanıtı halüsinasyona uğratamaz. Hala hata yapabilir - şirket bu noktada dikkatlidir - ancak başarısızlıkları serbest biçimli olmaktan ziyade yazılı ve ölçülebilirdir.
'Sistem Bir' Etiketinin Açıklaması
Terminoloji, yaklaşık bir ay önce kendi System One modellerini duyuran ve kısa sürede geliştirici topluluğunda en çok tartışılan lansmanlardan biri haline gelen AI girişimi TypeSafe'den geliyor. Çerçeve, psikolog Daniel Kahneman'ın "Düşünme, Hızlı ve Yavaş" adlı kitabından alınmıştır: Sistem Bir'in düşünmesi hızlı, otomatik ve kesindir, Sistem İki'nin düşünmesi ise yavaş ve kasıtlıdır. TypeSafe, birçok üretim iş yükünün açık uçlu akıl yürütme yerine hızlı, iyi yazılmış yanıtlara ihtiyaç duyduğunu savunarak bu ayrımı yapay zeka modelleriyle eşleştirdi.
TypeSafe'in belirli bir alan için özel olarak oluşturulmuş bir karar modeli olan Jev, olasılıkları girdi olarak aldı ve olası yanıtlardan oluşan sabit bir liste üzerinden olasılıkları döndürdü. Şimdiye kadar tüm kategori bundan ibaretti: Her Sistem Bir modeli bir karar modeliydi.
Clairic kavramı genişletiyor. Bir karar modelinin önceden tanımlanmış seçenekler arasından seçim yaptığı durumlarda, bir çıkarım modeli değerlerle (doğrudan girdiden alınan, ondan hesaplanan veya bunun ötesinde tahmin edilen sayılar) yanıt verir. Cloudflare, geleneksel LLM'lerin yanı sıra iki model ailesinin artık üç katmanlı bir yığın oluşturduğunu söylüyor: çıkarma modelleri ham girdiyi yazılan değerlere, karar modelleri değerleri kararlara ve LLM'ler kararları kelimelere dönüştürüyor.
Çıkarma Neden Yeniden Düşünmeye Hazır?
Cloudflare'in argümanı, günümüzün LLM trafiğinin ne kadarının konuşmaya hiç benzemeyen işlere harcandığına dayanıyor. Şirket, çıkarma işlemini "muhtemelen bugün Yüksek Lisans'lara verilen en yaygın iş" olarak adlandırıyor - bir belgeden fatura toplamı, teslimat tarihi veya parça numarası çıkarmak.
Cloudflare'in ifadesine göre sorun, Yüksek Lisans'ların bu işi başka bir şey için yapılmış makinelerle ele almasıdır. Çıktı geçerli JSON olmayabilir. Belirteçler oluşturulurken bir rakam yanlış okunabilir. Döndürülen bir metin alıntısının kaynak belgedeki konumuna kadar izi sürülemez. Ekipler, modelleri savunma hatlarına sararak yanıt verir: şema doğrulayıcılar, yeniden deneme mantığı, ayrıştırma katmanları ve nokta kontrolleri. Ve LLM'ler muhakeme ve çıktı belirteçleri için fatura çıkardığından, her belgenin her alanı, görevin zorluğundan ziyade ayrıntıya göre ölçeklenen bir üretim maliyeti taşır.
System One ekstraksiyon modeli bu ekonomiyi tersine çevirir. Cloudflare, Clairic'in girişi tek bir ileri geçişle işlediğini, yalnızca giriş jetonları için ücret aldığını ve genellikle bir saniyeden kısa sürede yanıt verdiğini söylüyor; oysa aynı alanlar üzerinde çalışan bir muhakeme LLM'si birkaç saniye sürebilir. Yüksek hacimli belge işlemede fark hızla birleşir.
Bir İstek Gerçekte Nasıl Çalışır?
Geliştiriciler Clairic'e, yazılan alanların haritasıyla birlikte bir durum (okunacak metin ve en fazla dört isteğe bağlı resim) gönderir. Her alan bir ad, bir tür ve isteğe bağlı düz dil talimatlarını taşır. Model, tek bir paralel geçişte hesaplanan, alan başına yazılan bir yanıtı döndürür. Alan listesi tek geçişte girişin yanına sığmazsa, sunucu çalışmayı her biri tam girişi görecek şekilde paralel geçişlere böler ve ardından yanıtları birleştirir.
Tahmin görevleri için cevaplar bir dağılım olarak gelir: 10. ila 90. yüzdelikleri kapsayan %80'lik bir aralığa sahip bir medyan, istek üzerine 99 yüzdelik dilimin tamamı mevcuttur. Bu, modeli, tek nokta tahmininin modelin kesinliğini abartacağı tahmin tarzı sorular (beklenen onarım maliyetleri, teslimat zaman çizelgeleri, ertesi günkü trafik) için kullanılabilir hale getirir.
Altyapı Pazarına Yönelik Bir Sinyal
Clairic'in başarılı olup olmayacağı neredeyse konu dışı. Lansman, altyapı sağlayıcıları arasında görevlere yönelik doğru boyutlandırma modellerine doğru hızla ilerleyen bir başka veri noktasıdır: dar yapılandırılmış işler için küçük, hızlı, ucuz modeller ve sınır yüksek öğrenimlerinin gerçekten açık uçlu muhakeme için ayrılmış olduğu. Cloudflare'in kendi konumlandırması (çıkarma, karar verme ve dil modellerinin birlikte çalışması gerektiği), üretimdeki yapay zeka yığınlarının nasıl bir araya getirileceğini düşündüğünün bir planı olarak okunuyor.
Şirket, vaat edilen açık ağırlık sürümü için bir tarih açıklamadı. Şimdilik Clairic, geliştiricilerin bunu kendi çıkarma iş yüklerine göre test edebilecekleri ve Yüksek Lisans faturalarının ne kadarının gerçekten gerekli olduğunu öğrenebilecekleri Workers AI'da önizleme olarak mevcut.
_Bu makale Cloudflare'in Clairic çıkarma modeli önizlemesine ilişkin resmi duyurusuna dayanmaktadır._
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
