Cloudflare mengumumkan pada hari Selasa pratonton Clairic, model pengekstrakan yang syarikat itu gambarkan sebagai yang pertama daripada kelas baharu model "System One" yang direka untuk menarik nilai berstruktur daripada data tidak berstruktur tanpa sebarang penjanaan token demi token yang mentakrifkan model bahasa yang besar. Model ini kini tersedia dalam pratonton pada platform AI Pekerja Cloudflare sebagai @cf/cloudflare/clairic, dan syarikat itu berkata ia berhasrat untuk melepaskan berat model secara terbuka dalam masa terdekat.
Pelancaran meletakkan Cloudflare tepat di dalam salah satu perbahasan yang lebih menarik yang kini membentuk semula pasaran infrastruktur AI: sama ada setiap tugas yang diberikan kepada LLM sebenarnya memerlukan LLM. For more context on this story, see our ongoing AI trends.
Apa yang Clairic Lakukan — dan Perkara yang Tidak Sengaja Dilakukan
Clairic dibina untuk kerja yang sempit tetapi sangat biasa: membaca input yang tidak kemas, tidak berstruktur dan mengembalikan nilai yang ditaip. Menurut pengumuman Cloudflare, model itu boleh mengekstrak, mengira, menganggar dan meramalkan nilai daripada input tidak berstruktur, mengembalikan nombor dengan julat 80%, nilai yang ditaip seperti nama, tarikh, masa dan senarai, dan pengagihan kebarangkalian penuh — masing-masing dengan keyakinan yang ditentukur.
Apa yang tidak dilakukannya ialah menjana teks. Pertanyaan kepada Clairic mengembalikan sama ada nilai jenis yang diisytiharkan oleh pembangun, atau hasil batal yang dipasangkan dengan skor p_null yang menganggarkan kebarangkalian jawapan itu tidak ada dalam input. Setiap jawapan dihantar dengan skor keyakinan supaya sistem hiliran boleh memutuskan sama ada untuk mempercayainya atau membenderakannya untuk semakan manusia.
Cloudflare adalah eksplisit tentang pertukaran. Oleh kerana Clairic tidak menjana token, ia tidak boleh menghasilkan JSON yang cacat, salah membaca digit generasi pertengahan atau mengkhayalkan jawapan seperti yang dilakukan oleh LLM. Ia masih boleh membuat kesilapan - syarikat berhati-hati pada titik itu - tetapi kegagalannya ditaip dan boleh diukur dan bukannya bentuk bebas.
Label 'System One', Diterangkan
Terminologi ini berasal dari TypeSafe permulaan AI, yang mengumumkan model Sistem Satunya sendiri kira-kira sebulan yang lalu dan dengan cepat menjadi salah satu pelancaran yang paling banyak dibincangkan dalam komuniti pembangun. Pembingkaiannya meminjam daripada buku ahli psikologi Daniel Kahneman "Berfikir, Cepat dan Lambat": Pemikiran Sistem Satu adalah pantas, automatik dan tepat, manakala pemikiran Sistem Dua adalah perlahan dan sengaja. TypeSafe memetakan perbezaan itu pada model AI, dengan alasan bahawa banyak beban kerja pengeluaran memerlukan jawapan yang pantas dan ditaip dengan baik dan bukannya penaakulan terbuka.
Jev TypeSafe, model keputusan yang dibina khusus untuk domain tertentu, mengambil kebarangkalian sebagai input dan mengembalikan kebarangkalian ke atas senarai tetap jawapan yang mungkin. Sehingga kini, itu adalah keseluruhan kategori: setiap model Sistem Satu ialah model keputusan.
Clairic memanjangkan konsep. Apabila model keputusan memilih antara pilihan yang dipratentukan, model pengekstrakan menjawab dengan nilai — nombor yang ditarik terus daripada input, dikira daripadanya atau ramalan melebihinya. Cloudflare berkata kedua-dua keluarga model, bersama LLM konvensional, kini membentuk timbunan tiga lapisan: model pengekstrakan menukar input mentah kepada nilai ditaip, model keputusan menukar nilai menjadi keputusan dan LLM menukar keputusan menjadi perkataan.
Mengapa Pengekstrakan Sudah Matang untuk Difikirkan Semula
Hujah Cloudflare bergantung pada berapa banyak trafik LLM hari ini dibelanjakan untuk kerja yang tidak kelihatan seperti perbualan. Syarikat itu memanggil pengekstrakan "mungkin kerja paling biasa diserahkan kepada LLM hari ini" — mengeluarkan jumlah invois, tarikh penghantaran atau nombor bahagian daripada dokumen.
Masalahnya, menurut Cloudflare, adalah bahawa LLM mengendalikan kerja itu dengan jentera yang dibina untuk sesuatu yang lain. Output mungkin bukan JSON yang sah. Satu digit boleh disalah baca kerana token dijana. Petikan teks yang dikembalikan tidak dapat dikesan kembali ke lokasinya dalam dokumen sumber. Pasukan bertindak balas dengan membungkus model dalam saluran paip pertahanan: pengesah skema, cuba semula logik, menghuraikan lapisan dan semakan spot. Dan kerana LLMs mengebil untuk penaakulan dan token output, setiap medan setiap dokumen membawa kos penjanaan yang berskala dengan verbosity dan bukannya dengan kesukaran tugasan.
Model pengekstrakan Sistem Satu menyongsangkan ekonomi itu. Cloudflare berkata Clairic memproses input dengan pas ke hadapan tunggal, mengecaj hanya untuk token input, dan biasanya bertindak balas dalam masa kurang dari satu saat — manakala penaakulan LLM yang bekerja melalui medan yang sama boleh mengambil masa beberapa saat. Untuk pemprosesan dokumen volum tinggi, perbezaannya sebati dengan cepat.
Bagaimana Permintaan Sebenarnya Berfungsi
Pembangun menghantar Clairic keadaan — teks untuk dibaca, ditambah sehingga empat imej pilihan — bersama peta medan yang ditaip. Setiap medan membawa nama, jenis dan arahan bahasa biasa pilihan. Model mengembalikan satu jawapan yang ditaip setiap medan, dikira dalam satu pas selari. Jika senarai medan tidak sesuai di sebelah input dalam satu laluan, pelayan membahagikan kerja kepada pas selari yang masing-masing melihat input penuh, kemudian menggabungkan jawapan.
Untuk tugasan anggaran, jawapan datang sebagai taburan: median dengan selang 80% merangkumi persentil ke-10 hingga ke-90, dengan kesemua 99 persentil tersedia atas permintaan. Itu menjadikan model itu boleh digunakan untuk soalan gaya ramalan — kos pembaikan yang dijangka, garis masa penghantaran, trafik pada hari berikutnya — di mana satu anggaran mata akan melebih-lebihkan kepastian model.
Isyarat untuk Pasaran Infrastruktur
Sama ada Clairic sendiri berjaya adalah hampir di sebelah mata. Pelancaran adalah satu lagi titik data dalam peralihan yang pantas dalam kalangan penyedia infrastruktur ke arah model bersaiz betul kepada tugasan: model kecil, pantas, murah untuk kerja berstruktur sempit, dengan LLM sempadan dikhaskan untuk alasan yang benar-benar terbuka. Kedudukan Cloudflare sendiri — model pengekstrakan, keputusan dan bahasa harus berfungsi secara serentak — dibaca sebagai pelan tindakan untuk memikirkan bagaimana timbunan AI pengeluaran akan dipasang.
Syarikat itu belum mengumumkan tarikh untuk pelepasan wajaran terbuka yang dijanjikan. Buat masa ini, Clairic tersedia dalam pratonton pada Workers AI, di mana pembangun boleh mengujinya terhadap beban kerja pengekstrakan mereka sendiri — dan mengetahui berapa banyak bil LLM mereka yang pernah benar-benar diperlukan.
_Artikel ini adalah berdasarkan pengumuman rasmi Cloudflare tentang pratonton model pengekstrakan Clairic._
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
