Cloudflare pada hari Selasa mengumumkan pratinjau Clairic, model ekstraksi yang digambarkan perusahaan sebagai yang pertama dari kelas baru model "Sistem Satu" yang dirancang untuk menarik nilai terstruktur dari data tidak terstruktur tanpa pembuatan token demi token yang mendefinisikan model bahasa besar. Model ini sekarang tersedia dalam pratinjau di platform Workers AI Cloudflare sebagai @cf/cloudflare/clairic, dan perusahaan tersebut mengatakan pihaknya bermaksud untuk merilis bobot model tersebut secara terbuka dalam waktu dekat.
Peluncuran ini menempatkan Cloudflare tepat di dalam salah satu perdebatan menarik yang kini membentuk kembali pasar infrastruktur AI: apakah setiap tugas yang ditugaskan ke LLM benar-benar memerlukan LLM. For more context on this story, see our ongoing latest AI developments.
Apa yang Dilakukan Clairic — dan Apa yang Sengaja Tidak Dilakukannya
Clairic dibuat untuk pekerjaan yang sempit namun sangat umum: membaca masukan yang berantakan dan tidak terstruktur, serta mengembalikan nilai yang diketik. Menurut pengumuman Cloudflare, model tersebut dapat mengekstrak, menghitung, memperkirakan, dan memperkirakan nilai dari masukan tidak terstruktur, mengembalikan angka dengan rentang 80%, nilai yang diketik seperti nama, tanggal, waktu, dan daftar, serta distribusi probabilitas penuh — masing-masing dengan keyakinan terkalibrasi.
Apa yang tidak dilakukannya adalah menghasilkan teks. Kueri ke Clairic mengembalikan nilai dari tipe yang dideklarasikan pengembang, atau hasil nol yang dipasangkan dengan skor p_null yang memperkirakan kemungkinan jawaban tidak ada dalam masukan. Setiap jawaban dilengkapi dengan skor keyakinan sehingga sistem hilir dapat memutuskan apakah akan memercayainya atau menandainya untuk ditinjau oleh manusia.
Cloudflare secara eksplisit menjelaskan tentang trade-off. Karena Clairic tidak menghasilkan token, Clairic tidak dapat menghasilkan JSON yang salah format, salah membaca digit generasi pertengahan, atau berhalusinasi jawaban seperti yang bisa dilakukan LLM. Perusahaan masih bisa membuat kesalahan – perusahaan sangat berhati-hati dalam hal ini – namun kegagalannya bersifat tipe dan terukur, bukan bentuk bebas.
Label 'Sistem Satu', Dijelaskan
Terminologi ini berasal dari startup AI TypeSafe, yang mengumumkan model System One miliknya sekitar sebulan yang lalu dan dengan cepat menjadi salah satu peluncuran yang paling banyak dibicarakan di komunitas pengembang. Pembingkaiannya meminjam dari buku psikolog Daniel Kahneman "Berpikir, Cepat dan Lambat": Pemikiran Sistem Satu cepat, otomatis, dan tepat, sedangkan pemikiran Sistem Dua lambat dan disengaja. TypeSafe memetakan perbedaan tersebut ke dalam model AI, dengan alasan bahwa banyak beban kerja produksi memerlukan jawaban yang cepat dan diketik dengan baik, bukan pemikiran terbuka.
Jev dari TypeSafe, model keputusan yang dibuat khusus untuk domain tertentu, mengambil probabilitas sebagai masukan dan mengembalikan probabilitas melalui daftar tetap kemungkinan jawaban. Hingga saat ini, itulah keseluruhan kategorinya: setiap model System One adalah model keputusan.
Clairic memperluas konsepnya. Ketika model keputusan memilih di antara opsi yang telah ditentukan, model ekstraksi menjawab dengan nilai — angka yang diambil langsung dari masukan, dihitung dari masukan tersebut, atau perkiraan di luar masukan tersebut. Cloudflare mengatakan kedua kelompok model tersebut, bersama dengan LLM konvensional, kini membentuk tumpukan tiga lapis: model ekstraksi mengubah masukan mentah menjadi nilai yang diketik, model keputusan mengubah nilai menjadi keputusan, dan LLM mengubah keputusan menjadi kata-kata.
Mengapa Ekstraksi Sudah Siap untuk Dipikirkan Kembali
Argumen Cloudflare bertumpu pada seberapa banyak lalu lintas LLM saat ini dihabiskan untuk pekerjaan yang tidak terlihat seperti percakapan. Perusahaan menyebut ekstraksi "mungkin pekerjaan paling umum yang diserahkan ke LLM saat ini" - mengeluarkan total faktur, tanggal pengiriman, atau nomor bagian dari dokumen.
Masalahnya, menurut Cloudflare, adalah bahwa LLM menangani pekerjaan itu dengan mesin yang dibuat untuk hal lain. Outputnya mungkin bukan JSON yang valid. Sebuah digit dapat salah dibaca saat token dibuat. Kutipan teks yang dikembalikan tidak dapat ditelusuri kembali ke lokasinya di dokumen sumber. Tim merespons dengan menggabungkan model dalam saluran defensif: validator skema, logika percobaan ulang, penguraian lapisan, dan pemeriksaan langsung. Dan karena LLM menagih token penalaran dan keluaran, setiap bidang dari setiap dokumen membawa biaya pembuatan yang berskala berdasarkan verbositas, bukan berdasarkan tingkat kesulitan tugas.
Model ekstraksi Sistem Satu membalikkan kondisi ekonomi tersebut. Cloudflare mengatakan Clairic memproses input dengan satu forward pass, hanya mengenakan biaya untuk token input, dan biasanya merespons dalam waktu kurang dari satu detik — sementara LLM yang bekerja melalui bidang yang sama dapat memakan waktu beberapa detik. Untuk pemrosesan dokumen bervolume tinggi, perbedaannya akan bertambah dengan cepat.
Cara Kerja Permintaan yang Sebenarnya
Pengembang mengirimi Clairic status — teks untuk dibaca, ditambah hingga empat gambar opsional — di samping peta bidang yang diketik. Setiap bidang berisi nama, tipe, dan instruksi bahasa sederhana opsional. Model ini mengembalikan satu jawaban yang diketik per bidang, dihitung dalam satu lintasan paralel. Jika daftar bidang tidak sesuai dengan masukan dalam satu lintasan, server membagi pekerjaan menjadi lintasan paralel yang masing-masing melihat masukan lengkap, lalu menggabungkan jawabannya.
Untuk tugas estimasi, jawaban diberikan dalam bentuk distribusi: median dengan interval 80% yang mencakup persentil ke-10 hingga ke-90, dengan seluruh 99 persentil tersedia berdasarkan permintaan. Hal ini membuat model dapat digunakan untuk pertanyaan bergaya perkiraan — perkiraan biaya perbaikan, jadwal pengiriman, lalu lintas pada hari berikutnya — yang mana satu titik perkiraan akan melebih-lebihkan kepastian model.
Sinyal untuk Pasar Infrastruktur
Apakah Clairic sendiri berhasil atau tidak, itu tidak penting. Peluncuran ini merupakan titik data lain dalam pergeseran cepat di antara penyedia infrastruktur menuju model penyesuaian ukuran untuk tugas: model kecil, cepat, dan murah untuk pekerjaan terstruktur yang sempit, dengan LLM terdepan disediakan untuk pemikiran yang benar-benar terbuka. Posisi Cloudflare sendiri – bahwa ekstraksi, keputusan, dan model bahasa harus bekerja secara serempak – dibaca sebagai cetak biru tentang bagaimana tumpukan AI produksi akan disusun.
Perusahaan belum mengumumkan tanggal rilis bobot terbuka yang dijanjikan. Untuk saat ini, Clairic tersedia dalam pratinjau di Workers AI, tempat pengembang dapat mengujinya terhadap beban kerja ekstraksi mereka sendiri — dan mengetahui berapa banyak tagihan LLM mereka yang benar-benar diperlukan.
_Artikel ini didasarkan pada pengumuman resmi Cloudflare tentang pratinjau model ekstraksi Clairic._
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
