Cloudflare ประกาศเมื่อวันอังคารถึงการแสดงตัวอย่าง Clairic ซึ่งเป็นโมเดลการแยกข้อมูลที่บริษัทอธิบายว่าเป็นโมเดลแรกของคลาส "System One" ที่ออกแบบมาเพื่อดึงค่าที่มีโครงสร้างออกจากข้อมูลที่ไม่มีโครงสร้าง โดยไม่มีการสร้างโทเค็นต่อโทเค็นที่กำหนดโมเดลภาษาขนาดใหญ่ โมเดลดังกล่าวมีวางจำหน่ายแล้วในรูปแบบพรีวิวบนแพลตฟอร์ม Workers AI ของ Cloudflare ในชื่อ @cf/cloudflare/clairic และบริษัทกล่าวว่าตั้งใจที่จะเปิดตัวน้ำหนักของโมเดลอย่างเปิดเผยในอนาคตอันใกล้นี้
การเปิดตัวครั้งนี้ทำให้ Cloudflare อยู่ในข้อถกเถียงที่น่าสนใจอย่างหนึ่งที่กำลังเปลี่ยนรูปแบบตลาดโครงสร้างพื้นฐาน AI อยู่ตรงที่ว่า ทุกงานที่ได้รับมอบหมายให้ LLM จำเป็นต้องมี LLM จริงหรือไม่ For more context on this story, see our ongoing breaking AI news.
สิ่งที่ Clairic ทำ — และสิ่งที่จงใจไม่ทำ
Clairic ถูกสร้างขึ้นสำหรับงานแคบๆ แต่เป็นเรื่องธรรมดาอย่างมาก เช่น การอ่านข้อมูลที่ยุ่งเหยิง ไม่มีโครงสร้าง และการส่งคืนค่าที่พิมพ์ ตามประกาศของ Cloudflare โมเดลสามารถแยก คำนวณ ประมาณ และคาดการณ์ค่าจากอินพุตที่ไม่มีโครงสร้าง โดยส่งคืนตัวเลขด้วยช่วง 80% ค่าที่พิมพ์ เช่น ชื่อ วันที่ เวลา และรายการ และการแจกแจงความน่าจะเป็นแบบเต็ม — แต่ละรายการมีความมั่นใจที่ปรับเทียบแล้ว
สิ่งที่มันไม่ได้ทำคือการสร้างข้อความ การสืบค้นไปยัง Clairic จะส่งกลับค่าประเภทที่นักพัฒนาประกาศไว้ หรือผลลัพธ์ที่เป็นโมฆะซึ่งจับคู่กับคะแนน p_null ที่ประมาณความน่าจะเป็นที่คำตอบนั้นไม่มีอยู่ในอินพุต ทุกคำตอบมาพร้อมกับคะแนนความเชื่อมั่น ดังนั้นระบบดาวน์สตรีมจึงสามารถตัดสินใจได้ว่าจะเชื่อถือหรือติดธงทำเครื่องหมายเพื่อให้มีการตรวจสอบโดยเจ้าหน้าที่
Cloudflare มีความชัดเจนเกี่ยวกับการแลกเปลี่ยนนี้ เนื่องจาก Clairic ไม่สร้างโทเค็น จึงไม่สามารถสร้าง JSON ที่มีรูปแบบไม่ถูกต้อง อ่านตัวเลขรุ่นกลางผิด หรือทำให้เกิดภาพหลอนในคำตอบในแบบที่ LLM สามารถทำได้ มันยังสามารถทำผิดพลาดได้ — บริษัทระมัดระวังในจุดนั้น — แต่ความล้มเหลวนั้นถูกพิมพ์และวัดผลได้มากกว่ารูปแบบอิสระ
อธิบายป้ายกำกับ 'System One'
คำศัพท์ดังกล่าวมาจาก TypeSafe สตาร์ทอัพด้าน AI ซึ่งประกาศโมเดล System One ของตัวเองเมื่อประมาณหนึ่งเดือนที่แล้ว และกลายเป็นหนึ่งในการเปิดตัวที่ได้รับการกล่าวถึงมากที่สุดในชุมชนนักพัฒนาอย่างรวดเร็ว กรอบนี้ยืมมาจากหนังสือ "การคิด เร็ว และช้า" ของนักจิตวิทยา Daniel Kahneman: การคิดของระบบหนึ่งนั้นรวดเร็ว อัตโนมัติ และแม่นยำ ในขณะที่การคิดของระบบสองนั้นช้าและมีเจตนา TypeSafe เชื่อมโยงความแตกต่างดังกล่าวเข้ากับโมเดล AI โดยอ้างว่าปริมาณงานการผลิตจำนวนมากต้องการคำตอบที่รวดเร็วและพิมพ์ดีดมากกว่าการใช้เหตุผลปลายเปิด
Jev ของ TypeSafe ซึ่งเป็นโมเดลการตัดสินใจที่สร้างขึ้นโดยเฉพาะสำหรับโดเมนเฉพาะ ใช้ความน่าจะเป็นเป็นอินพุตและส่งกลับความน่าจะเป็นในรายการคำตอบที่เป็นไปได้แบบตายตัว จนถึงขณะนี้ นั่นคือหมวดหมู่ทั้งหมด: แบบจำลอง System One ทุกรุ่นเป็นแบบจำลองการตัดสินใจ
Clairic ขยายแนวคิด เมื่อแบบจำลองการตัดสินใจเลือกตัวเลือกที่กำหนดไว้ล่วงหน้า โมเดลการแยกข้อมูลจะตอบด้วยค่าต่างๆ เช่น ตัวเลขที่ดึงมาจากอินพุตโดยตรง คำนวณจากแบบจำลองนั้น หรือการคาดการณ์นอกเหนือจากนั้น Cloudflare กล่าวว่าตระกูลโมเดลทั้งสองตระกูล ควบคู่ไปกับ LLM ทั่วไป ตอนนี้สร้างสแต็กสามชั้นแล้ว: โมเดลการแยกเปลี่ยนอินพุตดิบให้เป็นค่าที่พิมพ์ โมเดลการตัดสินใจเปลี่ยนคุณค่าเป็นการตัดสินใจ และ LLM เปลี่ยนการตัดสินใจเป็นคำพูด
เหตุใดการสกัดจึงสุกงอมสำหรับการคิดใหม่
ข้อโต้แย้งของ Cloudflare ขึ้นอยู่กับปริมาณการรับส่งข้อมูล LLM ในปัจจุบันที่ถูกใช้ไปในการทำงานที่ดูไม่เหมือนการสนทนาเลย บริษัทเรียกการแยกข้อมูลว่า "อาจเป็นงานที่พบบ่อยที่สุดที่มอบให้กับ LLM ในปัจจุบัน" โดยดึงยอดรวมของใบแจ้งหนี้ วันที่จัดส่ง หรือหมายเลขชิ้นส่วนออกจากเอกสาร
ปัญหาตามที่ Cloudflare บอกคือ LLM จัดการงานนั้นด้วยเครื่องจักรที่สร้างขึ้นเพื่อสิ่งอื่น เอาต์พุตอาจไม่ใช่ JSON ที่ถูกต้อง ตัวเลขสามารถอ่านผิดได้เมื่อมีการสร้างโทเค็น ข้อความที่ตัดตอนมาส่งคืนไม่สามารถติดตามกลับไปยังตำแหน่งในเอกสารต้นฉบับได้ ทีมตอบสนองโดยการรวมโมเดลในไปป์ไลน์การป้องกัน: เครื่องมือตรวจสอบสคีมา ลอจิกการลองใหม่ การแยกวิเคราะห์เลเยอร์ และการตรวจสอบเฉพาะจุด และเนื่องจาก LLM เรียกเก็บเงินสำหรับการให้เหตุผลและโทเค็นเอาท์พุต ทุกฟิลด์ของเอกสารทุกฉบับจึงมีต้นทุนการสร้างที่ปรับขนาดตามคำฟุ่มเฟือย แทนที่จะขึ้นอยู่กับความยากของงาน
แบบจำลองการสกัด System One จะพลิกกลับเศรษฐศาสตร์นั้น Cloudflare กล่าวว่า Clairic ประมวลผลอินพุตด้วยการส่งต่อครั้งเดียว เรียกเก็บเงินเฉพาะโทเค็นอินพุต และโดยทั่วไปจะตอบสนองภายในไม่กี่วินาที ในขณะที่การให้เหตุผล LLM ที่ทำงานผ่านฟิลด์เดียวกันอาจใช้เวลาหลายวินาที สำหรับการประมวลผลเอกสารปริมาณมาก ความแตกต่างจะรวดเร็ว
คำขอทำงานอย่างไรจริง ๆ
นักพัฒนาซอฟต์แวร์ส่งสถานะให้กับ Clairic ซึ่งเป็นข้อความที่จะอ่าน พร้อมด้วยรูปภาพเสริมสูงสุด 4 ภาพ ข้างแผนที่ของช่องที่พิมพ์ แต่ละฟิลด์ประกอบด้วยชื่อ ประเภท และคำแนะนำภาษาธรรมดาที่ไม่บังคับ โมเดลจะส่งกลับคำตอบที่พิมพ์ไว้หนึ่งคำตอบต่อฟิลด์ โดยคำนวณในการส่งผ่านคู่ขนานครั้งเดียว หากรายการฟิลด์ไม่พอดีกับอินพุตในการส่งครั้งเดียว เซิร์ฟเวอร์จะแบ่งงานออกเป็นการส่งผ่านแบบคู่ขนานโดยให้แต่ละรายเห็นอินพุตทั้งหมด จากนั้นจึงรวมคำตอบเข้าด้วยกัน
สำหรับงานการประมาณค่า คำตอบจะมาในรูปแบบการกระจาย: ค่ามัธยฐานที่มีช่วง 80% ซึ่งครอบคลุมเปอร์เซ็นไทล์ที่ 10 ถึง 90 โดยมีเปอร์เซ็นไทล์ทั้งหมด 99 รายการให้ตามคำขอ ซึ่งทำให้โมเดลนี้ใช้งานได้สำหรับคำถามในรูปแบบการคาดการณ์ เช่น ค่าซ่อมที่คาดหวัง ลำดับเวลาการส่งมอบ การจราจรในวันถัดไป โดยที่การประมาณค่าเพียงจุดเดียวจะเกินความแน่นอนของโมเดลได้
สัญญาณสำหรับตลาดโครงสร้างพื้นฐาน
การที่แคลร์ริกทำสำเร็จนั้นเกือบจะเข้าประเด็นไม่ได้แล้ว การเปิดตัวครั้งนี้ถือเป็นอีกจุดข้อมูลในการเปลี่ยนแปลงอย่างรวดเร็วระหว่างผู้ให้บริการโครงสร้างพื้นฐานไปสู่การกำหนดขนาดโมเดลให้เหมาะสมกับงาน: โมเดลขนาดเล็ก รวดเร็ว ราคาถูกสำหรับงานที่มีโครงสร้างแคบ โดยมี LLM ระดับแนวหน้าสงวนไว้สำหรับการให้เหตุผลแบบปลายเปิดอย่างแท้จริง จุดยืนของ Cloudflare เอง — โมเดลการแยกข้อมูล การตัดสินใจ และภาษาควรทำงานร่วมกัน — อ่านเป็นพิมพ์เขียวสำหรับวิธีที่คิดว่าจะประกอบสแต็ค AI ที่ใช้งานจริง
บริษัทยังไม่ได้ประกาศวันที่สำหรับการเปิดตัว open-weights ที่สัญญาไว้ สำหรับตอนนี้ Clairic พร้อมให้ชมตัวอย่างแล้วบน Workers AI ซึ่งนักพัฒนาสามารถทดสอบกับปริมาณงานในการดึงข้อมูลของตนเอง และดูว่าใบเรียกเก็บเงิน LLM ของพวกเขาจำเป็นจริงๆ มากเพียงใด
_บทความนี้อ้างอิงจากประกาศอย่างเป็นทางการของ Cloudflare เกี่ยวกับตัวอย่างโมเดลการแยก Clairic_
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →