Cloudflare đã công bố vào thứ Ba bản xem trước của Clairic, một mô hình trích xuất mà công ty mô tả là mô hình đầu tiên của lớp mô hình "System One" mới được thiết kế để lấy các giá trị có cấu trúc ra khỏi dữ liệu phi cấu trúc mà không cần bất kỳ thế hệ mã thông báo nào xác định các mô hình ngôn ngữ lớn. Mô hình này hiện có sẵn dưới dạng bản xem trước trên nền tảng AI của Cloudflare với tên @cf/cloudflare/clairic và công ty cho biết họ dự định công bố trọng số của mô hình một cách công khai trong tương lai gần.

Việc ra mắt đặt Cloudflare vào một trong những cuộc tranh luận thú vị hơn hiện đang định hình lại thị trường cơ sở hạ tầng AI: liệu mọi nhiệm vụ được giao cho LLM có thực sự cần LLM hay không. For more context on this story, see our ongoing latest AI developments.

Clairic làm gì — và nó cố tình không làm gì

Clairic được xây dựng cho một công việc hẹp nhưng cực kỳ phổ biến: đọc dữ liệu đầu vào lộn xộn, không có cấu trúc và trả về các giá trị đã nhập. Theo thông báo của Cloudflare, mô hình này có thể trích xuất, tính toán, ước tính và dự báo các giá trị từ đầu vào không có cấu trúc, trả về các số có phạm vi 80%, các giá trị được nhập như tên, ngày, giờ và danh sách cũng như phân phối xác suất đầy đủ – mỗi giá trị đều có độ tin cậy được hiệu chỉnh.

Những gì nó không làm là tạo ra văn bản. Truy vấn tới Clairic trả về giá trị thuộc loại mà nhà phát triển đã khai báo hoặc kết quả null được ghép nối với điểm p_null ước tính xác suất đơn giản là câu trả lời không xuất hiện trong đầu vào. Mỗi câu trả lời đều có điểm tin cậy để các hệ thống xuôi dòng có thể quyết định nên tin cậy hay gắn cờ câu trả lời đó để con người xem xét.

Cloudflare nói rõ ràng về sự đánh đổi. Vì Clairic không tạo ra mã thông báo nên nó không thể tạo ra JSON không đúng định dạng, đọc sai một chữ số ở giữa thế hệ hoặc tạo ra ảo giác về câu trả lời theo cách mà LLM có thể làm. Nó vẫn có thể mắc sai lầm - công ty cẩn thận ở điểm đó - nhưng những sai sót của nó được ghi lại và đo lường được chứ không phải ở dạng tự do.

Giải thích về Nhãn 'Hệ thống Một'

Thuật ngữ này xuất phát từ công ty khởi nghiệp AI TypeSafe, công ty đã công bố các mẫu System One của riêng mình khoảng một tháng trước và nhanh chóng trở thành một trong những sản phẩm ra mắt được thảo luận nhiều nhất trong cộng đồng nhà phát triển. Khung này mượn từ cuốn sách "Suy nghĩ, nhanh và chậm" của nhà tâm lý học Daniel Kahneman: Hệ thống Một tư duy nhanh, tự động và chính xác, trong khi Hệ thống Hai tư duy chậm và có chủ ý. TypeSafe đã ánh xạ sự khác biệt đó vào các mô hình AI, lập luận rằng nhiều khối lượng công việc sản xuất cần các câu trả lời nhanh, được đánh máy tốt hơn là lý luận mở.

Jev của TypeSafe, một mô hình quyết định được xây dựng có mục đích cho một miền cụ thể, lấy xác suất làm đầu vào và xác suất trả về trên một danh sách cố định các câu trả lời có thể có. Cho đến nay, đó là toàn bộ danh mục: mọi mô hình Hệ thống Một đều là mô hình quyết định.

Clairic mở rộng khái niệm này. Khi mô hình quyết định chọn trong số các tùy chọn được xác định trước, mô hình trích xuất sẽ trả lời bằng các giá trị - các số được lấy trực tiếp từ đầu vào, được tính toán từ đầu vào hoặc dự báo vượt xa nó. Cloudflare cho biết hai họ mô hình, cùng với LLM thông thường, hiện tạo thành một ngăn xếp ba lớp: mô hình trích xuất biến đầu vào thô thành giá trị được nhập, mô hình quyết định biến giá trị thành quyết định và LLM biến quyết định thành từ.

Tại sao việc khai thác đã chín muồi để suy nghĩ lại

Lập luận của Cloudflare dựa trên lượng lưu lượng truy cập LLM ngày nay được chi cho công việc trông không giống cuộc trò chuyện. Công ty gọi việc trích xuất "có lẽ là công việc phổ biến nhất được giao cho LLM ngày nay" - lấy tổng hóa đơn, ngày giao hàng hoặc số bộ phận ra khỏi tài liệu.

Vấn đề, theo lời kể của Cloudflare, là LLM xử lý công việc đó bằng máy móc được chế tạo cho mục đích khác. Đầu ra có thể không hợp lệ JSON. Một chữ số có thể bị đọc sai khi mã thông báo được tạo. Một đoạn trích văn bản được trả về không thể truy ngược lại vị trí của nó trong tài liệu nguồn. Các nhóm phản hồi bằng cách gói các mô hình trong các quy trình phòng thủ: trình xác thực lược đồ, logic thử lại, các lớp phân tích cú pháp và kiểm tra tại chỗ. Và bởi vì LLM lập hóa đơn cho các mã thông báo lý luận và đầu ra, mỗi trường của mỗi tài liệu đều có chi phí tạo tăng theo mức độ dài dòng thay vì độ khó của nhiệm vụ.

Mô hình khai thác Hệ thống Một sẽ đảo ngược tính kinh tế đó. Cloudflare cho biết Clairic xử lý đầu vào bằng một lần chuyển tiếp duy nhất, chỉ tính phí cho mã thông báo đầu vào và thường phản hồi trong vòng chưa đầy một giây — trong khi LLM lý luận hoạt động trên cùng các trường có thể mất vài giây. Để xử lý tài liệu khối lượng lớn, sự khác biệt sẽ được kết hợp nhanh chóng.

Một yêu cầu thực sự hoạt động như thế nào

Các nhà phát triển gửi cho Clairic một trạng thái — văn bản cần đọc, cùng với tối đa bốn hình ảnh tùy chọn — cùng với bản đồ các trường đã nhập. Mỗi trường mang một tên, một loại và các hướng dẫn bằng ngôn ngữ đơn giản tùy chọn. Mô hình trả về một câu trả lời đã nhập cho mỗi trường, được tính toán trong một lần chuyển song song. Nếu danh sách trường không vừa với dữ liệu đầu vào trong một lượt, máy chủ sẽ chia công việc thành các lượt song song mà mỗi lượt xem đầy đủ thông tin đầu vào, sau đó hợp nhất các câu trả lời.

Đối với các nhiệm vụ ước tính, câu trả lời được đưa ra dưới dạng phân bổ: trung vị với khoảng 80% kéo dài từ phân vị thứ 10 đến phân vị thứ 90, với tất cả 99 phân vị có sẵn theo yêu cầu. Điều đó làm cho mô hình có thể sử dụng được cho các câu hỏi kiểu dự báo - chi phí sửa chữa dự kiến, thời gian giao hàng, lưu lượng truy cập trong ngày hôm sau - trong đó ước tính một điểm duy nhất sẽ phóng đại sự chắc chắn của mô hình.

Tín hiệu cho thị trường cơ sở hạ tầng

Liệu bản thân Clairic có thành công hay không gần như không còn quan trọng nữa. Sự ra mắt này là một điểm dữ liệu khác trong sự chuyển đổi nhanh chóng giữa các nhà cung cấp cơ sở hạ tầng hướng tới các mô hình định cỡ phù hợp với nhiệm vụ: các mô hình nhỏ, nhanh, rẻ cho công việc có cấu trúc hẹp, với các LLM biên giới dành riêng cho lý luận mở thực sự. Định vị riêng của Cloudflare - các mô hình trích xuất, quyết định và ngôn ngữ sẽ hoạt động đồng thời - đọc như một bản thiết kế chi tiết về cách nó nghĩ rằng các ngăn xếp AI sản xuất sẽ được lắp ráp.

Công ty vẫn chưa công bố ngày phát hành phiên bản mở rộng như đã hứa. Hiện tại, Clairic có sẵn ở bản xem trước trên Workers AI, nơi các nhà phát triển có thể thử nghiệm nó dựa trên khối lượng công việc trích xuất của chính họ — và tìm hiểu xem hóa đơn LLM của họ thực sự cần thiết đến mức nào.

_Bài viết này dựa trên thông báo chính thức của Cloudflare về bản xem trước mô hình trích xuất Clairic._

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →