Cloudflare ogłosiło we wtorek wersję zapoznawczą Clairic, modelu ekstrakcji, który firma opisuje jako pierwszy z nowej klasy modeli „System One”, zaprojektowanych w celu wyciągania ustrukturyzowanych wartości z nieustrukturyzowanych danych bez generowania token po tokenie, które definiuje duże modele językowe. Model jest już dostępny w wersji zapoznawczej na platformie Workers AI firmy Cloudflare pod nazwą @cf/cloudflare/clairic, a firma twierdzi, że w najbliższej przyszłości zamierza publicznie udostępnić wagi modelu.
Premiera stawia Cloudflare w samym środku jednej z bardziej interesujących debat, które obecnie kształtują rynek infrastruktury sztucznej inteligencji: czy każde zadanie przypisane LLM rzeczywiście wymaga LLM. Więcej kontekstu na ten temat znajdziesz w naszych wiadomości AI.
Co robi Clairic — a czego celowo nie robi
Clairic jest stworzony do wąskiego, ale niezwykle częstego zadania: czytania niechlujnych, nieustrukturyzowanych danych wejściowych i zwracania wpisanych wartości. Zgodnie z zapowiedzią Cloudflare model może wyodrębniać, obliczać, szacować i prognozować wartości z nieustrukturyzowanych danych wejściowych, zwracać liczby z zakresu 80%, wpisywane wartości, takie jak nazwiska, daty, godziny i listy, a także pełne rozkłady prawdopodobieństwa – każdy ze skalibrowaną pewnością.
Jedyne, czego nie robi, to generowanie tekstu. Zapytanie do Clairic zwraca albo wartość typu zadeklarowanego przez programistę, albo wynik null w połączeniu z wynikiem p_null, który szacuje prawdopodobieństwo, że odpowiedź po prostu nie występuje na wejściu. Każda odpowiedź jest dostarczana ze wskaźnikiem zaufania, więc systemy niższego szczebla mogą zdecydować, czy jej zaufać, czy też zgłosić ją do sprawdzenia przez człowieka.
Cloudflare wyraźnie mówi o kompromisie. Ponieważ Clairic nie generuje tokenów, nie może wygenerować zniekształconego JSON, błędnie odczytać cyfry w połowie generacji ani halucynować odpowiedzi w sposób, w jaki może to zrobić LLM. Nadal może popełniać błędy — firma jest pod tym względem ostrożna — ale jego niepowodzenia są raczej wpisane i mierzalne, a nie dowolne.
Objaśnienie etykiety „System pierwszy”.
Terminologia pochodzi od start-upu AI TypeSafe, który około miesiąc temu ogłosił własne modele System One i szybko stał się jedną z najczęściej dyskutowanych premier w społeczności programistów. Sformułowanie zapożyczono z książki psychologa Daniela Kahnemana „Thinking, Fast and Slow”: myślenie w Systemie Pierwszym jest szybkie, automatyczne i precyzyjne, podczas gdy myślenie w Systemie Drugim jest powolne i przemyślane. TypeSafe odniosło to rozróżnienie do modeli sztucznej inteligencji, argumentując, że wiele zadań produkcyjnych wymaga szybkich, dobrze wpisanych odpowiedzi, a nie otwartego rozumowania.
Jev firmy TypeSafe, model decyzyjny stworzony specjalnie dla określonej domeny, pobierał prawdopodobieństwa jako dane wejściowe i zwracał prawdopodobieństwa na podstawie ustalonej listy możliwych odpowiedzi. Do tej pory była to cała kategoria: każdy model System One był modelem decyzyjnym.
Clairic rozszerza tę koncepcję. Tam, gdzie model decyzyjny wybiera spośród predefiniowanych opcji, model ekstrakcji odpowiada wartościami — liczbami pobranymi bezpośrednio z danych wejściowych, obliczonymi na ich podstawie lub prognozowanymi poza nimi. Cloudflare twierdzi, że obie rodziny modeli, obok konwencjonalnych LLM, tworzą obecnie trójwarstwowy stos: modele ekstrakcji przekształcają surowe dane wejściowe na wpisane wartości, modele decyzyjne zamieniają wartości w decyzje, a LLM zamieniają decyzje w słowa.
Dlaczego wydobycie dojrzało do ponownego przemyślenia
Argument Cloudflare opiera się na tym, jaka część dzisiejszego ruchu LLM jest przeznaczona na pracę, która w niczym nie przypomina rozmowy. Firma nazywa ekstrakcję „prawdopodobnie najczęstszym zadaniem wykonywanym obecnie przez firmy LLM” — pobieranie z dokumentu kwoty faktury, daty dostawy lub numeru części.
Problem, zdaniem Cloudflare, polega na tym, że firmy LLM wykonują to zadanie za pomocą maszyn zbudowanych do czegoś innego. Dane wyjściowe mogą nie być prawidłowym formatem JSON. Podczas generowania tokenów cyfra może zostać błędnie odczytana. Zwróconego fragmentu tekstu nie można prześledzić do jego lokalizacji w dokumencie źródłowym. Zespoły reagują, zawijając modele w potoki obronne: walidatory schematów, logikę ponawiania, warstwy analizujące i kontrole wyrywkowe. A ponieważ LLM pobierają opłaty za tokeny rozumowania i wyników, każde pole każdego dokumentu wiąże się z kosztem wygenerowania, który skaluje się raczej w zależności od szczegółowości niż trudności zadania.
Model ekstrakcji Systemu One odwraca tę ekonomię. Cloudflare twierdzi, że Clairic przetwarza dane wejściowe za pomocą jednego przebiegu w przód, pobiera opłaty tylko za tokeny wejściowe i zazwyczaj odpowiada w czasie krótszym niż sekunda, podczas gdy rozumujący LLM pracujący nad tymi samymi polami może zająć kilka sekund. W przypadku przetwarzania dużych ilości dokumentów różnica szybko się zwiększa.
Jak właściwie działa żądanie
Programiści wysyłają Clairicowi stan – tekst do przeczytania oraz maksymalnie cztery opcjonalne obrazy – wraz z mapą wpisywanych pól. Każde pole zawiera nazwę, typ i opcjonalne instrukcje w prostym języku. Model zwraca jedną wpisaną odpowiedź na pole, obliczoną w jednym równoległym przebiegu. Jeśli lista pól nie mieści się obok danych wejściowych w jednym przebiegu, serwer dzieli pracę na równoległe przebiegi, z których każdy uwzględnia pełne dane wejściowe, a następnie łączy odpowiedzi.
W przypadku zadań estymacyjnych odpowiedzi mają postać rozkładu: mediany z 80% przedziałem obejmującym od 10. do 90. percentyla, przy czym wszystkie 99 percentyle są dostępne na żądanie. Dzięki temu model nadaje się do stosowania w przypadku pytań typu prognoza – oczekiwanych kosztów napraw, harmonogramu dostaw, ruchu w następnym dniu – gdzie oszacowanie jednopunktowe zawyżałoby pewność modelu.
Sygnał dla rynku infrastruktury
To, czy sam Clairic odniesie sukces, jest prawie nieistotne. Wprowadzenie na rynek to kolejny punkt danych świadczący o szybko postępującej zmianie wśród dostawców infrastruktury w kierunku modeli o odpowiedniej wielkości do zadań: małych, szybkich i tanich modeli do pracy o wąskiej strukturze, z pionierskimi LLM zarezerwowanymi dla prawdziwie otwartego rozumowania. Własne stanowisko Cloudflare – zgodnie z którym modele ekstrakcji, decyzji i języka powinny działać zgodnie – można odczytać jako plan tego, jak według niego będą montowane produkcyjne stosy sztucznej inteligencji.
Spółka nie podała daty obiecanej premiery wag otwartych. Na razie Clairic jest dostępny w wersji zapoznawczej w Workers AI, gdzie programiści mogą przetestować go pod kątem własnych obciążeń związanych z ekstrakcją — i dowiedzieć się, jaka część ich rachunku LLM była kiedykolwiek naprawdę konieczna.
_Ten artykuł powstał na podstawie oficjalnego ogłoszenia Cloudflare dotyczącego wersji zapoznawczej modelu ekstrakcji Clairic._
---
Bądź na Bieżąco z AINajnowsze wiadomości, analizy i przełomy w dziedzinie AI — wszystko w jednym miejscu.
Czytaj więcej wiadomości AI →
