Cloudflare روز سه‌شنبه پیش‌نمایش Clairic را اعلام کرد، یک مدل استخراج که این شرکت آن را اولین مدل از کلاس جدید مدل‌های «System One» توصیف می‌کند که برای استخراج مقادیر ساختاریافته از داده‌های بدون ساختار بدون هیچ گونه نسل نشانه به نشانه که مدل‌های زبان بزرگ را تعریف می‌کند، طراحی شده است. این مدل اکنون در پلتفرم هوش مصنوعی Cloudflare Workers با نام cf/cloudflare/clairic به صورت پیش نمایش در دسترس است و این شرکت می گوید که قصد دارد وزن های مدل را به طور آشکار در آینده نزدیک منتشر کند.

این راه‌اندازی، Cloudflare را دقیقاً در یکی از بحث‌های جالب‌تر قرار می‌دهد که اکنون بازار زیرساخت هوش مصنوعی را تغییر می‌دهد: آیا هر وظیفه‌ای که به یک LLM اختصاص داده می‌شود واقعاً به یک LLM نیاز دارد یا خیر. For more context on this story, see our ongoing breaking AI news.

آنچه Clairic انجام می دهد - و آنچه که عمدا انجام نمی دهد

Clairic برای یک کار باریک اما بسیار رایج ساخته شده است: خواندن ورودی نامرتب، بدون ساختار و برگرداندن مقادیر تایپ شده. بر اساس اعلام Cloudflare، این مدل می‌تواند مقادیر را از ورودی‌های بدون ساختار استخراج، محاسبه، تخمین و پیش‌بینی کند، اعداد را با بازه ۸۰ درصدی، مقادیر تایپ‌شده مانند نام‌ها، تاریخ‌ها، زمان‌ها و فهرست‌ها و توزیع‌های احتمالی کامل - هر کدام با اطمینان کالیبره‌شده را برگرداند.

کاری که انجام نمی دهد تولید متن است. یک پرس و جو به Clairic یا مقداری از نوع اعلام شده توسط توسعه دهنده را برمی گرداند، یا یک نتیجه تهی جفت شده با نمره p_null که احتمال عدم وجود پاسخ را در ورودی تخمین می زند. هر پاسخی با یک امتیاز اطمینان ارسال می‌شود، بنابراین سیستم‌های پایین‌دستی می‌توانند تصمیم بگیرند که به آن اعتماد کنند یا آن را برای بررسی انسانی علامت‌گذاری کنند.

Cloudflare در مورد مبادله صریح است. از آنجایی که Clairic هیچ نشانه‌ای تولید نمی‌کند، نمی‌تواند JSON بدشکل تولید کند، یک رقم میان نسلی را اشتباه بخواند، یا پاسخی را به روشی که یک LLM می‌تواند توهم ایجاد کند. هنوز هم ممکن است اشتباه کند - شرکت در این زمینه مراقب است - اما شکست‌هایش به جای آزاد بودن، تایپ‌شده و قابل اندازه‌گیری هستند.

برچسب 'System One'، توضیح داده شده است

این اصطلاح از استارت‌آپ AI TypeSafe می‌آید که حدود یک ماه پیش مدل‌های System One خود را معرفی کرد و به سرعت تبدیل به یکی از پر بحث‌ترین راه‌اندازی‌ها در جامعه توسعه‌دهندگان شد. این چارچوب از کتاب "تفکر، سریع و آهسته" روانشناس دانیل کانمن وام گرفته شده است: تفکر سیستم یک سریع، خودکار و دقیق است، در حالی که تفکر سیستم دو آهسته و عمدی است. TypeSafe این تمایز را بر روی مدل‌های هوش مصنوعی ترسیم کرد و استدلال کرد که بسیاری از کارهای تولیدی به جای استدلال باز به پاسخ‌های سریع و تایپ شده نیاز دارند.

TypeSafe's Jev، یک مدل تصمیم گیری هدفمند برای یک دامنه خاص، احتمالات را به عنوان ورودی در نظر گرفت و احتمالات را در لیست ثابتی از پاسخ های ممکن برگرداند. تا به حال، این کل مقوله بود: هر مدل System One یک مدل تصمیم گیری بود.

Clairic مفهوم را گسترش می دهد. در جایی که یک مدل تصمیم از بین گزینه های از پیش تعریف شده انتخاب می شود، یک مدل استخراج با مقادیر پاسخ می دهد - اعدادی که مستقیماً از ورودی استخراج می شوند، از آن محاسبه می شوند یا فراتر از آن پیش بینی می شوند. Cloudflare می‌گوید که دو خانواده مدل، در کنار LLM‌های معمولی، اکنون یک پشته سه لایه را تشکیل می‌دهند: مدل‌های استخراج، ورودی خام را به مقادیر تایپ‌شده، مدل‌های تصمیم‌گیری، ارزش‌ها را به تصمیم‌گیری، و LLM‌ها تصمیم‌ها را به کلمات تبدیل می‌کنند.

چرا استخراج برای تجدید نظر آماده است

استدلال Cloudflare بر این است که چه مقدار از ترافیک LLM امروزی صرف کارهایی می شود که هیچ شباهتی به مکالمه ندارند. این شرکت استخراج را «احتمالاً رایج‌ترین شغلی است که امروزه به LLMها واگذار می‌شود» - بیرون کشیدن کل فاکتور، تاریخ تحویل یا شماره قطعه از یک سند.

مشکل، به گفته Cloudflare، این است که LLM ها این کار را با ماشین آلات ساخته شده برای چیز دیگری انجام می دهند. خروجی ممکن است JSON معتبر نباشد. با تولید توکن ها، یک رقم می تواند اشتباه خوانده شود. گزیده متن بازگردانده شده را نمی توان در محل آن در سند منبع ردیابی کرد. تیم ها با قرار دادن مدل ها در خطوط لوله دفاعی پاسخ می دهند: اعتبار سنجی طرحواره، منطق امتحان مجدد، تجزیه لایه ها و بررسی های نقطه ای. و از آنجایی که LLM ها برای استدلال و نشانه های خروجی صورتحساب می گیرند، هر فیلد از هر سند هزینه تولیدی را به همراه دارد که به جای دشواری کار، با پرحرفی مقیاس می شود.

یک مدل استخراج سیستم یک آن اقتصاد را معکوس می کند. Cloudflare می‌گوید که Clairic ورودی را با یک پاس رو به جلو پردازش می‌کند، فقط برای نشانه‌های ورودی شارژ می‌کند و معمولاً در کمتر از یک ثانیه پاسخ می‌دهد – در حالی که یک LLM استدلالی که در همان فیلدها کار می‌کند می‌تواند چندین ثانیه طول بکشد. برای پردازش اسناد با حجم بالا، تفاوت به سرعت ترکیب می شود.

چگونه یک درخواست در واقع کار می کند

توسعه‌دهندگان یک وضعیت برای Clairic ارسال می‌کنند - متنی که باید خوانده شود، به علاوه حداکثر چهار تصویر اختیاری - در کنار نقشه‌ای از فیلدهای تایپ‌شده. هر فیلد دارای یک نام، یک نوع و دستورالعمل های اختیاری به زبان ساده است. مدل یک پاسخ تایپ شده در هر فیلد را که در یک پاس موازی محاسبه می شود، برمی گرداند. اگر لیست فیلد در کنار ورودی در یک پاس قرار نگیرد، سرور کار را به پاس های موازی تقسیم می کند که هر کدام ورودی کامل را می بینند، سپس پاسخ ها را ادغام می کند.

برای وظایف تخمینی، پاسخ‌ها به صورت توزیع می‌آیند: یک میانه با فاصله 80 درصدی که بین صدک‌های 10 تا 90 را در بر می‌گیرد، با همه 99 صدک در صورت درخواست موجود است. این باعث می‌شود که مدل برای سؤالات سبک پیش‌بینی قابل استفاده باشد - هزینه‌های تعمیرات مورد انتظار، زمان‌بندی تحویل، ترافیک روز بعد - که در آن یک تخمین واحد، قطعیت مدل را بیش از حد اعلام می‌کند.

سیگنالی برای بازار زیرساخت

اینکه Clairic خود موفق شود تقریباً دور از ذهن است. این راه‌اندازی نقطه داده دیگری در تغییر سریع در میان ارائه‌دهندگان زیرساخت به سمت مدل‌های با اندازه مناسب به سمت وظایف است: مدل‌های کوچک، سریع و ارزان برای کارهای ساختاری محدود، با LLM‌های مرزی که برای استدلال کاملاً باز رزرو شده‌اند. موقعیت‌یابی خود Cloudflare - که مدل‌های استخراج، تصمیم‌گیری و زبان باید به صورت هماهنگ کار کنند - به عنوان طرحی برای نحوه جمع‌آوری پشته‌های هوش مصنوعی تولیدی خوانده می‌شود.

این شرکت تاریخی را برای انتشار اوزان آزاد اعلام نکرده است. در حال حاضر، Clairic به صورت پیش نمایش در Workers AI در دسترس است، جایی که توسعه دهندگان می توانند آن را در برابر بارهای کاری استخراج خود آزمایش کنند - و متوجه شوند که چقدر از صورتحساب LLM آنها واقعاً ضروری بوده است.

_این مقاله بر اساس اعلام رسمی Cloudflare درباره پیش نمایش مدل استخراج Clairic است.

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →