क्लाउडफ्लेयर ने मंगलवार को क्लैरिक के पूर्वावलोकन की घोषणा की, जो एक निष्कर्षण मॉडल है जिसे कंपनी "सिस्टम वन" मॉडल की एक नई श्रेणी के पहले के रूप में वर्णित करती है जो बिना किसी टोकन-दर-टोकन पीढ़ी के संरचित डेटा से संरचित मूल्यों को खींचने के लिए डिज़ाइन किया गया है जो बड़े भाषा मॉडल को परिभाषित करता है। मॉडल अब क्लाउडफ्लेयर के वर्कर्स एआई प्लेटफॉर्म पर @cf/cloudflare/clairic के रूप में पूर्वावलोकन में उपलब्ध है, और कंपनी का कहना है कि वह निकट भविष्य में मॉडल के वजन को खुले तौर पर जारी करने का इरादा रखती है।
लॉन्च ने क्लाउडफ्लेयर को एआई इंफ्रास्ट्रक्चर बाजार को फिर से आकार देने वाली अधिक दिलचस्प बहसों में से एक में स्थान दिया है: क्या एलएलएम को सौंपे गए प्रत्येक कार्य को वास्तव में एलएलएम की आवश्यकता है। For more context on this story, see our ongoing AI news.
क्लैरिक क्या करता है - और वह जानबूझकर क्या नहीं करता है
क्लैरिक को एक संकीर्ण लेकिन अत्यधिक सामान्य कार्य के लिए बनाया गया है: गन्दा, असंरचित इनपुट पढ़ना और टाइप किए गए मान लौटाना। क्लाउडफ्लेयर की घोषणा के अनुसार, मॉडल असंरचित इनपुट से मान निकाल सकता है, गणना कर सकता है, अनुमान लगा सकता है और पूर्वानुमान लगा सकता है, 80% रेंज के साथ संख्याएँ लौटा सकता है, नाम, दिनांक, समय और सूचियाँ जैसे टाइप किए गए मान और पूर्ण संभाव्यता वितरण - प्रत्येक कैलिब्रेटेड आत्मविश्वास के साथ कर सकता है।
यह जो नहीं करता वह टेक्स्ट उत्पन्न करना है। क्लैरिक के लिए एक क्वेरी या तो डेवलपर द्वारा घोषित प्रकार का मान लौटाती है, या p_null स्कोर के साथ जोड़ा गया एक शून्य परिणाम देता है जो संभावना का अनुमान लगाता है कि उत्तर इनपुट में मौजूद नहीं है। प्रत्येक उत्तर आत्मविश्वास स्कोर के साथ भेजा जाता है ताकि डाउनस्ट्रीम सिस्टम यह तय कर सके कि उस पर भरोसा करना है या मानव समीक्षा के लिए ध्वजांकित करना है।
क्लाउडफ्लेयर ट्रेड-ऑफ के बारे में स्पष्ट है। क्योंकि क्लैरिक कोई टोकन उत्पन्न नहीं करता है, यह विकृत JSON उत्पन्न नहीं कर सकता है, मध्य पीढ़ी के अंक को गलत नहीं पढ़ सकता है, या एलएलएम की तरह किसी उत्तर को मतिभ्रम नहीं कर सकता है। यह अभी भी गलतियाँ कर सकता है - कंपनी उस बिंदु पर सावधान है - लेकिन इसकी विफलताएँ फ्री-फॉर्म के बजाय टाइप की गई और मापने योग्य हैं।
'सिस्टम वन' लेबल, समझाया गया
यह शब्दावली एआई स्टार्टअप टाइपसेफ़ से आती है, जिसने लगभग एक महीने पहले अपने स्वयं के सिस्टम वन मॉडल की घोषणा की और जल्द ही डेवलपर समुदाय में सबसे चर्चित लॉन्च में से एक बन गया। फ़्रेमिंग मनोवैज्ञानिक डैनियल कन्नमन की पुस्तक "थिंकिंग, फास्ट एंड स्लो" से उधार ली गई है: सिस्टम वन सोच तेज़, स्वचालित और सटीक है, जबकि सिस्टम टू सोच धीमी और जानबूझकर है। टाइपसेफ़ ने एआई मॉडल पर उस अंतर को मैप किया, यह तर्क देते हुए कि कई उत्पादन कार्यभार को ओपन-एंडेड तर्क के बजाय तेज़, अच्छी तरह से टाइप किए गए उत्तरों की आवश्यकता होती है।
टाइपसेफ का जेव, एक विशिष्ट डोमेन के लिए बनाया गया एक निर्णय मॉडल, संभावनाओं को इनपुट के रूप में लेता है और संभावित उत्तरों की एक निश्चित सूची पर संभावनाएं लौटाता है। अब तक, यह पूरी श्रेणी थी: प्रत्येक सिस्टम वन मॉडल एक निर्णय मॉडल था।
क्लैरिक इस अवधारणा का विस्तार करता है। जहां एक निर्णय मॉडल पूर्वनिर्धारित विकल्पों में से चुनता है, एक निष्कर्षण मॉडल मूल्यों के साथ उत्तर देता है - संख्याएं सीधे इनपुट से खींची जाती हैं, इससे गणना की जाती है, या इससे परे पूर्वानुमान लगाया जाता है। क्लाउडफ्लेयर का कहना है कि दो मॉडल परिवार, पारंपरिक एलएलएम के साथ, अब एक तीन-परत स्टैक बनाते हैं: निष्कर्षण मॉडल कच्चे इनपुट को टाइप किए गए मानों में बदल देते हैं, निर्णय मॉडल मूल्यों को निर्णयों में बदल देते हैं, और एलएलएम निर्णयों को शब्दों में बदल देते हैं।
क्यों निष्कर्षण पुनर्विचार के लिए उपयुक्त है
क्लाउडफ्लेयर का तर्क इस बात पर आधारित है कि आज के एलएलएम ट्रैफ़िक का कितना हिस्सा ऐसे काम पर खर्च किया जाता है जो बातचीत जैसा कुछ भी नहीं दिखता है। कंपनी निष्कर्षण को "शायद आज एलएलएम को सौंपा जाने वाला सबसे आम काम" कहती है - किसी दस्तावेज़ से कुल चालान, डिलीवरी की तारीख या भाग संख्या निकालना।
क्लाउडफ़ेयर के अनुसार, समस्या यह है कि एलएलएम उस काम को किसी और चीज़ के लिए बनाई गई मशीनरी के साथ संभालते हैं। आउटपुट मान्य JSON नहीं हो सकता है. टोकन उत्पन्न होते ही एक अंक को गलत पढ़ा जा सकता है। लौटाए गए पाठ अंश को स्रोत दस्तावेज़ में उसके स्थान पर वापस नहीं खोजा जा सकता है। टीमें मॉडलों को रक्षात्मक पाइपलाइनों में लपेटकर प्रतिक्रिया देती हैं: स्कीमा सत्यापनकर्ता, तर्क पुनः प्रयास करें, परतों को पार्स करना, और स्पॉट जांच। और क्योंकि एलएलएम तर्क और आउटपुट टोकन के लिए बिल करते हैं, प्रत्येक दस्तावेज़ के प्रत्येक क्षेत्र में एक पीढ़ी की लागत होती है जो कार्य की कठिनाई के बजाय शब्दाडंबर के साथ बढ़ती है।
एक सिस्टम वन निष्कर्षण मॉडल उस अर्थशास्त्र को उलट देता है। क्लाउडफ्लेयर का कहना है कि क्लैरिक एक फॉरवर्ड पास के साथ इनपुट प्रोसेस करता है, केवल इनपुट टोकन के लिए शुल्क लेता है, और आम तौर पर एक सेकंड के भीतर प्रतिक्रिया देता है - जबकि एक ही फ़ील्ड के माध्यम से काम करने वाले एलएलएम में कई सेकंड लग सकते हैं। उच्च-मात्रा वाले दस्तावेज़ प्रसंस्करण के लिए, अंतर तेजी से बढ़ता है।
एक अनुरोध वास्तव में कैसे काम करता है
डेवलपर्स क्लैरिक को एक स्थिति भेजते हैं - पढ़ने के लिए पाठ, साथ ही चार वैकल्पिक छवियां - टाइप किए गए फ़ील्ड के मानचित्र के साथ। प्रत्येक फ़ील्ड में एक नाम, एक प्रकार और वैकल्पिक सादे-भाषा निर्देश होते हैं। मॉडल प्रति फ़ील्ड एक टाइप किया हुआ उत्तर लौटाता है, जिसकी गणना एक समानांतर पास में की जाती है। यदि फ़ील्ड सूची एक पास में इनपुट के बगल में फिट नहीं होती है, तो सर्वर कार्य को समानांतर पासों में विभाजित करता है, जिनमें से प्रत्येक पूरा इनपुट देखता है, फिर उत्तरों को मर्ज कर देता है।
आकलन कार्यों के लिए, उत्तर एक वितरण के रूप में आते हैं: 10वें से 90वें प्रतिशतक तक फैले 80% अंतराल के साथ एक माध्यिका, अनुरोध पर सभी 99 प्रतिशतक उपलब्ध होते हैं। यह मॉडल को पूर्वानुमान-शैली के प्रश्नों के लिए प्रयोग करने योग्य बनाता है - अपेक्षित मरम्मत लागत, वितरण समयरेखा, अगले दिन यातायात - जहां एक एकल बिंदु अनुमान मॉडल की निश्चितता को बढ़ा देगा।
इंफ्रास्ट्रक्चर मार्केट के लिए एक संकेत
क्लेरिक स्वयं सफल होता है या नहीं, यह लगभग मुद्दे से परे है। लॉन्च बुनियादी ढांचे प्रदाताओं के बीच कार्यों के लिए सही आकार के मॉडल की ओर तेजी से बढ़ते बदलाव में एक और डेटा बिंदु है: संकीर्ण संरचित काम के लिए छोटे, तेज़, सस्ते मॉडल, फ्रंटियर एलएलएम वास्तव में ओपन-एंडेड तर्क के लिए आरक्षित हैं। क्लाउडफ्लेयर की अपनी स्थिति - निष्कर्षण, निर्णय और भाषा मॉडल को एक साथ काम करना चाहिए - यह एक ब्लूप्रिंट के रूप में पढ़ता है कि यह कैसे सोचता है कि उत्पादन एआई स्टैक को इकट्ठा किया जाएगा।
कंपनी ने वादा किए गए ओपन-वेट रिलीज़ की तारीख की घोषणा नहीं की है। अभी के लिए, क्लैरिक वर्कर्स एआई पर पूर्वावलोकन में उपलब्ध है, जहां डेवलपर्स इसे अपने स्वयं के निष्कर्षण कार्यभार के खिलाफ परीक्षण कर सकते हैं - और पता लगा सकते हैं कि उनके एलएलएम बिल का कितना हिस्सा वास्तव में आवश्यक था।
_यह लेख क्लाउडफ्लेयर की क्लैरिक एक्सट्रैक्शन मॉडल पूर्वावलोकन की आधिकारिक घोषणा पर आधारित है।_
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
