Cloudflare ने मंगळवारी Clairic च्या पूर्वावलोकनाची घोषणा केली, एक एक्सट्रॅक्शन मॉडेल ज्याचे वर्णन कंपनी "सिस्टम वन" मॉडेलच्या नवीन वर्गातील पहिले मॉडेल म्हणून करते जे मोठ्या भाषेचे मॉडेल परिभाषित करणाऱ्या टोकन-बाय-टोकन पिढीशिवाय संरचित डेटामधून संरचित मूल्ये बाहेर काढण्यासाठी डिझाइन केलेले आहे. हे मॉडेल आता Cloudflare च्या Workers AI प्लॅटफॉर्मवर @cf/cloudflare/clairic या नावाने पूर्वावलोकनात उपलब्ध आहे आणि कंपनीचे म्हणणे आहे की नजीकच्या भविष्यात मॉडेलचे वजन उघडपणे सोडण्याचा त्यांचा मानस आहे.
लॉन्च पोझिशन्स क्लाउडफ्लेअरला आता AI इन्फ्रास्ट्रक्चर मार्केटला पुन्हा आकार देणाऱ्या अधिक मनोरंजक वादांपैकी एकामध्ये स्थित आहे: LLM ला नियुक्त केलेल्या प्रत्येक कार्याला LLM ची गरज आहे का. For more context on this story, see our ongoing AI industry coverage.
क्लेरिक काय करते — आणि मुद्दाम काय करत नाही
क्लेरिक एका अरुंद परंतु मोठ्या प्रमाणात सामान्य कामासाठी तयार केले आहे: गोंधळलेले, असंरचित इनपुट वाचणे आणि टाइप केलेली मूल्ये परत करणे. क्लाउडफ्लेअरच्या घोषणेनुसार, मॉडेल असंरचित इनपुटमधून मूल्ये काढू शकते, गणना करू शकते, अंदाज लावू शकते आणि अंदाज लावू शकते, 80% श्रेणीसह संख्या परत करू शकते, टाइप केलेली मूल्ये जसे की नावे, तारखा, वेळा आणि याद्या आणि संपूर्ण संभाव्यता वितरण — प्रत्येक कॅलिब्रेटेड आत्मविश्वासाने.
ते काय करत नाही ते मजकूर तयार करते. क्लेरिकला केलेली क्वेरी एकतर विकसकाने घोषित केलेल्या प्रकाराचे मूल्य किंवा p_null स्कोअरसह जोडलेले शून्य निकाल देते जे इनपुटमध्ये उत्तर नसल्याच्या संभाव्यतेचा अंदाज लावते. प्रत्येक उत्तर आत्मविश्वास स्कोअरसह पाठवते जेणेकरून डाउनस्ट्रीम सिस्टम त्यावर विश्वास ठेवायचा की मानवी पुनरावलोकनासाठी ध्वजांकित करायचा हे ठरवू शकतात.
क्लाउडफ्लेअर ट्रेड-ऑफबद्दल स्पष्ट आहे. क्लेरिक कोणतेही टोकन व्युत्पन्न करत नसल्यामुळे, ते विकृत JSON तयार करू शकत नाही, अंकाच्या मध्य-पिढीचे चुकीचे वाचन करू शकत नाही किंवा LLM करू शकत असलेल्या उत्तराचा भ्रमनिरास करू शकत नाही. ते अजूनही चुका करू शकते - कंपनी त्या मुद्यावर सावध आहे - परंतु त्याचे अपयश फ्री-फॉर्म ऐवजी टाइप केलेले आणि मोजता येण्यासारखे आहेत.
'सिस्टम वन' लेबल, स्पष्ट केले
शब्दावली AI स्टार्टअप TypeSafe कडून आली आहे, ज्याने सुमारे एक महिन्यापूर्वी स्वतःचे सिस्टम वन मॉडेल घोषित केले आणि विकसक समुदायामध्ये त्वरीत सर्वात चर्चेत असलेल्या लॉन्चपैकी एक बनले. मानसशास्त्रज्ञ डॅनियल काहनेमन यांच्या "थिंकिंग, फास्ट अँड स्लो" या पुस्तकातून फ्रेमिंग घेतले आहे: सिस्टम वन विचार वेगवान, स्वयंचलित आणि अचूक आहे, तर सिस्टम टू विचार हळू आणि मुद्दाम आहे. TypeSafe ने तो फरक AI मॉडेल्सवर मॅप केला, असा युक्तिवाद केला की अनेक उत्पादन वर्कलोड्सना ओपन-एंडेड रिझनिंगऐवजी जलद, चांगली टाइप केलेली उत्तरे आवश्यक आहेत.
TypeSafe's Jev, एका विशिष्ट डोमेनसाठी उद्देशाने तयार केलेले निर्णय मॉडेल, इनपुट म्हणून संभाव्यता घेते आणि संभाव्य उत्तरांच्या निश्चित सूचीवर संभाव्यता परत करते. आतापर्यंत, ती संपूर्ण श्रेणी होती: प्रत्येक सिस्टम वन मॉडेल एक निर्णय मॉडेल होते.
क्लेरिक संकल्पनेचा विस्तार करतात. जेथे निर्णय मॉडेल पूर्वनिर्धारित पर्यायांमधून निवडतो, तेथे एक निष्कर्षण मॉडेल मूल्यांसह उत्तरे देतो — इनपुटमधून थेट खेचलेले संख्या, त्यातून गणना केली जाते किंवा त्यापलीकडे अंदाज. क्लाउडफ्लेअर म्हणते की, दोन मॉडेल फॅमिली, पारंपारिक LLM सोबत, आता तीन-स्तरांचा स्टॅक बनवतात: एक्सट्रॅक्शन मॉडेल रॉ इनपुट टाईप केलेल्या मूल्यांमध्ये बदलतात, निर्णय मॉडेल मूल्यांना निर्णयांमध्ये बदलतात आणि LLM निर्णयांना शब्दांमध्ये बदलतात.
उतारा पुनर्विचारासाठी योग्य का आहे
क्लाउडफ्लेअरचा युक्तिवाद आजच्या LLM ट्रॅफिकपैकी किती कामावर खर्च होतो यावर अवलंबून आहे जे संभाषणासारखे काहीही दिसत नाही. कंपनी एक्स्ट्रॅक्शन म्हणते "कदाचित आज LLM ला दिलेली सर्वात सामान्य नोकरी" — इनव्हॉइस टोटल, डिलिव्हरीची तारीख किंवा कागदपत्रातील भाग क्रमांक काढणे.
क्लाउडफ्लेअरच्या सांगण्यामध्ये समस्या अशी आहे की एलएलएम हे काम दुसऱ्या कशासाठी तरी तयार केलेल्या मशिनरीसह हाताळतात. आउटपुट वैध JSON असू शकत नाही. टोकन व्युत्पन्न झाल्यामुळे अंक चुकीचा वाचला जाऊ शकतो. परत केलेला मजकूर उतारा स्त्रोत दस्तऐवजात त्याच्या स्थानावर शोधला जाऊ शकत नाही. संघ बचावात्मक पाइपलाइनमध्ये मॉडेल्स गुंडाळून प्रतिसाद देतात: स्कीमा व्हॅलिडेटर, पुन्हा प्रयत्न करा लॉजिक, स्तर पार्स करणे आणि स्पॉट चेक. आणि कारण LLM चे बिल तर्क आणि आउटपुट टोकनसाठी आहे, प्रत्येक दस्तऐवजाच्या प्रत्येक फील्डमध्ये एक पिढीची किंमत असते जी कार्याच्या अडचणींऐवजी शब्दशः मोजमाप करते.
एक सिस्टीम वन एक्स्ट्रॅक्शन मॉडेल ते अर्थशास्त्र उलट करते. क्लाउडफ्लेअर म्हणतो की क्लेरिक सिंगल फॉरवर्ड पाससह इनपुटवर प्रक्रिया करते, फक्त इनपुट टोकनसाठी शुल्क आकारते आणि सामान्यत: एका सेकंदाच्या आत प्रतिसाद देते — तर त्याच फील्डमध्ये काम करणाऱ्या LLM ला काही सेकंद लागू शकतात. उच्च-खंड दस्तऐवज प्रक्रियेसाठी, फरक पटकन संयुगे.
विनंती प्रत्यक्षात कशी कार्य करते
विकसक क्लेरिकला एक राज्य पाठवतात — वाचण्यासाठी मजकूर, तसेच चार पर्यायी प्रतिमा — टाइप केलेल्या फील्डच्या नकाशासह. प्रत्येक फील्डमध्ये नाव, एक प्रकार आणि पर्यायी साध्या-भाषेच्या सूचना असतात. मॉडेल प्रति फील्ड एक टाइप केलेले उत्तर देते, एका समांतर पासमध्ये मोजले जाते. फील्ड सूची एका पासमधील इनपुटच्या बाजूला बसत नसल्यास, सर्व्हर कार्यास समांतर पासमध्ये विभाजित करतो ज्यामध्ये प्रत्येकाला पूर्ण इनपुट दिसतो, नंतर उत्तरे एकत्र केली जातात.
अंदाज कार्यांसाठी, उत्तरे वितरण म्हणून येतात: 10 व्या ते 90 व्या पर्सेंटायल्समध्ये 80% अंतराल असलेला मध्यक, विनंतीवर सर्व 99 पर्सेंटाइल उपलब्ध आहेत. ते मॉडेलला अंदाज-शैलीच्या प्रश्नांसाठी वापरण्यायोग्य बनवते — अपेक्षित दुरुस्ती खर्च, वितरण टाइमलाइन, पुढच्या दिवसातील रहदारी — जिथे एकल पॉइंट अंदाज मॉडेलच्या निश्चिततेला ओव्हरस्टेट करेल.
पायाभूत सुविधा बाजारासाठी एक सिग्नल
क्लेरिक स्वतः यशस्वी होतो की नाही हे जवळजवळ मुद्द्याच्या बाजूला आहे. पायाभूत सुविधा प्रदात्यांमध्ये उजव्या आकाराच्या मॉडेल्सच्या कार्याकडे वेगाने बदलणारा लाँच हा आणखी एक डेटा पॉईंट आहे: लहान, जलद, अरुंद संरचित कामासाठी स्वस्त मॉडेल्स, ज्यामध्ये फ्रन्टियर एलएलएम वास्तविकपणे ओपन-एंडेड तर्कासाठी राखीव आहेत. क्लाउडफ्लेअरचे स्वतःचे स्थान - ते निष्कर्षण, निर्णय आणि भाषा मॉडेल्सने एकसंधपणे कार्य केले पाहिजे - उत्पादन AI स्टॅक कसे एकत्रित केले जातील याचा विचार करण्यासाठी ब्लूप्रिंट म्हणून वाचतो.
कंपनीने वचन दिलेल्या ओपन-वेट रिलीझची तारीख जाहीर केलेली नाही. आत्तासाठी, Clairic Workers AI वर पूर्वावलोकनात उपलब्ध आहे, जिथे विकसक त्यांच्या स्वतःच्या एक्स्ट्रॅक्शन वर्कलोड्स विरुद्ध त्याची चाचणी घेऊ शकतात — आणि त्यांचे LLM बिल किती आवश्यक होते ते शोधू शकतात.
_हा लेख क्लाउडफ्लेअरच्या क्लेरिक एक्स्ट्रॅक्शन मॉडेल पूर्वावलोकनाच्या अधिकृत घोषणेवर आधारित आहे._
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
