கிளவுட்ஃப்ளேர் செவ்வாயன்று கிளாரிக்கின் முன்னோட்டத்தை அறிவித்தது, இது பெரிய மொழி மாதிரிகளை வரையறுக்கும் டோக்கன்-பை-டோக்கன் தலைமுறை இல்லாமல் கட்டமைக்கப்படாத தரவுகளிலிருந்து கட்டமைக்கப்பட்ட மதிப்புகளை இழுக்க வடிவமைக்கப்பட்ட புதிய வகை "சிஸ்டம் ஒன்" மாடல்களின் முதல் வகுப்பாக நிறுவனம் விவரிக்கிறது. இந்த மாடல் இப்போது Cloudflare இன் Workers AI தளத்தில் @cf/cloudflare/clairic என முன்னோட்டத்தில் கிடைக்கிறது, மேலும் எதிர்காலத்தில் மாடலின் எடையை வெளிப்படையாக வெளியிட இருப்பதாக நிறுவனம் கூறுகிறது.
ஏஐ உள்கட்டமைப்புச் சந்தையை மாற்றியமைக்கும் சுவாரஸ்யமான விவாதங்களில் ஒன்றின் உள்ளே கிளவுட்ஃப்ளேரை துவக்குகிறது. For more context on this story, see our ongoing AI trends.
கிளாரிக் என்ன செய்கிறார் - அது வேண்டுமென்றே என்ன செய்யாது
Clairic ஒரு குறுகிய ஆனால் மிகவும் பொதுவான வேலைக்காக உருவாக்கப்பட்டது: குழப்பமான, கட்டமைக்கப்படாத உள்ளீடு மற்றும் தட்டச்சு செய்யப்பட்ட மதிப்புகளை திரும்பப் பெறுதல். Cloudflare இன் அறிவிப்பின்படி, மாதிரியானது கட்டமைக்கப்படாத உள்ளீடுகள், 80% வரம்பில் உள்ள எண்களைத் திரும்பப் பெறுதல், பெயர்கள், தேதிகள், நேரங்கள் மற்றும் பட்டியல்கள் போன்ற தட்டச்சு செய்யப்பட்ட மதிப்புகள் மற்றும் முழு நிகழ்தகவுப் பகிர்வுகள் ஆகியவற்றிலிருந்து மதிப்புகளைப் பிரித்தெடுக்கலாம், கணக்கிடலாம், மதிப்பிடலாம் மற்றும் முன்னறிவிக்கலாம் - ஒவ்வொன்றும் அளவீடு செய்யப்பட்ட நம்பிக்கையுடன்.
இது உரையை உருவாக்குவது அல்ல. Clairicக்கான வினவல், டெவலப்பர் அறிவித்த வகையின் மதிப்பை அல்லது p_null மதிப்பெண்ணுடன் இணைக்கப்பட்ட பூஜ்ய முடிவை உள்ளீட்டில் பதில் இல்லாத நிகழ்தகவை மதிப்பிடும். ஒவ்வொரு பதிலும் நம்பிக்கை மதிப்பெண்ணுடன் அனுப்பப்படுகிறது, எனவே கீழ்நிலை அமைப்புகள் அதை நம்பலாமா அல்லது மனித மதிப்பாய்வுக்காகக் கொடியிடலாமா என்பதை முடிவு செய்யலாம்.
Cloudflare வர்த்தகம் பற்றி வெளிப்படையாக உள்ளது. Clairic டோக்கன்களை உருவாக்காததால், அது தவறான JSON ஐ உருவாக்கவோ, இடைத் தலைமுறையின் இலக்கத்தை தவறாகப் படிக்கவோ அல்லது LLM-ல் இருக்கும் விதத்தில் பதிலை மாயத்தோற்றம் செய்யவோ முடியாது. அது இன்னும் தவறுகளைச் செய்யலாம் - நிறுவனம் அந்தக் கட்டத்தில் கவனமாக உள்ளது - ஆனால் அதன் தோல்விகள் இலவச வடிவத்தை விட தட்டச்சு செய்யப்பட்டு அளவிடக்கூடியவை.
'சிஸ்டம் ஒன்' லேபிள், விளக்கப்பட்டது
AI ஸ்டார்ட்அப் TypeSafe இலிருந்து இந்த வார்த்தைகள் வந்துள்ளன, இது ஒரு மாதத்திற்கு முன்பு தனது சொந்த சிஸ்டம் ஒன் மாடல்களை அறிவித்தது மற்றும் டெவலப்பர் சமூகத்தில் மிகவும் விவாதிக்கப்பட்ட வெளியீடுகளில் ஒன்றாக மாறியது. உளவியல் நிபுணர் டேனியல் கான்மேனின் "திங்கிங், ஃபாஸ்ட் அண்ட் ஸ்லோ" புத்தகத்திலிருந்து ஃப்ரேமிங் கடன் வாங்குகிறது: சிஸ்டம் ஒன் சிந்தனை வேகமாகவும், தானாகவும், துல்லியமாகவும் இருக்கும், அதே சமயம் சிஸ்டம் டூ சிந்தனை மெதுவாகவும் வேண்டுமென்றே செய்யப்படுகிறது. TypeSafe அந்த வேறுபாட்டை AI மாடல்களில் வரைபடமாக்கியது, பல உற்பத்திப் பணிச்சுமைகளுக்கு ஓபன்-எண்டட் தர்க்கத்தை விட வேகமான, நன்கு தட்டச்சு செய்யப்பட்ட பதில்கள் தேவை என்று வாதிட்டது.
TypeSafe's Jev, ஒரு குறிப்பிட்ட டொமைனுக்காக உருவாக்கப்பட்ட ஒரு முடிவு மாதிரி, நிகழ்தகவுகளை உள்ளீடுகளாக எடுத்து, சாத்தியமான பதில்களின் நிலையான பட்டியலில் நிகழ்தகவுகளை வழங்கியது. இப்போது வரை, அது முழு வகையாக இருந்தது: ஒவ்வொரு சிஸ்டம் ஒன் மாதிரியும் ஒரு முடிவு மாதிரியாக இருந்தது.
கிளாரிக் கருத்தை நீட்டிக்கிறார். முன் வரையறுக்கப்பட்ட விருப்பங்களில் ஒரு முடிவு மாதிரி தேர்ந்தெடுக்கப்பட்டால், ஒரு பிரித்தெடுத்தல் மாதிரி மதிப்புகளுடன் பதிலளிக்கிறது - எண்கள் உள்ளீட்டில் இருந்து நேரடியாக இழுக்கப்படுகின்றன, அதிலிருந்து கணக்கிடப்படுகின்றன அல்லது அதற்கு அப்பால் கணிக்கப்படுகின்றன. வழக்கமான LLMகளுடன் இரண்டு மாதிரிக் குடும்பங்களும் இப்போது மூன்று அடுக்கு அடுக்கை உருவாக்குகின்றன: பிரித்தெடுத்தல் மாதிரிகள் மூல உள்ளீட்டைத் தட்டச்சு செய்யப்பட்ட மதிப்புகளாக மாற்றுகின்றன, முடிவு மாதிரிகள் மதிப்புகளை முடிவுகளாக மாற்றுகின்றன, மற்றும் LLMகள் முடிவுகளை வார்த்தைகளாக மாற்றுகின்றன என்று Cloudflare கூறுகிறது.
ஏன் பிரித்தெடுத்தல் ஒரு மறுபரிசீலனைக்கு பழுத்துள்ளது
Cloudflare இன் வாதமானது, இன்றைய LLM ட்ராஃபிக்கில் எவ்வளவு நேரம் உரையாடல் போன்ற வேலைக்காக செலவிடப்படுகிறது என்பதில் தங்கியுள்ளது. நிறுவனம் பிரித்தெடுத்தல் "இன்று LLM களுக்கு வழங்கப்படும் மிகவும் பொதுவான வேலை" என்று அழைக்கிறது - மொத்த விலைப்பட்டியல், ஒரு விநியோக தேதி அல்லது ஒரு ஆவணத்தில் இருந்து ஒரு பகுதி எண்.
கிளவுட்ஃப்ளேரின் சொல்லும் பிரச்சனை என்னவென்றால், எல்.எல்.எம்கள் அந்த வேலையை வேறு எதற்கோ கட்டப்பட்ட இயந்திரங்களைக் கொண்டு கையாளுகின்றன. வெளியீடு தவறான JSON ஆக இருக்கலாம். டோக்கன்கள் உருவாக்கப்படுவதால் ஒரு இலக்கம் தவறாகப் படிக்கப்படலாம். திரும்பிய உரைப் பகுதியானது மூல ஆவணத்தில் அதன் இருப்பிடத்தைக் கண்டறிய முடியாது. தற்காப்பு பைப்லைன்களில் மாதிரிகளை மடக்குவதன் மூலம் அணிகள் பதிலளிக்கின்றன: ஸ்கீமா வேலிடேட்டர்கள், மறு முயற்சி லாஜிக், பாகுபடுத்தும் அடுக்குகள் மற்றும் ஸ்பாட் காசோலைகள். பகுத்தறிவு மற்றும் வெளியீட்டு டோக்கன்களுக்கான LLMகள் பில் செய்வதால், ஒவ்வொரு ஆவணத்தின் ஒவ்வொரு துறையும் ஒரு தலைமுறை செலவைக் கொண்டுள்ளது, இது பணியின் சிரமத்துடன் இல்லாமல் சொற்களஞ்சியத்துடன் அளவிடப்படுகிறது.
சிஸ்டம் ஒன் பிரித்தெடுத்தல் மாதிரி அந்த பொருளாதாரத்தை தலைகீழாக மாற்றுகிறது. கிளவுட்ஃப்ளேர் கூறுகிறது, கிளாரிக் உள்ளீட்டை ஒரு ஒற்றை முன்னோக்கி பாஸ் மூலம் செயலாக்குகிறது, உள்ளீட்டு டோக்கன்களுக்கு மட்டுமே கட்டணம் வசூலிக்கப்படுகிறது, மேலும் பொதுவாக ஒரு வினாடிக்குள் பதிலளிக்கிறது - அதே நேரத்தில் எல்எல்எம் அதே துறைகளில் வேலை செய்வதற்கு பல வினாடிகள் ஆகலாம். அதிக அளவு ஆவணச் செயலாக்கத்திற்கு, வேறுபாடு விரைவாகச் சேர்கிறது.
ஒரு கோரிக்கை உண்மையில் எவ்வாறு செயல்படுகிறது
டெவலப்பர்கள் Clairic க்கு ஒரு நிலையை அனுப்புகிறார்கள் - படிக்க வேண்டிய உரை, மேலும் நான்கு விருப்பப் படங்கள் வரை - தட்டச்சு செய்த புலங்களின் வரைபடத்துடன். ஒவ்வொரு புலமும் ஒரு பெயர், ஒரு வகை மற்றும் விருப்பமான எளிய மொழி வழிமுறைகளைக் கொண்டுள்ளது. மாதிரியானது ஒரு புலத்திற்கு ஒரு தட்டச்சு பதிலை வழங்குகிறது, இது ஒரு இணையான பாஸில் கணக்கிடப்படுகிறது. ஒரு பாஸில் உள்ளீட்டிற்கு அருகில் புலப் பட்டியல் பொருந்தவில்லை எனில், சர்வர் வேலையை இணையான பாஸ்களாகப் பிரித்து ஒவ்வொன்றும் முழு உள்ளீட்டைக் காணும், பின்னர் பதில்களை ஒன்றிணைக்கும்.
மதிப்பீட்டுப் பணிகளுக்கு, பதில்கள் விநியோகமாக வருகின்றன: 80% இடைவெளியுடன் 10 முதல் 90 சதவிகிதம் வரையிலான இடைநிலை, கோரிக்கையின் பேரில் அனைத்து 99 சதவீதங்களும் கிடைக்கும். இது முன்கணிப்பு-பாணிக் கேள்விகளுக்கு மாடலைப் பயன்படுத்தக்கூடியதாக ஆக்குகிறது - எதிர்பார்க்கப்படும் பழுதுபார்ப்பு செலவுகள், டெலிவரி காலக்கெடு, அடுத்த நாளில் ட்ராஃபிக் - அங்கு ஒரு புள்ளி மதிப்பீடு மாதிரியின் உறுதியை மிகைப்படுத்துகிறது.
உள்கட்டமைப்பு சந்தைக்கான ஒரு சமிக்ஞை
கிளாரிக் வெற்றி பெறுகிறாரா என்பது கிட்டத்தட்ட விஷயத்திற்கு அப்பாற்பட்டது. துவக்கமானது, உள்கட்டமைப்பு வழங்குநர்களிடையே, பணிகளுக்கு சரியான அளவிலான மாதிரிகளை நோக்கி வேகமாக நகரும் மற்றொரு தரவுப் புள்ளியாகும்: குறுகிய கட்டமைக்கப்பட்ட வேலைக்கான சிறிய, வேகமான, மலிவான மாதிரிகள், உண்மையான திறந்தநிலை பகுத்தறிவுக்காக ஒதுக்கப்பட்ட எல்லை எல்எல்எம்கள். கிளவுட்ஃப்ளேரின் சொந்த நிலைப்படுத்தல் - பிரித்தெடுத்தல், முடிவு மற்றும் மொழி மாதிரிகள் ஒருங்கிணைந்து செயல்பட வேண்டும் - உற்பத்தி AI அடுக்குகள் எவ்வாறு சேகரிக்கப்படும் என்று நினைக்கிறது என்பதற்கான வரைபடமாகப் படிக்கிறது.
உறுதியளிக்கப்பட்ட திறந்த எடை வெளியீட்டிற்கான தேதியை நிறுவனம் அறிவிக்கவில்லை. இப்போதைக்கு, Clairic ஆனது Workers AI இல் முன்னோட்டத்தில் கிடைக்கிறது, அங்கு டெவலப்பர்கள் தங்கள் சொந்த பிரித்தெடுத்தல் பணிச்சுமைகளுக்கு எதிராக அதைச் சோதிக்கலாம் - மேலும் அவர்களின் LLM பில் உண்மையில் எவ்வளவு அவசியமானது என்பதைக் கண்டறியலாம்.
_இந்தக் கட்டுரை கிளவுட்ஃப்ளேரின் கிளாரிக் பிரித்தெடுத்தல் மாதிரி முன்னோட்டத்தின் அதிகாரப்பூர்வ அறிவிப்பை அடிப்படையாகக் கொண்டது._
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
