ক্লাউডফ্লেয়ার মঙ্গলবার Clairic-এর প্রিভিউ ঘোষণা করেছে, একটি এক্সট্রাকশন মডেল যেটিকে কোম্পানি বর্ণনা করে "সিস্টেম ওয়ান" মডেলের একটি নতুন ক্লাসের প্রথম হিসাবে যা টোকেন-বাই-টোকেন জেনারেশন ছাড়াই স্ট্রাকচার্ড মানগুলিকে আনস্ট্রাকচার্ড ডেটা থেকে বের করে আনতে ডিজাইন করা হয়েছে যা বৃহৎ ভাষার মডেলকে সংজ্ঞায়িত করে। মডেলটি এখন ক্লাউডফ্লেয়ার ওয়ার্কার্স এআই প্ল্যাটফর্মে @cf/cloudflare/clairic হিসাবে প্রিভিউতে পাওয়া যাচ্ছে এবং কোম্পানি বলেছে যে তারা অদূর ভবিষ্যতে মডেলের ওজন প্রকাশ্যে প্রকাশ করতে চায়।
লঞ্চটি ক্লাউডফ্লেয়ারের অবস্থান ক্লাউডফ্লেয়ারকে আরও একটি আকর্ষণীয় বিতর্কের মধ্যে রাখে যা এখন এআই পরিকাঠামোর বাজারকে নতুন আকার দিচ্ছে: একটি এলএলএম-কে দেওয়া প্রতিটি কাজ আসলে একটি এলএলএম প্রয়োজন কিনা। For more context on this story, see our ongoing breaking AI news.
ক্লেইরিক কী করে — এবং কী ইচ্ছাকৃতভাবে করে না
Clairic একটি সংকীর্ণ কিন্তু ব্যাপকভাবে সাধারণ কাজের জন্য তৈরি করা হয়েছে: অগোছালো, অসংগঠিত ইনপুট পড়া এবং টাইপ করা মান ফিরিয়ে দেওয়া। ক্লাউডফ্লেয়ারের ঘোষণা অনুসারে, মডেলটি অসংগঠিত ইনপুটগুলি থেকে মান বের করতে, গণনা করতে, অনুমান করতে এবং পূর্বাভাস দিতে পারে, 80% পরিসরের সাথে নম্বর ফেরত দিতে পারে, টাইপ করা মান যেমন নাম, তারিখ, সময় এবং তালিকা এবং সম্পূর্ণ সম্ভাব্যতা বন্টন - প্রতিটি ক্যালিব্রেটেড আত্মবিশ্বাসের সাথে।
এটি যা করে না তা হল পাঠ্য তৈরি করা। Clairic-এর কাছে একটি ক্যোয়ারী হয় ডেভেলপার ঘোষিত প্রকারের একটি মান প্রদান করে, অথবা একটি p_null স্কোরের সাথে যুক্ত একটি নাল ফলাফল যা ইনপুটে উত্তরটি উপস্থিত না থাকার সম্ভাবনা অনুমান করে। প্রতিটি উত্তর একটি কনফিডেন্স স্কোর সহ পাঠানো হয় তাই ডাউনস্ট্রিম সিস্টেমগুলি সিদ্ধান্ত নিতে পারে যে এটিকে বিশ্বাস করা হবে নাকি মানুষের পর্যালোচনার জন্য এটিকে পতাকাঙ্কিত করা হবে।
ক্লাউডফ্লেয়ার ট্রেড-অফ সম্পর্কে স্পষ্ট। যেহেতু Clairic কোনো টোকেন জেনারেট করে না, এটি বিকৃত JSON তৈরি করতে পারে না, একটি ডিজিট মিড-জেনারেশন ভুল পড়তে পারে, বা LLM যেভাবে করতে পারে সেভাবে একটি উত্তর হ্যালুসিনেট করতে পারে না। এটি এখনও ভুল করতে পারে - সংস্থাটি সেই বিষয়ে সতর্ক - তবে এর ব্যর্থতাগুলি ফ্রি-ফর্মের পরিবর্তে টাইপ করা এবং পরিমাপযোগ্য।
'সিস্টেম ওয়ান' লেবেল, ব্যাখ্যা করা হয়েছে
পরিভাষাটি এআই স্টার্টআপ টাইপসেফ থেকে এসেছে, যা প্রায় এক মাস আগে নিজস্ব সিস্টেম ওয়ান মডেল ঘোষণা করেছিল এবং দ্রুত বিকাশকারী সম্প্রদায়ের মধ্যে সবচেয়ে আলোচিত লঞ্চগুলির মধ্যে একটি হয়ে উঠেছে। ফ্রেমিংটি মনোবিজ্ঞানী ড্যানিয়েল কাহনেম্যানের বই "থিংকিং, ফাস্ট অ্যান্ড স্লো" থেকে নেওয়া হয়েছে: সিস্টেম ওয়ান চিন্তা দ্রুত, স্বয়ংক্রিয় এবং সুনির্দিষ্ট, যেখানে সিস্টেম টু চিন্তা ধীর এবং ইচ্ছাকৃত। TypeSafe সেই পার্থক্যটিকে AI মডেলগুলিতে ম্যাপ করেছে, যুক্তি দিয়ে যে অনেক উত্পাদন কাজের চাপের জন্য খোলামেলা যুক্তির পরিবর্তে দ্রুত, ভাল-টাইপ করা উত্তর প্রয়োজন।
TypeSafe's Jev, একটি নির্দিষ্ট ডোমেইনের উদ্দেশ্যে তৈরি একটি সিদ্ধান্তের মডেল, সম্ভাব্যতাগুলিকে ইনপুট হিসাবে গ্রহণ করে এবং সম্ভাব্য উত্তরগুলির একটি নির্দিষ্ট তালিকার উপর সম্ভাব্যতা ফেরত দেয়৷ এখন পর্যন্ত, এটি পুরো বিভাগ ছিল: প্রতিটি সিস্টেম ওয়ান মডেল একটি সিদ্ধান্ত মডেল ছিল।
Clairic ধারণা প্রসারিত. যেখানে একটি সিদ্ধান্ত মডেল পূর্বনির্ধারিত বিকল্পগুলির মধ্যে বাছাই করে, একটি নিষ্কাশন মডেল মান সহ উত্তর দেয় — সংখ্যাগুলি সরাসরি ইনপুট থেকে টানা হয়, এটি থেকে গণনা করা হয় বা এর বাইরে পূর্বাভাস। ক্লাউডফ্লেয়ার বলেছে যে দুটি মডেল পরিবার, প্রচলিত LLM-এর পাশাপাশি, এখন একটি তিন-স্তর স্ট্যাক তৈরি করে: নিষ্কাশন মডেলগুলি কাঁচা ইনপুটকে টাইপ করা মানগুলিতে পরিণত করে, সিদ্ধান্তের মডেলগুলি মানগুলিকে সিদ্ধান্তে পরিণত করে এবং LLMগুলি সিদ্ধান্তগুলিকে শব্দে পরিণত করে৷
কেন নিষ্কাশন একটি পুনর্বিবেচনা জন্য পাকা হয়
ক্লাউডফ্লেয়ারের যুক্তি নির্ভর করে যে আজকের এলএলএম ট্র্যাফিকের কতটা কাজের জন্য ব্যয় করা হয়েছে যা কথোপকথনের মতো কিছুই দেখায় না। কোম্পানী নিষ্কাশনকে "সম্ভবত আজকে এলএলএম-দের কাছে হস্তান্তর করা সবচেয়ে সাধারণ কাজ" বলে - একটি চালান মোট, একটি ডেলিভারির তারিখ, বা একটি নথির একটি অংশ নম্বর টেনে আনা৷
ক্লাউডফ্লেয়ারের মতে সমস্যাটি হল যে এলএলএমগুলি অন্য কিছুর জন্য তৈরি মেশিনের সাহায্যে সেই কাজটি পরিচালনা করে। আউটপুট বৈধ JSON নাও হতে পারে। টোকেন তৈরি হওয়ার কারণে একটি সংখ্যা ভুলভাবে পড়তে পারে। একটি প্রত্যাবর্তিত টেক্সট উদ্ধৃতি উৎস নথিতে এর অবস্থানে ফিরে পাওয়া যাবে না। দলগুলি প্রতিরক্ষামূলক পাইপলাইনে মডেলগুলি মোড়ানোর মাধ্যমে প্রতিক্রিয়া জানায়: স্কিমা যাচাইকারী, যুক্তি পুনরায় চেষ্টা, স্তর পার্সিং এবং স্পট চেক। এবং যেহেতু LLMs যুক্তি এবং আউটপুট টোকেনগুলির জন্য বিল করে, প্রতিটি নথির প্রতিটি ক্ষেত্রে একটি প্রজন্মের খরচ বহন করে যা কাজের অসুবিধার পরিবর্তে শব্দের সাথে স্কেল করে।
একটি সিস্টেম ওয়ান এক্সট্রাকশন মডেল সেই অর্থনীতিকে উল্টে দেয়। ক্লাউডফ্লেয়ার বলেছেন যে ক্লেইরিক একটি একক ফরোয়ার্ড পাস দিয়ে ইনপুট প্রক্রিয়া করে, শুধুমাত্র ইনপুট টোকেনের জন্য চার্জ নেয় এবং সাধারণত এক সেকেন্ডের মধ্যে সাড়া দেয় — যখন একই ক্ষেত্রগুলির মাধ্যমে কাজ করা যুক্তিযুক্ত LLM কয়েক সেকেন্ড সময় নিতে পারে। উচ্চ-ভলিউম নথি প্রক্রিয়াকরণের জন্য, পার্থক্য দ্রুত যৌগিক।
কিভাবে একটি অনুরোধ আসলে কাজ করে
বিকাশকারীরা Clairic-কে একটি রাজ্য পাঠান — পড়ার জন্য পাঠ্য, এবং চারটি ঐচ্ছিক ছবি পর্যন্ত — টাইপ করা ক্ষেত্রগুলির একটি মানচিত্রের পাশাপাশি৷ প্রতিটি ক্ষেত্র একটি নাম, একটি প্রকার এবং ঐচ্ছিক সরল-ভাষা নির্দেশাবলী বহন করে। মডেলটি প্রতি ফিল্ডে একটি টাইপ করা উত্তর দেয়, একটি একক সমান্তরাল পাসে গণনা করা হয়। যদি ক্ষেত্র তালিকাটি একটি পাসে ইনপুটের পাশে মাপসই না হয়, সার্ভার কাজটিকে সমান্তরাল পাসগুলিতে ভাগ করে যা প্রতিটি সম্পূর্ণ ইনপুট দেখতে পায়, তারপর উত্তরগুলিকে একত্রিত করে।
অনুমানের কাজগুলির জন্য, উত্তরগুলি একটি বিতরণ হিসাবে আসে: 10 থেকে 90 তম পার্সেন্টাইলের মধ্যে 80% ব্যবধান সহ একটি মিডিয়ান, অনুরোধে উপলব্ধ সমস্ত 99 শতাংশের সাথে। এটি মডেলটিকে পূর্বাভাস-শৈলীর প্রশ্নগুলির জন্য ব্যবহারযোগ্য করে তোলে — প্রত্যাশিত মেরামতের খরচ, ডেলিভারি টাইমলাইন, পরের দিন ট্র্যাফিক — যেখানে একটি একক বিন্দু অনুমান মডেলের নিশ্চিততাকে বাড়িয়ে তুলবে।
অবকাঠামো বাজারের জন্য একটি সংকেত
Clairic নিজে সফল হয় কিনা তা প্রায় বিন্দুর পাশে। অবকাঠামো প্রদানকারীদের মধ্যে সঠিক মাপের কাজগুলির দিকে দ্রুত গতিশীল স্থানান্তরের আরেকটি ডেটা পয়েন্ট হল লঞ্চ: সংকীর্ণ কাঠামোগত কাজের জন্য ছোট, দ্রুত, সস্তা মডেল, ফ্রন্টিয়ার এলএলএমগুলি সত্যিকারের উন্মুক্ত যুক্তির জন্য সংরক্ষিত। ক্লাউডফ্লেয়ারের নিজস্ব অবস্থান - যে নিষ্কাশন, সিদ্ধান্ত এবং ভাষার মডেলগুলি একত্রে কাজ করা উচিত - এটি কীভাবে উত্পাদন এআই স্ট্যাকগুলিকে একত্রিত করা হবে বলে মনে করে তার একটি নীলনকশা হিসাবে পড়ে৷
কোম্পানি প্রতিশ্রুত ওপেন-ওয়েট রিলিজের জন্য একটি তারিখ ঘোষণা করেনি। আপাতত, Clairic Workers AI-তে প্রিভিউতে পাওয়া যাচ্ছে, যেখানে ডেভেলপাররা তাদের নিজস্ব এক্সট্রাকশন ওয়ার্কলোডের বিরুদ্ধে এটি পরীক্ষা করতে পারে — এবং খুঁজে বের করতে পারে যে তাদের LLM বিলের কতটা সত্যিই প্রয়োজনীয় ছিল।
_এই নিবন্ধটি Clairic নিষ্কাশন মডেল পূর্বরূপ ক্লাউডফ্লেয়ারের অফিসিয়াল ঘোষণার উপর ভিত্তি করে।
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
