আপনি যখন একজন বন্ধুর সাথে ব্যক্তিগতভাবে কথা বলেন, আপনি তাদের দেখতে পারেন, তাদের শুনতে পারেন, তাদের হাত নাড়াতে পারেন। আপনি যখন একটি এআই মডেলের সাথে কথা বলেন, তখন আপনার কাছে এই আশ্বাসগুলির প্রায় কোনওটিই থাকে না। অ্যানথ্রপিকের নতুন গবেষণাটি ঠিক সেই ফাঁকটিকে লক্ষ্য করে: কোম্পানিটি ক্রিপ্টোগ্রাফিক তথ্য প্রমাণের অগ্রগতি প্রকাশ করেছে, যার মধ্যে রয়েছে FlashProve নামক একটি সিস্টেম যা প্রমাণ করতে পারে — গাণিতিকভাবে, চুক্তিগতভাবে নয় — যে মডেলটি এটি দাবি করে তার থেকে একটি প্রতিক্রিয়া এসেছে।

FlashProve ঠিকানাগুলির সমস্যাটি শান্তভাবে কাঠামোগত। একজন ব্যবহারকারী আজকে একটি মডেলকে জিজ্ঞাসা করছেন তা পরীক্ষা করতে পারে না যে প্রতিক্রিয়াগুলি নির্দিষ্ট মডেল থেকে এসেছে যে প্রতিক্রিয়াগুলি একজন বিকাশকারীর দাবি করে প্রতিক্রিয়া দিচ্ছে, যেমনটি খরচের কারণে একটি রাউটিং পরিষেবা দ্বারা গোপনে প্রতিস্থাপিত হয়েছে, এমনকি কোনও আক্রমণকারী যে টোকেন স্ট্রিমের সাথে কারচুপি করেছে। শুধুমাত্র আউটপুট থেকে বিচার করা অবিশ্বাস্য, এমনকি যদি উত্তরগুলি চমৎকার দেখায়। একটি শিল্পে যেখানে একই চ্যাট উইন্ডোটি লোডের অধীনে একটি সস্তা মডেলে নীরবে রুট করতে পারে, এটি একটি অনুমানমূলক উদ্বেগ নয় - এটি ডিফল্ট ট্রাস্ট মডেল। এই ধরনের কাজের আরও কভারেজের জন্য, আমাদের AI গবেষণা সংবাদ দেখুন।

কেন প্রমাণযোগ্য অনুমান কঠিন

প্রমাণযোগ্য অনুমানের লক্ষ্য হল সীমিত কম্পিউটেশনাল রিসোর্স সহ ব্যবহারকারীকে অনুমতি দেওয়া — এবং কোনও মডেলের ব্যক্তিগত ওজনে কোনও অ্যাক্সেস নেই — যাচাই করা যে প্রদত্ত প্রতিক্রিয়াটি সেই মডেল দ্বারা সত্যিকারভাবে তৈরি করা হয়েছিল। সুস্পষ্ট পন্থা, নিজেই মডেলটি পুনরায় চালানো, একটি নন-স্টার্টার: ফ্রন্টিয়ার মডেলের ওজনগুলি ব্যক্তিগত রাখা হয়, এবং তাদের বিরুদ্ধে প্রতিক্রিয়া পরীক্ষা করার জন্য একজন সাধারণ ব্যবহারকারী বা এমনকি একটি ভাল অর্থায়নকারী মূল্যায়নকারীর সামর্থ্যের চেয়ে অনেক বেশি গণনা প্রয়োজন।

নৃতাত্ত্বিকদের দৃষ্টিভঙ্গি zkSNARKs-এর উপর ঝুঁকছে, একটি শূন্য-জ্ঞান প্রমাণের একটি পরিবার যার শক্তিশালী লুকানো এবং দক্ষতার বৈশিষ্ট্য রয়েছে যা তাদের কাজের জন্য অনন্যভাবে উপযুক্ত করে তোলে। একজন প্রদানকারী একটি মডেলের প্রতি একবার প্রতিশ্রুতি দেয়, তারপর প্রতিটি প্রতিক্রিয়ার জন্য একটি কমপ্যাক্ট প্রমাণ তৈরি করে যে উত্তরটি প্রতিশ্রুতিবদ্ধ মডেল দ্বারা গণনা করা হয়েছিল — যখন প্রমাণগুলি নিজেই মডেলের ওজন লুকিয়ে রাখে। আর্কিটেকচার লুকানো সিস্টেমের লক্ষ্য নয়; ওজন লুকানো হয়.

সংখ্যা

পোস্টে দক্ষতার পরিসংখ্যান হল গল্পের কারিগরি মূল, কারণ বড় মডেলের জন্য প্রমাণ তৈরি করা ঐতিহাসিকভাবে বস্তুর তুলনায় খুব ধীরগতির আদেশ ছিল। Llama 4 Maverick-এর জন্য, একটি 400-বিলিয়ন-প্যারামিটার মিশ্রণ-অফ-বিশেষজ্ঞ মডেল, একটি একক NVIDIA H100 GPU প্রতি সেকেন্ডে প্রায় 110 টোকেন-এ প্রমাণ তৈরি করে, যার প্রমাণ সাইজ প্রতি 1,024-টোকেন অনুরোধে প্রায় 19 MB এর সাথে, 4-বিট প্রিলিথ ইনকুয়েট এবং ওয়েট ইনকুয়েট ব্যবহার করে।

এই গতিটি একটি খরচে আসে: প্রমাণ তৈরি করতে GPU সময়ের প্রায় 70 থেকে 95 গুণ লাগে কেবলমাত্র vLLM-এ মডেলটি চালানোর জন্য, একটি বহুল ব্যবহৃত ওপেন-সোর্স ইনফারেন্স লাইব্রেরি। ব্যয়বহুল, অন্য কথায় — তবে প্রথমবারের মতো জিনিসটি প্রমাণিত হওয়ার মতো মাত্রার একই ক্রমে, এবং অ্যানথ্রোপিক অনুসারে, আগের ওপেন-সোর্স সিস্টেমের তুলনায় যথেষ্ট দ্রুত, যা মাত্রার আদেশ দ্বারা পিছিয়ে।

ক্লদ এটি তৈরি করেছেন — এবং লীন দাবিগুলি অডিট করে৷

প্রথমটির ভিতরে একটি দ্বিতীয় গল্প ভাঁজ করা আছে। পোস্ট অনুসারে, ক্লড নিজেই ক্রিপ্টোগ্রাফিক প্রুফ সিস্টেমের জন্য সুপ্রতিষ্ঠিত নকশা নীতির উপর নির্ভর করে ক্রিপ্টোগ্রাফি এবং সুরক্ষা সাহিত্য থেকে অত্যাধুনিক সরঞ্জামগুলি প্রয়োগ করার অভিনব উপায় খুঁজে বের করার জন্য অনুমানের জন্য zkSNARK-এর উন্নতিগুলি তৈরি করেছিলেন।

অ্যানথ্রোপিক সেই কর্মপ্রবাহের সাথে আসা ঝুঁকি সম্পর্কে স্পষ্ট: ক্লড অপ্টিমাইজেশানে ভাল, কিন্তু প্রায়ই এমন সিদ্ধান্ত নেয় যা মূল্যায়ন করা কঠিন, বিশেষ করে বড় জটিল সিস্টেমে। পাল্টা ব্যবস্থা হল আনুষ্ঠানিক যাচাইকরণ। কোম্পানি দাবিকৃত নিরাপত্তা গ্যারান্টিগুলির জন্য লীন, একটি আনুষ্ঠানিক যাচাইকরণ ভাষাতে শীর্ষ-স্তরের নিরীক্ষণযোগ্য বিবৃতি প্রদান করে — একটি AI-এর চতুর অপ্টিমাইজেশান এবং ব্যবহারকারীদের বিশ্বাস করতে হবে এমন ব্যবহারকারীদের মধ্যে দাঁড়িয়ে মেশিন-চেক করা গণিত।

সম্পূর্ণ স্ট্যাকটি Apache 2.0 লাইসেন্সের অধীনে প্রকাশ করা হচ্ছে: ব্লগ পোস্ট, সিস্টেমের বিশদ ব্যাখ্যা করে একটি প্রযুক্তিগত প্রতিবেদন, একটি প্রোটোকলের বিবরণ, একটি প্রভার এবং দুটি যাচাইকারী সহ এক্সিকিউটেবল কোড — C++ এ একটি দ্রুত যাচাইকারী এবং Lean-এ একটি সম্ভাব্য সঠিক যাচাইকারী — এছাড়াও লীন প্রমাণগুলি নিজেদের এবং একটি ইন্টারেক্টিভ ভিজিট করার জন্য একটি ইন্টারেক্টিভ ভিজিটর।

সম্মতি থেকে এআই পেসিং চুক্তি পর্যন্ত

নৃতাত্ত্বিক স্কেচগুলি এমন কেসগুলি ব্যবহার করে যা রুটিন থেকে ভূ-রাজনৈতিক পর্যন্ত। স্বাধীন মূল্যায়নকারীরা যারা প্রকাশের আগে এবং পরে AI মডেলগুলি পরীক্ষা করে তাদের জানা দরকার যে তারা যে মডেলটি মূল্যায়ন করছে তা হল মডেলটি পরিবেশন করা হচ্ছে। থার্ড-পার্টি রাউটিং পরিষেবার মাধ্যমে একটি মডেল অ্যাক্সেস করা ক্লায়েন্টরা নিশ্চয়তা চায় যে টোকেনগুলি তারা যে মডেলের জন্য অর্থ প্রদান করে তা থেকে এসেছে। এবং নিরাপত্তা পরিস্থিতিতে, একটি সাইবার আক্রমণকারী যে প্রদত্ত মডেলের ছদ্মবেশ ধারণ করার সময় টোকেন স্ট্রীম সংশোধন করে এমনভাবে সনাক্তযোগ্য হয়ে ওঠে যা একা আউটপুট পরিদর্শন কখনই অর্জন করতে পারে না।

পোস্টে নাম দেওয়া সবচেয়ে উচ্চাভিলাষী অ্যাপ্লিকেশনটি হল এআই পেসিং প্রয়োজনীয়তাগুলির সাথে সম্মতির যাচাইকরণ - চুক্তির উদীয়মান শ্রেণি, স্বেচ্ছাসেবী এবং সরকারী, যেগুলি কত দ্রুত সীমান্ত সক্ষমতা অগ্রসর হয় তা নিয়ন্ত্রণ করার চেষ্টা করে। আজ এই ধরনের প্রতিশ্রুতি বিশ্বাস এবং কাগজপত্রের উপর নির্ভর করে। অনুমানের ক্রিপ্টোগ্রাফিক প্রমাণগুলি পরিদর্শনের কাছাকাছি কিছু অফার করে: কোন মডেলটি প্রদত্ত কাজের চাপ প্রদান করছে তা দাবি করার পরিবর্তে প্রদর্শন করার একটি উপায়।

গবেষকরা স্পষ্টভাবে বলছেন যে এটি মধ্যবর্তী অগ্রগতি, একটি সম্পূর্ণ গবেষণা এজেন্ডা নয়, এবং তারা এই উদ্দেশ্য নিয়ে প্রকাশ করছে যে অন্যরা কাজটি গ্রহণ করে এবং এটিকে উন্নত করে। সেই ফ্রেমিং নিজেই একটি সংকেত: প্রমাণযোগ্য অনুমান ক্রিপ্টোগ্রাফি-সেমিনার চিন্তা পরীক্ষা থেকে একটি ইঞ্জিনিয়ারিং সমস্যায় চলে গেছে যা একটি ফ্রন্টিয়ার ল্যাব এখন মোতায়েন করার জন্য যথেষ্ট সস্তা করার জন্য প্রকাশ্যে দৌড়াচ্ছে।

---

এআই থেকে এগিয়ে থাকুন

সর্বশেষ AI খবর, বিশ্লেষণ এবং সাফল্য পান — সব এক জায়গায়।

আরও এআই খবর পড়ুন →