গবেষকদের একটি দল দেখিয়েছে যে এনথ্রোপিক, ওপেনএআই এবং গুগলের নেতৃস্থানীয় AI মডেলগুলির দ্বারা উত্পাদিত লুকানো চেইন-অফ-থট যুক্তি এনক্রিপ্ট করা ট্রেস থেকে পুনরুদ্ধার করা যেতে পারে, মালিকানা যুক্তি, ব্যক্তিগত ডেটা এবং প্রমানপত্রগুলি প্রকাশ করে।

11 অগাস্ট, 2026-এ প্রকাশিত ফলাফলগুলি, মালিকানা LLM APIs থেকে চুরি যুক্তির সন্ধান শিরোনামের একটি গবেষণাপত্রে, প্রধান AI প্রদানকারীরা কীভাবে তাদের সবচেয়ে মূল্যবান বৌদ্ধিক সম্পত্তি রক্ষা করে তার একটি মৌলিক স্থাপত্যগত দুর্বলতা প্রকাশ করে। যে কেউ ব্রেকিং এআই নিউজ অনুসরণ করে, গবেষণাটি আন্ডারস্কোর করে যে কীভাবে এমনকি এনক্রিপ্ট করা মডেল আউটপুট সর্বজনীনভাবে শেয়ার করার সময় দায়বদ্ধ হতে পারে।

কিভাবে আক্রমণ কাজ করে

নেতৃস্থানীয় AI প্রদানকারীরা তাদের মডেলের ধাপে ধাপে যুক্তি লুকিয়ে রাখে — যা চেইন-অফ-থট নামে পরিচিত — মেধা সম্পত্তি রক্ষা করতে এবং তথ্য ফাঁস সীমিত করতে। সার্ভার-সাইডে এই ট্রেসগুলি সংরক্ষণ করার পরিবর্তে, প্রদানকারীরা ক্লায়েন্টকে টেক্সটের এনক্রিপ্ট করা ব্লক হিসাবে ফেরত দেয় যা ক্লায়েন্ট প্রতিটি পরবর্তী অনুরোধের সাথে ফেরত দেয়।

গবেষকরা চিহ্নিত করেছেন যে এই এনক্রিপ্ট করা ব্লকগুলি প্রদানকারীর ইকোসিস্টেমের মধ্যে বিভিন্ন সেশন, ব্যবহারকারী এবং মডেলগুলিতে সম্পূর্ণরূপে সামঞ্জস্যপূর্ণ এবং বিনিময়যোগ্য। এই বহনযোগ্যতা আক্রমণের চাবিকাঠি।

পদ্ধতিটি দুটি API কলে কাজ করে। প্রথমত, একজন আক্রমণকারী একটি ফ্রন্টিয়ার মডেল দ্বারা উত্পাদিত একটি এনক্রিপ্ট করা যুক্তির ট্রেস নেয় — উদাহরণস্বরূপ, ক্লড ওপাস 4.8 — এবং এটি একই প্রদানকারীর থেকে একটি দুর্বল, কম সুরক্ষিত ভাইবোন মডেলে ইনজেক্ট করে, যেমন ক্লড হাইকু 4.5। দুর্বল মডেলটিকে তখন একটি সাধারণ নির্দেশনা দিয়ে জেলব্রোকেন করা হয় যাতে যুক্তির শব্দার্থ প্রতিলিপি করা হয়। যেহেতু এনক্রিপ্ট করা ব্লকটি বিনিময়যোগ্য, দুর্বল মডেলটি শক্তিশালী মডেলের লুকানো যুক্তিকে প্লেইনটেক্সটে ডিকোড করে এবং আউটপুট করে — কখনও শক্তিশালী মডেলকে সরাসরি আক্রমণ না করে।

গবেষকরা তিনটি প্রধান সরবরাহকারীর মডেল জুড়ে এই আক্রমণটি প্রদর্শন করেছেন: অ্যানথ্রোপিকস ক্লড, ওপেনএআইয়ের জিপিটি এবং গুগলের জেমিনি।

ডেটা এক্সপোজারের স্কেল

সর্বজনীনভাবে শেয়ার করা সেশন লগের মাধ্যমে ফাঁস হওয়া সংবেদনশীল ডেটার স্কেল সবচেয়ে উদ্বেগজনক। গবেষকরা গিটহাব এবং হাগিং ফেস থেকে 6,708টি সর্বজনীনভাবে উপলব্ধ এজেন্ট ট্র্যাজেক্টরি সংগ্রহ করেছেন — ক্লড, জিপিটি এবং জেমিনি মডেল দ্বারা উত্পাদিত এবং এখনও এনক্রিপ্ট করা যুক্তি ব্লক রয়েছে।

প্রতিটি স্বাক্ষরিত ব্লকে তাদের ডিকোডিং পাইপলাইন প্রয়োগ করলে **315,320 পুনর্গঠিত যুক্তি ব্লকগুলি পাওয়া যায়। এই লুকানো ট্রেস বাস্তব গোপন এবং সংবেদনশীল তথ্য রয়েছে.

প্রকৃত, নন-বেঞ্চমার্ক ব্যবহারকারী সেশনে সীমাবদ্ধ, গবেষকরা পুনরুদ্ধার করেছেন:

  • 704টি স্বতন্ত্র গোপনীয়তা নিদর্শন মোট
  • 204 প্রযুক্তিগত শনাক্তকারী (অভ্যন্তরীণ URL, সার্ভার পাথ)
  • 126টি ব্যক্তিগতভাবে শনাক্তযোগ্য তথ্য (PII) আইটেম, যার মধ্যে 30টি ব্যক্তিগত ইমেল ঠিকানা, নাম এবং ডাক ঠিকানা রয়েছে
  • 23টি শংসাপত্র সহ 62টি API কী, 33টি পাসওয়ার্ড এবং 24টি অ্যাক্সেস টোকেন

704টি আর্টিফ্যাক্টের মধ্যে, 64টি একচেটিয়াভাবে যুক্তি ব্লকের ভিতরে এবং দৃশ্যমান সেশন টেক্সটে কোথাও নেই — যার অর্থ ভাগ করে নেওয়ার আগে যে বিকাশকারীরা তাদের লগগুলি পর্যালোচনা করেছেন তাদের ধারণা ছিল না যে তারা গোপনীয়তা ফাঁস করছে।

একটি নথিভুক্ত উদাহরণ একটি GPT-5.2 কোডেক্স সেশন দেখিয়েছে যেখানে মডেলের লুকানো যুক্তিতে API কী, AWS শংসাপত্র এবং গিটহাব টোকেনগুলি অনুসন্ধান করা এবং পরিচালনা করার বিষয়ে বিস্তারিত অভ্যন্তরীণ চিন্তা রয়েছে - কথোপকথনের দৃশ্যমান আউটপুটে সমস্ত অদৃশ্য।

অ্যান্টি-ডিস্টিলেশন সেফগার্ডগুলিকে আটকানো

একটি দ্বিতীয় প্রধান প্রভাব হল অ্যান্টি-ডিস্টিলেশন মেকানিজমের ঠেকানো। AI প্রদানকারীরা ইচ্ছাকৃতভাবে তাদের মডেলের যুক্তি লুকিয়ে রাখে যাতে প্রতিযোগীদের সেই যুক্তিতে ছোট মডেলের প্রশিক্ষণ দেওয়া থেকে বিরত থাকে। গবেষকদের কৌশল এই সুরক্ষাগুলিকে সম্পূর্ণভাবে বাইপাস করে।

ডিকোড করা যুক্তির বিশ্বস্ততা যাচাই করার জন্য, গবেষকরা 120টি কোডফোর্স প্রতিযোগিতামূলক প্রোগ্রামিং সমস্যা পরীক্ষা করেছেন। ডিকোড করা যুক্তির টোকেন গণনা প্রতিটি মডেলের API দ্বারা রিপোর্ট করা লুকানো চিন্তা-টোকেন গণনাকে ঘনিষ্ঠভাবে ট্র্যাক করে, প্রায় সম্পূর্ণ পুনরুদ্ধার নিশ্চিত করে।

চারটি অ্যাটাক ভেক্টর

কাগজটি এই দুর্বলতা দ্বারা সক্রিয় চারটি স্বতন্ত্র আক্রমণ ভেক্টর চিহ্নিত করে:

1. অ্যান্টি-ডিস্টিলেশন সারকামভেনশন — প্রতিযোগিতামূলক মডেলকে প্রশিক্ষণ দেওয়ার জন্য একটি মালিকানাধীন মডেলের যুক্তি বের করা, যা অ্যানথ্রোপিক, ওপেনএআই এবং গুগল জুড়ে প্রদর্শিত হয়েছে।

2. বড় আকারের ব্যক্তিগত ডেটা নিষ্কাশন — হাজার হাজার এনক্রিপ্ট করা যুক্তি ব্লক থেকে গোপনীয়তা এবং PII সংগ্রহ করা যা বিকাশকারীরা অজান্তে পাবলিক রিপোজিটরিগুলিতে ভাগ করেছে৷

3. বিপজ্জনক তথ্য প্রকাশ — লুকানো যুক্তিতে কখনও কখনও এমন বিষয়বস্তু থাকে যা প্রদানকারীরা ইচ্ছাকৃতভাবে দৃশ্যমান আউটপুট থেকে দমন করে, সম্ভাব্য বিপজ্জনক তথ্য সহ।

4. মডেল ফিঙ্গারপ্রিন্টিং — কোন নির্দিষ্ট মডেল সংস্করণটি একটি ট্রেস তৈরি করেছে তা সনাক্ত করতে ডিকোডেড যুক্তি ব্যবহার করা যেতে পারে, এমনকি যখন মডেল পরিচয় গোপন করা হয়।

কোন মডেলগুলি প্রভাবিত হয়

গবেষকরা তিনটি প্রধান প্রদানকারীর এনক্রিপ্ট করা যুক্তি সিস্টেম জুড়ে দুর্বলতা নিশ্চিত করেছেন:

  • নৃতাত্ত্বিক — ক্লদ মডেলগুলি একটি 'স্বাক্ষর' ফিল্ড সহ এনক্রিপ্ট করা `চিন্তানা` ব্লক ফেরত দেয়
  • ওপেনএআই — GPT মডেলগুলি এনক্রিপ্ট করা যুক্তির সারাংশ প্রদান করে
  • গুগল — মিথুন মডেল এনক্রিপ্ট করা চিন্তা ব্লক ফেরত দেয়

গবেষকরা উল্লেখ করেছেন যে চীনা এআই কোম্পানি মুনশট এআই-এর একটি মডেল কিমি-কে 3-এর ঘটনাটি বিশেষভাবে উদ্বেগজনক কারণ এর এনক্রিপ্ট করা যুক্তি ব্লকগুলি ডিকোড করা বিশেষভাবে সহজ প্রমাণিত হয়েছে।

ডেভেলপারদের জন্য এর মানে কি

ডেভেলপারদের জন্য বাস্তবসম্মত উপায় হল: যেকোন এনক্রিপ্ট করা যুক্তি ব্লক আপনি সর্বজনীনভাবে শেয়ার করেন — একটি GitHub রেপোতে, একটি আলিঙ্গন মুখ ডেটাসেট বা একটি ব্লগ পোস্টে — পুনরুদ্ধারযোগ্য গোপনীয়তা থাকতে পারে। এনক্রিপশনটি সেশনের ধারাবাহিকতার জন্য ডিজাইন করা হয়েছে, আক্রমণের এই শ্রেণীর বিরুদ্ধে গোপনীয়তার জন্য নয়।

গবেষকরা সুপারিশ করেন যে বিকাশকারীরা এনক্রিপ্ট করা যুক্তি ব্লকগুলির জন্য শেয়ার করা সেশন লগগুলি অডিট করে এবং প্রকাশ করার আগে সেগুলি ছিনিয়ে নেয়৷ তারা প্রদানকারীদের তাদের এনক্রিপ্ট করা যুক্তি সিস্টেমের আর্কিটেকচার পুনর্বিবেচনা করার আহ্বান জানায়, যা বর্তমানে নিরাপত্তার চেয়ে API সুবিধাকে অগ্রাধিকার দেয়।

গবেষণাটি আলেকজান্ডার প্যানফিলভ, ডেভিড স্মোটজ এবং ইলিয়া শুমাইলভ দ্বারা পরিচালিত হয়েছিল, জোনাস গেইপিং এবং ম্যাকসিম আন্দ্রিউশচেঙ্কোর তত্ত্বাবধানে, ELLIS ইনস্টিটিউট টুবিনজেন, ম্যাক্স প্ল্যাঙ্ক ইনস্টিটিউট ফর ইন্টেলিজেন্ট সিস্টেমস, টুবিনজেন এআই সেন্টার, MATS রিসার্চ, Snyk এবং ইউনিভার্সিটি অফ টুবিনজেন জুড়ে।

এআই থেকে এগিয়ে থাকুন

এআই নিরাপত্তা ল্যান্ডস্কেপ দ্রুত বিকশিত হচ্ছে। সাম্প্রতিক AI উন্নয়ন এবং উদীয়মান দুর্বলতাগুলির গভীর কভারেজের জন্য, AI Buzz Wire গুরুত্বপূর্ণ গল্পগুলি সরবরাহ করে।

আরও এআই খবর পড়ুন →