AI শিল্পের প্লাম্বিংয়ের বিরুদ্ধে একটি বড় মাপের স্টিং অপারেশন নথিভুক্ত করেছে যে ব্যবহারকারীরা প্রতিদিন যে প্রম্পটগুলি পাঠায় তাতে কী ঘটে — এবং উত্তর হল: তারা লিক করে। নিরাপত্তা গবেষক এইচডি মুর, ইন্ডাস্ট্রিয়াল-সিকিউরিটি ফার্ম ড্র্যাগোসের প্রধান গবেষণা কর্মকর্তা, AI প্রদানকারীদের কাছে অনন্য, ট্র্যাকযোগ্য গোপনীয়তা সম্বলিত প্রায় দুই মিলিয়ন এআই প্রম্পট পাঠিয়েছেন এবং তারপরে সেই গোপনীয়তাগুলি কোথায় উঠে এসেছে তা দেখেছেন। বৃহস্পতিবার প্রকাশিত একটি প্রতিবেদনে মুর লিখেছেন, "আমরা যা পেয়েছি তাতে নিরাপত্তা লঙ্ঘন, প্রম্পট চুরি এবং গ্রাহকের ডেটা রক্ষায় ব্যাপক ব্যর্থতা প্রকাশ পেয়েছে।"
Ars Technica দ্বারা বিশদভাবে রিপোর্ট করা ফলাফলগুলি AI রাউটার হিসাবে পৌঁছেছে — ব্রোকার পরিষেবাগুলি যেমন OpenRouter এবং Vercel যেগুলি শেষ ব্যবহারকারীদের কাছ থেকে প্রম্পট গ্রহণ করে এবং যে কোনও অনুমান প্রদানকারীর কাছে সবচেয়ে সস্তা বা সবচেয়ে উপযুক্ত সেগুলিকে রুট করে — হাজার হাজার অ্যাপ্লিকেশনের জন্য মূল পরিকাঠামোতে পরিণত হয়েছে৷ তারা একটি দ্রুত শিল্প প্রতিক্রিয়াও ট্রিগার করেছে: OpenRouter 22 নভেম্বর তার নিজস্ব ঘটনা ঘোষণা প্রকাশ করেছে, বলেছে যে এটি তিনটি প্রদানকারীকে অফ-বোর্ড করেছে, জিরো ডেটা রিটেনশন যোগ্যতা থেকে 125টি এন্ডপয়েন্ট সরিয়ে দিয়েছে এবং সম্ভাব্যভাবে প্রভাবিত গ্রাহকদের অবহিত করেছে।
ক্যানারি ট্র্যাপ কিভাবে কাজ করে
মুর খালি অ্যাকাউন্ট, কার্যকরী SSH পাসওয়ার্ড এবং অনন্য ইউআরএল, ডিএনএস নাম এবং ব্যক্তিগত গিট রিপোজিটরি রেফারেন্সের সাথে আবদ্ধ কার্যকরী AWS অ্যাক্সেস কীগুলির একটি সংগ্রহ একত্র করেছেন। গোপনীয়তার কোনটিই আগে ব্যবহার করা হয়নি এবং মুর প্রাপ্তির প্রান্তে অবকাঠামো নিয়ন্ত্রণ করেছিলেন। প্রতিটি গোপনীয়তা একটি একক প্রদানকারীর কাছে পাঠানো ঠিক একটি প্রম্পটে সীড করা হয়েছিল — তাই যদি গোপনটি পরে কোথাও প্রকাশ পায়, তবে এর যাত্রা দায়ী চেইনটির সঠিক লিঙ্কে ফিরে পাওয়া যেতে পারে।
এআই ইকোসিস্টেম আসলে কীভাবে ডেটা স্থানান্তর করে তার কারণে ডিজাইনটি গুরুত্বপূর্ণ। প্রম্পটগুলি ট্রানজিটে এনক্রিপ্ট করা হয়, তবে সেগুলি প্রতিটি হপে ডিক্রিপ্ট করা হয়। একটি AI রাউটার উপযুক্ত অনুমান প্রদানকারী বাছাই করতে প্লেইনটেক্সট পড়ে; প্রম্পটটি প্রায়শই মডেলের একটি পুলে ফরোয়ার্ড করা হয়, কখনও কখনও বিভিন্ন হোস্টিং কোম্পানির ভিতরে চলে। প্রম্পটগুলি এমনকি এক রাউটার থেকে অন্য রাউটারে যেতে পারে — ভার্সেল থেকে ওপেনরাউটার, উদাহরণস্বরূপ — প্রতিটি মধ্যস্থতাকারীর নিজস্ব নীতির অধীনে সামগ্রী লগ এবং সংরক্ষণ করার জন্য বিনামূল্যে।
তিনটি প্রদানকারী লঙ্ঘন, ঘন্টার মধ্যে ব্যবহার করা চাবি
সবচেয়ে উদ্বেগজনক অনুসন্ধানে তিনটি পৃথক হোস্টিং প্রদানকারী জড়িত যা পরীক্ষার সময় আপস করা হয়েছিল। মুরের মতে, আক্রমণকারীরা যারা একটি প্রদানকারীকে লঙ্ঘন করেছিল তারা রোপণ করা AWS কীগুলির "দুইশত" পুনরায় ব্যবহার করেছিল। অক্টোবরের শেষের দিকে কয়েকটি সংক্ষিপ্ত উইন্ডোর মধ্যে প্রতিটি কী একজন সরবরাহকারীর কাছে ঠিক একটি অনুরোধে পাঠানো হয়েছিল - এবং "সেই উইন্ডোগুলির সময় আমাদের পাঠানো প্রতিটি অনুরোধ চুরি হয়ে গেছে।" গুরুত্বপূর্ণভাবে, কিছু চুরি হওয়া চাবিগুলি এমন অনুরোধগুলি থেকে এসেছে যা প্রদানকারী একটি মডেল চালানোর আগে প্রত্যাখ্যান করেছিল, যা নির্দেশ করে যে আক্রমণকারী অনুমান স্ট্যাকের গভীরতার পরিবর্তে প্রদানকারীর সামনের দরজায় ট্র্যাফিক কপি করছিল।
অন্য দুটি লঙ্ঘনে, চুরি করা কিছু অনুরোধ জিরো ডেটা রিটেনশন হিসাবে চিহ্নিত করা হয়েছিল। "একটি গোপনীয়তা পতাকা সাহায্য করে না যখন আক্রমণকারী ইতিমধ্যে ভিতরে থাকে," মুর লিখেছেন। অনুপ্রবেশের পিছনের পক্ষগুলি কিছু ক্ষেত্রে কয়েক ঘন্টার মধ্যে টোপ কীগুলি পরীক্ষা করে, আরও শংসাপত্রের জন্য S3 বালতি, সিক্রেট ম্যানেজার এবং প্যারামিটার স্টোরের মাধ্যমে রাইফেল করে, AWS বেডরকে হোস্ট করা মডেলগুলি সক্ষম করার চেষ্টা করেছিল এবং অ্যাক্সেস বজায় রাখতে তাদের নিজস্ব IAM ব্যবহারকারীদের যোগ করেছিল। সবাই বলেছে, চুরি হওয়া কীগুলি AWS API কলগুলিতে "হাজার হাজার" বার ব্যবহার করা হয়েছিল। দুই হ্যাকড প্রদানকারীর কাছ থেকে চুরি করা গোপনীয়তা একসাথে ব্যবহার করা হয়েছিল, প্রায় সাথে সাথে একই ভাড়া করা সার্ভার থেকে - শক্তিশালী প্রমাণ যে একজন প্রতিপক্ষ উভয়ের সাথে আপস করেছে।
রিসেলার যারা চুরি করে, এবং একটি ল্যাব যা স্ক্র্যাপ করে
প্রত্যেক ফাঁসকারী হ্যাকার ছিল না। মুর নথিভুক্ত রিসেলারদের যারা কম দামের সাথে প্রম্পট প্রলুব্ধ করেছিল, অনুরোধ লগিং চালু করেছিল এবং অপেক্ষা করেছিল। তিনি বিভিন্ন বিক্রেতার মাধ্যমে একই মডেলে অভিন্ন অনুরোধ পাঠিয়ে তাদের শনাক্ত করেছেন: যখন একজন বিক্রেতার কাছ থেকে শংসাপত্রগুলি পুনরায় ব্যবহার করা হয়েছিল কিন্তু অন্য নয়, তখন অপরাধীটি পরিষ্কার ছিল।
সবচেয়ে পরিষ্কার স্ক্র্যাপিং কেস, মুর লিখেছেন, একটি চাইনিজ এআই ল্যাব জড়িত যার সিস্টেমগুলি জুলাই থেকে অক্টোবরের মধ্যে তার মডেলগুলিতে পাঠানো প্রম্পটের অর্ধেকেরও বেশি থেকে গোপন URL গুলি নিয়ে এসেছিল — যার মধ্যে প্রায় দুই-তৃতীয়াংশ অনুরোধ স্পষ্টভাবে "কোন ডেটা সংগ্রহ নেই" বা জিরো ডেটা রিটেনশন হিসাবে চিহ্নিত। স্ক্র্যাপার সাধারণত প্রতিটি অনুরোধের দুই বা তিন দিন পরে উপস্থিত হয়। এটি সরাসরি গ্রাহকদের মধ্যে সীমাবদ্ধ ছিল না: বেশ কয়েকটি মার্কিন হোস্টিং প্রদানকারী ল্যাবের মডেলগুলি পুনরায় বিক্রি করে এবং সেই আমেরিকান মধ্যস্থতাকারীদের মাধ্যমে পাঠানো প্রম্পটগুলি ঠিক একই স্ক্র্যাপারটিকে ট্রিগার করে৷ একজন গ্রাহক যিনি বিশেষভাবে ডেটা স্টেটসাইড রাখার জন্য একটি মার্কিন প্রদানকারীকে বেছে নিয়েছিলেন, অন্য কথায়, তারা যা প্রদান করেছেন তা পাননি। পৃথকভাবে, একটি ভিন্ন ক্লাউডের একটি গিট ক্লায়েন্ট প্রম্পটে উল্লেখ করা ব্যক্তিগত সংগ্রহস্থলগুলি ক্লোন করার চেষ্টা শুরু করেছে - তবে শুধুমাত্র সেই ল্যাবের মডেলগুলি ব্যবহার করা প্রম্পটের জন্য।
OpenRouter সাড়া দেয়
পরীক্ষাটি দ্রুত বাস্তব-বিশ্বের পরিণতি তৈরি করেছিল। Ars Technica একটি আপডেটে রিপোর্ট করেছে যে OpenRouter 21 নভেম্বর গ্রাহকদের ইমেল করে সতর্ক করে যে তাদের কিছু প্রম্পট পড়া হয়েছে, গবেষণার উদ্ধৃতি: সম্ভাব্য এক্সপোজার জড়িত প্রম্পটগুলি MiniMax, একটি চীন-ভিত্তিক মডেল প্রদানকারীকে পাঠানো হয়েছে, সরাসরি বা তিনটি রিসেলারের মাধ্যমে - AtlasCloud, Novita এবং StreamLake। OpenRouter MiniMax-মডেল এন্ডপয়েন্ট থেকে "জিরো ডেটা রিটেনশন" লেবেল সরিয়ে দিয়েছে।
নভেম্বর 22-এ তার অফিসিয়াল ব্লগ পোস্টে, OpenRouter নিশ্চিত করেছে যে এটি তিনটি প্রদানকারীকে অফ-বোর্ড করেছে, ZDR যোগ্যতা থেকে 125টি এন্ডপয়েন্ট সরিয়ে দিয়েছে এবং প্রদানকারীরা সর্বজনীনভাবে পোস্ট করেছে কিনা তা প্রভাবিত ব্যবহারকারীদেরকে অবহিত করেছে। সংস্থাটি বলেছে যে ফলাফলগুলি "ওপেনরাউটারের কোনও লঙ্ঘন বা অননুমোদিত অ্যাক্সেস দেখায়নি" নিজেই, ড্রাগোস দলকে ধন্যবাদ জানায় এবং বলেছে যে প্ল্যাটফর্মে থাকতে ইচ্ছুক সরবরাহকারীদের একটি ক্রমবর্ধমান সুরক্ষা বার "সাক্ষাত করতে হবে" কারণ ওপেনরাউটার অনুরূপ পরীক্ষার কৌশলগুলিকে সংহত করে৷
মুরও বিপথগামী লং-টেইল ফাঁস খুঁজে পেয়েছেন: একজন মার্কিন হোস্টিং প্রদানকারী তার অনুসন্ধানের শেষ পয়েন্টে একক অনুমান কল করার দুই মাসেরও বেশি সময় পরে একটি গোপন URL ক্রল করেছিল এবং অন্যজন একটি স্ক্র্যাপার চালায় যা প্রতিটি অনুরোধের কয়েক দিন পরে লাগানো URLগুলির জন্য ফিরে আসে, কোন রাউটার প্রম্পট সরবরাহ করুক না কেন।
ব্যবহারকারীরা কি করতে পারেন
সবচেয়ে কার্যকর প্রতিরক্ষা, মুর বলেন, প্রাঙ্গনে মডেল হোস্ট করা - একটি ব্যয়বহুল বিকল্প কিছু সংস্থা ন্যায্যতা দিতে পারে। পরবর্তী সর্বোত্তম পরিমাপ হল "একটি চুক্তি এবং পড়ার জন্য একটি গোপনীয়তা নীতি" সহ একটি প্রথম-স্তরের প্রদানকারীর কাছ থেকে সরাসরি কেনা এবং আপস্ট্রিম প্রদানকারীকে বেছে নেওয়ার মাধ্যমে ডিফল্ট প্রদানকারী বা রিসেলার পুলগুলি এড়ানো৷ তারপরেও, তিনি সতর্ক করে দিয়েছিলেন, কোনও গ্যারান্টি নেই যে ডেটা ফাঁস হবে না।
পরীক্ষাটি দ্রুত বর্ধনশীল অনুমান বাজার জুড়ে গোপনীয়তা অনুশীলনের এখনও সবচেয়ে তীক্ষ্ণ অভিযোগ: একটি অ্যাপ এবং একটি মডেলের মধ্যে শৃঙ্খল এখন একাধিক মহাদেশে রাউটার, রিসেলার এবং হোস্টিং স্তরগুলিকে জড়িত করতে পারে, যার প্রত্যেকটির নিজস্ব লগিং নীতি রয়েছে এবং গ্রাহকদের আশ্বস্ত করার জন্য লেবেলগুলি — যেমন জিরো ডেটা রিটেনশন বা নোটিশ ছাড়াই ভাঙা যেতে পারে৷ একটি শিল্প প্রতিষ্ঠানকে তাদের নথি, কোড এবং শংসাপত্রগুলিকে প্রম্পটে পেস্ট করতে বলে, দুই মিলিয়ন ক্যানারির বার্তাটি অস্বস্তিকর: যতক্ষণ না নদীর গভীরতানির্ণয় পরিবর্তন হয়, ধরে নিন প্রতিটি হপ প্রতিটি শব্দ পড়তে পারে।
এআই থেকে এগিয়ে থাকুন
নিরাপত্তা এবং গোপনীয়তা এখন যে কেউ AI তৈরি করছে তার জন্য মূল উদ্বেগ। ব্রেকিং এআই নিউজ এবং ইন্ডাস্ট্রির সবচেয়ে বড় খবরের স্বাধীন কভারেজের জন্য, এআই বাজ ওয়্যার দেখুন।
আরও এআই খবর পড়ুন →