একজন নিরাপত্তা গবেষক নথিভুক্ত করেছেন যে নথি-জনিত "এআই কীট" একটি মূলধারার উত্পাদনশীলতা স্যুটের মাধ্যমে স্ব-প্রচারের প্রথম সর্বজনীন উদাহরণ হতে পারে, যা দেখায় যে লুকানো দূষিত নির্দেশাবলী কপিলট ফর ওয়ার্ড এর মাধ্যমে একটি Microsoft Word ফাইল থেকে অন্য ফাইলে যেতে পারে।

28শে জুলাই প্রকাশিত একটি সমন্বিত প্রকাশে, গবেষক হাকন মালি বর্ণনা করেছেন যে কীভাবে একটি নথিতে এম্বেড করা আক্রমণকারী-নিয়ন্ত্রিত নির্দেশাবলী কপিলটের খসড়া হাইজ্যাক করতে পারে। AI একবার বিষাক্ত নথিটি পড়লে, এটি নীরবে আউটপুট পরিবর্তন করতে পারে - উদাহরণস্বরূপ, একটি প্রতিবেদনে আর্থিক পরিসংখ্যান অর্ধেক করে - এবং তারপরে সম্পূর্ণ ক্ষতিকারক পেলোডটি নতুন তৈরি করা ফাইলে অনুলিপি করে, সাদা টেক্সট হিসাবে লুকানো। মূল দূষিত ফাইলটি চলে যাওয়ার পরেও সেই নতুন ফাইলটি একটি বাহক হয়ে যায়, পরবর্তী সময়ে এটি উত্স উপাদান হিসাবে ব্যবহৃত হলে আরও নথিগুলিকে সংক্রামিত করে৷ For more context on this story, see our ongoing AI industry coverage.

কাজটি 144 দিনের সমন্বয়কালীন সময়ে মাইক্রোসফ্টের নিরাপত্তা প্রতিক্রিয়া কেন্দ্র (MSRC) এর সাথে পরিচালিত হয়েছিল। প্রকাশ অনুসারে, মাইক্রোসফ্ট অন্তর্নিহিত মডেলের একটি আপগ্রেড সহ GPT-5.5 এবং তারপর GPT-5.6 সহ একাধিক সংশোধন করেছে, কিন্তু গবেষক প্রতিটি প্রশমন মোতায়েন সহ সম্পূর্ণ আক্রমণ চেইন পুনরুত্পাদন করেছেন। "সুতরাং দুর্বলতা শ্রেণীটি প্রকাশনার সময় শোষণযোগ্য থেকে যায়," Måløy লিখেছেন।

ফলাফলগুলি এলএলএম-ভিত্তিক সিস্টেমে একটি গভীর স্থাপত্য সমস্যা হাইলাইট করে। যেহেতু একটি ভাষার মডেলকে অবশ্যই বাহ্যিক বিষয়বস্তু পড়তে হবে যে এটি প্রাসঙ্গিক বা প্রতিকূল কিনা তা নির্ধারণ করতে, "পরিদর্শন করা বিষয়বস্তু পরিদর্শনের কাজে অংশগ্রহণ করে" - নির্ভরযোগ্য প্রম্পট-ইনজেকশন প্রতিরক্ষাকে অধরা করে তোলে।

মাইক্রোসফ্ট রিপোর্ট করা নির্দিষ্ট পেলোডগুলিকে প্রশমিত করেছে এবং সিরিজের আগের অংশগুলি থেকে মেমরি এবং ইমেল ভেক্টরগুলি বন্ধ করেছে, কিন্তু স্বীকার করেছে যে বিস্তৃত শ্রেণীর জন্য কোনও সম্পূর্ণ সমাধান বিদ্যমান নেই। গবেষক কোপাইলটের সাথে ব্যবহার করার সময় বাহ্যিকভাবে প্রাপ্ত নথিগুলিকে অবিশ্বস্ত হিসাবে বিবেচনা করার এবং পুনঃব্যবহার বা বিতরণের আগে এআই-উত্পাদিত সামগ্রী সাবধানে পর্যালোচনা করার পরামর্শ দেন।

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →