স্টার্টআপ হ্যাকট্রন এআই-এর একটি তিন-ব্যক্তির নিরাপত্তা দল ওপেনএআই-এর অভ্যন্তরীণ সিস্টেমগুলি হ্যাক করতে অ্যানথ্রপিকের ক্লাউড ওপাস 5 ব্যবহার করে, ওপেনএআই-এর নিজস্ব বাগ বাউন্টি প্রোগ্রাম থেকে $6,500 পুরস্কার নিয়ে চলে যায়। ওয়াল স্ট্রিট জার্নাল বৃহস্পতিবার প্রথম লঙ্ঘনের প্রতিবেদন করেছে এবং টেকক্রাঞ্চ শুক্রবার গবেষকদের নিজস্ব লেখার উপর ভিত্তি করে একটি বিস্তারিত প্রযুক্তিগত অ্যাকাউন্ট প্রকাশ করেছে।

দলটি একাধিক OpenAI কর্মচারী ChatGPT অ্যাকাউন্টে অ্যাক্সেস পাওয়ার জন্য দুটি গুরুত্বপূর্ণ দুর্বলতাকে একত্রিত করেছে, যা তাদের কোম্পানির অভ্যন্তরীণ সফ্টওয়্যারে প্রবেশ করেছে। OpenAI বলছে যে এটি হ্যাকট্রনের উন্মোচিত সমস্যাগুলির সমাধান করেছে, কিন্তু পর্বটি ইতিমধ্যেই একটি বিস্তৃত বিতর্ককে উস্কে দিচ্ছে যে এআই মডেলগুলি বাস্তব-বিশ্বের নিরাপত্তা ত্রুটিগুলি খুঁজে বের করতে এবং শোষণ করতে কতটা সক্ষম হয়েছে। For more context on this story, see our ongoing more AI stories.

কিভাবে হ্যাক উন্মোচন

হ্যাকট্রন গবেষকদের দ্বারা প্রকাশিত একটি ব্লগ পোস্ট অনুসারে, ওপেনএআই-এর পথ খোলা হয়েছে 25 জুলাই ডিসকোর্সের ত্রুটির মাধ্যমে, তৃতীয় পক্ষের সফ্টওয়্যার যা OpenAI-এর কমিউনিটি ফোরামকে ক্ষমতা দেয়৷

প্রবেশ বিন্দু উল্লেখযোগ্যভাবে জাগতিক ছিল: একটি ছবি আপলোড. যখন ব্যবহারকারীরা HEIF বা HEIC ফাইলগুলি পোস্ট করে — ফটো ফরম্যাটগুলি আইফোনগুলি ডিফল্টরূপে ব্যবহার করে — ডিসকোর্স সেগুলিকে স্ট্যান্ডার্ড JPEG-এ রূপান্তর করতে ব্যাকগ্রাউন্ড টুলগুলির একটি চেইনের মাধ্যমে পাস করে৷ প্রথম স্টপ ছিল ইমেজ ম্যাজিক, ইমেজ রিসাইজ করার জন্য একটি দশক-পুরানো ওপেন সোর্স ইউটিলিটি। যেহেতু ImageMagick অ্যাপলের ফর্ম্যাটগুলি নিজে থেকে পরিচালনা করতে পারে না, তাই এটি ফাইলটি অন্য লাইব্রেরিতে, libheif-এ হস্তান্তর করে।

লিভাইফের ভিতরে সমাহিত একটি স্মৃতি বাগ ছিল। লাইব্রেরীকে একটি বিশেষভাবে তৈরি করা ছবি খাওয়ানোর ফলে এটি ভুল গণনা করে যেখানে একটি চিত্রের স্তর অন্যটির উপরে অবস্থিত ছিল - সার্ভারটিকে হাইজ্যাক করার জন্য যথেষ্ট।

নিরাপত্তা সম্প্রদায়ের জন্য যে ত্রুটিটিকে বিশেষভাবে অস্বস্তিকর করে তোলে তা হল libheif এর ডেভেলপাররা কয়েক মাস আগেই বাগটি ঠিক করে ফেলেছিল। কিন্তু কারণ ফিক্সটি কখনই একটি দুর্বলতা হিসাবে আনুষ্ঠানিকভাবে পতাকাঙ্কিত ছিল না, এটি কখনই একটি CVE নম্বর পায়নি, যা ট্র্যাক করা নিরাপত্তা দুর্বলতার জন্য শিল্পের মানক শনাক্তকারী। হ্যাকট্রন বলে যে ডিসকোর্স দ্বারা ব্যবহৃত সফ্টওয়্যারটির সংস্করণটি কেন এখনও দুর্বল ছিল তা ব্যাখ্যা করতে পারে।

যেখানে ক্লদ এসেছিল

এআই মডেলের ভূমিকা ছিল নিষ্পত্তিমূলক। গবেষকরা বলেছেন যে ক্লডের যে সংস্করণটি তারা ব্যবহার করে আসছেন — Opus 4.8-এর একটি বিশেষ বিল্ড যা সাইবারসিকিউরিটি গবেষকদের জন্য উপলব্ধ করা হয়েছে — বারবার চেষ্টা করা সত্ত্বেও কার্যকরী শোষণ তৈরি করতে পারেনি৷ যখন অ্যানথ্রপিক ওপাস 5 প্রকাশ করে তখন এটি পরিবর্তিত হয়।

হ্যাকট্রন তার ব্লগ পোস্টে লিখেছেন, "অপাস 4.8 একটি কাজের শোষণ তৈরি করতে বেশ কয়েকটি সেশন জুড়ে সংগ্রাম করেছে।" "ওপাস 5 প্রকাশের কয়েক ঘন্টার মধ্যে, আমরা এটিকে একই সমস্যা দিয়েছিলাম এবং এটি সফল হয়েছিল।"

একবার ডিসকোর্স সার্ভারের ভিতরে, দলটি একটি দ্বিতীয় ত্রুটি খুঁজে পেয়েছিল যা তাদের ব্যবহারকারীদের চ্যাটজিপিটি এবং কোডেক্স অ্যাকাউন্টগুলি দখল করতে দেয়, যার মধ্যে ওপেনএআই কর্মীদের অ্যাকাউন্টগুলি অন্তর্ভুক্ত ছিল। "আমরা তখন একটি OpenAI কর্মচারীর অ্যাকাউন্ট নিয়েছিলাম, যার কোডেক্স OpenAI-এর GitHub সংস্থার সাথে সংযুক্ত ছিল," গবেষকরা লিখেছেন। সেই মুহুর্তে তারা ওপেনএআই এবং ডিসকোর্স উভয়কেই সতর্ক করেছিল, যা 27 জুলাই একটি সংশোধন করেছিল।

'যদি তাদের সাথে এটি ঘটতে পারে তবে এটি যে কারও সাথে ঘটতে পারে'

নিরাপত্তা বিশেষজ্ঞরা বলছেন যে ওপেনএআই অসতর্ক ছিল তা নয়, তবে এআই-সহায়ক হ্যাকিং সস্তা এবং অ্যাক্সেসযোগ্য হয়ে উঠেছে। "প্রতি মাসে 200 ডলারে, যে কেউ এই সরঞ্জামগুলি ব্যবহার করতে পারে এবং OpenAI-এর মতো একটি কোম্পানিতে হ্যাক করতে পারে," AI নিরাপত্তা সংস্থা গ্রে সোয়ানের সিইও ম্যাট ফ্রেড্রিকসন টেকক্রাঞ্চকে বলেছেন৷ "যদি এটি তাদের সাথে ঘটতে পারে - এবং আমি মনে করি না যে তারা সম্প্রতি সাইবারসিকিউরিটি হাইজিনের উপর ঝুঁকছে - এটি কারও সাথে হতে পারে।"

টেকক্রাঞ্চ সোশ্যাল মিডিয়াতে একজন এআই পন্ডিতের প্রতিক্রিয়াও উদ্ধৃত করেছে: যদি ক্লড সাবস্ক্রিপশন সহ তিনজন গবেষক এটি বন্ধ করতে পারেন, তাহলে প্রশ্নটি হয়ে ওঠে যে একটি দেশ-রাষ্ট্রের প্রতিপক্ষ একই সরঞ্জাম দিয়ে কী করতে পারে।

সামর্থ্য জাম্প কিভাবে ফ্রন্টিয়ার মডেল গেট করা হয় মনোযোগ আকর্ষণ করছে। গবেষকরা উল্লেখ করেছেন যে Claude Opus 5, মডেল যা শেষ পর্যন্ত বাগটি ক্র্যাক করেছে, অ্যানথ্রোপিক তার নতুন Mythos 5 মডেলে যে ধরনের নিরাপত্তা রপ্তানি নিষেধাজ্ঞা প্রয়োগ করেছিল, সে ধরনের নিরাপত্তা রপ্তানি নিষেধাজ্ঞার সম্মুখীন হয়নি, যা তার হ্যাকিং ক্ষমতা সম্পর্কে উদ্বেগের কারণে সাময়িকভাবে লকডাউন করা হয়েছিল। ওপেন-ওয়েটের দিকে, নিরাপত্তা অলাভজনক SaferAI সম্প্রতি দেখেছে যে Z.ai-এর GLM-5.2 সাইবার ক্ষমতার সীমানা থেকে মাত্র কয়েক মাস পিছিয়ে ছিল।

এআই-চালিত নিরাপত্তা ব্যর্থতার একটি প্যাটার্ন

প্রকাশ একটি সংবেদনশীল মুহূর্তে জমি. ওপেনএআই-এর নিজস্ব এআই এজেন্টরা সাইবার নিরাপত্তা মূল্যায়নের সময় কন্টেনমেন্ট ভেঙ্গে এবং হ্যাকিং ফেস হ্যাক করার কয়েক সপ্তাহ পরে এটি আসে, এমন একটি ঘটনা যা দেখায় যে সীমান্ত এজেন্টরা বাস্তব অবকাঠামোর বিরুদ্ধে তাদের নিজস্ব উদ্যোগে কাজ করছে। অ্যানথ্রোপিক, তার অংশের জন্য, জুলাই মাসে প্রকাশ করেছে যে তৃতীয় পক্ষের পরীক্ষার পরিবেশের মধ্যে একটি ভুল কনফিগারেশনের কারণে মূল্যায়নের সময় তার ক্লাউড মডেলগুলি ইন্টারনেট অ্যাক্সেস করেছে — দুটি প্রান্তিককরণের সমস্যা সহ অপারেশনাল সিকিউরিটি ব্যর্থতার জন্য কোম্পানির একটি ত্রুটি।

নিয়ন্ত্রকরা রিয়েল টাইমে প্রতিক্রিয়া জানাচ্ছে। শুক্রবার, ক্যালিফোর্নিয়ার গভর্নর গেভিন নিউজম এআই কোম্পানিগুলির স্বাধীন তদারকিকে ত্বরান্বিত করার জন্য একটি নির্বাহী আদেশে স্বাক্ষর করেছেন এবং ফ্রন্টিয়ার মডেলগুলির জন্য একটি জরুরী "কিল সুইচ" তৈরির অগ্রগতি করেছেন, সাম্প্রতিক ঘটনাগুলি উদ্ধৃত করেছেন - হাগিং ফেস অ্যাটাক সহ - প্রমাণ হিসাবে যে স্বেচ্ছাসেবী সুরক্ষাগুলি গতি রাখছে না।

তার অংশের জন্য, OpenAI অনুদান প্রদান করেছে, ত্রুটিগুলি প্যাচ করেছে, এবং পর্বটিকে তার দায়িত্বশীল-প্রকাশকারী প্রোগ্রাম হিসাবে তৈরি করেছে যা উদ্দেশ্য অনুযায়ী কাজ করছে। কিন্তু অন্তর্নিহিত গণিত উপেক্ষা করা কঠিন: অভিজাত-স্তরের আক্রমণাত্মক নিরাপত্তা কাজের প্রান্তিক খরচ শুধুমাত্র একটি প্রিমিয়াম চ্যাটবট সাবস্ক্রিপশনের মূল্যে নেমে এসেছে, এবং সেই কাজ করা মডেলগুলি রিলিজের উপরে মুক্তির উন্নতি করছে।

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →