ওপেনএআই বুধবার ঘোষণা করেছে যে এটি তার ফ্রন্টিয়ার মডেলগুলির জন্য জিরো ডেটা রিটেনশন (জেডডিআর) অফার করছে এবং প্রাইভেট সেফটি প্রসেসিং নামে একটি নতুন সিস্টেমের প্রিভিউ করেছে, কোম্পানিকে গ্রাহক সামগ্রীতে অ্যাক্সেস না দিয়ে একাধিক মিথস্ক্রিয়া জুড়ে অপব্যবহার সনাক্ত করার জন্য ডিজাইন করা হয়েছে। এই পদক্ষেপটি প্রতিযোগীদের বিরুদ্ধে একটি তীক্ষ্ণ রেখা আঁকে: অ্যাক্সিওস জানিয়েছে যে অ্যানথ্রপিক এখন গ্রাহকদের ডেটা লগের অনুমতি দেওয়ার জন্য ঘোষণাটি এসেছে, এবং ফার্স্টপোস্ট 30-দিনের ডেটা ধারণে অ্যানথ্রপিকের পদক্ষেপের সাথে বৈপরীত্য উল্লেখ করেছে।
সময় সূক্ষ্ম নয়. তার ঘোষণায়, OpenAI পর্যবেক্ষণ করেছে যে "সাম্প্রতিক কিছু সীমান্ত-মডেল স্থাপনার জন্য গ্রাহকদের তাদের AI প্রদানকারীকে নিরাপত্তা পর্যবেক্ষণের জন্য সংবেদনশীল বিষয়বস্তু বজায় রাখার অনুমতি দিতে হবে" - প্রয়োজনীয়তাগুলি কোম্পানি বলে "তাদের নিরাপত্তা দায়বদ্ধতা বা তারা যে লোকেদের পরিবেশন করে তাদের প্রতি প্রতিশ্রুতির সাথে দ্বন্দ্ব।" কোম্পানি নিয়ন্ত্রিত এন্টারপ্রাইজ গ্রাহকদের প্রতিযোগিতায় গোপনীয়তাকে একটি প্রতিযোগিতামূলক অস্ত্র হিসেবে অবস্থান করছে। For more context on this story, see our ongoing more AI stories.
জিরো ডেটা রিটেনশন কি প্রতিশ্রুতি দেয়
ZDR অফারের অধীনে, যোগ্য API গ্রাহকরা পান যা OpenAI বর্ণনা করে "একটি স্পষ্ট প্রতিশ্রুতি" হিসাবে: একটি অনুরোধ প্রক্রিয়া করার পরে ওপেনএআই প্রম্পট বা মডেল প্রতিক্রিয়া ধরে রাখে না। গ্রাহকের সামগ্রী পর্যালোচনার জন্য OpenAI কর্মীদের কাছে উপলব্ধ নয়, এবং গ্রাহকরা স্পষ্টভাবে নির্বাচন না করলে OpenAI-এর মডেলগুলিকে প্রশিক্ষণের জন্য এন্টারপ্রাইজ গ্রাহক ডেটা ব্যবহার করা হয় না।
ব্যাঙ্ক, হাসপাতাল এবং আইন সংস্থাগুলির জন্য যেগুলি AI গ্রহণের ওজন রয়েছে, এই প্রতিশ্রুতিগুলি সবচেয়ে সাধারণ চুক্তি-ব্রেকারকে মোকাবেলা করে: একটি AI প্রদানকারীর সিস্টেমের মাধ্যমে প্রবাহিত সংবেদনশীল উপাদানগুলি ভবিষ্যতের মডেলগুলিতে সংরক্ষণ, পড়া বা শোষিত হওয়ার ঝুঁকি। OpenAI নোট করে যে সংস্থাগুলির সাথে এটি কাজ করে "আর্থিক রেকর্ড, স্বাস্থ্য তথ্য, গোপনীয় ব্যবসায়িক পরিকল্পনা এবং মালিকানা গবেষণা।"
সুরক্ষা সমস্যা ধরে রাখা সমাধান করা হয়েছিল
ঘোষণাটি একটি প্রকৃত প্রযুক্তিগত উত্তেজনাও স্বীকার করে। ওপেনএআই নিজেই এটি বর্ণনা করে, সবচেয়ে গুরুতর এআই সুরক্ষা ঝুঁকিগুলি সর্বদা একক মিথস্ক্রিয়ায় দৃশ্যমান হয় না। ক্ষতিকারক উদ্দেশ্যগুলি তখনই স্পষ্ট হয়ে উঠতে পারে যখন একাধিক মিথস্ক্রিয়া একসাথে দেখা হয় — যখন খারাপ অভিনেতারা বারবার সুরক্ষার তদন্ত করে, অ্যাকাউন্ট জুড়ে সমন্বয় করে, রুটিন গবেষণা হিসাবে হুমকির ছদ্মবেশ ধারণ করে, বা যখন কোনও এআই এজেন্টকে থামতে বলার পরেও কাজ করে।
বিদ্যমান ZDR-সামঞ্জস্যপূর্ণ নিরাপত্তা ব্যবস্থা প্রতিটি মিথস্ক্রিয়াকে পৃথকভাবে মূল্যায়ন করে, যার অর্থ প্যাটার্ন-ভিত্তিক ঝুঁকিগুলি স্লিপ করে। যে সরবরাহকারীরা ধরে রাখার প্রয়োজনে সাড়া দিয়েছিল তারা একটি সমস্যা সমাধান করে অন্যটি তৈরি করে, গ্রাহকদের নিরাপত্তা পর্যবেক্ষণ এবং তাদের নিজস্ব গোপনীয়তার বাধ্যবাধকতার মধ্যে বেছে নিতে বাধ্য করে।
ব্যক্তিগত নিরাপত্তা প্রক্রিয়াকরণ কিভাবে কাজ করে
OpenAI এর প্রস্তাবিত রেজোলিউশনটি স্থাপত্য। প্রাইভেট সেফটি প্রসেসিং-এর অধীনে, গ্রাহকের বিষয়বস্তু গ্রাহকের নিয়ন্ত্রণে থাকা অবকাঠামোতে থাকে — অথবা, একটি বিকল্পে যা এখনও বিকাশে রয়েছে, গ্রাহকের দ্বারা নিয়ন্ত্রিত কীগুলির সাহায্যে এনক্রিপ্ট করা OpenAI পরিকাঠামোতে সংরক্ষণ করা হয়। স্বয়ংক্রিয় সিস্টেমগুলি তারপরে সম্পর্কিত মিথস্ক্রিয়া জুড়ে প্যাটার্নগুলি বিশ্লেষণ করে এবং OpenAI কর্মীদের অন্তর্নিহিত প্রম্পট বা প্রতিক্রিয়াগুলি প্রকাশ না করেই - সম্ভাব্য অপব্যবহারের পতাকা - "সীমিত সুরক্ষা সংকেত" ফিরিয়ে দেয়।
গ্রাহকরা তাদের নিজস্ব সিস্টেমে উপলব্ধ তথ্য ব্যবহার করে সতর্কতা তদন্ত করে। যদি তারা একটি প্রয়োগকারী সিদ্ধান্তের বিরুদ্ধে আপীল করতে চান, বৈধ কার্যকলাপ স্পষ্ট করতে চান, বা যাচাইকৃত অপব্যবহারের তদন্তে সমর্থন করতে চান, তাহলে তারা OpenAI-এর সাথে প্রাসঙ্গিক তথ্য শেয়ার করতে পারেন। গোপনীয়তা, অন্য কথায়, ডিফল্ট হয়ে ওঠে এবং গ্রাহকের বিকল্পটি প্রকাশ করে।
সিস্টেমটি বর্তমানে প্রাথমিক গ্রাহকদের সাথে পরীক্ষা করা হচ্ছে। ওপেনএআই বলেছে যে এটি প্রাইভেট সেফটি প্রসেসিং শুরু করার এবং সেপ্টেম্বরে একটি প্রযুক্তিগত শ্বেতপত্র প্রকাশ করার পরিকল্পনা করছে।
একটি বাজার হিসাবে এন্টারপ্রাইজ বিশ্বাস
ঘোষণাটি একটি গ্রাহকের প্রশংসাপত্রের সাথে এসেছে যা একটি সংগ্রহের যুক্তির মতো পড়ে। "এন্টারপ্রাইজ AI গ্রহণ শুধুমাত্র গ্রাহকের ডেটা নিয়ন্ত্রণের উপর নির্ভর করে, নির্বাচিত পরিষেবার বাইরে কোন সরাসরি বা ডেরিভেটিভ ব্যবহার না করে," বলেছেন সুনীল আগরওয়াল, Glean-এর চিফ ইনফরমেশন সিকিউরিটি অফিসার, যার উদ্ধৃতি OpenAI পোস্টের পাশাপাশি প্রকাশিত হয়েছে৷ "মডেলগুলি আরও সক্ষম হওয়ার সাথে সাথে, ওপেনএআই দেখায় যে গোপনীয়তা এবং নিয়ন্ত্রণের সাথে আপস না করেই নিরাপত্তা এগিয়ে যেতে পারে যা এন্টারপ্রাইজের বিশ্বাসকে বজায় রাখে।"
ওপেনএআই চাহিদার প্রতিক্রিয়া হিসাবে প্রিভিউকে ফ্রেম করেছে, বলেছে যে এটি গ্রাহকদের কাছ থেকে "জোরে এবং স্পষ্ট যে তাদের বিষয়বস্তু কীভাবে AI সিস্টেমগুলি আরও সক্ষম হয়ে উঠবে সে সম্পর্কে তাদের ভবিষ্যদ্বাণী করা দরকার।" কোম্পানি যোগ করে যে এই পদ্ধতিটি গ্রাহকদের দ্বারা "শিল্প, অঞ্চল এবং কোম্পানির আকার জুড়ে" আকার দেওয়া হচ্ছে এবং এটি গ্রাহকদের পরিবর্তনের চারপাশে স্থাপনার পরিকল্পনা করার জন্য পর্যাপ্ত লিড টাইম দিয়ে অবহিত করবে।
এই বিতর্কের সূত্রপাত হবে
নিরাপত্তা গবেষকরা দীর্ঘদিন ধরে যুক্তি দিয়েছেন যে ক্ষতির কারণ হওয়ার আগে অপব্যবহার ধরার জন্য ব্যবহারের ধরণগুলিতে দৃশ্যমানতা অপরিহার্য, এবং কেউ কেউ প্রশ্ন করবে যে স্বয়ংক্রিয়, এনক্রিপ্ট করা বিশ্লেষণ মানুষের পর্যালোচনার সনাক্তকরণের গুণমানের সাথে মেলে কিনা। প্রাইভেসি অ্যাডভোকেটরা, ইতিমধ্যে, এমন একটি আর্কিটেকচারকে স্বাগত জানাবে যা গ্রাহকের ডেটা অ্যাক্সেসকে প্রদানকারীর বিশেষাধিকারের পরিবর্তে গ্রাহকের সিদ্ধান্ত হিসাবে বিবেচনা করে।
যা পরিষ্কার তা হল যে ডেটা গভর্নেন্স আইনি সূক্ষ্ম মুদ্রণ থেকে এআই প্রতিযোগিতার কেন্দ্রে চলে গেছে। যেহেতু ফ্রন্টিয়ার মডেলগুলি নিয়ন্ত্রিত শিল্পগুলিতে দীর্ঘতর, আরও স্বায়ত্তশাসিত কাজগুলি গ্রহণ করে, সেই প্রশ্নটি কে দেখতে পাবে যে এই সিস্টেমগুলি পিছনে ফেলেছে — গ্রাহক, প্রদানকারী বা কেউ নয় — একটি প্রাথমিক অক্ষে পরিণত হচ্ছে যার উপর এন্টারপ্রাইজ AI চুক্তিগুলি জিতেছে এবং হারিয়েছে৷ OpenAI এখন তার উত্তর সুস্পষ্ট করেছে, এবং তার প্রতিদ্বন্দ্বীদের তাদের রক্ষা করার অবস্থানে রেখেছে।
ডেটা গভর্নেন্স কীভাবে এআই শিল্পকে নতুন আকার দিচ্ছে সে সম্পর্কে আরও জানতে, এআই বাজ ওয়্যারের ব্রেকিং এআই নিউজ কভারেজ অনুসরণ করুন।---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
