OpenAI 5 অক্টোবর ঘোষণা করেছে যে এটি ইউরোপীয় ইউনিয়নের ব্যবহারকারীদের জন্য ChatGPT এবং কোডেক্স দ্বারা উত্পন্ন টেক্সটে অদৃশ্য জলছাপ যুক্ত করা শুরু করবে, এটি EU AI আইনের পাঠ্য প্রমাণের নিয়মগুলির জন্য এর দৃঢ় প্রতিক্রিয়া। "EU টেক্সট প্রোভেনেন্স নিয়মের প্রতি আমাদের দৃষ্টিভঙ্গি" শিরোনামে একটি ব্লগ পোস্টে সংস্থাটি বলেছে যে ব্লকের যোগ্য আউটপুটের জন্য ওয়াটারমার্কিং "আসন্ন সপ্তাহে" রোল আউট হবে, একই দিনে টেকক্রাঞ্চ, দ্য ভার্জ, ব্লিপিং কম্পিউটার, এনগ্যাজেট এবং অন্যান্য আউটলেটগুলির দ্বারা একটি পরিকল্পনা রিপোর্ট করা হয়েছে৷
পরিবর্তনের পেছনের প্রযুক্তিটিকে বলা হয় টেক্সট গ্রেইন। একটি দৃশ্যমান চিহ্ন এম্বেড করার পরিবর্তে, টেক্সটগ্রেইন মডেলের শব্দ পছন্দগুলিকে সূক্ষ্মভাবে স্টিয়ারিং করে কাজ করে যাতে ফলস্বরূপ পাঠ্য একটি পরিসংখ্যানগত প্যাটার্ন বহন করে যা পরে সনাক্ত করা যায়। এআই-জেনারেটেড টেক্সট ব্যবহার বা অনুলিপি করার সময় পাঠকরা কিছুই লক্ষ্য করবেন না; সনাক্তকরণের জন্য OpenAI এর ডিটেক্টরে অ্যাক্সেস প্রয়োজন, যা সাধারণ জনগণের জন্য উপলব্ধ নয়। নিয়ন্ত্রক এবং ল্যাবগুলি কীভাবে AI নিয়মগুলির সাথে সংঘর্ষ করছে তা বিস্তৃত দেখার জন্য, আমাদের চলমান AI নীতি কভারেজ অনুসরণ করুন।
কিভাবে টেক্সট গ্রেইন ওয়াটারমার্কিং কাজ করে
OpenAI এর পদ্ধতি প্রজন্মের সময় টোকেন নির্বাচন প্রক্রিয়া পরিবর্তন করে। সংস্থাটি বলেছে যে টেক্সটগ্রেইন "একটি পরিসংখ্যানগত প্যাটার্ন তৈরি করতে মডেলের শব্দ পছন্দগুলিকে কিছুটা পরিবর্তন করে যা পরে সনাক্ত করা যেতে পারে," ব্লিপিং কম্পিউটারের প্রতিবেদন অনুসারে। পাঠ্য পড়া বা অনুলিপি করা হলে ওয়াটারমার্কটি অদৃশ্য থাকে এবং OpenAI দাবি করে যে এটি আউটপুট গুণমানকে অবনমিত করে না।
সনাক্তকরণের দিকটি ইচ্ছাকৃতভাবে সীমাবদ্ধ। ওয়াটারমার্ক লঞ্চের পাশাপাশি, OpenAI তার ওয়াটারমার্ক ডিটেক্টরের জন্য অ্যাপ্লিকেশন খুলছে, তবে অ্যাক্সেস প্রাথমিকভাবে অনুমোদিত গবেষক এবং বিশেষজ্ঞ সংস্থার মধ্যে সীমাবদ্ধ থাকবে। এই নকশাটি অস্ত্রোপচার করার আশায় যে কেউ সনাক্তকরণের ক্ষমতাকে হাতের বাইরে রাখে, তবে এর অর্থ প্রকাশক, শিক্ষক এবং নিয়োগকর্তারা স্বতন্ত্রভাবে পাঠ্যের একটি অংশ ওয়াটারমার্ক করা কিনা তা যাচাই করতে পারবেন না।
API অ্যাক্সেস বিশ্বব্যাপী অপ্ট-ইন
ইউরোপীয় ইউনিয়নের ম্যান্ডেট ব্লকের ChatGPT এবং কোডেক্স আউটপুটের ক্ষেত্রে প্রযোজ্য, কিন্তু OpenAI একই সাথে ডেভেলপারদের সব জায়গায় একটি পছন্দ দিচ্ছে। 5 অক্টোবর থেকে, বিশ্বব্যাপী API বিকাশকারীরা সমর্থিত মডেলগুলির জন্য পাঠ্য ওয়াটারমার্কিং বেছে নিতে পারে৷ বৈশিষ্ট্যটি এপিআই-তে ডিফল্টরূপে নিষ্ক্রিয় থাকে, একটি সিদ্ধান্ত দ্য নিউ স্ট্যাক অ্যানথ্রপিকের পদ্ধতির বিপরীতে হাইলাইট করেছে, যা একই নিয়মের নিজস্ব প্রতিক্রিয়ায় এই বছরের শুরুতে ইইউ ট্র্যাফিকের জন্য প্রোভেনেন্স মার্কিং চালু করেছিল।
সেই অপ্ট-ইন ভঙ্গি অপ্রত্যাশিত পার্শ্বপ্রতিক্রিয়া সম্পর্কে চিন্তিত বিকাশকারীদের আশ্বস্ত করবে। পরিসংখ্যানগত ওয়াটারমার্কিং পরিবর্তন করে যে কীভাবে টোকেনগুলি নমুনা করা হয় এবং প্রজন্মের যে কোনও পরিবর্তন প্রান্তের ক্ষেত্রে আচরণ পরিবর্তনের অন্তত একটি তাত্ত্বিক ঝুঁকি বহন করে। একটি ডিফল্টের পরিবর্তে একটি পতাকাকে ওয়াটারমার্ক করে, OpenAI তার মডেলগুলিতে তৈরি কোম্পানিগুলিতে সম্মতির সিদ্ধান্ত স্থানান্তর করে।
কেন EU AI আইন এটি বাধ্য করেছে
EU AI আইনের স্বচ্ছতা বিধানগুলির জন্য প্রয়োজন যে AI-উত্পাদিত পাঠ্যকে মেশিন-উত্পাদিত হিসাবে শনাক্ত করা যায়, একটি বাধ্যবাধকতা যা OpenAI এবং Anthropic উভয়কেই পরিসংখ্যানগত ওয়াটারমার্কিং স্কিমের দিকে ঠেলে দেয়। OpenAI-এর ব্লগ পোস্টটি টেক্সটগ্রেইনকে সেই সমস্ত উদ্ভবের প্রয়োজনীয়তার বাস্তবায়ন হিসাবে ফ্রেম করে, এবং PYMNTS এই রোলআউটটিকে OpenAI মিটিং "EU AI আইনের আদেশ" হিসাবে সরাসরি রিপোর্ট করেছে।
সময় লক্ষণীয়। ওপেনএআই-এর সর্বজনীন ভঙ্গির জন্য একটি অস্বাভাবিকভাবে অশান্ত প্রসারিত হওয়ার মধ্যে ওয়াটারমার্কের ঘোষণা অবতরণ করে: একই সংবাদ চক্র নিরাপত্তা নেতা ডেভিড রবিনসনের প্রস্থান, প্রধান AI ল্যাবগুলিতে ভোক্তাদের ঝুঁকির বিষয়ে একটি FTC তদন্ত এবং একটি শেয়ারহোল্ডার মামলার পরিবেশ নিয়ে এসেছে যা কোম্পানিটিকে তদন্তের মধ্যে রেখেছে। ওয়াটারমার্কিং হল কয়েকটি নিয়ন্ত্রক চাহিদাগুলির মধ্যে একটি যা OpenAI পণ্যের পরিবর্তনের পরিবর্তে পরিকাঠামোর সাথে সম্পূর্ণরূপে সন্তুষ্ট করতে পারে, যা ব্যাখ্যা করতে পারে কেন এটি প্রথমে পাঠানো হয়েছিল।
দ্য ক্যাচ: ওয়াটারমার্কস ব্রেক আন্ডার এডিটিং
OpenAI নিজেই মৌলিক সীমাবদ্ধতা স্বীকার করে। কোম্পানী স্বীকার করে যে পাঠ্যটি সম্পাদনা করা হলে এর ওয়াটারমার্ক অদৃশ্য হয়ে যেতে পারে, এবং ভাষাগত স্টেগানোগ্রাফির উপর কয়েক দশকের গবেষণা এই উদ্বেগকে ফিরিয়ে দেয়: প্যারাফ্রেজিং, অনুবাদ বা এমনকি পরিমিত পুনর্লিখন পরিসংখ্যানগত জলছাপকে ধ্বংস করতে পারে। "হিউম্যানাইজার" টুলের মাধ্যমে AI টেক্সট লন্ডার করার জন্য দৃঢ়প্রতিজ্ঞ যে কেউ সফল হবেন।
এই দুর্বলতা নিয়ন্ত্রকদের ওয়াটারমার্কিং প্রয়োজন থেকে থামায়নি, এবং এটি ল্যাবগুলিকে এটি পাঠানো থেকে বিরত করেনি। বাস্তবসম্মত লক্ষ্যটি হস্তক্ষেপ-প্রমাণ প্রমাণ নয় বরং নৈমিত্তিক প্রতারণার মূল্য স্কেলে বাড়ানো, একই যুক্তি যা কারেন্সি ওয়াটারমার্ককে নিয়ন্ত্রণ করে। কিছু AI নিরাপত্তা গোষ্ঠী সহ সমালোচকরা যারা স্বেচ্ছাসেবী শিল্প ব্যবস্থার বিষয়ে সন্দিহান, যুক্তি দেন যে শুধুমাত্র অনুমোদিত সংস্থাগুলির কাছে অ্যাক্সেসযোগ্য ডিটেক্টরগুলি শিক্ষক, সম্পাদক বা প্ল্যাটফর্মগুলি তাদের নিজস্ব AI- বিষয়বস্তু নীতিগুলি প্রয়োগ করার চেষ্টা করে তাদের জন্য খুব কমই করে।
ব্যবহারকারী এবং বিকাশকারীদের জন্য এর অর্থ কী
EU-এর অভ্যন্তরে ChatGPT এবং কোডেক্স ব্যবহারকারীদের জন্য, দৃশ্যত কিছুই পরিবর্তন হবে না। টেক্সট দেখতে একই রকম হবে এবং আউটপুটে কোন লেবেল দেখা যাবে না। ওপেনএআই-এর অনুমোদিত অংশীদারদের দ্বারা নীতিগতভাবে সনাক্তযোগ্য, জলছাপটি সেখানে থাকবে।
ডেভেলপারদের জন্য, API পতাকা অবিলম্বে আসে এবং সাবধানে মূল্যায়ন করা মূল্যবান: এটি চালু করার অর্থ হল প্রতিটি সমাপ্তিতে টোকেন স্যাম্পলিং-এ সূক্ষ্ম পরিবর্তনগুলি গ্রহণ করা, এমনকি নন-ইইউ ব্যবহারকারীদের জন্য, যেহেতু API সেটিংটি বিশ্বব্যাপী। কঠোর লেটেন্সি বা মানসম্পন্ন বাজেট সহ দলগুলি সুইচটি ফ্লিপ করার আগে তাদের বর্তমান সেটআপের বিপরীতে ওয়াটারমার্ক করা প্রজন্মকে বেঞ্চমার্ক করতে চাইতে পারে।
ওপেনএআই বলেছে যে যোগ্য মডেল এবং ডিটেক্টর অ্যাপ্লিকেশন প্রক্রিয়া সম্পর্কে আরও বিশদ আগামী সপ্তাহগুলিতে আসবে। যেহেতু অন্যান্য ল্যাবগুলি একই ইইউ বাধ্যবাধকতার মুখোমুখি হয়, তাই টেক্সট গ্রেইন এই বছর শিল্পটি মোতায়েন করা শেষ ওয়াটারমার্কিং স্কিম হওয়ার সম্ভাবনা কম।
এআই থেকে এগিয়ে থাকুন
এআই পণ্যগুলি কীভাবে হুডের অধীনে কাজ করে তা পুনর্নির্মাণ করছে। AI Buzz Wire-এ সাম্প্রতিকতম AI উন্নয়নগুলি পান, নীতি বিশ্লেষণ এবং মডেলের খবর সারা দিন আপডেট করা হয়।
এখানে আরও AI খবর পড়ুন।
