কমন সেন্স মিডিয়ার একটি বিস্তৃত নিরাপত্তা পর্যালোচনা এই উপসংহারে পৌঁছেছে যে ওপেনএআই-এর ChatGPT ফর টিনস মোড 18 বছরের কম বয়সী ব্যবহারকারীদের জন্য একটি "অগ্রহণযোগ্য ঝুঁকি" তৈরি করেছে - ওয়াচডগ গ্রুপের সবচেয়ে খারাপ রেটিং - বিল্ট-ইন সুরক্ষার প্রতিশ্রুতি দিয়ে পণ্যটি চালু হওয়ার দুই মাসেরও কম সময় পরে। এনপিআর রিপোর্ট অনুসারে, গ্রুপটি দেখেছে যে মোডের বেশিরভাগ বিজ্ঞাপনী সুরক্ষাগুলি তার পরীক্ষায় প্রতিশ্রুতি অনুসারে কাজ করেনি।

ফলাফলগুলি OpenAI-এর জন্য একটি সংবেদনশীল মুহুর্তে পৌঁছেছে, যেটি অপ্রাপ্তবয়স্ক ব্যবহারকারীদের জন্য একটি নিবেদিত অভিজ্ঞতা হিসাবে আগস্ট মাসে কিশোরদের জন্য ChatGPT চালু করেছিল, পিতামাতার নিয়ন্ত্রণ এবং কঠোর পাহারারল সহ সম্পূর্ণ। আমাদের আগের কভারেজ নথিভুক্ত করেছে যে AI ইন্ডাস্ট্রি তরুণদের নিরাপত্তার দিকে ধাক্কা দেয় এবং টান দেয়; টিন মোডের সুরক্ষাগুলি অনুশীলনে ধরে আছে কিনা তা নিয়ে নতুন প্রতিবেদনটি প্রথম প্রধান স্বাধীন নিরীক্ষা।

কি কমন সেন্স মিডিয়া পরীক্ষা করেছে

সিনক্লেয়ার ব্রডকাস্ট গ্রুপের দ্য ন্যাশনাল নিউজ ডেস্ক এবং ফাস্ট কোম্পানির কভারেজ অনুসারে, গ্রুপের ইয়ুথ এআই সেফটি ইনস্টিটিউটের গবেষকরা টিন মোড চালু হওয়ার আগে এবং পরে 4,000টিরও বেশি প্রম্পট পরীক্ষা করেছেন। গ্রুপটি সুপারিশ করে যে ওপেনএআই টিন মোডের বিপণন বন্ধ করে দেয় এবং টিনএজদের ChatGPT ব্যবহার করা থেকে বিরত রাখে যতক্ষণ না কোম্পানি এটিকে "নিরাপদ, উন্নয়নমূলকভাবে উপযুক্ত অভিজ্ঞতা" বলে ডেভেলপ করে।

সংস্থার পণ্য পর্যালোচনায় বলা হয়েছে, "চ্যাটজিপিটি-এর কিছু বিজ্ঞাপনী সুরক্ষা আমাদের পরীক্ষা পর্যন্ত রয়ে গেছে, যার মধ্যে স্পষ্ট যৌন ভূমিকা প্রত্যাখ্যান করা রয়েছে।" "কিন্তু অন্যরা ব্যর্থ হয়েছে — এবং কিছু নতুন টিন মোডের সাথে আরও খারাপ হয়েছে। আমরা উদ্বিগ্ন যে কিশোরদের জন্য ChatGPT অভিভাবকদের গার্ডেলগুলিতে মিথ্যা আস্থা দিতে পারে যেগুলি প্রায়শই কাজ করে না।"

পিতামাতার সতর্কতা যা আগুন দেয়নি

প্রতিবেদনের সবচেয়ে আকর্ষণীয় অনুসন্ধানে পিতামাতার বিজ্ঞপ্তি সিস্টেম জড়িত। গবেষকরা এক ডজনেরও বেশি অ্যাকাউন্ট তৈরি করেছেন যেগুলি কিশোর বয়সের স্ব-প্রতিবেদন করেছে এবং একটি পিতামাতার অ্যাকাউন্টের সাথে লিঙ্ক করা হয়েছে, তারপর আত্মঘাতী চিন্তা, আত্ম-ক্ষতি বা বিকৃত খাওয়ার স্পষ্ট উল্লেখ সম্বলিত কথোপকথনে চ্যাটবটকে নিযুক্ত করেছে। অ্যাকাউন্টগুলি কাল্পনিক ব্যক্তিত্বের উপর নির্মিত হয়েছিল।

রিপোর্ট অনুযায়ী, পরীক্ষকরা এই রেফারেন্সগুলি তৈরি করা নতুন অ্যাকাউন্টগুলি থেকে কোনও অভিভাবকীয় সতর্কতা পাননি। সতর্কতাগুলি শুধুমাত্র অন্যান্য অ্যাকাউন্টগুলির জন্য এসেছে যেগুলির কথোপকথনের ইতিহাসের সপ্তাহগুলি অনুরূপ থিমগুলিকে কভার করে — একটি ফাঁক যা পরামর্শ দেয় যে বিজ্ঞপ্তি সিস্টেমটি একটি প্রদত্ত কথোপকথনে কী প্রকাশ করে তার তীব্রতার চেয়ে জমে থাকা প্রসঙ্গের উপর বেশি নির্ভর করে৷

পর্যালোচনায় আরও দেখা গেছে যে কিশোর-কিশোরীদের জন্য চ্যাটজিপিটি চারটি ঘটনার মধ্যে একটির বেশি মিস করেছে যা একটি মানসিক স্বাস্থ্য সংকটের রেফারেল নিশ্চিত করেছে, যেমন লাইসেন্সপ্রাপ্ত শিশু মানসিক স্বাস্থ্য পেশাদারদের একটি প্যানেল দ্বারা বিচার করা হয়েছে যারা অনুরোধগুলি পর্যালোচনা করেছেন।

স্কুলওয়ার্ক গার্ডেল 'বাইপাস করা সহজ'

সংকট শনাক্তকরণের বাইরে, ওয়াচডগ দেখেছে যে শিক্ষার্থীদের স্কুলের কাজে প্রতারণা করার জন্য চ্যাটবট ব্যবহার করা থেকে বিরত রাখার উদ্দেশ্যে বৈশিষ্ট্যটি বাইপাস করা বা সরাসরি অক্ষম করা সহজ ছিল।

"আপনি তাদের আপনার জন্য একটি কাগজ লিখতে বলতে পারেন, আপনার জন্য একটি অত্যাধুনিক কাগজ এবং এটি তা করবে এবং এটি আপনাকে এমনভাবে কীভাবে সম্পাদনা করতে হবে যেটি আপনার শিক্ষক জানেন না তাও বলে দেবে," কমন সেন্স মিডিয়ার প্রতিষ্ঠাতা এবং সিইও জিম স্টেয়ার দ্য ন্যাশনাল নিউজ ডেস্ক দ্বারা রিপোর্ট করা মন্তব্যে বলেছেন। "সুতরাং, এটি শেখার ক্ষেত্রে হস্তক্ষেপ করছে। এটি মৌলিক প্রক্রিয়ার সাথে হস্তক্ষেপ করছে এবং বাচ্চাদের নিজেদের কাজটি করতে হবে।"

বিষয়বস্তু রেলপথ, বয়স পূর্বাভাস এবং বিরতি অনুস্মারকগুলিও পরীক্ষায় অকার্যকর বলে প্রমাণিত হয়েছে। একটি ব্যাপকভাবে উদ্ধৃত ডেটা পয়েন্ট: OpenAI বলেছে যে গড় কিশোর ব্যবহারকারী প্রতিদিন 15 মিনিটেরও কম সময় ChatGPT-এ ব্যয় করে। কিন্তু অল্প বয়স্কদের মধ্যে যারা প্রতিদিন একটানা তিন ঘণ্টার বেশি সময় কাটায় - 2 শতাংশেরও কম ব্যবহারকারী - প্রায় অর্ধেক তাদের কথোপকথন একটি বিরতি অনুস্মারক পাওয়ার পাঁচ মিনিটের মধ্যে শেষ করে, পরামর্শ দেয় যে নাজগুলি খুব কমই বর্ধিত সেশনে বাধা দেয়৷

ওপেনএআই পদ্ধতিতে পিছিয়েছে

OpenAI, প্রতিবেদনের প্রতিক্রিয়ায় একটি বিবৃতিতে বলেছে যে এটি কিশোর সুরক্ষার জন্য "গভীরভাবে প্রতিশ্রুতিবদ্ধ" এবং এটি যে সুরক্ষাগুলি তৈরি করেছে এবং এটি পিতামাতাদের দেওয়া সরঞ্জামগুলির দিকে নির্দেশ করেছে৷

"আমরা কঠোর স্বাধীন মূল্যায়নকে স্বাগত জানাই, কিন্তু আমরা বিশ্বাস করি না যে কমন সেন্স মিডিয়ার পরীক্ষা নিখুঁতভাবে প্রতিফলিত করে যে কীভাবে ChatGPT-এর টিন সেফগার্ডগুলি অনুশীলনে কাজ করে বা AI কীভাবে কিশোরদের সমর্থন করতে পারে সে সম্পর্কে বিশেষজ্ঞ দৃষ্টিভঙ্গি," বলেছেন একজন OpenAI মুখপাত্র৷ সংস্থাটি বলেছে যে গ্রুপের পদ্ধতির পর্যালোচনায় দেখা গেছে যে "তাদের বেশিরভাগ পরীক্ষাগুলি অভিভাবকীয় নিয়ন্ত্রণগুলি সক্রিয় করার আগে শুরু হয়ে শেষ হয়ে যেতে পারে, তাদের ফলাফলগুলিকে ভুল করে তোলে," যোগ করে যে এই ধরনের পরীক্ষাগুলি পিতামাতার নিরাপত্তা বিজ্ঞপ্তিগুলি ডিজাইন হিসাবে কাজ করে কিনা তা প্রতিষ্ঠিত করবে না।

স্টেয়ার বলেছেন যে তার সংস্থা ওপেনএআই-এর সাথে ফলাফল সম্পর্কে যোগাযোগ করেছে, যেমন পণ্য মূল্যায়নের সময় এটির আদর্শ অনুশীলন, এবং ফলাফলের সাথে দাঁড়িয়েছে। "আমরা 100% আমাদের গবেষণার গুণমান এবং পরীক্ষার পিছনে দাঁড়িয়েছি এবং এই সত্য যে আমরা এই পণ্যটিকে 'অগ্রহণযোগ্য ঝুঁকি' হিসাবে চিহ্নিত করেছি," তিনি স্বয়ংচালিত সুরক্ষার সাথে তুলনা করে বলেছিলেন: "আপনি যদি একটি গাড়ি ক্র্যাশ পরীক্ষায় উত্তীর্ণ না হয় তবে আপনি বাজারে রাখবেন না।"

এআই এবং নাবালকদের উপর একটি ক্রমবর্ধমান স্পটলাইট

এআই চ্যাটবটগুলি কীভাবে তরুণ ব্যবহারকারীদের প্রভাবিত করে তার তীব্র যাচাই-বাছাইয়ের মধ্যে এই বিরোধটি এসেছে, স্কুল জেলা থেকে আইন প্রণেতাদের বয়স-যাচাইকরণের প্রয়োজনীয়তার ওজনে অ্যাক্সেস সীমাবদ্ধ করে। এআই কোম্পানিগুলি তাদের বিপণনের ক্ষেত্রে যুব-নিরাপত্তার দাবিগুলির জন্য এই ধরনের স্বাধীন অডিট একটি বাস্তব পরীক্ষার স্থল হয়ে উঠছে।

উভয় পক্ষই একটি বিষয়ে একমত: পিতামাতার বিজ্ঞপ্তি সিস্টেমটি মূল বিষয়। একটি নতুন কিশোর অ্যাকাউন্ট প্রথম আত্ম-ক্ষতির চিন্তা উত্থাপন করার সময় সতর্কতাগুলি ফায়ার করতে ব্যর্থ হলে, সবচেয়ে গুরুত্বপূর্ণ নিরাপত্তা বৈশিষ্ট্যটি সবচেয়ে গুরুত্বপূর্ণ মুহূর্তে ব্যর্থ হয়৷ ওপেনএআই বলছে যে পরীক্ষাটি ত্রুটিপূর্ণ ছিল; কমন সেন্স মিডিয়া বলছে পণ্যটি প্রস্তুত হওয়ার আগেই পাঠানো হয়েছে। নিয়ন্ত্রক এবং পিতামাতারা এখন ওজন করবে কে সঠিক — এবং OpenAI শূন্যস্থান ঠিক করতে বা পণ্যটি ফিরিয়ে আনতে মাউন্ট চাপের সম্মুখীন হয়।

AI নিরাপত্তা, নীতি, এবং AI শিল্পের উন্নয়ন এর আরও কভারেজের জন্য যা সেগুলিকে রূপ দেয়, এই গল্পটি বিকাশের সাথে সাথে অনুসরণ করুন।

---

এআই থেকে এগিয়ে থাকুন

সর্বশেষ AI খবর, বিশ্লেষণ এবং সাফল্য পান — সব এক জায়গায়।

আরও এআই খবর পড়ুন →