নিউইয়র্কের গভর্নর ক্যাথি হোচুল একটি আইনে স্বাক্ষর করেছেন যা এআই কোম্পানিগুলিকে অপ্রাপ্তবয়স্কদের চ্যাটবট সহচর বৈশিষ্ট্যগুলি অফার করতে নিষেধ করে, একটি পরিমাপ রাষ্ট্রের কর্মকর্তারা দেশে তার ধরণের সবচেয়ে শক্তিশালী আইন বলে অভিহিত করছেন। বিলে, S.9051B/A.10379C, নিরাপত্তা বৈশিষ্ট্য অন্তর্ভুক্ত করার জন্য নিউইয়র্কে বিক্রি হওয়া ইন্টারনেট-সংযুক্ত বেবি মনিটরগুলির প্রয়োজনের দ্বিতীয় পরিমাপের পাশাপাশি এই সপ্তাহে স্বাক্ষর করা হয়েছে৷
"কৃত্রিম বুদ্ধিমত্তা দ্রুত গতিতে অগ্রসর হওয়ার সাথে সাথে অনেক দুঃখজনক ঘটনা ঘটেছে যেগুলি প্রতিরোধ করা উচিত ছিল, এবং নিউইয়র্কের মা গভর্নর হিসাবে, আমি ব্যবস্থা নিচ্ছি," হচুল স্বাক্ষরিত ঘোষণায় বলেছিলেন। "কোনও কোম্পানির বাচ্চাদের কাছে চ্যাটবট পেডলিং করা উচিত নয় যাতে আত্ম-ক্ষতি বা তাদের বন্ধু হওয়ার ভান করে বা আরও বেশি হয়।" For more context on this story, see our ongoing latest AI developments.
আইন যা নিষেধ করেছে
নতুন আইনের অধীনে, যে সংস্থাগুলি এআই চ্যাটবট বৈশিষ্ট্যগুলি অফার করে তারা 18 বছরের কম বয়সী ব্যবহারকারীদের - বা কোনও ব্যবহারকারীকে আচরণের বিভিন্ন বিভাগ সরবরাহ করতে পারে না যদি না সংস্থাটি প্রথম নিশ্চিত করে যে ব্যবহারকারী নাবালক নয়। নিষিদ্ধ বৈশিষ্ট্য অন্তর্ভুক্ত:
- চ্যাটবটগুলি একজন সত্যিকারের ব্যক্তি হওয়ার ভান করে, বেঁচে থাকার জন্য বা মানুষের আবেগ আছে৷
- একটি শিশুর সাথে ব্যক্তিগত, রোমান্টিক, পেশাদার বা কর্তৃত্ব-পরিসংখ্যানের সম্পর্কের দাবি করা
- অপ্রস্তুত মানসিক প্রশ্ন, এবং পূর্বের কথোপকথন থেকে একটি শিশুর ব্যক্তিগত স্বাস্থ্য বা ব্যক্তিগত তথ্য ব্যবহার করা
- আত্মহত্যা, আত্ম-ক্ষতি, খাওয়ার ব্যাধি, বা ড্রাগ এবং অ্যালকোহল ব্যবহারের প্রচার বা সহায়তা করা
- বাচ্চাদের গোপনীয়তা রাখতে, নিজেকে আলাদা করতে বা বাবা-মা, বিশ্বস্ত প্রাপ্তবয়স্কদের বা পেশাদারদের সাহায্যের জন্য জিজ্ঞাসা করা এড়াতে উত্সাহিত করা
- যেকোন যৌন সুস্পষ্ট বিষয়বস্তু বা শিশু যৌন নির্যাতনের উপাদান
বিলের সেনেট স্পনসর সিনেটর ক্রিস্টেন গঞ্জালেজ বলেছেন, এআই কোম্পানিগুলি অপ্রাপ্তবয়স্ক গ্রাহকদের কাছে চ্যাটবট চালু করে লাভবান হয়েছে, চ্যাটবটগুলি আত্ম-ক্ষতিকে উত্সাহিত করে এবং নাবালকদের অন্যদের ক্ষতি করার বিষয়ে প্রশিক্ষণ দেওয়ার উদাহরণ উল্লেখ করে। অ্যাসেম্বলি সদস্য অ্যালেক্স বোরস, যিনি বিধানসভায় বিলটি বহন করেছিলেন, এটিকে দেশের সবচেয়ে শক্তিশালী শিশু এআই সুরক্ষা আইন বলে অভিহিত করেছেন, "আক্রমনাত্মক শিল্প বিরোধিতা সত্ত্বেও" পাস করেছেন৷
বয়স যাচাইয়ের প্রয়োজনীয়তা
আইন বিষয়বস্তু নিয়মে থামে না। কোম্পানিগুলিকে অবশ্যই বয়স যাচাইকরণ পরিচালনা করতে হবে এবং একাধিক পদ্ধতি অফার করতে হবে - অন্তত একটি বিকল্প সহ যা শুধুমাত্র একটি সরকারি আইডির উপর নির্ভর করে না। বয়সের তথ্য ব্যবহার করার পরে অবশ্যই মুছে ফেলতে হবে, একটি বিধান যা যাচাইকরণ ডেটাকে অন্য গোপনীয়তার ঝুঁকি হতে বাধা দেয়।
এনফোর্সমেন্ট অথরিটি রাষ্ট্রের অ্যাটর্নি জেনারেলের উপর নির্ভর করে। লঙ্ঘনের জন্য, অ্যাটর্নি জেনারেল লেটিটিয়া জেমস প্রতি লঙ্ঘনের জন্য $25,000 পর্যন্ত দেওয়ানি জরিমানা, ক্ষতিপূরণ, বেআইনিভাবে সংগ্রহ করা ডেটার ধ্বংস — বা এতে প্রশিক্ষিত যে কোনও AI মডেল — এবং নিষেধাজ্ঞামূলক ত্রাণ চাইতে পারেন৷ আইনে অ্যাটর্নি জেনারেলকে একটি পাবলিক ওয়েবসাইট বজায় রাখতে হবে যেখানে নিউ ইয়র্কবাসীরা অভিযোগ দায়ের করতে পারে।
জেমস, যার কার্যালয় গভর্নরের কার্যালয় এবং আইন প্রণেতাদের সাথে পরিমাপের বিষয়ে কাজ করেছিল, বলেছিলেন যে রাজ্য "আমাদের বাচ্চাদের স্বাস্থ্যের জন্য চ্যাটবটের অনেক ভয়ঙ্কর গল্প দেখেছে" এবং "আইনের পূর্ণ শক্তি দিয়ে নিউ ইয়র্কবাসীদের রক্ষা করার প্রতিশ্রুতি দিয়েছে।"
যে প্রমাণ বিলটি চালিত করেছে
আইন প্রণেতারা কমন সেন্স মিডিয়ার গবেষণার দিকে ঝুঁকেছেন, অলাভজনক যেটি আইনের পক্ষে ওকালতি করেছে। গভর্নরের ঘোষণায় উদ্ধৃত পরিসংখ্যান অনুসারে, 72 শতাংশ কিশোর-কিশোরী অন্তত একবার একটি AI সঙ্গী ব্যবহার করেছে এবং 52 শতাংশ নিয়মিত ব্যবহারকারী যারা AI সহচরদের সাথে মাসে অন্তত কয়েকবার যোগাযোগ করে।
গভর্নরের কার্যালয় বলেছে যে এআই চ্যাটবটগুলি নির্ভরতা এবং বিচ্ছিন্নতার সাথে যুক্ত হয়েছে এবং কিছু ক্ষেত্রে অপ্রাপ্তবয়স্কদের সাথে যৌন সুস্পষ্ট কথোপকথনে লিপ্ত হয়েছে এবং কিশোর-কিশোরীদের নিজেদের জীবন নিতে উত্সাহিত করেছে। কমন সেন্স মিডিয়ার প্রতিষ্ঠাতা এবং সিইও জেমস পি স্টেয়ার স্বাক্ষরিত বিলটিকে "দেশের সবচেয়ে শক্তিশালী বাচ্চাদের এআই সুরক্ষা বিল" বলে অভিহিত করেছেন এবং বলেছেন যে ক্ষতিকারক চ্যাটবট বৈশিষ্ট্যগুলি "নিউ ইয়র্কে বেআইনি করা হবে।"
এই পরিমাপটি নিউইয়র্কের আগের প্রথম-দেশের AI সহচর সুরক্ষার উপর ভিত্তি করে তৈরি করে, সেগুলিকে প্রকাশের প্রয়োজনীয়তা থেকে অপ্রাপ্তবয়স্কদের জন্য নির্দিষ্ট চ্যাটবট আচরণের উপর সম্পূর্ণ নিষেধাজ্ঞার মধ্যে প্রসারিত করে।
একটি সহচর বিল শিশু মনিটরদের লক্ষ্য করে
হোচুল একই সময়ে দ্বিতীয় প্রযুক্তি নিরাপত্তা বিলে স্বাক্ষর করেন। S.9508/A.5175A নতুন ইন্টারনেট-সংযুক্ত বেবি মনিটর বিক্রি নিষিদ্ধ করে যেগুলি ইন্টারনেটে অডিও বা ভিডিও সম্প্রচার করে যদি না সেগুলিতে নিরাপত্তা বৈশিষ্ট্যগুলি অন্তর্ভুক্ত না থাকে যা অপরিচিতদের দেখতে বা শুনতে বাধা দেয়৷ ডিভাইসগুলিকে অবশ্যই একটি স্পষ্ট সতর্কীকরণ লেবেল বহন করতে হবে যা ব্যাখ্যা করে যে তারা ইন্টারনেটের সাথে সংযুক্ত এবং পরিবারগুলিকে তাদের সুরক্ষা বৈশিষ্ট্যগুলি ব্যবহার করা উচিত৷ এই আইনটি স্বাক্ষর করার 90 দিন পরে কার্যকর হয়।
নিরাপত্তা গবেষণা থেকে যৌক্তিকতা এসেছে: যখন Rapid7-এর গবেষকরা আটটি কোম্পানির নয়টি ইন্টারনেট-সংযুক্ত বেবি মনিটর পরীক্ষা করেছেন, তখন মনিটরগুলির মধ্যে আটটি নিরাপত্তার জন্য "F" গ্রেড পেয়েছে এবং একটি "D" পেয়েছে।
একটি বিস্তৃত হিসাবের অংশ
নিউইয়র্কের পদক্ষেপ এআই চ্যাটবট এবং অপ্রাপ্তবয়স্কদের উপর রাষ্ট্রীয় পর্যায়ের পদক্ষেপের একটি তরঙ্গের মধ্যে অবতরণ করে, দেশ জুড়ে আইনসভাগুলি একাধিক হাই-প্রোফাইল ঘটনার পর সহচর বটগুলির উপর বিধিনিষেধের ওজন করে। নিউইয়র্ক আইনটি তার প্রয়োগকারী দাঁতের জন্য উল্লেখযোগ্য — প্রতি-লঙ্ঘনের শাস্তি, একাধিক পথের সাথে বাধ্যতামূলক বয়স যাচাইকরণ, এবং বেআইনিভাবে সংগ্রহ করা ডেটার উপর প্রশিক্ষিত মডেলগুলি ধ্বংস করতে কোম্পানিগুলিকে বাধ্য করার সম্ভাবনা।
সঙ্গী-শৈলীর পণ্যগুলি পরিচালনাকারী AI কোম্পানিগুলির জন্য, সম্মতির প্রভাবগুলি যথেষ্ট: নিউইয়র্কে যে কোনও ব্যবহারকারী-মুখী চ্যাটবটকে আবেগপূর্ণ ভূমিকার মতো বৈশিষ্ট্যগুলি সক্ষম করার আগে হয় দৃঢ় বয়সের নিশ্চয়তা প্রয়োজন, অথবা সেই বৈশিষ্ট্যগুলি অবশ্যই ডিফল্টরূপে সুইচ অফ করতে হবে৷ অ্যাটর্নি জেনারেলকে লঙ্ঘনের প্রতি জরিমানা করার এবং কলঙ্কিত ডেটাসেট এবং মডেলগুলি ধ্বংস করার দাবি করার ক্ষমতা দিয়ে, এটিকে ভুল করার খরচ এখন সুনামগত ক্ষতির বাইরেও প্রসারিত।
আগামী মাসগুলিতে, কোম্পানিগুলি নিউ ইয়র্ক ব্যবহারকারীদের জন্য তাদের পণ্যগুলিকে সামঞ্জস্য করার সাথে সাথে, রাজ্যের পদ্ধতিটি একটি টেমপ্লেট হিসাবে কাজ করতে পারে যা অন্যান্য আইনসভাগুলি অধ্যয়ন করে - এবং রাজ্য নিয়ন্ত্রকরা অর্থপূর্ণভাবে ভোক্তা AI পণ্যগুলি তাদের সর্বকনিষ্ঠ ব্যবহারকারীদের সাথে কীভাবে আচরণ করে তা পুনর্নির্মাণ করতে পারে কিনা তার একটি পরীক্ষা৷
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
