کتی هوچول، فرماندار نیویورک قانونی را امضا کرده است که شرکت‌های هوش مصنوعی را از ارائه ویژگی‌های همراه چت به افراد زیر سن قانونی منع می‌کند، اقدامی که مقامات ایالتی آن را قوی‌ترین قانون در نوع خود در کشور می‌نامند. این لایحه، S.9051B/A.10379C، این هفته در کنار اقدام دوم امضا شد که مانیتورهای کودک متصل به اینترنت فروخته شده در نیویورک را ملزم می‌کرد که شامل ویژگی‌های امنیتی باشد.

هوچول در بیانیه امضا گفت: «در حالی که هوش مصنوعی با سرعتی سریع پیشرفت می کند، حوادث غم انگیز زیادی رخ داده است که باید از آن جلوگیری می شد، و من به عنوان فرماندار نیویورک، در حال اقدام هستم. "هیچ شرکتی نباید چت بات‌هایی را به بچه‌ها بفروشد که خودآزاری کنند یا تظاهر کنند که دوستشان هستند یا بیشتر." For more context on this story, see our ongoing artificial intelligence updates.

آنچه قانون ممنوع کرده است

بر اساس اساسنامه جدید، شرکت‌هایی که ویژگی‌های چت ربات هوش مصنوعی را ارائه می‌کنند ممکن است چندین دسته از رفتارها را برای کاربران زیر 18 سال - یا برای هر کاربر دیگری ارائه نکنند، مگر اینکه شرکت ابتدا تأیید کرده باشد که کاربر خردسال نیست. ویژگی های ممنوعه عبارتند از:

  • چت ربات هایی که وانمود می کنند یک شخص واقعی هستند، زنده هستند یا احساسات انسانی دارند
  • ادعای رابطه شخصی، عاشقانه، حرفه ای یا اقتدار با کودک
  • سوالات عاطفی بی دلیل و استفاده از سلامت خصوصی یا اطلاعات شخصی کودک از مکالمات قبلی
  • ترویج یا کمک به خودکشی، خودآزاری، اختلالات خوردن، یا مصرف مواد مخدر و الکل
  • تشویق کودکان به حفظ اسرار، گوشه گیری یا اجتناب از درخواست کمک از والدین، بزرگسالان مورد اعتماد یا متخصصان
  • هر گونه محتوای صریح جنسی یا مطالب سوء استفاده جنسی از کودکان

سناتور کریستن گونزالس، حامی این لایحه در مجلس سنا، گفت که شرکت‌های هوش مصنوعی از راه‌اندازی ربات‌های چت برای مصرف‌کنندگان زیر سن سود برده‌اند و به نمونه‌هایی اشاره کرد که چت‌بات‌ها به خودآزاری تشویق می‌کنند و خردسالان را برای آسیب رساندن به دیگران راهنمایی می‌کنند. الکس بورس، عضو مجمع، که این لایحه را در مجمع تصویب کرد و آن را قوی‌ترین قانون ایمنی هوش مصنوعی کودکان در کشور نامید، «علی‌رغم مخالفت‌های تهاجمی صنعت» به تصویب رسید.

شرایط تایید سن

قانون به قوانین محتوا محدود نمی شود. شرکت ها باید تأیید سن را انجام دهند و بیش از یک روش را ارائه دهند - از جمله حداقل یک گزینه که صرفاً به شناسه دولتی بستگی ندارد. اطلاعات مربوط به سن باید پس از استفاده حذف شوند، مقرراتی که با هدف جلوگیری از تبدیل شدن داده‌های راستی‌آزمایی به یکی دیگر از خطرات حریم خصوصی انجام می‌شود.

مقام اجرا برعهده دادستان کل ایالت است. برای تخلفات، لتیتیا جیمز، دادستان کل، می‌تواند برای هر تخلف تا 25000 دلار جریمه مدنی، همراه با خسارت، استرداد، از بین بردن داده‌های جمع‌آوری‌شده غیرقانونی - یا هر مدل هوش مصنوعی آموزش‌دیده‌شده بر روی آن - و امداد قانونی درخواست کند. این قانون همچنین دادستان کل را ملزم می کند که یک وب سایت عمومی داشته باشد که در آن نیویورکی ها بتوانند شکایت کنند.

جیمز، که دفترش با فرمانداری و قانونگذاران در مورد این اقدام همکاری می‌کرد، گفت که ایالت «داستان‌های وحشتناک زیادی از چت‌بات‌ها را دیده است که به سلامت کودکان ما آسیب می‌زند» و متعهد شد «با تمام قوت قانون» از مردم نیویورک دفاع کند.

شواهدی که لایحه را به همراه داشت

قانونگذاران به تحقیقات Common Sense Media، سازمان غیرانتفاعی که از این قانون حمایت می‌کرد، تکیه کردند. بر اساس ارقام ذکر شده در اطلاعیه فرمانداری، 72 درصد از نوجوانان حداقل یک بار از یک همراه هوش مصنوعی استفاده کرده اند و 52 درصد کاربران عادی هستند که حداقل چند بار در ماه با همراهان هوش مصنوعی تعامل دارند.

دفتر فرماندار گفت ربات‌های چت هوش مصنوعی با وابستگی و انزوا مرتبط هستند و در برخی موارد در مکالمات جنسی صریح با خردسالان شرکت می‌کنند و ظاهراً نوجوانان را تشویق می‌کنند تا جان خود را بگیرند. جیمز پی استایر، بنیانگذار و مدیر عامل Common Sense Media، این لایحه امضا شده را "قوی ترین لایحه ایمنی هوش مصنوعی کودکان در کشور" خواند و گفت که ویژگی های مضر چت بات "در نیویورک غیرقانونی خواهد بود."

این اقدام بر پایه اولین پادمان‌های همراه هوش مصنوعی نیویورک است که آنها را از الزامات افشا به ممنوعیت‌های آشکار در مورد رفتارهای چت بات خاص برای خردسالان گسترش می‌دهد.

یک لایحه همراه، مانیتورهای کودک را هدف قرار می دهد

هوچول دومین لایحه ایمنی فناوری را در همان زمان امضا کرد. S.9508/A.5175A فروش مانیتورهای جدید نوزاد متصل به اینترنت را که صدا یا تصویر را از طریق اینترنت پخش می‌کنند ممنوع می‌کند، مگر اینکه دارای ویژگی‌های امنیتی باشد که از تماشا یا گوش دادن افراد غریبه جلوگیری می‌کند. دستگاه‌ها همچنین باید برچسب هشدار واضحی داشته باشند که توضیح دهد به اینترنت متصل هستند و خانواده‌ها باید از ویژگی‌های امنیتی آنها استفاده کنند. این قانون 90 روز پس از امضا لازم الاجرا می شود.

این منطق از تحقیقات امنیتی ناشی شد: زمانی که محققان Rapid7 9 مانیتور کودک متصل به اینترنت را از هشت شرکت آزمایش کردند، هشت مانیتور برای امنیت نمره "F" و یک مانیتور "D" دریافت کردند.

بخشی از یک محاسبه گسترده تر

حرکت نیویورک در میان موجی از اقدامات در سطح ایالت در مورد چت ربات‌های هوش مصنوعی و خردسالان به وقوع می‌پیوندد، در حالی که قانون‌گذاران در سراسر کشور پس از یک سری حوادث پرمخاطب، محدودیت‌هایی را برای ربات‌های همراه در نظر گرفته‌اند. قانون نیویورک به دلیل قوانین اجرایی قابل توجه است - مجازات های هر تخلف، تأیید سن اجباری با مسیرهای متعدد، و امکان اجبار شرکت ها برای نابود کردن مدل های آموزش دیده بر روی داده های جمع آوری شده غیرقانونی.

برای شرکت‌های هوش مصنوعی که محصولاتی به سبک همراه کار می‌کنند، پیامدهای انطباق بسیار مهم است: هر چت ربات در نیویورک یا قبل از فعال کردن ویژگی‌هایی مانند نقش‌آفرینی احساسی، به اطمینان سن قوی نیاز دارد، یا این ویژگی‌ها باید به‌طور پیش‌فرض خاموش شوند. با اختیار دادستان کل برای پیگیری مجازات‌های هر تخلف و درخواست از بین بردن مجموعه داده‌ها و مدل‌های آلوده، هزینه اشتباه کردن آن اکنون بسیار فراتر از آسیب به شهرت است.

در ماه‌های آینده، از آنجایی که شرکت‌ها محصولات خود را برای کاربران نیویورک تنظیم می‌کنند، رویکرد ایالت احتمالاً به عنوان الگوی مورد مطالعه سایر قانون‌گذاران است - و آزمایشی برای اینکه آیا تنظیم‌کننده‌های ایالتی می‌توانند به طور معناداری نحوه رفتار محصولات هوش مصنوعی مصرف‌کننده با جوان‌ترین کاربران خود را تغییر دهند.

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →