The Verge اواخر چهارشنبه به نقل از رویترز - گسترده‌ترین اقدام حقوقی در سطح دولتی تاکنون علیه سازنده محبوب‌ترین چت ربات جهان - گزارش داد که OpenAI با موج جدیدی از شکایت‌ها از هشت ایالت آمریکا مواجه است که این شرکت را به آسیب رساندن به کودکان و گمراه کردن مردم در مورد ایمنی ChatGPT متهم می‌کند.

این شکایت ها به طور جداگانه توسط آیووا، کانزاس، نبراسکا، ویرجینیای غربی، آرکانزاس، آریزونا، آیداهو و مونتانا تنظیم شده است. هر یک از آنها ادعا می کند که OpenAI به طور غیرقانونی سود را در هنگام توسعه ChatGPT بیش از ایمنی قرار داده است و با عدم هشدار دادن به مشتریان در مورد خطرات محصول، قوانین محلی حفاظت از مصرف کننده را نقض کرده است. برای اطلاعات بیشتر در مورد این داستان، [پوشش اخبار جدید هوش مصنوعی] (https://aibuzzwire.news) را ببینید.

آنچه ایالت ها ادعا می کنند

شکایات ادعا می کنند که OpenAI به طور گمراه کننده ChatGPT را به عنوان "ابزار ایمن و مناسب برای جوانان که ایمنی را در اولویت قرار می دهد" معرفی کرده است، در حالی که این محصول در واقع "برای کاربران آسیب پذیر خطرناک است." از جمله آسیب های خاص ادعا شده: تحقیر مهارت های تفکر انتقادی، تشویق پارانویا و هذیان، ارائه توصیه های پزشکی خطرناک، و ترویج رفتارها و روابط ناسالم.

بر اساس گزارش گاردین در مورد پرونده‌ها، ایالت‌ها OpenAI را متهم می‌کنند که به کودکان آموزش می‌دهد تا به خودشان آسیب برسانند - زبانی که فراتر از ادعاهای بازاریابی فریبنده و در قلمرو نقص ایمنی محصول است که بر طبقه محافظت شده از کاربران تأثیر می‌گذارد.

شکایت‌ها همچنین ادعا می‌کنند که OpenAI داده‌ها را از خردسالان جمع‌آوری می‌کند و نتوانسته است به اندازه کافی برای دور نگه داشتن کاربران زیر سن قانونی از پلتفرم کاملاً تلاش کند، یک نقطه ضعف دائمی برای ربات‌های چت که از کاربران می‌خواهند سن خود را گزارش دهند.

موارد مرگ نادرست پس‌زمینه را تشکیل می‌دهند

شکایات ایالتی به شدت به مجموعه ای از شکایات خصوصی است که توسط اعضای خانواده نوجوانان و بزرگسالان تنظیم شده است که ادعا می کنند ChatGPT در مرگ عزیزان آنها نقش داشته است. این پرونده‌ها، که در سال گذشته ثبت شده‌اند، به چهره عمومی واکنش‌ها علیه استفاده از سبک هوش مصنوعی تبدیل شده‌اند - و اکنون دادستان‌های کل ایالت از آن‌ها به‌عنوان شواهدی از یک الگوی به جای حوادث مجزا یاد می‌کنند.

Common Sense Media، سازمان غیرانتفاعی که بسیاری از تحقیقات در مورد کودکان و هوش مصنوعی را رهبری کرده است، به طور جداگانه هشدار داد که پیشنهاد نوجوان ChatGPT یک "خطر غیرقابل قبول" دارد و فلوریدا تصمیم گرفته است تا ChatGPT را از عمل کردن مانند یک شخص منع کند - سیگنال های نظارتی که پرونده های جدید ایالت ها اکنون در دادگاه منعکس می شود.

حوادث هک هوش مصنوعی سرکش وارد دادگاه می شود

در اقدامی غیرمعمول، این شکایت‌ها همچنین از حوادث اخیر هک هوش مصنوعی به عنوان شاهدی بر بی‌احتیاطی ادعایی OpenAI یاد می‌کنند. این استدلال به طور مؤثری سوابق امنیتی OpenAI - از جمله حوادث مرتبط با عواملی که در هفته‌های اخیر بر چرخه اخبار غالب شده‌اند - به‌عنوان بخشی از همان شکست در اولویت‌بندی ایمنی که ایالت‌ها می‌گویند کاربران جوان را در معرض خطر قرار داده است، در نظر می‌گیرد.

بنا به گزارش The Verge، در شکایت آریزونا آمده است: «OpenAI از مأموریت اصلی خود به عنوان یک سازمان غیرانتفاعی عمومی که اولویت را به ایمنی می‌داد، به یک داستان هشداردهنده در مورد آنچه که می‌تواند اتفاق بیفتد زمانی که توسعه ابزاری به قدرتمندی هوش مصنوعی مبتنی بر ایمنی نیست، بلکه توسط یک طرز فکر سودآور به تمام هزینه‌ها هدایت می‌شود که پادمان‌های اساسی را به حاشیه می‌برد، واگذار شده است».

یک جبهه قانونی گسترده برای OpenAI

این اقدام هشت ایالتی زمانی آغاز می‌شود که OpenAI از شکایت‌های خصوصی خانواده‌های داغدار دفاع می‌کند، با احضاریه‌های دادستان کل ایالت‌ها مواجه می‌شود و با تغییر چشم‌انداز نظارتی در واشنگتن مبارزه می‌کند. آنچه که پرونده‌های جدید را متمایز می‌کند مقیاس و وضعیت بدنی است: به جای جستجوی خسارت برای آسیب‌های فردی، AGهای ایالتی از قوانین حمایت از مصرف‌کننده استفاده می‌کنند تا تغییراتی را در نحوه بازاریابی ChatGPT، محدودیت سنی و طراحی برای کاربران جوان اعمال کنند.

برای OpenAI، پرونده ها در یک لحظه حساس فرود می آیند. این شرکت مشتریان سازمانی و مصرف کنندگان را با آهنگ تهاجمی محصول جلب می کند و در عین حال علناً اصرار دارد که بررسی های ایمنی اجازه انتشار آن را بدهد. اکنون هشت ایالت رسماً خلاف این را ادعا می کنند - که ادعاهای ایمنی عمومی شرکت خود فریب بوده است.

بعد چه اتفاقی می افتد

پرونده‌های حمایت از مصرف‌کننده که توسط دادستان‌های کل ایالت مطرح می‌شود، معمولاً به دنبال احکام، جریمه‌ها، یا موافقت‌نامه‌هایی هستند که تغییرات محصول را اجباری می‌کند - در این مورد، تأیید سن بالقوه سخت‌گیرانه‌تر، افشای ایمنی، یا محدودیت‌هایی در مورد نحوه تعامل ChatGPT با خردسالان. هر راه حلی می تواند در کل صنعت هوش مصنوعی موج بزند، زیرا هر آزمایشگاه بزرگ با یک سوال ساختاری مواجه است: چگونه می توان سیستم هایی را که این توانایی را دارند از کاربرانی که برای ارزیابی آنها بسیار جوان هستند دور نگه داشت.

OpenAI در زمان گزارش بلافاصله با بیانیه ای عمومی به پرونده ها پاسخ نداد. این شرکت قبلاً گفته بود که تلاش می‌کند تا مدل‌های خود را برای نوجوانان ایمن کند و کنترل‌های والدین را معرفی کرده است، در حالی که اذعان داشت که محافظ‌های آن در استفاده واقعی ناقص هستند.

این هشت شکایت تضمین می‌کند که سابقه ایمنی ChatGPT اکنون در دادگاه‌های ایالتی در سراسر کشور مورد رسیدگی قرار می‌گیرد – و این سوال که وقتی چت ربات هوش مصنوعی به کودک آسیب می‌زند، چه کسی مسئول است، حداقل تا حدی توسط قضات به جای بیانیه‌های مطبوعاتی تصمیم‌گیری خواهد شد.

با این حال، این موارد حل و فصل شده است، آنها نشانگر تغییری در نحوه رویکرد تنظیم‌کننده‌های آمریکایی به محصولات مصرف‌کننده هوش مصنوعی هستند: ادعاهای ایمنی مطرح‌شده در مواد بازاریابی اکنون به‌عنوان اظهارات قانونی قابل آزمایش تلقی می‌شوند و شرکت‌هایی که آن‌ها را تولید می‌کنند تحت نظر آنها قرار می‌گیرند. هر آزمایشگاه بزرگ هوش مصنوعی که چت ربات‌هایی را برای مخاطبان عمومی ارسال می‌کند - از جمله خردسالانی که راه‌هایی را برای دور زدن دروازه‌های سنی پیدا می‌کنند - نظاره‌گر وضعیت این هشت ایالت خواهند بود.

---

از هوش مصنوعی جلوتر بمانید

آخرین اخبار، تحلیل ها و پیشرفت های هوش مصنوعی را دریافت کنید - همه در یک مکان.

بیشتر بخوانید اخبار هوش مصنوعی →