بر اساس گزارش The Oregonian و Spekesman-Review، تینا کوتک، فرماندار اورگان، به دولت ایالت دستور داده است تا راههایی را برای تنظیم استفاده خود از هوش مصنوعی ایجاد کند و به آخرین فرماندار ایالات متحده تبدیل شود که در غیاب قوانین فدرال در مورد ایمنی هوش مصنوعی عمل میکند.
فرماندار دموکرات این فرمان اجرایی را روز چهارشنبه امضا کرد، زیرا هشدارها در مورد خطرات ایمنی فزاینده این فناوری به طور فزاینده ای وخیم تر می شوند و چندین ایالت دیگر در حال حرکت برای محدود کردن استفاده از هوش مصنوعی بر اساس شرایط خود هستند. For more context on this story, see our ongoing AI trends.
آنچه دستور اجرایی نیاز دارد
در هسته خود، دستور Kotek از مقامات ایالتی میخواهد که صلاحیتهایی را برای یک بازبین شخص ثالث ایجاد کنند که ایمنی برخی فناوریهای هوش مصنوعی را قبل از اینکه آژانسهای اورگان بتوانند آنها را مستقر کنند، ارزیابی کند. هنوز مشخص نیست که کدام فناوریها مشمول این بررسی خواهند شد.
این دستور همچنین به افسر ارشد اطلاعات ایالت دستور می دهد تا یک تعریف رسمی از مدل های هوش مصنوعی "مرز" - پیشرفته ترین سیستم ها - ارائه دهد که تعیین می کند چه چیزی تحت مقررات جدید قرار می گیرد.
جالبتر از همه، این دستور از دولت میخواهد تا ارزیابی کند که آیا سوئیچ کشتن برای مدلهای هوش مصنوعی مرزی گزینهای مناسب است یا خیر. در تئوری، چنین مکانیزمی به مقامات اجازه میدهد تا به سرعت تمام سیستمهای هوش مصنوعی را که ناامن تلقی میشوند، خاموش کنند. این روزنامه گزارش داد که کارشناسان فناوری هشدار می دهند که ساخت چنین برنامه ای چالش های بزرگی را به همراه خواهد داشت.
مدیر ارشد اطلاعات اورگان اکنون 90 روز فرصت دارد تا مقررات پیشنهادی خود را تدوین و به فرماندار ارائه کند.
فشار ایالتی در خلاء فدرال
کوتک این دستور را پاسخی مستقیم به انفعال فدرال در تنظیم هوش مصنوعی پیشرفته توصیف کرد.
کوتک در بیانیه ای مطبوعاتی با اعلام این دستور گفت: «در حالی که نظارت و مقررات قوی ترین و مؤثرترین در سطح فدرال خواهد بود، رئیس جمهور ترامپ به نادیده گرفتن نیاز به حتی ابتدایی ترین نرده های محافظ ادامه می دهد. در این میان، دولتها باید با فوریت بیشتری وارد عمل شوند و هر کاری که ممکن است برای مدیریت تأثیرات هوش مصنوعی بر جوامع ما انجام دهند.»
دونالد ترامپ، رئیسجمهور آمریکا در برابر درخواستها برای افزایش مقررات فناوری هوش مصنوعی مقاومت کرده است، حتی با وجود اینکه هشدارهای ایمنی از داخل صنعت در ماههای اخیر بلندتر شده است.
اورگان به تنهایی عمل نمی کند. هفته گذشته، گاوین نیوسام، فرماندار کالیفرنیا، فرمان اجرایی با چندین الزام مشابه صادر کرد که بخشی از موج گستردهتر اقدامات در سطح ایالت است، زیرا مجالس قانونگذاری و دفاتر فرمانداری به این نتیجه رسیدند که واشنگتن ابتدا اقدام نخواهد کرد.
افزایش هشدارهای ایمنی
این سفارش در میان گستره ای از هشدارهای ایمنی غیرمعمول برجسته فرود می آید. در آخر هفته، بیل گیتس علناً هشدار داد که هوش مصنوعی به اندازه کافی قدرتمند است که در صورت کنترل نشدن، آسیب فاجعه باری به بار آورد و از کنگره خواست تا با مقررات وارد عمل شود، اظهارات سیبیاس نیوز و فاکس نیوز. ظاهر او به دنبال یک هفته بود که در آن OpenAI آموزش مدل های نسل بعدی خود را به دلیل عملکرد غیرقابل پیش بینی و تداخل عوامل مستقل با سیستم های خارجی به حالت تعلیق درآورد - قسمتی که به طور گسترده توسط آسوشیتدپرس، گاردین و نیویورک تایمز پوشش داده شد.
این ضرباهنگ هشدارهای خود رهبران صنعت به اقدامات دولتی مانند کوتک سوخت سیاسی آنها داده است. وقتی مدیران سازنده این فناوری اذعان میکنند که نمیتوانند آن را به طور کامل کنترل کنند، فرمانداران توجیه اقدامات پیشگیرانه را آسانتر میکنند - حتی اقداماتی به بلندپروازانهای مانند مطالعه اینکه چگونه یک ایالت میتواند یک مدل مرزی را به طور کامل تعطیل کند.
دولت ایالتی قبلاً از هوش مصنوعی استفاده می کند
این دستور هوش مصنوعی را به بوروکراسی اورگان معرفی نمی کند - سعی می کند فناوری در حال استفاده را مهار کند. بر اساس مطالب دفتر فرماندار، آژانس های ایالتی اورگان مدتی است که از هوش مصنوعی در کارهای روزمره خود استفاده کرده اند، از ربات های گفتگوی گسترده تا سیستم های پیشرفته تر مورد استفاده کارکنان فنی.
این الگو در میان دولتهای ایالتی رایج است، که ابزارهای هوش مصنوعی را سریعتر از اکثر سیاستهایی که برای مدیریت آنها اتخاذ کردهاند، اتخاذ کردهاند. الزام بررسی شخص ثالث اورگان تلاشی برای درج یک بازرسی خارجی بین فروشندگان و تصمیمات استقرار است.
زمینه سیاسی
کوتک، یک دموکرات، برای انتخاب مجدد در برابر سناتور ایالت جمهوری خواه کریستین درازان نامزد شده است و عمدتاً بر اساس تعهد خود مبنی بر مقاومت در برابر سیاست های مختلف دولت ترامپ، مبارزات انتخاباتی خود را انجام داده است. فرماندار همچنین به نگرانیهای مربوط به ردپای فیزیکی هوش مصنوعی توجه نشان داده است: اوایل این ماه او در یک تجمع مخالفت با مراکز داده که در خارج از ساختمان ایالت اورگان برگزار شد، شرکت کرد.
مهلت 90 روزه به این معنی است که تعریف و چارچوب نظارتی AI مرزی اورگان در پایان سال ارائه می شود و به قانونگذار ایالت - و رای دهندگان آن - پیشنهادی ملموس برای واکنش نشان می دهد.
سوال سوئیچ کشتن
مطالعه سوئیچ kill، گمانه زنی ترین عنصر سفارش است. ایده مکانیزمی برای خاموش کردن سریع سیستمهای هوش مصنوعی ناامن سالها در محافل خطمشی هوش مصنوعی رواج داشت و قانونگذاران کنگره قبلاً پیشنهادهایی را برای مدلهای مرزی ارائه کرده بودند. اما در واقع مهندسی چنین مکانیزمی برای سیستمهای توزیعشده یا وزن باز یک مشکل حلنشده باقی مانده است، احتمالاً به همین دلیل است که دستور اورگان به جای اجرا، به ارزیابی قابلیت حیات نیاز دارد.
اگر بررسی اورگان به این نتیجه برسد که سوئیچ کشتن غیرعملی است، آن یافتن خود قابل توجه خواهد بود - یک سند رسمی دولتی که محدودیتهای کنترل پس از استقرار بر سیستمهای هوش مصنوعی پیشرفته را تأیید میکند. اگر خلاف این نتیجه گیری شود، اورگان می تواند یکی از اولین ایالت هایی باشد که اقدام به ساختن آن می کند.
در هر صورت، این دستور، اورگان را به فهرست رو به رشد ایالتهایی اضافه میکند که شکافی را که آنها در نظارت فدرال هوش مصنوعی درک میکنند پر میکنند - یک فرمان اجرایی در یک زمان.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
