رو خانا، نماینده دموکرات دره سیلیکون، قانونی را معرفی خواهد کرد که مدل‌های هوش مصنوعی را که قادر به بهبود بازگشتی خود هستند تا زمانی که دولت فدرال یک سیستم نظارتی با قابلیت نظارت بر آنها ایجاد نکند، ممنوع می‌کند - گسترده‌ترین پیشنهاد ایمنی هوش مصنوعی که تاکنون در کنگره ارائه نشده است.

این لایحه که "قانون کنترل انسان بر هوش مصنوعی" نامیده می شود، قبل از معرفی به طور انحصاری با CNBC به اشتراک گذاشته شد. این در میان تشدید نگرانی‌های ایمنی که قبلاً مدیران عامل OpenAI و Anthropic را بر آن داشته تا خواهان کند کردن توسعه مدل مرزی شوند، وارد می‌شود. For more context on this story, see our ongoing breaking AI news.

خانا روز دوشنبه در مصاحبه ای با CNBC گفت: «در واقع خطر انقراض تمدنی وجود دارد. خطر ایمنی از دست دادن کنترل وجود دارد، و سپس خطر سوء استفاده وجود دارد، و ما باید هر دو را جدی بگیریم.

آنچه را که لایحه ممنوع می کند

در اصل، قانون کنترل انسانی بر هوش مصنوعی، مدل‌های هوش مصنوعی را که اهداف اصلی، مکانیسم‌های مهار یا کنترل‌های خاموشی خود را به طور بازگشتی اصلاح می‌کنند یا به طور مستقل تغییر می‌دهند، ممنوع می‌کند - مگر اینکه نرده‌های محافظ فدرال وجود داشته باشد و یک آژانس دولتی جدید فعالیت‌ها را تأیید کند.

از نظر عملی، این قابلیتی را هدف قرار می‌دهد که محققان ایمنی از آن بیشتر می‌ترسند: سیستم‌هایی که می‌توانند خود را در یک چرخه خودگردان بازطراحی کنند و در هر مرحله نظارت کمتری برای انسان باقی بگذارند. این ممنوعیت تا زمانی که رگولاتورها برای ارزیابی خطرات مجهز نشده باشند، پابرجا خواهد ماند.

آژانس فدرال جدید برای هوش مصنوعی مرزی

این لایحه یک آژانس فدرال اختصاصی ایجاد می‌کند که بر قدرتمندترین مدل‌های هوش مصنوعی - مدل‌هایی که توسط OpenAI، Anthropic، Google DeepMind و xAI توسعه داده شده‌اند، ایجاد می‌کند، زیرا این شرکت‌ها خود را تحت نظارت شدید می‌بینند.

طبق خلاصه ای که با CNBC به اشتراک گذاشته شده است، این آژانس مسئول موارد زیر خواهد بود:

  • نوشتن مقررات ایمنی برای سیستم های هوش مصنوعی مرزی
  • راه اندازی سیستم صدور مجوز برای تایید آموزش و استقرار مدل
  • انجام ممیزی مدل های هوش مصنوعی مرزی
  • تنظیم استانداردهای امنیتی برای آزمایش مداوم و کنترل موثر انسانی

حسابرسان مستقل در هر آزمایشگاه مرزی تعبیه می شوند و مستقیماً به آژانس گزارش می دهند - یک بررسی ساختاری که برای اطمینان از اینکه آزمایشگاه ها نمی توانند به سادگی تکالیف خود را علامت گذاری کنند، طراحی شده است. این آژانس همچنین استانداردهایی را برای پوشش محیط‌های تست جعبه‌های شنی، شکاف‌های هوایی که سیستم‌های آزمایش را از اینترنت جدا می‌کند، سوئیچ‌های کشنده و کنترل‌هایی را که از فرار مدل‌ها از تنظیمات آزمایشگاهی و رومینگ اینترنت باز جلوگیری می‌کند، تعیین می‌کند.

قابل ذکر است، این قانون نظارت فدرال را بر تراشه‌های پیشرفته‌ای که آزمایشگاه‌های مرزی استفاده می‌کنند، از جمله مکانیسم‌هایی برای نظارت یا کنترل نحوه استقرار این پردازنده‌ها، گسترش می‌دهد.

مجازات های کیفری و بیمه اجباری

این لایحه فراتر از هر پیشنهاد قبلی در مورد مجازات است. این امر آنچه را که به عنوان "جنایت علیه بشریت" برای استقرار مدل های هوش مصنوعی که منجر به نابودی جمعیت غیرنظامی می شود، جرم انگاری می کند.

کارمندان شرکت‌های هوش مصنوعی به دلیل غیرفعال کردن پادمان‌ها، کشتن سوئیچ‌ها، ورود به سیستم یا سیستم‌های مهار - یا برای استقرار آگاهانه یک سیستم غیرمجاز، با مجازات‌های کیفری روبرو خواهند شد. شرکت‌های هوش مصنوعی نیز باید قبل از انتشار مدل‌های خود، بیمه مسئولیت گسترده‌ای داشته باشند و ریسک مالی شکست را به جای عموم به صنعت منتقل کنند.

در جبهه ژئوپلیتیک، این لایحه از دولت می‌خواهد تا توافق‌های قابل اجرا و کنترل‌های صادراتی هدفمند را که برای بازدارندگی چین و سایر دشمنان از توسعه سیستم‌های هوش مصنوعی خطرناک طراحی شده‌اند، دنبال کند.

ساخته شده با جامعه ایمنی، نه آزمایشگاه ها

خانا صریحاً در مورد اینکه چه کسی این لایحه را شکل داده است. او گفت که این قانون به جای مذاکره با مدیران شرکت‌هایی که قانون‌گذاری می‌کند، از مکالمات با سازمان‌های ایمنی هوش مصنوعی، از جمله سازمان‌های غیرانتفاعی مستقل مدل ارزیابی و تحقیقات تهدید، مؤسسه تحقیقات هوش ماشینی و تحقیقات پالیزید الگوبرداری شده است.

Khanna به CNBC گفت: «من می‌خواهم این مدلی باشد تا صدایی به جامعه ایمنی هوش مصنوعی بدهد. "من معتقدم که آنها ناعادلانه به عنوان علمی تخیلی رد شده اند و به اندازه کافی جدی گرفته نشده اند. آنها باید این بحث را هدایت کنند، جامعه ایمنی هوش مصنوعی، نه مدیران آزمایشگاه های مرزی."

خانا این اقدام را جامع‌ترین قانون ایمنی هوش مصنوعی ارائه شده تا به امروز توصیف کرد.

شانس طولانی در یک کنگره تقسیم شده

قانون کنترل انسان بر هوش مصنوعی به حوزه شلوغ پیشنهادهای ایمنی هوش مصنوعی در کاپیتول هیل می پیوندد. از جمله قانون دو حزبی FRONTIER از نمایندگان جی اوبرنولت، جمهوری خواه کالیفرنیا، و لوری تراهان، دموکرات ماساچوست، که حسابرسان مستقل را در آزمایشگاه های مرزی قرار می دهد و به دولت اختیار می دهد تا مدل هایی را که به نظر می رسد خطر فاجعه باری دارند، تعطیل کند. پیشنهاد جداگانه سندرز-کازار برای ممنوعیت ابرهوش مصنوعی با حمایت عمومی ده دموکرات مجلس نمایندگان از جمله خود خانا مواجه شده است.

با این حال، واقعیت سیاسی نگران کننده است. انتظار می‌رود هیچ لایحه‌ای در مجلس نمایندگان تا پس از انتخابات میان‌دوره‌ای رای نیاورد، و انتظار می‌رود سنا واشنگتن را ترک کند و تا زمانی که رای‌دهندگان به پای صندوق‌های رای بروند، بازنگردد.

این جدول زمانی به این معنی است که قانون کنترل انسان بر هوش مصنوعی، حداقل در حال حاضر، به عنوان یک نشانگر عمل خواهد کرد: طرحی دقیق از آنچه جامعه ایمنی هوش مصنوعی در صورت دست گرفتن قلم می‌سازد - دقیقاً در لحظه‌ای معرفی شده است که افرادی که هوش مصنوعی مرزی را می‌سازند، در سابقه هشدار می‌دهند که این فناوری از کنترل‌هایش پیشی گرفته است.

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →