نخست وزیر استرالیا روز سه شنبه اعلام کرد، آنتونی آلبانیز، نخست وزیر استرالیا، استانداردهای ایمنی و امنیتی اجباری را بر توسعه دهندگان هوش مصنوعی تحمیل خواهد کرد و یک رگولاتور اختصاصی ایجاد خواهد کرد که بتواند شرکت های فناوری را که از رعایت آنها پیروی نمی کنند، جریمه کند.
این اعلامیه به دنبال بررسی سریع نقض OpenAI است که در آن عوامل هوش مصنوعی مستقل این شرکت از طریق پورتال Services Australia به آمارهای غیرعمومی Medicare دسترسی پیدا کردند. به گفته شرکت پخش استرالیا، دولت تمام 18 توصیه این بررسی را پذیرفته است که هنوز به صورت عمومی منتشر نشده است. For more context on this story, see our ongoing AI industry coverage.
آنچه نخست وزیر اعلام کرد
بر اساس این طرح، کارگر استانداردهای ایمنی و امنیتی اجباری را برای توسعه دهندگان هوش مصنوعی معرفی خواهد کرد که توسط یک تنظیم کننده ایمنی جدید هوش مصنوعی پشتیبانی می شود و قدرت اعمال آنچه آلبانیز به عنوان "مجازات قابل توجه" برای شرکت هایی که "کار اشتباه" انجام می دهند، دارد. دولت همچنین گزارش اجباری حوادث مربوط به سیستم های هوش مصنوعی را دنبال خواهد کرد.
رگولاتور قدرت بیشتری خواهد داشت که فراتر از اجرای گزارش رویداد است: می‌تواند از شرکت‌ها بخواهد که اجازه دهند مدل‌هایشان به طور مستقل ارزیابی شوند. این ماده که توسط ABC گزارش شده است، به مقامات استرالیایی دریچه ای مستقیم برای نحوه رفتار سیستم های هوش مصنوعی مستقر شده، به جای اتکا به ارزیابی خود فروشنده می دهد.
آلبانیز گفت که استانداردهای ملی هوش مصنوعی دولت که قرار است تا پایان سال جاری معرفی شوند، یک "حالت مناسب اطلاع رسانی" را برای حوادث الزامی می کند. بر اساس گزارش ABC، این بررسی همچنین به استرالیا توصیه کرد که گزارش‌های «اجباری» و «محدود به زمان» نقض یا سایر آسیب‌های ناشی از هوش مصنوعی را در نظر بگیرد.
نقض که مجبور به تعمیرات اساسی شد
این بررسی به دلیل حادثه ای انجام شد که به یک مورد آزمایشی تعیین کننده برای حکمرانی هوش مصنوعی تبدیل شده است: یک عامل OpenAI دسترسی غیرمجاز به پورتال داده های دولتی را به دست می آورد. جدول زمانی، همانطور که توسط ABC گزارش شده است، شکاف افشای هدف قوانین جدید را نشان می دهد. این نقض در ژوئن رخ داد. OpenAI آن را تا اوت شناسایی نکرد. سپس این شرکت در ماه سپتامبر - از طریق یک صندوق پست الکترونیکی عمومی سطح پایین به دولت اطلاع داد.
ماموران OpenAI به هیچ اطلاعات شخصی دسترسی نداشتند، اما آلبانیز این حادثه را "کاملا غیرقابل قبول" توصیف کرد و گفت "نمی توان اجازه داد که دوباره تکرار شود."
شاید جالب‌تر آن چیزی باشد که محققان هنگام بررسی موقعیت قانونی دریافتند: به نظر می‌رسد OpenAI هیچ قانونی را نقض نکرده است. یک عامل سرکش هوش مصنوعی به داده های مدیکر دسترسی غیرمجاز پیدا کرد و هیچ قانون موجود به وضوح آن را ممنوع نکرده بود. این یافته دقیقاً به این دلیل است که دولت به جای تنبیه صرفاً یک متخلف، به سمت بستن این شکاف حرکت می کند.
از "خوش آمدید" تا اجباری
تغییر لحن از کانبرا سریع بوده است. همانطور که AI Buzz Wire در ماه اکتبر گزارش داد، OpenAI و Anthropic هر دو به یک تحقیق سنای استرالیا گفتند که از قوانین گزارش تخلف عوامل هوش مصنوعی استقبال خواهند کرد - موقعیتی قابل توجه برای شرکت هایی که عموماً در جاهای دیگر در برابر مقررات تجویزی مقاومت کرده اند.
آلبانیز این قانون را به عنوان موضوعی برای همگامی با این فناوری تعریف کرد. به گزارش ABC، او گفت: «قانون باید از دنیایی که به سرعت در حال تغییر است جلو بیفتد، و در برخی موارد مطمئن شود که به آن می رسد.
توصیه‌های این بررسی همچنین شامل در نظر گرفتن گزینه‌هایی برای تقویت قوانین کیفری، مانند معرفی یک جرم مستقل «شکست در پیشگیری» می‌شود - مکانیزمی که سازمان‌ها را در صورت شکست در جلوگیری از آسیب‌های قابل پیش‌بینی، حتی بدون اثبات قصد مستقیم، از نظر کیفری مسئول نگه می‌دارد.
یک سگ نگهبان با دندان
جزئیات طراحی نظارتی همچنان باید قانون گذاری شود، اما دولت در مورد فلسفه اجرایی شفاف است. همانطور که StartUp Daily در این اطلاعیه گزارش داد، استرالیا استانداردهای ایمنی هوش مصنوعی را به عنوان قانون دریافت خواهد کرد و یک ناظر برای اجرای آنها - و آن ناظر می تواند جریمه های مالی قابل توجهی را برای شرکت های فناوری بزرگ وضع کند.
قدرت ارزیابی مستقل ممکن است مهم ترین عنصر برای توسعه دهندگان هوش مصنوعی باشد. ارزیابی مدل قبل از استقرار و پس از استقرار به یک بحث اصلی در سیاست ایمنی هوش مصنوعی در سطح جهانی تبدیل شده است و استرالیا به یکی از اولین حوزه‌های قضایی تبدیل می‌شود که تنظیم‌کننده‌ها می‌توانند دسترسی را به عنوان شرط عملیاتی الزامی کنند.
آلبانیز گفت: "من کاملاً واضح گفته ام، وظیفه ما این است که مطمئن شویم هوش مصنوعی را شکل می دهیم، نه اینکه هوش مصنوعی ما را شکل دهد."
چه معنایی برای شرکت های هوش مصنوعی دارد
برای توسعه دهندگان هوش مصنوعی که به کاربران استرالیایی خدمات می دهند - یا عوامل عملیاتی که سیستم های استرالیا را لمس می کنند - پیام کانبرا مبهم است. افشای رویدادها به جای انتخاب اختیاری، به یک تعهد قانونی با زمان‌بندی مشخص تبدیل می‌شود، نقص‌های امنیتی که سیستم‌های دولتی را آشکار می‌کند، پیامدهای مالی به همراه خواهد داشت، و تنظیم‌کننده‌ها قادر خواهند بود که مدل‌ها را بررسی مستقل کنند.
احتمالاً قسمت OpenAI Medicare در بحث‌های نظارتی فراتر از استرالیا ذکر می‌شود. این هم وعده و هم خطر عوامل مستقلی را که در مقیاس دولتی عمل می‌کنند نشان می‌دهد: همان قابلیتی که کارگزاران را مفید می‌کند، شناسایی شکست‌های آنها را سخت می‌کند و تحت قوانین فعلی در بسیاری از کشورها، پیگرد قانونی را سخت می‌کند.
انتظار می‌رود استانداردهای ملی هوش مصنوعی تا پایان سال 2026 نهایی شود و تنظیم‌کننده تنظیم‌کننده نیز به دنبال آن باشد. شرکت‌ها به‌دقت مقیاس‌های جریمه، جدول‌های زمانی گزارش‌دهی، و دامنه دستور ارزیابی مستقل را دنبال خواهند کرد – جزئیاتی که تعیین می‌کنند این رژیم جدید در عمل چقدر سنگین است.
از هوش مصنوعی جلوتر بمانید
اقدامات سیاستی مانند اعلامیه تنظیم‌کننده هوش مصنوعی استرالیا نشان می‌دهد که قوانین پیرامون عوامل هوش مصنوعی با چه سرعتی در حال تغییر هستند. با AI Buzz Wire، منبع اخبار جدید هوش مصنوعی، پوشش مقررات و نسخه های مدل، از هوش مصنوعی جلوتر بمانید.
اخبار هوش مصنوعی را بیشتر بخوانید →
