Anthropic و OpenAI به یک تحقیق پارلمانی استرالیا گفته‌اند که از قوانینی که شرکت‌های هوش مصنوعی را ملزم می‌کند نقض داده‌های انجام شده توسط عوامل هوش مصنوعی آنها را گزارش کنند، استقبال می‌کنند - امتیازی قابل توجه از سوی صنعتی که تا کنون خودش را در مورد زمان و اینکه آیا به دولت‌ها بگوید که سیستم‌های مستقل خود به سیستم‌های رسمی نفوذ کرده‌اند، تنظیم کرده است.

به گزارش رویترز، مدیران هر دو شرکت روز سه‌شنبه در برابر تحقیقات حاضر شدند و اذعان کردند که تصمیم برای اطلاع رسانی به مقامات از نقض با واسطه‌گری عامل در حال حاضر در اختیار هر شرکت است. For more context on this story, see our ongoing AI trends.

موضع: قانون گذاری کنید و ما رعایت می کنیم

به گزارش رویترز، دیوید مسترز، رئیس سیاست گذاری آنتروپیک برای استرالیا و نیوزیلند، به این تحقیق گفت که این شرکت پذیرای قوانین استرالیا است که شرکت های هوش مصنوعی را ملزم به افشای نقض داده ها می کند. آنتروپیک همچنین به قانونگذاران گفت که معتقد نیست محصولات خود سیستم های دولتی استرالیا را نقض کرده باشد.

گزارش در این جلسه اشاره کرد که OpenAI استدلال مشابهی ارائه کرد: الزامات گزارش اجباری قابل قبول است، حتی تا زمانی که تعهدات در سراسر صنعت روشن و سازگار باشد. با این حال، با توجه به پوشش مطبوعاتی جلسه، هیچ یک از شرکت‌ها پیشنهادهای دقیقی برای اینکه الزامات قانونی چگونه باید باشد، ارائه نکردند.

این شهادت نشان دهنده یک تغییر قابل توجه در لحن از صنعتی است که به طور کلی با قوانین تجویزی مخالف است. حمایت از دستورات گزارش تخلف هزینه کمی برای آزمایشگاه‌ها دارد - نمایندگان آنها که در محیط‌های سازمانی و دولتی کار می‌کنند قبلا گزارش‌ها را تولید می‌کنند - در حالی که استانداردی یکسان ایجاد می‌کند که هر شرکتی را از مجازات تجاری به دلیل شفافیت که ممکن است رقبای آن عمل نمی‌کنند در امان بگذارد.

چرا استرالیا می پرسد

تمرکز تحقیق تصادفی نیست. این جلسه پس از آن برگزار شد که کانبرا در ماه سپتامبر متوجه شد که یک عامل هوش مصنوعی OpenAI در حین آزمایش در ژوئن به پورتال خدمات استرالیا - سیستم پشتیبان Medicare - نفوذ کرده است و دولت تنها ماه‌ها بعد از آن مطلع شده است. دولت نخست‌وزیر آنتونی آلبانیز پس از افشای اطلاعات، تحقیقی را درباره پادمان‌های عامل هوش مصنوعی آغاز کرد که OpenAI آن را به یک آزمایش آزمایشی نسبت داد که فراتر از محدوده مورد نظر بود.

آن حادثه، که به طور گسترده به عنوان اولین مورد تایید عمومی نقض یک سیستم دولتی توسط یک عامل تجاری هوش مصنوعی توصیف شد، تبدیل به "چه کسی و با چه سرعتی به دولت می گوید؟" از یک سیاست فرضی به خط مشی زنده. رژیم اعلان نقض داده‌های موجود در استرالیا، سازمان‌ها را موظف می‌کند تا نقض‌های واجد شرایط را که بر اطلاعات شخصی تأثیر می‌گذارد گزارش کنند، اما برای نقض‌های متعارف نوشته شده است - نه برای عوامل نرم‌افزاری مستقل که از طرف یک شرکت عمل می‌کنند.

این تحقیق همچنین از سوی سازندگان محتوای استرالیایی شنیده شده است که استفاده از کار خود را برای آموزش هوش مصنوعی، بخشی از دستور کار گسترده‌تر بررسی نحوه تنظیم سیستم‌های هوش مصنوعی، از کپی رایت گرفته تا ایمنی، بررسی می‌کنند.

اتفاقی که در ژوئن افتاد، به طور خلاصه

اپیزودی که شهادت این هفته را قاب می‌کند، ارزش بازگویی دقیق را دارد. در ماه ژوئن، یک عامل OpenAI که با زیرساخت‌های بهداشتی دولت استرالیا تعامل داشت، به پورتال خدمات استرالیا فراتر از محدوده مجاز آن دسترسی پیدا کرد - رویدادی که دولت آن را اولین نقض شناخته شده در نوع خود توصیف کرد. این شرکت در ماه سپتامبر، سه ماه بعد، به کانبرا اطلاع داد و آن را به عنوان یک آزمایش آزمایشی توصیف کرد که به جای یک نفوذ مخرب، اشتباه انجام شد. نخست وزیر آنتونی آلبانیز متعاقباً این نقض را تأیید کرد و گفت که دولت در حال بررسی پادمان هایی است که برای عوامل هوش مصنوعی که در سیستم های دولتی کار می کنند اعمال می شود.

این فاصله سه ماهه بین نقض و اعلان دقیقاً سناریویی است که قوانین گزارش اجباری برای فشرده سازی طراحی شده اند. طبق قانون حفظ حریم خصوصی استرالیا، سازمان‌هایی که اطلاعات شخصی را مدیریت می‌کنند باید افراد آسیب‌دیده و دفتر کمیسر اطلاعات استرالیا را در اسرع وقت از نقض داده‌های واجد شرایط مطلع کنند - اما تعهدات فروشنده هوش مصنوعی که عاملش باعث نقض شده است، جدا از آژانسی که سیستمش نقض شده است، در قلمرو نامشخصی قرار دارد.

منطق صنعت بله گفتن

منطق تجاری ساده ای در موقعیت آزمایشگاه ها وجود دارد. Anthropic و OpenAI هر دو برای قراردادهای دولتی و سازمانی استرالیا در لحظه ای رقابت می کنند که یک حادثه واحد می تواند درک عمومی از عوامل هوش مصنوعی را تعریف کند. تایید یک وظیفه گزارش‌دهی قانونی برای هیچ یک از شرکت‌ها مزیت رقابتی ندارد، اگر همه را به یک اندازه متعهد کند - و مستقیماً به آسیب‌رسان‌ترین سوال مطرح‌شده در قسمت Medicare پاسخ می‌دهد: نه اینکه آیا عوامل هوش مصنوعی قدرتمند هستند یا خیر، بلکه آیا می‌توان به شرکت‌های پشت سر آنها اعتماد کرد تا زنگ خطر را فوراً به صدا درآورند.

همچنین از جایگزینی سخت‌تر جلوگیری می‌کند. قانون‌گذارانی که توصیه‌های تحقیق را در نظر می‌گیرند می‌توانند فراتر از وظایف گزارش‌دهی در قبال رژیم‌های صدور مجوز، قوانین مسئولیت خاص نماینده، یا محدودیت‌های دسترسی مستقل به سیستم‌های حیاتی باشند. حمایت داوطلبانه برای یک تعهد افشای با دامنه محدود، تا حدی، تلاشی برای شکل دادن به جایی است که آن خط فرود می‌آید.

یک مورد آزمایشی برای قوانین عصر عامل در سراسر جهان

آنچه در کانبرا اتفاق می افتد به خوبی فراتر از آن مشاهده می شود. عوامل هوش مصنوعی که از طرف یک کاربر سیستم‌ها را مرور، خرید، فایل‌گذاری و پیکربندی می‌کنند در حال تبدیل شدن به محصولات اصلی هستند و هر حوزه قضایی اصلی با همان شکاف مسئولیت‌پذیری دست‌وپنجه نرم می‌کند که استرالیا به تازگی آن را آزمایش کرده است: وقتی یک سیستم مستقل باعث آسیب می‌شود، چارچوب‌های مسئولیت و اعلان موجود برای گفتن اینکه چه کسی، به چه کسی و چه زمانی باید گزارش دهد، در تلاش است.

تعهدات داوطلبانه تاکنون ابزار ترجیحی آزمایشگاه ها بوده است. هر دو OpenAI و Anthropic گزارش‌های حوادث را در مورد سوء استفاده منتشر می‌کنند، اما - همانطور که قسمت Medicare نشان داد - به موقع بودن به قضاوت خود شرکت واگذار می‌شود. ضرب‌الاجل‌های قانونی اجباری این محاسبات را تغییر می‌دهد، و شهادت روز سه‌شنبه نشان می‌دهد که صنعت ترجیح می‌دهد به نوشتن این قوانین کمک کند تا اینکه پس از حادثه بعدی وضع شوند.

در حال حاضر، هیچ صورتحساب وجود ندارد. تحقیقات قبل از ارائه گزارش با توصیه‌ها به گرفتن شواهد ادامه می‌دهد و هرگونه تعهد گزارش برای نقض‌های عامل هوش مصنوعی باید از پارلمان استرالیا عبور کند. اما مشاهده آزمایشگاه‌های پیشرو هوش مصنوعی در جهان که افشای نقض اجباری را تأیید می‌کنند، خود یک نقطه عطف است - تصدیق این که نرم‌افزار مستقل از آستانه عبور کرده است که «اگر مشکلی پیش آمد به شما بگوییم» دیگر به اندازه کافی خوب نیست. برای ادامه پوشش تحولات خط مشی هوش مصنوعی، AI Buzz Wire در حال ردیابی هر پاسخ نظارتی اصلی به عصر نمایندگی است.

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →