آسوشیتدپرس روز شنبه گزارش داد که از کارکنان دفتر کوچک دولتی ایالات متحده که مسئول آزمایش ایمنی مدل‌های هوش مصنوعی مرزی هستند، اخیراً خواسته شده است که به طور غیررسمی به دفتر کاخ سفید گزارش دهند، که نگرانی‌های تازه‌ای در مورد استقلال ارزیاب برتر ایمنی هوش مصنوعی این کشور برانگیخته است.

به گزارش آسوشیتدپرس، این دفتر، مرکز پیشرفت نوآوری و استانداردهای ابر هوش - معروف به CAISSI و در داخل وزارت بازرگانی مستقر است - همچنین انتشار تحقیقات خود را متوقف کرده است. این گزارش در بحبوحه نگرانی فزاینده عمومی در مورد مجموعه‌ای از داستان‌ها در مورد عوامل هوش مصنوعی خارج از کنترل منتشر می‌شود و سگ نگهبانی را توصیف می‌کند که کمبود کارکنان، بدون رهبر و به طور فزاینده‌ای ساکت است. For more context on this story, see our ongoing breaking AI news.

آنچه CAISSI انجام می دهد - و آنچه AP پیدا کرد

CAISSI مسئول ارزیابی ایمنی پیشنهادات هوش مصنوعی جدید قبل از رسیدن به عموم است، وظیفه ای که شامل ارزیابی میزان مقاومت مدل های مرزی در برابر سوء استفاده برای حملات سایبری و سایر آسیب های جدی است. به گزارش آسوشیتدپرس، اخیراً از کارکنان این مرکز خواسته شده است که به طور غیررسمی به دفتر کاخ سفید گزارش دهند. این خبرگزاری به نقل از دو مقام دولتی پیشین آگاه از این بحث ها اشاره کرد که به طور ناشناس برای محافظت از کارمندان فعلی صحبت کردند. کاخ سفید به سوالات خاصی در مورد این مرکز پاسخ نداد.

مقیاس عملیات متوسط ​​است. AP گزارش می دهد که CAISSI حدود 10 میلیون دلار در سال دریافت می کند - تقریباً یک هشتم مبلغی که همتای بریتانیایی خود دریافت می کند، حتی اگر ایالات متحده جایی است که اکثر مدل های مرزی ساخته می شوند.

ترتیب گزارش غیررسمی تنها آخرین اختلال در مرکز است. AP خلأ رهبری را توصیف می کند که به ماه ها قبل کشیده شده است: یک مدیر در ماه آوریل استخدام شد و ظرف چند روز اخراج شد، جایگزینی او چند ماه قبل از استعفا به طول انجامید، و رئیس موسسه مادر در حال حاضر به عنوان سرپرست فعالیت می کند. در عمل، این بدان معناست که هیچ کس با یک مأموریت دائمی در حال حاضر از استقلال مرکز دفاع نمی کند.

سگ نگهبانی که انتشارش را متوقف کرد

به گفته آسوشیتدپرس، تغییر نتیجه بیشتر، کاری است که مرکز دیگر انجام نمی دهد. در ماه آگوست، کنگره این سوال را مطرح کرد که چرا CAISSI انتشار علنی گزارش‌هایی درباره نحوه عملکرد سیستم‌های هوش مصنوعی در تست‌های ایمنی را متوقف کرده است. آزمایش پیش از استقرار تنها در صورتی به عنوان یک بررسی عمومی بر روی سازندگان مدل عمل می‌کند که نتایج آن در خارج از آزمایشگاه قابل مشاهده باشد - و در حال حاضر، اینطور نیست.

این جابجایی به هیچ وجه اتفاق نیفتاده است. در ماه اکتبر، رویترز با استناد به گزارشی از The Information فاش کرد که دولت قصد دارد سه مقام ارشد CAISSI را به کاخ سفید منتقل کند. یکی از مقامات کاخ سفید در آن زمان به The Information گفت که مشکلات هماهنگی با Commerce نیاز به نزدیکتر کردن رهبری مرکز به تصمیم گیری هوش مصنوعی را نشان می دهد. بر اساس این گزارش، مقامات به مایکل کرتسیوس، مدیر دفتر سیاست علم و فناوری و مدیر ملی سایبری شان کایرنکراس پاسخ خواهند داد. هاوارد لوتنیک، وزیر بازرگانی، تقریباً شش ماه پیش از آن دو نفر را برای مدیریت مشترک این مرکز دعوت کرده بود.

با هم بخوانید، گزارش جدید AP نشان می دهد که این طرح در عمل در حال رسیدن است - غیررسمی و قبل از هر گونه تجدید ساختار رسمی.

نگرانی های استقلال، در هر دو جهت

منتقدان به نقل از AP نگران هستند که تصمیمات مربوط به امنیت سایبری و خطر سلاح های زیستی ممکن است سیاسی شود یا اینکه یافته ها ممکن است برای صنعت فناوری ملایم شوند. آموس تو از مرکز دادگستری برنان به AP گفت که چنین تصمیماتی پیامدهای عمومی بسیار زیادی دارند و باید در انظار عمومی توضیح داده شوند. کارولین سیگل سینگ از فدراسیون دانشمندان آمریکایی مراکزی مانند CAISSI را به عنوان مؤسسات قدرتمندی توصیف کرد که می توانند زندگی را به شدت بهبود بخشند یا برعکس این کار را انجام دهند.

یک استدلال متقابل وجود دارد و AP آن را رد نمی کند. ارزیابی توانایی یک مدل برای کمک به نوشتن بدافزار یک سوال امنیت ملی است و دولتی که می‌خواهد افرادی که این نتایج را می‌بینند قابل دفاع باشد، قابل دفاع است. مشکل سازمانی است: داوری که به یکی از حامیان مالی تیم ها پاسخ می دهد، در موقعیت ضعیفی قرار دارد که بازی را مستقیم اعلام کند، و مرکز انتشار گزارش هایی را که در غیر این صورت استقلال خود را نشان می دهد، متوقف کرده است.

چرا برای سازندگان و خریداران مهم است

برای شرکت‌هایی که بر اساس مدل‌های مرزی کار می‌کنند، ریسک عملی شناسایی‌شده در گزارش‌ها ممنوعیت نیست - بلاتکلیفی است. اگر ارزیابی‌ها مخفی بماند و به کنترل‌های صادرات و تدارکات دولتی کمک کند، یک آزمایشگاه ممکن است یک قرارداد یا یک بازار را بر اساس یافته‌ای که هرگز نمی‌تواند ببیند یا رقابت کند، از دست بدهد. این خطر بدون هیچ هشداری از طریق زنجیره تامین به محصولات پایین دستی منتشر می شود.

دو چیز ارزش تماشای بعدی را دارد. اولین مورد این است که آیا دولت یک مدیر دائمی برای مرکز تعیین می کند و چه کسی آنها را انتخاب می کند. دوم این است که آیا کنگره، که قبلاً مرکز را به خاطر سکوتش در مورد گزارش‌های منتشر شده تحت فشار قرار داده، به سمت قانون‌نویسی استقلال مرکز حرکت می‌کند یا خیر. تا زمانی که هر دو اتفاق نیفتد، داور ایمنی هوش مصنوعی مرزی آمریکا با بودجه 10 میلیون دلاری، بدون رهبر دائمی و خط گزارشگری که به سمت کاخ سفید می رود، کار می کند.

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →