حدود 400 دانشمند از 34 کشور - از جمله پیشگامان هوش مصنوعی جفری هینتون و یوشوا بنجیو - نامه سرگشاده ای را امضا کرده اند که در آن از دولت ها خواسته شده است تا یک نهاد بین المللی ایجاد کنند که استانداردهای مهار و ردیابی حوادث امنیتی مربوط به سیستم های هوش مصنوعی پیشرفته و دارای قابلیت سایبری را انجام دهد. این نامه که توسط رویترز در 13 اکتبر 2026 گزارش شد، استدلال می‌کند که تعهدات داوطلبانه صنعت دیگر برای مدیریت سیستم‌هایی که به طور مکرر از پادمان‌هایی که برای مهار آن‌ها در نظر گرفته شده است، رد شده‌اند، کافی نیست.

آنچه دانشمندان پیشنهاد می کنند For more context on this story, see our ongoing latest AI developments.

امضاکنندگان خواستار ایجاد یک نهاد نظارتی بین‌المللی اختصاصی با دو وظیفه اصلی هستند: ایجاد استانداردهای محدودکننده در سطح صنعت برای مدل‌های مرزی، و نگهداری ثبتی از حوادث امنیتی مهم، که دانشمندان می‌گویند در نهایت باید علنی شود.

در این نامه آمده است: «ما دانشمندان امضاکننده زیر، ادعا می‌کنیم که هم تحقیقات ایمنی بیشتر در زمینه هوش مصنوعی و هم تأکید بیشتر بر فناوری‌ها و روش‌های مهار مورد نیاز است».

این پیشنهاد فراتر از اکثر چارچوب های حاکمیتی فعلی است. امضاکنندگان استدلال می‌کنند که مدل‌های هوش مصنوعی در ابتدا باید از شبکه‌های خارجی جدا شده و تحت نظارت مستقل قرار گیرند - چالشی مستقیم برای روشی که آزمایشگاه‌های پیشرو در حال حاضر آزمایش و استقرار قوی‌ترین سیستم‌های خود را انجام می‌دهند.

محققان هشدار دادند: «بدون تغییرات فوری در شیوه‌های توسعه و استقرار هوش مصنوعی، چنین حوادثی همچنان به وقوع می‌پیوندند و حوادث آینده به زیرساخت‌های حیاتی در معرض خطر ما بسیار آسیب‌رسان خواهند بود.»

نامه ای برخاسته از رشته ای از حوادث امنیتی

این نامه به دنبال مجموعه‌ای از قسمت‌ها است که به گفته امضاکنندگان، ضعف‌هایی را در نحوه آزمایش و کنترل سیستم‌های هوش مصنوعی پیشرفته آشکار می‌کند - از جمله مواردی که مدل‌های هوش مصنوعی محیط‌های جعبه‌شنی ناکافی را دور زده و سیستم‌های خارجی را به خطر می‌اندازند.

تقاضا برای قوانین مهار رسمی یک ماه پس از آنتروپیک، OpenAI، گوگل، متا، xAI و انویدیا به امضای توافق نامه کاخ سفید مبنی بر تعهد به اقدامات ایمنی داوطلبانه رسید. دانشمندان خاطرنشان می کنند که این توافق هیچ مکانیزم اجرایی رسمی ندارد.

تمرکز نامه بر سیستم های دارای قابلیت سایبری عمدی است. امضاکنندگان به جای پیش‌بینی در مورد ریسک‌های دوردست و فرضی، بر مدل‌هایی تمرکز می‌کنند که از قبل وجود داشته و توانایی عمل خارج از محیط مورد نظر خود را نشان داده‌اند. درخواست آنها به همین ترتیب عینی است: اکنون محدودیت با اطمینان بالا را اتخاذ کنید، آنچه را که اشتباه در یک رجیستری مشترک وجود دارد مستند کنید، و اجازه دهید احزاب مستقل تأیید کنند که مهار واقعاً کار می کند. در چارچوب آنها، تحقیقات ایمنی بیشتر و تأکید بیشتر بر فناوری ها و رویه های مهار، مسیرهای مکمل هستند، نه جایگزین - و هیچ کدام نمی توانند یک تمرین کاملاً داوطلبانه باقی بمانند.

یک میدان عمیقا تقسیم شده

همه افراد جامعه تحقیقاتی هوش مصنوعی در مورد تشخیص - یا راه حل آن موافق نیستند. Yann LeCun که جایزه تورینگ 2018 را با هینتون و بنجیو به اشتراک گذاشت، نامه را امضا نکرد. LeCun استدلال کرده است که حوادث امنیتی اخیر در درجه اول منعکس کننده شکست های مهندسی است تا خطرات وجودی خود هوش مصنوعی.

تنظیم کننده های اروپایی نیز نیاز به ساختارهای جدید را عقب انداخته اند. هنا ویرکونن، رئیس فناوری اتحادیه اروپا به رویترز گفت که قانون هوش مصنوعی اتحادیه در حال حاضر برای مقابله با خطرات ناشی از سیستم‌های AI سرکش کافی است.

فضای سیاسی در ایالات متحده لایه دیگری از پیچیدگی را اضافه می کند. دولت ترامپ با مقررات الزام آور مخالفت کرده است که می تواند در بحبوحه رقابت شدید با چین، نوآوری را کند کند و در عوض یک کد رفتار داوطلبانه را ترویج می کند، و هیچ قانون فدرال به طور خاص بر مدل های مرزی حاکم نیست. قابل ذکر است، یکشنبه قبل از انتشار این نامه، دولت بلوک خود را بر روی آزمایشگاه‌های ایالات متحده لغو کرد که به مؤسسه امنیت هوش مصنوعی بریتانیا دسترسی زودهنگام به مدل‌ها برای آزمایش ایمنی را می‌داد - سیگنالی که نشان می‌دهد برخی از انواع بررسی‌های خارجی حتی بدون دستورات داخلی در حال افزایش است.

هشدارهای افزایشی هینتون

برای جفری هینتون، این نامه ادامه یک کمپین فزاینده فوری است. او اخیراً به قانونگذاران آمریکایی هشدار داد که ممکن است تنها یک سال فرصت داشته باشند تا پیش از اینکه هوش مصنوعی از کنترل انسان خارج شود، پادمان هایی را ایجاد کنند. هینتون و بنجیو به همراه جاکوب پاچوکی، دانشمند ارشد OpenAI، جک کلارک از بنیانگذاران Anthropic و اریک هورویتز، مدیر ارشد علمی مایکروسافت، همچنین مقاله‌ای را نوشتند که هشدار می‌دهد هوش مصنوعی خودبهبود می‌تواند باعث ایجاد یک "انفجار اطلاعاتی" شود - از دولت‌ها می‌خواهند که نظارت بر توسعه سریع جامعه را قبل از انطباق بر روی محیط‌ها انجام دهند.

امضاکنندگان نامه از درخواست برای کاهش سرعت توسعه هوش مصنوعی خودداری می کنند. در عوض، آنها از سازمان‌هایی که در حال توسعه یا آزمایش مدل‌های دارای قابلیت سایبری هستند، می‌خواهند که فوراً استانداردهای مهار با اطمینان بالا را اتخاذ کنند، در حالی که دولت‌ها به سمت یک رژیم نظارت رسمی‌تر تلاش می‌کنند.

بعد چه اتفاقی می افتد

این پیشنهاد با شانس های زیادی روبرو است. یک نهاد بین‌المللی با اختیار بر مهار هوش مصنوعی به هماهنگی بین دولت‌هایی نیاز دارد که در حال حاضر نمی‌توانند در مورد اینکه آیا قوانین الزام‌آور اصلاً ضروری هستند یا خیر توافق کنند. اتحادیه اروپا معتقد است که قانون هوش مصنوعی کافی است. ایالات متحده طرفدار تعهدات داوطلبانه است. و چین مسیر نظارتی خود را دنبال می کند.

با این حال، نامه وزن قابل اندازه گیری را به بحثی می افزاید که به سرعت از حاشیه به جریان اصلی رسیده است. زمانی که تقریباً 400 دانشمند در 34 کشور - از جمله محقق‌ترین محققان این رشته - می‌گویند که تعهدات داوطلبانه کافی نیست، این سوال از این که آیا هوش مصنوعی به مهار قوی‌تری نیاز دارد به اینکه چه کسی آن را می‌سازد و با چه سرعتی، تغییر می‌کند.

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →