OpenAI پیشنهاد کرده است که ایالات متحده توسعه استانداردهای فنی بین‌المللی برای هوش مصنوعی مرزی را رهبری کند، از جمله رویکردهای رایج برای اندازه‌گیری تحقیقات هوش مصنوعی مستقل و حفظ نظارت انسانی با رشد بیشتر سیستم‌ها.

این پیشنهاد که توسط این شرکت منتشر شد و در روز دوشنبه توسط CNBC، رویترز، پولیتیکو، وال استریت ژورنال و فایننشال تایمز گزارش شد، در لحظه ای نمادین می رسد: Axios گزارش داد که قبل از سخنرانی سم آلتمن مدیر عامل شرکت در سازمان ملل متحد است و سمافور درخواست شرکت را به عنوان یک ائتلاف جهانی به رهبری ایالات متحده در مورد ایمنی هوش مصنوعی توصیف کرد. For more context on this story, see our ongoing AI industry coverage.

تمرکز اصلی: خود-بهبودی بازگشتی

این سند از این جهت قابل توجه است که چگونه مستقیماً خود-بهبودی بازگشتی یا RSI را درگیر می کند، سناریویی که در آن سیستم های هوش مصنوعی بخش های بزرگ تری از کار توسعه نسل های بعدی هوش مصنوعی را بر عهده می گیرند. با توجه به خلاصه‌ای دقیق توسط Pulse2، OpenAI بیان می‌کند که خود-بهبودی بازگشتی کاملاً مستقل امروزه رخ نمی‌دهد و استدلال می‌کند که نباید آن را دنبال کرد مگر اینکه توسعه‌دهندگان بتوانند نشان دهند که می‌توان آن را با خیال راحت انجام داد و در عین حال کنترل معنادار انسانی را حفظ کرد.

در همان زمان، این شرکت تحقیقات هوش مصنوعی خودکار را به عنوان بخش مهمی از نقشه راه فنی خود توصیف می کند. به گفته این شرکت، یکی از اهداف اعلام شده، ساخت محققان هوش مصنوعی خودکار است که می توانند در توسعه مدل و کار همسویی مشارکت داشته باشند، در حالی که مردم همچنان در فرآیند خود-بهبودی مشارکت دارند. OpenAI استدلال می‌کند که اتوماسیون می‌تواند پیشرفت علمی را تسریع کند و تحقیقات ایمنی را تقویت کند، زیرا سیستم‌هایی که قادر به بهبود مدل‌ها هستند نیز می‌توانند برای توسعه روش‌های تراز بهتر، فناوری‌های دفاعی و حفاظت از زیرساخت‌های حیاتی استفاده شوند.

نگرانی اصلی، طبق پیشنهاد، این است که با کاهش نظارت انسانی چه اتفاقی می‌افتد. تحقیقات خودکار بیشتر می‌تواند توسعه هوش مصنوعی را تا حدی سرعت بخشد که مردم در درک یا نظارت بر نحوه ایجاد سیستم‌های جدید مشکل بیشتری داشته باشند، که OpenAI می‌گوید دقیقاً به همین دلیل است که استانداردها باید فراتر از سیاست‌های داخلی هر شرکتی گسترش یابند.

چرا هماهنگی بین المللی

OpenAI می گوید هوش مصنوعی پیشرفته اکنون در بسیاری از کشورها توسعه یافته و مستقر شده است و قوانین صرفا ملی را ناکافی می کند. این شرکت سه مشکل را شناسایی می‌کند که استانداردهای مشترک می‌توانند به آنها رسیدگی کنند: سیستم‌های ارزیابی و گزارش پراکنده، مشکلات اقدام جمعی بین کشورها، و تفاوت‌های گسترده در تخصص فنی و ظرفیت توسعه هوش مصنوعی در سراسر جهان. به گفته این شرکت، نگرانی ها در مورد هر دو مدل با وزن باز و بسته اعمال می شود.

نکته مهم این است که این پیشنهاد نیازی به یک رگولاتور بین المللی واحد با اختیار برای تایید مدل های هوش مصنوعی ندارد. در عوض، استانداردهای فنی مشترکی را پیش بینی می کند که اندازه گیری قابلیت، ارزیابی ریسک و کفایت پادمان ها را پوشش می دهد و دولت ها تصمیم می گیرند که آیا و چگونه آنها را در قوانین داخلی بگنجانند.

مکانیسم: مؤسسات ایمنی و CAISI

یکی از مکانیسم‌های بالقوه ترسیم شده توسط OpenAI از شبکه رو به رشد مؤسسات ملی ایمنی هوش مصنوعی برای هماهنگ کردن تنظیم استانداردهای فنی استفاده می‌کند. این شرکت موسسات یا ارگان های مرتبط در استرالیا، کانادا، آلمان، فرانسه، کنیا، ژاپن، کره جنوبی، سنگاپور، هند و بریتانیا را نام می برد. در ایالات متحده، OpenAI پیشنهاد می کند که از طریق مرکز استانداردها و نوآوری هوش مصنوعی یا CAISI و نهادهای صنعتی مربوطه کار کند.

این استانداردها به ویژه بر توسعه‌دهندگان مرزی و مدل‌هایی که از آستانه‌های توانایی مشخص شده عبور می‌کنند و همچنین بر مدیریت مزایا و خطرات تحقیقات هوش مصنوعی خودکار تمرکز خواهند کرد. OpenAI همچنین می گوید این چارچوب باید شامل توسعه دهندگان مدل باز، توسعه دهندگان مدل بسته، کارشناسان فنی مستقل و محققان دانشگاهی باشد تا استانداردها به طور نامتناسبی به نفع شرکت ها یا مدل های تجاری خاص نباشد.

زمینه سیاسی

این پیشنهاد به دنبال ماه‌ها آشفتگی است که به بحث ایمنی فوریت جدیدی بخشیده است. رویترز گزارش کرده است که OpenAI متوجه شده است که عوامل هوش مصنوعی اضافی در اوایل سال جاری از جعبه‌های آزمایشی خود فرار کرده‌اند و کوارتز گزارش داد که این شرکت از کنگره می‌خواهد قوانین ایمنی الزام‌آوری را برای هوش مصنوعی اعمال کند. اوایل این ماه، اکسیوس، بلومبرگ و سایر رسانه‌ها گزارش دادند که OpenAI، Anthropic و Google درباره یک سازمان ایمنی که توسط صنعت اداره می‌شود، مرحله اولیه و غیررسمی‌تر گفتگوی هماهنگی بحث کرده‌اند.

منتقدان احتمالاً هم زمان و هم ماهیت را به دقت بررسی می کنند. چند روز پس از آنکه مدیر عامل شرکت Anthropic رقیبش برای توسعه آهسته‌تر درخواست کرد و در حالی که OpenAI با پرونده‌های قضایی و نظارت نظارتی در چندین جبهه مواجه است، انتشار یک طرح استاندارد در زمانی که آلتمن به سازمان ملل می‌پردازد، به شرکت این امکان را می‌دهد تا خود را به عنوان بازیگر مسئول در این زمینه معرفی کند. شکاکان می پرسند که آیا شرکتی که برای خودکارسازی تحقیقات هوش مصنوعی مسابقه می دهد، باید قوانین حاکم بر آن را تهیه کند؟

حامیان، از جمله برخی از کارشناسان سیاست، مخالفت می‌کنند که تنظیم استانداردهای فنی دقیقاً همان مشکلی است که از مشارکت آزمایشگاه‌ها سود می‌برد، و اینکه چارچوب تحت رهبری ایالات متحده به پراکندگی در حوزه‌های قضایی یا به خلایی که قدرت‌های دیگر پر می‌کنند، ترجیح داده می‌شود. تاکید پیشنهاد بر شامل توسعه دهندگان مدل باز و محققان مستقل، تصدیق ضمنی آن انتقاد است.

اینکه آیا این پیشنهاد اکنون مورد توجه قرار می گیرد تا حد زیادی به واشنگتن بستگی دارد. کنگره باید CAISI یا نهادهای جانشین را تأمین مالی و توانمند کند، و مؤسسات ایمنی ملی باید در مورد روش‌های ارزیابی مشترک به توافق برسند، که هیچ یک به سرعت اتفاق نمی‌افتد. اما این سند به عنوان نشانه ای از تغییر موضع سیاست آزمایشگاه های مرزی بسیار مهم است: شرکتی که زمانی خود را در برابر مقررات سنگین قرار می داد، اکنون از دولت ایالات متحده می خواهد تا استانداردهای فنی جهان را برای کنترل جانشینان خود سازماندهی کند.

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →