«اگر منظورت این است، وزن‌ها را باز کن»: نامه باز ویروسی تماس کاهش سرعت هوش مصنوعی داریو آمودی را به چالش می‌کشد

ساعاتی پس از اینکه داریو آمودی، مدیر عامل آنتروپیک، مقاله خود را با عنوان «ما باید در مرز قدم برداریم» منتشر کرد و از دولت‌ها می‌خواست تا سرعت رقابت هوش مصنوعی را کاهش دهند، یک واکنش تند شروع به بالا رفتن از اخبار هکر شد و در نهایت به یکی از محبوب‌ترین داستان‌های روز تبدیل شد. استدلال آن، که در نامه‌ای سرگشاده توسط نویسنده و توسعه‌دهنده Jacob Gold بیان شد، به طرز خلع سلاح‌کننده‌ای ساده است: اگر Amodei در مورد کاهش سرعت هوش مصنوعی صادق باشد، یک قانون وجود دارد که او می‌تواند درخواست کند که واقعاً این کار را انجام دهد – و هیچ مدیر آزمایشگاه دیگری نمی‌تواند آن را پیشنهاد کند. هر مدل هوش مصنوعی را که یک شرکت به عموم ارائه می دهد ملزم کنید که به عنوان وزن باز منتشر شود.

نامه باز می شود و مستقیماً آمودی را مورد خطاب قرار می دهد: «من معتقدم که شما صادق هستید، بنابراین من از شما می خواهم که قانون متفاوتی را درخواست کنید، قانونی که در واقع سرعت کارها را کند می کند، حتی اگر به فداکاری واقعی از جانب شما نیاز باشد.» این نامه دقیقاً به این دلیل که با قوی‌ترین نسخه استدلال آمودی به جای رد آن درگیر است - و به دلیل اینکه در میانه‌ترین بحث سیاستی در هوش مصنوعی امروز قرار می‌گیرد، بحثی که ما هر روز در [پوشش خط‌مشی هوش مصنوعی] خود دنبال می‌کنیم (https://aibuzzwire.news) عصبی شده است.

آنچه آمودی پیشنهاد کرد، و چرا گلد می گوید که کار نخواهد کرد

مقاله آمودی Anthropic را به ارزیاب‌های شخص ثالث متعهد می‌کند و از دولت‌ها می‌خواهد که از هر شرکت مرزی دیگری بخواهند که این تعهد را رعایت کند. سام آلتمن در عرض چند ساعت موافقت کرد - طبق گفته پولیتیکو، او گفت: "من با داریو موافقم که باید از مرزها عبور کنیم." در ظاهر، این یک همسویی بی‌سابقه است: روسای دو آزمایشگاه با ارزش‌ترین آزمایشگاه‌های هوش مصنوعی در جهان علناً درخواست می‌کنند سرعتشان کاهش یابد.

نامه گلد استدلال می کند که دقیقاً همین اجماع است که باید ناظران را مشکوک کند. هشدار می‌دهد: «هر مقرراتی که شما درخواست کرده‌اید، به تصرف خود ختم می‌شود». ارزیاب‌های تعبیه‌شده، آستانه‌های محاسباتی، هماهنگی صنعت با معافیت‌های ضدانحصار - "همه اینها با کمک آزمایشگاه‌های مرزی فعلی نوشته می‌شوند، زیرا هیچ کس دیگری جزئیات فنی را به اندازه کافی برای نوشتن آن درک نمی‌کند." هنگامی که چنین قوانینی به قانون تبدیل می شوند، هر حادثه ای یک قانون اضافه می کند و هیچ یک از آنها حذف نمی شود و غول ها می توانند تیم های پیروی که رقبای کوچکتر را بیرون نگه می دارند، بپردازند. نامه به آمودی می گوید: «به جای اینکه سرعت شما را کاهش دهد، از موقعیت و سود شما محافظت می کند».

پیشنهاد متقابل وزنه باز

طرح‌های طلایی جایگزین عمداً صریح هستند. هر مدل هوش مصنوعی که یک شرکت به عموم ارائه می‌دهد باید با وزن‌های منتشر شده خود ارسال کند. مدل‌های داخلی و تحقیقاتی دست نخورده خواهند بود و دولت‌ها دسترسی به سیستم‌های منتشر نشده را حفظ می‌کنند – اما آنتروپیک باید وزن مدل مرزی بعدی خود را روز انتشار منتشر می‌کند و OpenAI نیز باید همین کار را انجام دهد. در پایان نامه آمده است: «هیچ چیزی برای بازی یا طفره رفتن وجود ندارد، حتی برای شما».

مکانیسم به جای بوروکراسی، مالی است. همانطور که گلد توضیح می‌دهد، تامین مالی برای توسعه مدل مرزی به ارزش‌گذاری‌هایی بستگی دارد که فرض می‌کنند وزن‌ها اختصاصی باقی می‌مانند. یک دستور این فرض را تغییر می‌دهد: اگر هر انتشار عمومی باز باشد، مزیت رقابتی به کسی که بهترین مدل را آموزش می‌دهد به جای کسی که دسترسی به آن را می‌فروشد، جریان می‌یابد، حق بیمه تعبیه‌شده در ارزش‌گذاری‌های خصوصی کاهش می‌یابد، و پول موجود برای دوره آموزشی بعدی کاهش می‌یابد - «در هر آزمایشگاه به یکباره، بدون اینکه تنظیم‌کننده چیزی تصمیم بگیرد». این در واقع یک استدلال است که انتظارات بازار از مدل های بسته موتور مسابقه است و حذف این انتظار باعث حذف موتور می شود.

چرا Amodei، به طور خاص

پرونده این نامه که چرا آمودی تنها فردی است که می تواند این پیشنهاد را ارائه دهد، بر اساس کارنامه او ساخته شده است و قابل احترام است. گلد به او اعتبار می‌دهد که OpenAI را در پایان سال 2020 ترک کرد و آنتروپیک را «زمانی که حرکت شغلی ایمن ماندن بود»، با حمایت از مقررات صنعت خودش برای سال‌ها و با فشار بر کنترل‌های صادراتی که بازار خودش را کوچک می‌کرد، تأسیس کرد. او خاطرنشان می کند که آنتروپیک خود را به عنوان یک شرکت عام المنفعه با یک مأموریت قانونی - "توسعه و نگهداری مسئولانه هوش مصنوعی پیشرفته به نفع درازمدت بشریت" - که به رهبری آن اجازه می دهد آسیب مالی را که چنین قانونی وارد می کند، جذب کند. گلد مشاهده می‌کند که مقاله خود آمودی، آنتروپیک از مقررات حمایت می‌کند «حتی زمانی که ما را متهم به هیاهو، «دومریسم» یا دستگیری نظارتی می‌کند».

شکاکان به ضد استدلال‌های آشکار توجه می‌کنند و نامه به طور کامل به آنها پاسخ نمی‌دهد: وزن‌های باز استفاده نادرست و همچنین پیشرفت را سخت‌تر می‌کنند، دستور وزنه‌های باز با مخالفت شدید سرمایه‌گذاران هر آزمایشگاه مواجه می‌شود و منتقدان مواضع قبلی آمودی در مورد مدل‌های باز چینی پژواک دعواهای قدیمی را در پیشنهاد خواهند شنید. اما چالش اصلی نامه به اتخاذ سیاست آن بستگی ندارد. بستگی به تنشی دارد که صراحتاً نام می‌برد: آزمایشگاهی که از دولت‌ها می‌خواهد تا سرعت دیگران را کاهش دهند، در حالی که ارزش‌گذاری خودش به پیشروی بستگی دارد، هنوز چیزی که برایش هزینه داشته باشد، نخواسته است.

بحثی که اکنون اجتناب ناپذیر است

اینکه آمودی پاسخ دهد یا نه تقریباً دور از ذهن است. ظرف یک روز، آزمایشگاه‌های مرزی از رقابت بر سر توانایی به توافق بر سر نیاز به سرعت حرکت کردند، و پاسخ عمومی از پرسیدن اینکه آیا هوش مصنوعی خطرناک است به این سؤال که آیا افرادی که در مورد آن هشدار می‌دهند می‌توان باور کرد تغییر کرد. نامه گلد - چند صد کلمه از جزئیات سیاستی که حول یک سوال ناراحت کننده پیچیده شده است - به تندترین بیان این شک بدل شده است، و ویروسی بودن آن نشان می دهد که بحث سرعت نه فقط در واشنگتن، بلکه در علنی، در پلتفرم هایی مانند هکر نیوز، جایی که جامعه اوزان باز سال هاست که این استدلال را تغییر می دهد، انجام می شود.

[از هوش مصنوعی جلوتر بمانید] (https://aibuzzwire.news)

مقررات، وزنه های باز، و مبارزه بر سر سرعت هوش مصنوعی - بدون هیاهو پوشش داده شده است.

اخبار هوش مصنوعی را بیشتر بخوانید →