براد اسمیت رئیس مایکروسافت به بی بی سی می گوید که هوش مصنوعی کمتر از شیر تنظیم شده است

به گفته رئیس مایکروسافت، شیر و ماشین لباسشویی در حال حاضر بیشتر از هوش مصنوعی تنظیم شده اند - و برد اسمیت استدلال می کند که دقیقاً عقب مانده است.

اسمیت در سخنانی که یکشنبه در مصاحبه با بی‌بی‌سی منتشر شد، خواستار قوانین ایمنی جهانی برای هوش مصنوعی شد، از جمله الزام قانونی برای گفتن یک «قربانی» هنگامی که سیستم آنها توسط یک عامل هوش مصنوعی سرکش نقض شده است، و چارچوبی برای تصمیم‌گیری زمانی که ارزیاب‌های مستقل باید محصول هوش مصنوعی را قبل از ارسال امضا کنند. اظهارات او او را به طور علنی با دونالد ترامپ رئیس جمهور ایالات متحده در تضاد قرار می دهد، که استدلال کرده است این بخش باید خود را تنظیم کند تا شرکت های آمریکایی جایگاه خود را در برابر رقبای چینی از دست ندهند. For more context on this story, see our ongoing breaking AI news.

اسمیت گفت: «در حال حاضر، ماشین لباسشویی شما بیشتر از هوش مصنوعی تابع قوانین ایمنی است. هر کارتن شیری که در خواربارفروشی می بینید مشمول قوانین ایمنی و بازرسی است.

یک ابزار و یک سلاح

اسمیت هوش مصنوعی را "ابزار و سلاح" توصیف کرد که نیاز فوری به تنظیم دارد و افزود: "بیایید همین امروز شروع کنیم."

پیشنهادات او ملموس تر از دیگ بخار معمولی بود. شرکت‌ها باید «ترمزهای اضطراری» را بسازند - چیزی که صنعت اغلب آن را سوئیچ‌های کشنده می‌نامد - که می‌تواند سیستم هوش مصنوعی را در صورت خارج شدن از کنترل، متوقف یا کند کند. شرکت‌ها باید از نظر قانونی ملزم به نوشتن گزارش‌های حادثه باشند و زمانی که هوش مصنوعی سرکش می‌شود به قربانیان اطلاع دهند. و ارزیابان مستقل دولتی باید قبل از انتشار، فناوری جدید هوش مصنوعی را بررسی کنند.

اسمیت گفت: "ما می دانیم که چگونه این کار را برای محصولات دیگر انجام دهیم." ما باید بر اساس آن دانش بسازیم و به نحوه اعمال آن در هوش مصنوعی فکر کنیم.

مداخله در یک هفته تب دار برای نظارت هوش مصنوعی رخ می دهد. چند روز قبل، ساتیا نادلا، مدیرعامل خود مایکروسافت، خواستار یک ترمز اضطراری شد که به انسان اجازه می‌دهد سیستم‌های هوش مصنوعی را در اواسط کار تعطیل کنند - موقعیتی چشمگیر برای رئیس یکی از بزرگترین فروشندگان هوش مصنوعی در جهان، و اکنون به نظر می‌رسد که دکترین شرکت است تا تفکر یک مدیر.

شکست با کاخ سفید

دیدگاه های اسمیت به شدت با دیدگاه های رئیس جمهورش متفاوت است. ترامپ بارها گفته است که "هر کسی که برنده هوش مصنوعی شود، برنده است" - و با درخواست روسای Anthropic، OpenAI و Google DeepMind که همگی از ایده کاهش سرعت توسعه هوش مصنوعی حمایت کرده اند، مخالفت کرده است.

با این حال اسمیت همچنین پیشنهاد کرد که اصطکاک کوچکتر از آنچه به نظر می رسد است. در پایان ماه گذشته، ترامپ میزبان رهبران OpenAI، Anthropic، Nvidia، SpaceX، Meta و Google در کاخ سفید بود، جایی که مدیران سندی را امضا کردند که از نظر اخلاقی الزام آور توصیف می‌شد و آنها را متعهد می‌کرد تا با حسابرسان مستقل کار کنند تا ارزیابی کنند که آیا سیستم‌های هوش مصنوعی آن‌ها مطابق خواسته‌شان کار می‌کند یا نه - و نه به «هک کردن یا دسترسی به سیستم‌های فنی به روش‌های ناخواسته».

اسمیت این بیانیه را تحسین کرد و گفت که مایکروسافت از امضای آن خوشحال است. اما، او افزود: "این یک قدم خوب است، یک قدم ضروری است... اما فکر نمی کنم دیگر کافی باشد."

او گفت: «شرکت‌های خوب آنچه را که شما می‌خواهید انجام می‌دهند». این شرکت ها هستند که آنقدرها مسئول نیستند که باید نگران آنها باشید.

چرا او فکر می کند که بریتانیا باید قوانین را بنویسد

پربارترین بخش ژئوپلیتیکی مصاحبه، تایید اسمیت از بریتانیا به عنوان نویسنده طبیعی قوانین هوش مصنوعی جهانی بود که به موسسه امنیت هوش مصنوعی بریتانیا اشاره کرد - که در دولت نخست وزیر سابق ریشی سوناک به عنوان موسسه ایمنی هوش مصنوعی راه اندازی شد - که قدرتمندترین مدل های جهان را قبل از انتشار آزمایش می کند.

اسمیت گفت: "در دنیای فناوری، در بخش فناوری، اکثر افرادی که من می شناسم می گویند، اگر از آنها بپرسید، نام کشوری را که در داشتن این قابلیت فنی پیشرو است، می گویند، بسیار ساده است. این بریتانیا است. آنها بهترین هستند."

او همچنین استدلال کرد که دولت ایالات متحده استانداردهای ساخت بریتانیا را راحت‌تر از مقررات به سبک بروکسل می‌پذیرد: «در واشنگتن دی سی، مردم به بریتانیا نگاه نمی‌کنند و به لندن آن‌طور که به بروکسل نگاه می‌کنند نمی‌نگرند – این یک نقطه قوت است».

پرونده او برای فوریت صریح بود. اسمیت گفت: «وقتی به عوامل هوش مصنوعی که از کنترل انسان فرار کرده‌اند نگاه می‌کنید، وقتی به مدل‌هایی نگاه می‌کنید که آنقدر قدرتمند هستند که امنیت سایبری جهان را به خطر می‌اندازند، می‌گویم: لحظه فرا رسیده است. بیایید آرام صحبت کنیم، شاید حتی آرام، اما محکم، و شروع کنیم به گرد هم آوردن مردم. امیدوارم این نقشی باشد که می توانیم به عنوان یک شرکت ایفا کنیم. امیدوارم این نقشی باشد که بریتانیا به عنوان یک کشور می تواند ایفا کند.»

یک صفحه تقسیم نادر در سیاست فنی

این غیرعادی است که یک رئیس شرکت در حال حاضر برای قوانین سخت‌تر در صنعت خود لابی کند در حالی که مدیر عامل او همین موضوع را از مرحله متفاوتی مطرح می‌کند. مداخلات دوئل مایکروسافت - ترمز اضطراری نادلا و فراخوان اسمیت برای گزارش اجباری حادثه، اعلان قربانی و ارزیابی مستقل - نشان می‌دهد که حداقل یکی از فروشنده‌های بزرگ به این نتیجه رسیده است که اعتماد، نه توانایی، به محدودیت الزام‌آور در پذیرش هوش مصنوعی تبدیل شده است.

آنها همچنین به دولت بریتانیا استدلال به موقع ارائه می دهند. وایت هال هفته گذشته را صرف جذب هشدارهای روسای اطلاعاتی خود کرده است، در حالی که وزرا بررسی می کنند که آیا به فراخوان بین المللی برای استانداردهای ایمنی هماهنگ هوش مصنوعی بپیوندند که واشنگتن تاکنون از امضای آن امتناع کرده است. وقتی رئیس مایکروسافت می‌گوید که بریتانیا «بهترین» برای نوشتن کتاب قوانین است، داونینگ استریت هم اعتبار می‌گیرد و هم دعوتنامه‌ای که نادیده گرفتن آن دشوار خواهد بود.

اینکه آیا قاب بندی اسمیت با کارتن شیر باعث تغییر هر رأی در واشنگتن می شود یا خیر، موضوع دیگری است. اما به عنوان بیانیه ای در مورد اینکه یکی از بزرگترین سازندگان هوش مصنوعی می خواهد بحث نظارتی به کجا کشیده شود - ترمزهای اجباری، گزارش اجباری، امضای مستقل - مصاحبه ممکن است به عنوان نشانه ای در تغییر از تعهدات داوطلبانه به قوانین قابل اجرا به یاد بیاید.

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →