پادشاه چارلز سوم روز پنجشنبه هشداری جدی در مورد "خطرات وجودی" هوش مصنوعی صادر کرد و خطاب به مدیران Nvidia، Google DeepMind و OpenAI که در املاک Dumfries House او در اسکاتلند برای نشستی در سطح بالا درباره آینده فناوری گرد هم آمده بودند، صحبت کرد.

پادشاه به رهبران صنعت مونتاژ شده گفت که برای مقابله با خطرات ناشی از سیستم‌های هوش مصنوعی قوی‌تر، به ویژه اگر این فناوری در نهایت توسط عوامل مخرب کنترل شود، ضروری است. For more context on this story, see our ongoing AI news.

بر اساس گزارش ای بی سی نیوز و چندین رسانه دیگر، پادشاه به رهبرانی که در املاک آیرشایر جمع شده بودند، گفت: «به نظر می رسد به اندازه کافی خطرات وجودی این فناوری ها را در نظر بگیریم که به دست افراد نادرست بیفتند و از آنها در راه های بالقوه فاجعه بار استفاده شوند.

یک پیام دوگانه: وعده و خطر

آدرس پادشاه رد کامل فناوری نبود. او اذعان کرد که هوش مصنوعی دارای پتانسیل بسیار خوبی برای خیر است، به ویژه به علوم زیستی و پزشکی اشاره کرد، جایی که ابزارهای هوش مصنوعی به طور فزاینده ای برای تسریع تحقیقات و بهبود نتایج بیماران مورد استفاده قرار می گیرند.

اما او این خوش بینی را با این احتیاط همراه کرد که خود سازندگان این فناوری به طور فزاینده ای هشدار داده اند که سیستم های پیشرفته می توانند ظرفیت های تاریک تری را توسعه دهند، "شاید حتی جان خود را از بین ببرند".

پادشاه همچنین خواستار اعمال پادمان‌هایی شد تا قبل از اینکه برای کنترل مسیر این فناوری دیر شود، و تأثیرات زیست‌محیطی توسعه هوش مصنوعی را مطرح کرد، موضوعی که با توجه به ایجاد فشار در شبکه‌های برق در چندین کشور توسط مراکز داده مورد بررسی قرار گرفت.

چه کسانی در اجلاس اسکاتلند شرکت کردند

فهرست مهمانان به عنوان بخشی از قدرتمندترین چهره های صنعت هوش مصنوعی خوانده می شود. به گزارش ای بی سی نیوز، شرکت کنندگان شامل جنسن هوانگ، بنیانگذار و مدیر اجرایی انویدیا، دمیس حسابیس بنیانگذار گوگل دیپ مایند و سارا فریار، مدیر مالی OpenAI بودند. کانیشکا نارایان، وزیر هوش مصنوعی بریتانیا نیز حضور داشت.

بر اساس تصاویر و زیرنویس های توزیع شده توسط رویترز، هوانگ برای گفتگو با پادشاه دعوت شد تا درباره مکانیسم های ایمنی صنعت صحبت کند. پدر پائولو بنانتی، مشاور پاپ که از دولت‌ها خواسته است تا توسعه هوش مصنوعی را کند کنند، نیز انتظار می‌رود در این گفتگوها شرکت کند.

انتخاب مکان و کنفرانس مهم است. سلطنت بریتانیا هیچ قدرت نظارتی ندارد، اما پادشاه سابقه طولانی در مشارکت عمومی در مورد خطرات فناوری نوظهور دارد، و این اجلاس در زمانی که درخواست‌ها برای نظارت در هر دو سوی اقیانوس اطلس تشدید می‌شود، میز مشترکی را به مقامات ارشد صنعت ارائه داد.

بحث احیا شد

این گردهمایی در بحبوحه تجدید بحث عمومی در مورد خطر هوش مصنوعی برگزار می شود. این بحث پس از اینکه دو محقق Anthropic هشدار دادند که فناوری به سرعت در حال پیشرفت می تواند منجر به انقراض انسان در آینده ای نه چندان دور شود، دوباره در کانون توجه قرار گرفت، نظراتی که به همان اندازه پوشش و انتقادات گسترده ای را برانگیخت.

داریو آمودی، مدیر اجرایی Anthropic به طور جداگانه از شرکت ها خواسته است تا سرعت توسعه هوش مصنوعی را کاهش دهند. پاپ لئو چهاردهم از دولت‌های سراسر جهان خواسته است که توسعه سیستم‌های هوش مصنوعی را کاهش دهند و اثرات مخرب آن‌ها را کاهش دهند، در حالی که دونالد ترامپ، رئیس‌جمهور ایالات متحده نیز در این مناظره مداخله کرده است و مسئله حکمرانی هوش مصنوعی را به یک موضوع سیاسی واقعی جهانی تبدیل می‌کند تا یک موضوع کاملاً فنی.

در مقابل این پس‌زمینه، نگرانی از اینکه تلاش‌های ایمنی هوش مصنوعی از توسعه سیستم‌های توانمندتر عقب مانده است، افزایش می‌یابد. در هفته‌های اخیر، این بحث بر این موضوع متمرکز شده است که آیا صنعت می‌تواند و باید خود را تنظیم کند، با شک و تردیدهایی که آیا مدیرانی که خواستار احتیاط هستند ممکن است انگیزه‌های پنهانی داشته باشند، مانند شکل دادن به قوانینی که پیشروی رقابتی شرکت‌های خاص را حفظ می‌کند.

هیچ قانون الزام آور مورد انتظار نیست

برگزارکنندگان هرگز جلسه اسکاتلند را به عنوان یک مذاکره در نظر نگرفتند. به گزارش ای بی سی نیوز، انتظار نمی رود که این نشست به توافقات الزام آور منجر شود. هدف آن، حداقل به صورت اسمی، اکتشافی است: آیا مجموعه ای مشترک از اصول می تواند نحوه اعمال هوش مصنوعی را در سراسر مرزها و صنایع راهنمایی کند.

کاخ باکینگهام گفت که در این بحث ها بررسی خواهد شد که آیا هوش مصنوعی می تواند «نه تنها به عنوان یک محرک توانایی و کارایی، بلکه به عنوان ابزاری که کرامت انسانی را حفظ می کند و به شکوفایی مردم و کره زمین کمک می کند» هدایت شود.

این کادربندی موضوعی را منعکس می‌کند که پادشاه بارها به آن بازگشته است: این که سؤال تنها این نیست که آیا می‌توان هوش مصنوعی را ایمن کرد، بلکه این است که برای چه چیزی باید باشد. اظهارات روز پنجشنبه این نکته را به هشداری در مورد مالکیت و کنترل تشدید کرد، تأکیدی به‌ویژه متفاوت از ترس‌های متمرکز بر قابلیت که بر بیشتر بحث‌های مربوط به ریسک هوش مصنوعی غالب است.

بعد چه اتفاقی می افتد

بعید است که این اجلاس به تنهایی سیاستی ایجاد کند، اما به مجموعه ای از تلاش های رسمی که در حال حاضر در حال انجام است، شتاب می بخشد. بریتانیا از اجلاس های قبلی خود در زمینه ایمنی هوش مصنوعی جایگاه خود را به عنوان یک گردهمایی در زمینه ایمنی هوش مصنوعی نشان داده است و حضور وزیر اختصاصی هوش مصنوعی نشان می دهد که دولت قصد دارد با توسعه دهندگان هوش مصنوعی آمریکایی و چینی ارتباط برقرار کند.

برای شرکت‌های حاضر در اتاق، حساب دیفرانسیل و انتگرال ظریف است. Nvidia، DeepMind و OpenAI همگی با فشار تجاری برای ارسال سیستم‌های با قابلیت فزاینده مواجه هستند، حتی اگر محققان خودشان هشدارهایی در مورد آنچه ممکن است در نهایت این سیستم‌ها انجام دهند منتشر می‌کنند. احضار سلطنتی این تنش را حل نمی کند، اما تضمین می کند که تنش قابل مشاهده است.

پیام اصلی پادشاه، مبنی بر اینکه تدابیر امنیتی باید قبل از اینکه فناوری از توانایی هر کسی برای اداره آن فرار کند، برسد، در هفته‌ای به گوش می‌رسد که گفتمان ایمنی صنعت به‌طور غیرمعمولی پر سر و صدا بوده است، از افشای چندین رویداد ایمنی توسط OpenAI که شامل مدل‌های خود می‌شود تا تشدید اختلاف عمومی بین رهبری هوش مصنوعی مایکروسافت و Anthropic درباره نحوه طراحی سیستم‌های هوش مصنوعی.

این که آیا گردهمایی پنجشنبه به چیزی ملموس تر تبدیل می شود یا خیر، باید دید. اما با توجه به اینکه رهبران ارزشمندترین سازنده تراشه جهان و برجسته‌ترین آزمایشگاه‌های هوش مصنوعی در یک خانه روستایی اسکاتلندی نشسته‌اند، و حداقل توافق کردند که مخاطرات وجودی هستند، گفتگو در مورد اینکه چه کسی هوش مصنوعی را کنترل می‌کند و به نفع چه کسی است، قاطعانه به میدان رفت.

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →