دو منبع آگاه به رویترز گفتند، در حالی که رهبران جهان برای مجمع عمومی سالانه سازمان ملل در نیویورک گرد هم می‌آیند، استارت‌آپ چینی DeepSeek از جمله شرکت‌هایی است که این هفته به شورای امنیت سازمان ملل درباره خطرات ناشی از هوش مصنوعی توضیح می‌دهد.

شورای امنیت 15 عضوی قرار است در 23 سپتامبر برای بحث در مورد هوش مصنوعی و امنیت بین‌الملل تشکیل جلسه دهد - هفته‌ها پس از آن که چندین رهبر صنعت هوش مصنوعی خواستار کاهش هماهنگ توسعه سیستم‌های هوش مصنوعی قوی‌تر شدند و هشدار دادند که به زودی می‌توانند به تنهایی پیشرفت کنند و از کنترل انسان خارج شوند. برای زمینه بیشتر در مورد این داستان، [پوشش صنعت هوش مصنوعی] (https://aibuzzwire.news) را ببینید.

چه کسی در اتاق خواهد بود

رویترز هفته گذشته گزارش داد، سام آلتمن، مدیر اجرایی OpenAI، قصد دارد در این نشست توضیحاتی ارائه دهد، جایی که دیپلمات‌ها همچنین انتظار مشارکت نمایندگان ارشد Anthropic را دارند.

یکی از منابع گفت: از طرف چینی، DeepSeek و دیگر شرکت‌های چینی هوش مصنوعی، از جمله Moonshot، برای اظهارنظر دعوت شده‌اند. این منبع هشدار داد که لیانگ ونفنگ، بنیانگذار DeepSeek، قصد شرکت در آن را ندارد، و اشاره کرد که برنامه ها همچنان روان هستند و ممکن است در آخرین لحظه تغییر کنند. DeepSeek و Moonshot بلافاصله به درخواست‌ها برای اظهار نظر پاسخ ندادند.

این جلسه در طول یک هفته برگزار می شود که نیویورک از قبل مملو از دیپلماسی هوش مصنوعی است، زیرا رهبران جهان برای مجمع عمومی سالانه سازمان ملل جمع می شوند و جلسات جانبی در اطراف آن زیاد می شود. این زمان‌بندی هر دو راه را برای DeepSeek کاهش می‌دهد: این شورا نشان می‌دهد که آزمایشگاه‌های پیشرو چین اکنون به‌عنوان صداهای ضروری در خطر هوش مصنوعی مرزی تلقی می‌شوند، حتی در شرایطی که موضع رسمی پکن همچنان به رد لفاظی‌های کندی که از سیلیکون ولی ظهور می‌کند، ادامه می‌دهد.

ترکیب غیرمعمول - برجسته‌ترین مدیر هوش مصنوعی آمریکا که دستور کار شورای امنیت را با شناخته‌شده‌ترین آزمایشگاه وزن باز چین به اشتراک می‌گذارد - جلسه روز چهارشنبه را به مهم‌ترین جلسه هوش مصنوعی تبدیل می‌کند که شورا از زمانی که برای اولین بار این موضوع را مطرح کرده است، برگزار کرده است.

از "اسب فراری" تا Rogue AI

شورای امنیت سازمان ملل که وظیفه حفظ صلح و امنیت بین‌المللی را بر عهده دارد، برای اولین بار در مورد خطرات هوش مصنوعی در سال 2023 تشکیل جلسه داد. حتی در آن زمان، خطوط گسل قابل مشاهده بود: چین هشدار داد که این فناوری نباید به یک "اسب فراری" تبدیل شود، در حالی که ایالات متحده نسبت به استفاده از آن برای سانسور یا سرکوب مردم هشدار داد.

سه سال بعد، بحث از فرضیات به گزارش های حوادث تغییر کرد. آنتونیو گوترش، دبیرکل سازمان ملل متحد، هفته گذشته به رهبران جهان هشدار داد که پیشرفت سریع هوش مصنوعی خطراتی را به همراه دارد که نمی‌توان آنها را نادیده گرفت و او را در تضاد با دونالد ترامپ، رئیس‌جمهور آمریکا قرار می‌دهد، که گفته است پادمان‌های موجود کافی هستند و چین از شک و تردید در توسعه هوش مصنوعی سود می‌برد.

سکوت عمومی پکن در مورد خطر فاجعه بار

یکی از مشاهدات برجسته‌تر در گزارش رویترز مربوط به چیزهایی است که رهبران آزمایشگاه چین نگفته‌اند. بر خلاف روسای آزمایشگاه‌های مرزی ایالات متحده مانند OpenAI و Anthropic، رهبران توسعه‌دهندگان مدل برتر چین به ندرت علنی این احتمال را مطرح کرده‌اند که سیستم‌های هوش مصنوعی با قابلیت فزاینده می‌توانند انسان‌ها را فریب دهند، از کنترل فرار کنند یا آسیب‌های فاجعه‌باری به بار آورند – و از زمان تشدید بحث در ایالات متحده در سپتامبر تا حد زیادی در مورد این خطرات سکوت کرده‌اند.

رسانه‌های دولتی چین به نوبه خود، درخواست‌ها برای کاهش سرعت توسعه هوش مصنوعی را رد کرده‌اند که ناشی از «کتاب بازی‌های جنگ سرد» است - به گفته پکن، تلاشی با هدف حفظ سلطه واشنگتن در فناوری‌های پیشرفته و حذف کامل پکن از سیستم مدیریت جهانی هوش مصنوعی.

بنابراین ظاهر DeepSeek در این شورا دارای اهمیت دوگانه است: این به طور همزمان مشهودترین تعامل پکن با مکالمه جهانی در مورد خطر هوش مصنوعی است و آزمایشی برای اینکه آیا آزمایشگاه های چینی اصلاً با چارچوب های خطر فاجعه آمیز درگیر خواهند شد یا خیر.

مذاکرات پیش از ترامپ و شی

نشست شورای امنیت به تنهایی نمی ماند. اسکات بسنت، وزیر خزانه داری آمریکا در 21 سپتامبر، پس از دیدار پیش از مذاکرات برنامه ریزی شده ترامپ با شی جین پینگ، رئیس جمهور چین در اواخر این هفته در واشنگتن، گفت که مقامات ارشد ایالات متحده و چین توافق کردند که مذاکرات بیشتری در مورد ایمنی هوش مصنوعی داشته باشند.

این توالی – نشستی پرمخاطره در واشنگتن که به موازات بحث شورای امنیت در نیویورک برگزار می‌شود – نشان می‌دهد که هوش مصنوعی چگونه به طور کامل از یک پرونده سیاست فنی به مرکز روابط دوجانبه منتقل شده است.

چه چیزی را تماشا کنیم

سه سوال در مورد جلسه چهارشنبه وجود دارد. آیا لیانگ ونفنگ نظر خود را تغییر می دهد و شرکت می کند. این که آیا بیانیه DeepSeek با خطرات اصلی - فریب، از دست دادن کنترل - که همتایان آمریکایی آن تأکید می‌کنند، درگیر می‌شود یا در زمینه امن‌تر دسترسی عادلانه و حقوق توسعه باقی می‌ماند. و اینکه آیا شورا می تواند چیزی فراتر از مواضع آشنا تولید کند یا خیر.

کارنامه شورا در زمینه هوش مصنوعی ضعیف است: اولین جلسه در سال 2023، هشدار دبیرکل در این ماه، و بدون چارچوب الزام آور. اما به عنوان صحنه ای برای بحث در حال ظهور ایالات متحده و چین در مورد اینکه چه کسی قوانین هوش مصنوعی مرزی را تعیین می کند - و ترس های چه کسی جدی گرفته می شود - رقبای کمی دارد.

---

از هوش مصنوعی جلوتر بمانید

آخرین اخبار، تحلیل ها و پیشرفت های هوش مصنوعی را دریافت کنید - همه در یک مکان.

بیشتر بخوانید اخبار هوش مصنوعی →