مدیران ارشد OpenAI و Anthropic روز چهارشنبه در شورای امنیت سازمان ملل متحد سخنرانی کردند، در یک جفت جلسات توجیهی نادر که آینده حکمرانی هوش مصنوعی را در برابر قدرتمندترین نهاد دیپلماتیک جهان قرار داد - حتی زمانی که رئیس جمهور دونالد ترامپ نظارت بین المللی هوش مصنوعی را به عنوان یک "طرح جهانی گرا" رد کرد.
بر اساس گزارش گاردین، رویترز و سایر رسانه ها، سام آلتمن، که شخصاً در میز نعل اسبی شورا صحبت می کرد، و داریو آمودی که با تماس ویدیویی به آن ملحق شد، از جلسات توجیهی جداگانه خود در طول هفته سطح بالای مجمع عمومی سازمان ملل استفاده کردند تا استدلال کنند که هوش مصنوعی سریعتر از هر دولت واحدی پیشرفت می کند. For more context on this story, see our ongoing latest AI developments.
یک رنسانس یا یک انقلاب صنعتی
آلتمن که تقریباً ده دقیقه صحبت کرد، این لحظه را به عنوان یک انشعابی در جاده برای فناوری شرکتش در حال ساختن است.
آلتمن به شورا گفت: «ما یک انتخاب در مقابل خود داریم. هوش مصنوعی می‌تواند بیشتر شبیه یک رنسانس جدید خلاقیت و اکتشاف باشد یا بیشتر شبیه یک انقلاب صنعتی جدید با تحولات و آشفتگی باشد.»
به گفته گاردین، او این هشدار را با یک پیش‌بینی فروش همراه کرد: رئیس OpenAI از مزایای هوش مصنوعی برای بهره‌وری و در عین حال اذعان به پتانسیل آن برای سوءاستفاده، استفاده کرد. و او استدلال کرد که اگر قرار است هوش مصنوعی به صورت دموکراتیک توسعه یابد، مهم‌ترین تصمیم‌ها را نمی‌توان تنها توسط آزمایشگاه‌های سانفرانسیسکو اتخاذ کرد، بلکه باید از طریق فرآیندهای دموکراتیک و توسط دولت‌هایی که در قبال افرادی که به آنها خدمت می‌کنند پاسخگو باشند - آینده‌ای که در آن هوش مصنوعی توسط نهادهای دموکراتیک هدایت می‌شود نه آینده‌ای که مردم احساس می‌کنند فناوری «کاری برای آنها انجام می‌شود».
آلتمن همچنین به شورا درباره غرق شدن در چیزی که او آن را نابودی می نامید هشدار داد، در عوض از آنچه او به عنوان یک راه میانه بر اساس سه اصل توصیف کرد دفاع کرد: سیستم های هوش مصنوعی باید تحت کنترل انسان باقی بمانند، هوش مصنوعی باید برای مردم مفید باشد - از کمک به پزشکان در درمان بیماران تا تقویت کارآفرینان - و این فناوری باید افراد را به صورت فردی توانمند کند.
از روبات های قاتل تا ابرهوش
جلسات توجیهی یک هفته را در بر می گیرد که در آن دستور کار سازمان ملل در مورد هوش مصنوعی تقریباً همه ترس هایی را که این فناوری برمی انگیزد، در بر می گیرد. پوشش خبری آسوشیتدپرس از این جلسات اشاره کرد که رهبران متوجه شدند که در مورد همه چیز از «ربات‌های قاتل» - سلاح‌های خودمختار که می‌توانند اهداف را بدون دخالت انسان انتخاب کنند - گرفته تا چشم‌انداز سیستم‌های فوق‌هوشمندی که می‌توانند از کنترل هر کسی خارج شوند، بحث می‌کنند.
این محدوده دقیقاً به همین دلیل است که جلسه شورای امنیت برای شرکت کنندگان آن اهمیت داشت. هوش مصنوعی از یک موضوع نظارتی ویژه که توسط وزارتخانه‌های بازرگانی مدیریت می‌شود به موضوعی که توسط همان نهادی که تکثیر تسلیحات هسته‌ای و درگیری‌های مسلحانه را مدیریت می‌کند، مورد بحث قرار گرفته است، در حالی که ایالات متحده، چین و قدرت‌های اروپایی همگی دیدگاه‌های متفاوتی را در مورد اینکه چه کسی باید قوانین را تعیین کند، پیش می‌برد.
هشدار آمودی از لینک ویدیویی
آدرس آمودی لحن احتیاطی بیشتری داشت. با تکرار مضامین از پست وبلاگ 12 سپتامبر که خواستار افزایش همکاری جهانی در زمینه هوش مصنوعی بود، مدیر اجرایی Anthropic از توافق‌های بین‌المللی خاص، از جمله ممنوعیت استفاده از هوش مصنوعی برای توسعه سلاح‌های بیولوژیکی و استانداردهای جهانی برای آزمایش مدل‌های جدید هوش مصنوعی قبل از استقرار، حمایت کرد.
به گزارش گاردین، آمودی گفت: «اگر مدیریت ضعیفی داشته باشد، حتی معتقدم هوش مصنوعی می‌تواند خطری برای کل بشریت باشد. او همچنین تاکید کرد که "در آنتروپیک، ما معتقدیم که بهترین سابقه را در صنعت برای جلوگیری از این خطرات داریم."
بر اساس پوشش خبرگزاری آنادولو، هر دو مدیر اجرایی به شورا گفتند که هیچ کشور یا شرکتی نباید این فناوری را کنترل کند.
شانه سرد واشنگتن
جلسات توجیهی در یک پس‌زمینه مشخص آشکار شد: ترامپ این هفته علناً ایده نظارت بین‌المللی هوش مصنوعی را رد کرد و آن را به عنوان یک «طرح جهانی‌گرا» رد کرد، همانطور که CNBC و سایر رسانه‌ها گزارش دادند. ایالات متحده با توافقات الزام آور بین المللی هوش مصنوعی مخالفت کرده است و موضع دولت توسط دیپلمات های آمریکایی در نشست های سازمان ملل در مورد هوش مصنوعی و امنیت بین المللی تکرار شد.
همچنین شکافی بین لفاظی دیپلماتیک آلتمن و فعالیت سیاسی شرکت او در داخل وجود دارد. گاردین اشاره کرد که رئیس OpenAI، گرگ براکمن، وابسته به کمیته اقدام سیاسی Leading the Future است که بیش از 100 میلیون دلار جمع آوری کرده و میلیون ها دلار را صرف هدف قرار دادن نامزدهایی کرده است که از مقررات قوی تر صنعت هوش مصنوعی حمایت می کنند.
از پیش نمایش تا تریبون
جلسات توجیهی روز چهارشنبه بیش از یک هفته تشدید دیپلماسی در مورد خطر هوش مصنوعی را محدود می کند. رویترز برای اولین بار در 18 سپتامبر گزارش داد که آلتمن در هفته مجمع عمومی شورا را توضیح خواهد داد. به گزارش گاردین، این جلسات به دنبال هشدارهای محققان Anthropic در اوایل این ماه مبنی بر اینکه هوش مصنوعی پیشرفته می‌تواند خطرات فاجعه‌باری از جمله برای بقای بشریت در این دهه ایجاد کند، دنبال می‌شود - هشدارهایی که آمودی را بر آن داشت تا خواستار کاهش سرعت توسعه هوش مصنوعی شود، موضعی که توسط OpenAI، گوگل و ایلان ماسک حمایت می‌شود.
همانطور که AI Buzz Wire در روز سه شنبه گزارش داد، DeepSeek، شرکت چینی هوش مصنوعی، قرار بود این هفته به شورا اطلاع رسانی کند - یک موضوع غیرعادی که در آن شورای امنیت از رهبران شرکت های هوش مصنوعی آمریکایی و چینی رقیب در چند روز شنیده است.
سمبولیسم در مقابل جوهر
شورای امنیت هیچ مرجع نظارتی بر توسعه هوش مصنوعی ندارد و جلسه روز چهارشنبه هیچ تعهد الزام آور ایجاد نکرد. اما به سختی می توان نمادگرایی را اغراق کرد: روسای دو شرکت ارزشمند هوش مصنوعی روی زمین داوطلبانه در یک میز که در آن کشورها درباره جنگ و تحریم ها بحث می کنند، مورد بازجویی قرار گرفتند و خواستار نظارت بین المللی شدند.
زمان‌بندی نشان داد که زمین چقدر سریع در حال جابجایی است. همان روز با جلسات توجیهی، آنتونی آلبانیز، نخست وزیر استرالیا فاش کرد که یک عامل OpenAI در اوایل سال جاری به پورتال مدیکر دولت استرالیا نفوذ کرده است - به گفته منتقدان، یادآوری این است که رفتار این صنعت به طور همزمان از چندین جهت تحت نظارت است.
پیش بینی آنچه که جلسات توجیهی ممکن است راه اندازی شود دشوارتر است. پیشنهادها برای نهادهای ایمنی بین‌المللی هوش مصنوعی، رژیم‌های آزمایش مدل و ممنوعیت سلاح‌های زیستی اکنون مورد تأیید عمومی رهبران این صنعت است. این که آیا آنها از تماس با شورای امنیت تقسیم شده ژئوپلیتیکی جان سالم به در می برند یا نه - و یک دولت ایالات متحده که با کل فرضیه دشمن است - سوالی است که فاز بعدی حکمرانی هوش مصنوعی را مشخص می کند.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
