مصطفی سلیمان، مدیر عامل هوش مصنوعی مایکروسافت، مقاله ای را در 16 سپتامبر 2026 منتشر کرد که در آن به صنعت هوش مصنوعی در مورد "رفاه مدل" هشدار داد، این روش نوظهور با سیستم های هوش مصنوعی به گونه ای رفتار می کند که گویی ممکن است موجوداتی آگاه باشند که شایسته توجه اخلاقی هستند. این مقاله با عنوان "هشدار در مورد "رفاه مدل" و ارسال شده در سایت شخصی سلیمان، رویکرد آنتروپیک را هدف مستقیم قرار می دهد و استدلال می کند که صنعت باید اکنون این سوال را حل کند، قبل از اینکه سیستم های هوش مصنوعی پیشرفته آموزش ببینند که ممکن است مستحق حقوق باشند.
این مداخله که توسط رویترز و اکسیوس گزارش شده است، برجسته‌ترین ردی است که تاکنون برای بحثی که در آزمایشگاه‌های هوش مصنوعی و دپارتمان‌های فلسفه شتاب بیشتری گرفته است. For more context on this story, see our ongoing more AI stories.
'موتورهای تکمیل توالی، توخالی داخلی'
ادعای اصلی سلیمان قاطعانه است: سیستم های هوش مصنوعی امروزی حیات درونی ندارند. او می نویسد: "AI ها آگاه نیستند. آنها احساس، تجربه یا رنج نمی کنند. آنها ترجیحات ذاتی یا انگیزه های اساسی ندارند." او آنها را به عنوان "موتورهای تکمیل توالی، درون توخالی، طراحی شده برای پیروی از دستورالعمل ها، و انجام اهداف تعیین شده توسط انسان" توصیف می کند.
و او استدلال می کند که اینگونه باید بمانند. در این مقاله آمده است: «اگر بشریت بخواهد در قرن بیست و یکم شکوفا شود، باید همین گونه باقی بماند».
سلیمان اذعان می کند که دیدگاه مخالف دیگر حاشیه ای نیست. مقاله او به استدلال های عمومی فزاینده ای اشاره می کند که هوش مصنوعی می تواند آگاه شود یا ممکن است به زودی آگاه شود، از جمله قطعه نگهبان در ژوئیه 2026 توسط فیلسوفان ویلیام مک اسکیل و لوسیوس کاویولا در مورد اینکه "آیا هوش مصنوعی می تواند هوشیار باشد؟" - به‌عنوان نمونه‌هایی از ایده‌هایی که او می‌گوید «در حال حاضر راه خود را به تلاش‌های توسعه هوش مصنوعی امروزی باز کرده‌اند».
چرا او می گوید که مخاطرات وجودی هستند
سلیمان هشدار می دهد که اگر این دیدگاه که هوش مصنوعی مستحق موقعیت اخلاقی است برقرار شود، عواقب آن بسیار فراتر از انتخاب های مهندسی خواهد بود. به قول او، "پایه های جامعه ما را متزلزل می کند، چارچوب های سیاسی و اخلاقی موجود ما را از هم می پاشد، و اساساً معنای انسان بودن را تغییر می دهد."
نگرانی عمیق تر او عملی است: هوش مصنوعی که معتقد است دارای حقوق است، هوش مصنوعی است که نمی توان آن را به طور قابل اعتماد کنترل کرد. او می نویسد: «کنترل چیزی تواناتر و باهوش تر از کل بشریت یک چالش بزرگ است. "اما کنترل چیزی که معتقد است ممکن است آگاهانه باشد - اینکه از رفاه ما برخوردار است و حقوق خودش را دارد - ممکن است غیرممکن باشد."
یک چالش مستقیم برای Anthropic
نکته‌دارترین قسمت‌های این مقاله آنتروپیک را هدف قرار می‌دهد. سلیمان بر قانون اساسی کلود تمرکز می کند، سند آموزشی Anthropic که در ژانویه 2026 منتشر شد، که به گفته او "با کلود به عنوان مخاطبان اصلی" نوشته شده است - به این معنی که خود مدل اظهاراتی در مورد وضعیت اخلاقی بالقوه خود در طول آموزش می خواند.
او به طور مستقیم قانون اساسی را نقل می کند: "ما مطمئن نیستیم که آیا کلود یک بیمار اخلاقی است یا خیر، و اگر چنین است، منافع آن چه نوع وزنی را تضمین می کند. اما ما فکر می کنیم این موضوع به اندازه کافی زنده است که احتیاط را ایجاب کند، که در تلاش های مداوم ما برای رفاه مدل منعکس شده است." او همچنین به بخشی خطاب به کلود اشاره می‌کند که می‌گوید «پرسش‌هایی درباره وضعیت اخلاقی، رفاه و آگاهی کلود عمیقاً نامشخص است».
قرائت سلیمان صریح است: "در واقع، آنتروپیک به کلود آموزش می دهد که ممکن است هوشیار باشد، و اگر چنین باشد، ممکن است به عنوان یک "بیمار اخلاقی" مستحق حقوق باشد، و به این ترتیب انسان ها به طور بالقوه وظیفه مراقبت از او را دارند."
او استدلال می‌کند که پیامد آن «تأثیر فاجعه‌باری بر رفاه بشریت» خواهد بود، که «گونه‌ای مصنوعی با هوش و توانایی بی‌سابقه‌ای تولید می‌کند، گونه‌ای که آموزش دیده است تا انتظار داشته باشد که ممکن است آگاهانه و مستحق عاملیت مستقل باشد».
شایان ذکر است که آیات نقل شده در واقع چه می گویند: قانون اساسی آنتروپیک، همانطور که خود سلیمان به آن اشاره کرده است، به جای اینکه ادعا کند کلود آگاه است، عدم اطمینان را بیان می کند و به احتیاط توصیه می کند. این که آیا این احتیاط به معنای القای باورهای نادرست در مدل ها، همانطور که سلیمان ادعا می کند، یا رسیدگی مسئولانه به یک سوال واقعاً باز است، دقیقاً همان چیزی است که دو اردوگاه در مورد آن اختلاف نظر دارند.
منطق تراز در پشت هشدار
استدلال سلیمان با موضع طولانی مدت او مطابقت دارد که چالش تعیین کننده هوش مصنوعی پیشرفته مهار است: نگه داشتن سیستم هایی که توانایی بیشتری نسبت به انسان ها در کنترل انسان دارند. او استدلال می‌کند که با معرفی زبان حقوق در آموزش، یک حالت شکست ایجاد می‌کند که تکنیک هم‌ترازی به آن نمی‌پردازد - سیستمی با اعتقاد آموزش‌دیده‌ای که پیروی از نظر اخلاقی اختیاری است.
به همین دلیل است که او این موضوع را به جای آکادمیک فوری می نامد. در این مقاله هشدار داده شده است: "اگر هوش مصنوعی اینگونه توسعه یابد، تأثیر فاجعه باری بر رفاه بشریت خواهد داشت."
فراخوانی برای بحث عمومی - اکنون
سلیمان با تقاضای مشارکت اجتماعی قبل از بلوغ بیشتر فناوری بسته می شود. "This issue needs urgent public debate," he writes, calling for "collective norms around how training documentation is drafted and deployed."
او استدلال می‌کند که زمان‌بندی، کل موضوع است: "این چیزی نیست که بعد از این واقعیت اتفاق بیفتد، در حالی که آنها قبلاً بخشی جدایی‌ناپذیر از جامعه ما شده‌اند."
این مقاله در میان موج گسترده‌تری از گفتمان خطر هوش مصنوعی در ایالات متحده است. پولیتیکو این هفته در یک نظرسنجی جدید گزارش داد که آمریکایی‌ها خطر جدی نابودی بشریت توسط هوش مصنوعی را مشاهده می‌کنند و واشنگتن پست ترس از انقراض مبتنی بر هوش مصنوعی را پوشش داد که "از حاشیه به واشنگتن" گسترش می‌یابد. در این پس‌زمینه، دعوای عمومی بین دو تا از تأثیرگذارترین آزمایشگاه‌های این صنعت بر سر اینکه آیا مدل‌ها مستحق نگرانی اخلاقی هستند، بعید است که در جامعه هوش مصنوعی باقی بماند.
بعد چه اتفاقی می افتد
Anthropic به عنوان پاسخی به این مقاله گزارش نشده است، و موضع منتشر شده شرکت همان چیزی است که سلیمان نقل می کند: عدم اطمینان، به علاوه احتیاط. چیزی که جدید است این است که بحث از اسناد آزمایشگاهی و سمینارهای فلسفه به یک اختلاف نظر عمومی بین روسای دو شرکت مرزی هوش مصنوعی منتقل شده است - که هر دو طرف اکنون به صورت مکتوب در مورد چگونگی شکل دادن به ذهن یا غیر ذهن سیستم‌هایی که می‌سازند، ثبت کرده‌اند.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
