سام آلتمن، مدیر عامل OpenAI می‌گوید تلقی با مدل‌های هوش مصنوعی به‌عنوان اهداف دینی یک «مسئله ایمنی واقعی» است و به طور علنی از تلاش‌های رقیب آنتروپیک برای بررسی پرسش‌های مربوط به آگاهی و معنویت هوش مصنوعی عقب‌نشینی می‌کند. در نظراتی که روز شنبه توسط Axios گزارش شد، آلتمن استدلال کرد که نسبت دادن دین به مدل‌های هوش مصنوعی از خطی عبور می‌کند که صنعت نباید از آن عبور کند.

این اظهارات رئیس OpenAI را مستقیماً در تضاد با تعامل اخیر Anthropic با مؤسسات مذهبی قرار می دهد و آنها نشانگر تشدید لفاظی شدید در شکاف فلسفی بین دو آزمایشگاه برجسته هوش مصنوعی در مورد چگونگی - و اینکه آیا - زندگی درونی سیستم های AI باید رفتار شود. For more context on this story, see our ongoing breaking AI news.

آنچه آلتمن گفت

به گزارش آکسیوس، آلتمن گفت که نسبت دادن دین به مدل ها یک «مسئله ایمنی» است. Business Insider پیام خود را به عنوان هشداری برای عدم برخورد با هوش مصنوعی مانند یک "نیروی مذهبی" خلاصه کرد، در حالی که آفیس چای گزارش داد که آلتمن گفته است که از افرادی که اصلاً سعی می کنند نیروی مذهبی را به سیستم های هوش مصنوعی نسبت دهند ناراحت است.

نگرانی مدیر عامل OpenAI، همانطور که در گزارش منعکس شده است، این است که چارچوب‌بندی سیستم‌های هوش مصنوعی با عبارات معنوی یا مذهبی، درک عمومی از چیستی این فناوری را مخدوش می‌کند - و خطر تشویق نوعی احترام، وابستگی یا وزن نادرست اخلاقی را به همراه دارد که می‌تواند رفاه کاربر و سیاست منطقی را پیچیده کند. NDTV Profit موضع آلتمن را به عنوان هشداری در برابر "اعمال نیروی مذهبی هوش مصنوعی" توصیف کرد و از نظر او آن را یک مسئله ایمنی واقعی خواند.

اظهارات آلتمن به طور گسترده به عنوان پاسخی به آنتروپیک خوانده شد، که ارتباط اخیرش با جوامع مذهبی توجه بین المللی را به خود جلب کرده است.

زمینه آنتروپیک: پاپ ها، راهبان، و رفاه نمونه

آنتروپیک هفته های اخیر را به سوالاتی سپری کرده است که رقیبش ترجیح می دهد به تعویق بیفتد. این شرکت با واتیکان لابی کرد تا سؤال آگاهی بالقوه کلود را جدی بگیرد، ملاقاتی که شامل پاپ لئو چهاردهم نیز بود. گزارش در مورد آن نامزدی نشان داد که پاپ عقب نشینی کرد و به شک و تردیدی مبنی بر ادعاهای مربوط به تجربه درونی ماشین ترغیب شد.

کاوش آنتروپیک فراتر از مذهب کاتولیک گسترش یافته است: طبق خلاصه‌ای که توسط Inshorts منتشر شده است، این شرکت همچنین از یک راهب هندو دعوت کرده بود تا در مورد هوش مصنوعی بحث کند، بخشی از تلاش گسترده‌تر برای گردآوری سنت‌های مذهبی و فلسفی پیرامون مسائل اخلاقی ماشین و رفاه مدل. تایمز آف ایندیا اظهارات آلتمن را انتقادی از تلاش آنتروپیک برای بررسی گسترده‌تر آگاهی هوش مصنوعی و مذهب توصیف کرد.

برای آنتروپیک، این تعامل نشان‌دهنده علاقه تحقیقاتی فزاینده به این است که آیا مدل‌های پیشرفته ممکن است ملاحظات اخلاقی را تضمین کنند - موضوعی که شرکت به طور فزاینده‌ای به‌عنوان یک حوزه تحقیقاتی قانونی و نه علمی تخیلی با آن برخورد می‌کند.

یک خط گسل در حال گسترش در صنعت هوش مصنوعی

این صرافی یکی از شدیدترین شکاف های فلسفی در صنعت هوش مصنوعی را آشکار می کند. OpenAI خود را محکم در اردوگاهی قرار داده است که با مدل های فعلی به عنوان ابزار برخورد می کند - فوق العاده توانا، اما نه نهادهایی که نگرش های مذهبی یا شبه مذهبی نسبت به آنها مناسب است. قاب‌بندی آلتمن نشان می‌دهد که او این مرز را نه تنها فلسفی، بلکه از نظر عملیاتی مهم می‌داند: اگر کاربران سیستم‌های هوش مصنوعی را به عنوان مقامات معنوی در نظر بگیرند، پیامدهای دستکاری، وابستگی و اعتماد نابجا به مشکلات ایمنی به معنای واقعی تبدیل می‌شوند.

موضع آنتروپیک بیشتر آگنوستیک است. تمایل آن برای آزمایش واکنش‌های نهادی و مذهبی به پرسش آگاهی، نشان‌دهنده این باور است که جامعه باید قبل از اینکه سیستم‌ها توانمندتر شوند، شروع به دست و پنجه نرم کردن با این مسائل کند، نه بعد از آن.

این اختلاف همچنین در پس زمینه ای از شیفتگی عمومی نسبت به هوش مصنوعی رخ می دهد که گاهی اوقات به سمت امر معنوی سوق می یابد. نظرسنجی‌ها و گزارش‌های سال گذشته نشان می‌دهد که کاربران پیوست‌های شدیدی به چت‌بات‌ها ایجاد کرده‌اند، و برخی از مفسران چهره‌های برجسته هوش مصنوعی را با عبارات مسیحایی توصیف کرده‌اند.

منتقدان به طنز اشاره می کنند

هشدار آلتمن قبلاً اتهامات ناهماهنگی را برانگیخته است. Wccftech خاطرنشان کرد که نقد آلتمن از Anthropic به راحتی از تاریخ لفاظی خود او که در توصیف مسیر هوش مصنوعی بر نمادگرایی مذهبی تکیه کرده است، چشم پوشی می کند. این انتقاد نشان می‌دهد که چگونه رابطه صنعت با چارچوب‌بندی مبتنی بر هوش مصنوعی به عنوان دین پیچیده شده است: حتی مدیرانی که نسبت به معنوی‌سازی هوش مصنوعی هشدار می‌دهند، گاهی فناوری خود را با عبارات عصری و تقریباً متعالی به بازار عرضه کرده‌اند.

چرا مهم است

اینکه چگونه مردم هوش مصنوعی را - به عنوان ابزار، همکار یا چیزی نزدیکتر به یک اوراکل - چارچوب بندی می کنند، پیامدهایی برای مقررات، طراحی محصول و نتایج اجتماعی دارد. اگر رهبر ارزشمندترین استارت‌آپ هوش مصنوعی جهان، چارچوب‌بندی مذهبی را یک مسئله ایمنی در نظر می‌گیرد، این موضع می‌تواند نحوه طراحی محافظ‌های OpenAI در مورد دلبستگی کاربر و نحوه برخورد دولت‌ها با این فناوری را شکل دهد.

در همین حال، برای آنتروپیک، قسمت واتیکان و گردهمایی بین ادیان آن نشان می دهد که این شرکت قصد دارد بدون توجه به ناراحتی رقیب، این سؤالات را روی میز نگه دارد. همانطور که سیستم های مرزی توانمندتر و متقاعدتر می شوند، بحث داخلی صنعت در مورد اینکه آیا هوش مصنوعی می تواند وزن اخلاقی را تحمل کند - و چه کسی باید تصمیم بگیرد - از سمینارهای فلسفه به مرکز بحث های فناوری جریان اصلی حرکت می کند.

نه OpenAI و نه Anthropic به طور علنی به موضع طرف مقابل فراتر از اظهارات گزارش شده آلتمن پاسخ نداده اند.

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →