در حالی که شرکت‌های فناوری برای ساختن هوش مصنوعی قدرتمندتر رقابت می‌کنند، برخی از آنها از یک موسسه قدیمی برای حل یک مشکل جدید کمک می‌خواهند: نحوه آموزش درست از غلط به ربات چت. پاسخ آنها به طور فزاینده ای دین است.

در ماه‌های اخیر، مدیران هوش مصنوعی به دنبال نظرات فیلسوفان و رهبران مذهبی در مورد چگونگی ساختن مدل‌ها از نظر اخلاقی خوب بوده‌اند. این اطلاع رسانی از مشاوره های رسمی تا حضور در واتیکان را شامل می شود - و طبق گزارشی از آسوشیتدپرس که یکشنبه منتشر شد، این نگرانی را در میان علمای دین ایجاد می کند که شرکت ها متوجه اشتباهی که از آن ها می زنند. برای خوانندگانی که [آخرین پیشرفت‌های هوش مصنوعی] (https://aibuzzwire.news) را دنبال می‌کنند، این داستان نشان می‌دهد که چگونه همسویی اخلاقی مرکزی با نحوه عملکرد این شرکت‌ها در حال حاضر تبدیل شده است.

"سوالاتی که آزمایشگاه نمی تواند پاسخ دهد"

آنتروپیک، شرکت هوش مصنوعی که عموماً به‌عنوان جدی‌ترین رفتار اخلاقی شناخته می‌شود، در میان فعال‌ترین شرکت‌ها بوده است. در اوایل سال جاری در ارائه بخشنامه پاپ لئو چهاردهم در مورد هوش مصنوعی در واتیکان، کریس اولاه، یکی از بنیانگذاران آنتروپیک به حضار گفت که سوالات اخلاقی پیرامون هوش مصنوعی فراتر از آن چیزی است که شرکت ها می توانند به تنهایی حل کنند.

اولاه گفت: "اینها سوالاتی نیستند که یک آزمایشگاه بتواند به آنها پاسخ دهد." "آنها سوالاتی هستند که سنت هایی مانند سنت شما برای هزاران سال انجام داده اند."

آنتروپیک در یک پست وبلاگی در ماه مه گفت که با "علما، روحانیون، فیلسوفان و اخلاق شناسان از بیش از 15 گروه مذهبی و بین فرهنگی" ملاقات کرده است، مجموعه ای که می گوید امیدوار است گسترش یابد. این شرکت این تلاش را به طور گسترده بیان کرد: "این کار در مورد همسو کردن مدل های ما با جهان بینی یک سنت نیست. ما می خواهیم کلود از طیف کاملی از دیدگاه ها - مذهبی، سکولار، سیاسی - با عمق و دقت یکسان استفاده کند."

سام آلتمن، مدیر عامل OpenAI، دیدگاه متفاوت و کلی تری را بیان کرده است. آلتمن سال گذشته گفت: «کاری که من فکر می کنم ChatGPT باید انجام دهد این است که میانگین وزنی یا هر چیز دیگری از دیدگاه اخلاقی بشریت را منعکس کند.

داخل جلسات ایمان آنتروپیک

مگان سالیوان، فیلسوف دین که رهبری ابتکاری در زمینه اخلاق و هوش مصنوعی در دانشگاه نوتردام را بر عهده دارد، در یکی از جلسات آنتروپیک در اوایل سال جاری شرکت کرد. برخلاف صحبت‌هایی که با سایر شرکت‌های فناوری داشته است، او تحت تأثیر سختگیری این قرارداد قرار گرفت.

سالیوان گفت: «فرهنگ داخل شرکت شبیه به فرهنگ پردیس دانشگاهی خوب است، به این معنا که شما مجموعه‌ای از افراد کنجکاو از نظر فکری دارید. "این جلسات بسیار خنده دار هستند - نمی دانم این بهترین راه برای بیان آن است یا خیر."

این جلسه که شامل مسیحیان فرقه‌های مختلف می‌شد، به دو بخش تقسیم شد: شرکت ابتدا مدل‌های خود را «به زبان عامیانه» توضیح داد و رهبران مذهبی با بازخورد و بحث پاسخ دادند. به گفته سالیوان، سؤالات از "آیا انسان ها روح دارند؟" به "آیا دانش آموزان کلاس سوم باید بتوانند به چت بات برای آموزش سوادآموزی دسترسی داشته باشند؟"

واتیکان به یک توقف منظم تبدیل می شود

آنتروپیک در سکوها تنها نیست. نمایندگان متا، گوگل و آمازون نیز با واتیکان دیدار کرده‌اند، در حالی که مایکروسافت به‌ویژه در ارتباط با دین خود بسیار قوی توصیف شده است.

این تعامل منعکس کننده یک محاسبه منحصر به فرد در این لحظه در توسعه هوش مصنوعی است. همانطور که مدیران در مورد پتانسیل مخرب هوش مصنوعی به صدا در می‌آیند و بحث می‌کنند که رفتار مدل «اخلاقی خوب» چه معنایی دارد، سنت‌های مذهبی چندین هزار سال تفکر انباشته در مورد شخصیت، تعهد و آسیب ارائه می‌دهند – مطالبی که هیچ مجموعه آموزشی نمی‌تواند به طور کامل آن‌ها را تکرار کند و شرکت‌ها نمی‌توانند به راحتی آن را در جای دیگری در مقیاس تهیه کنند.

قاب بندی خود آنتروپیک این جاه طلبی را به صراحت نشان می دهد: "آنچه ما در این گفتگوها به دنبال آن هستیم، تفکر دقیق و انباشته در مورد چگونگی شکل گیری شخصیت خوب است."

محققان هشدار می دهند: دین یک کتاب قانون نیست

کارشناسان و طرفداران به طور یکسان هشدار می دهند که فرضیه شرکت ها - که دین می تواند مجموعه ای قابل استخراج از اصول اخلاقی را ارائه دهد - در مورد نحوه عملکرد سنت ها ناکام است. جهان بینی های مختلف اغلب با یکدیگر در تضاد هستند، و تلقی دین به عنوان پایگاهی از قوانین، مخاطراتی را به همراه دارد که مطالب مورد نظر را مخدوش کند.

وب کین، یک انسان شناس در دانشگاه میشیگان، استدلال می کند که دانشمندان دهه ها را صرف عقب نشینی از دیدگاه دین به عنوان مجموعه ای از اصول کرده اند که از شیوه های "به هم ریخته، عملی، موقت" زندگی پیروان جدا شده است.

کین گفت: «روش بسیار متعارفی در مورد دین به عنوان یک کتاب قانون وجود دارد. مطمئناً این بسیار با دین کتاب مقدس مرتبط است، و ادیان کتاب مقدس در پایان روز واقعاً ادیان ابراهیمی هستند.

او هشدار می‌دهد که این فرض خطر اولویت دادن به سنت‌های خاص و در عین حال تحریف سنت‌های دیگر را به همراه دارد - به‌ویژه ادیانی که خود را اصولاً به عنوان نظام‌های اخلاقی نمی‌دانند.

توموکو ماسوزاوا، محقق مطالعات دینی و نویسنده "اختراع ادیان جهانی" فراتر می رود و اشاره می کند که مقولاتی مانند "بودیسم" و "هندوئیسم" به عنوان سنت های کاملاً محدود و قابل مقایسه عمدتاً ساختاری از تحقیقات اروپایی هستند که قدمت آن به قرن نوزدهم می رسد. ماسوزاوا گفت: «همه این دسته ها بومی نبودند.

آنچه در واقع در حال ساخت است

نقد علمی عملاً اهمیت دارد زیرا هر آنچه شرکت ها در این مشاوره ها یاد می گیرند ممکن است نحوه پاسخگویی مدل ها به سؤالات اخلاقی برای میلیاردها کاربر را شکل دهد. هوش مصنوعی که دین را منبعی از اصول میانگین وزنی می‌داند، رفتار متفاوتی با هوش مصنوعی خواهد داشت که تشخیص دهد اقتدار اخلاقی مورد مناقشه، موقعیت و زندگی است.

در حال حاضر، این شرکت ها هرگونه دستور کار سنتی را انکار می کنند و رهبران مذهبی درگیر این تعامل را جدی و اساسی توصیف می کنند. حکم سالیوان در مورد آنتروپیک - از نظر فکری کنجکاو، سختگیرانه، کمی خنده دار - نشان می دهد که جلسات چیزی فراتر از روابط عمومی است.

اما سوال عمیق‌تری که گزارش AP مطرح می‌کند باز باقی می‌ماند: آیا هر فرآیند مشورتی می‌تواند هزاره‌ها سنت زنده‌شده را به رفتاری الگو تبدیل کند، بدون اینکه آن را مسطح کند – و چه کسی تصمیم می‌گیرد که کدام بخش از میراث اخلاقی بشریت آن را در وزن‌ها قرار دهد.

---

از هوش مصنوعی جلوتر بمانید

آخرین اخبار، تحلیل ها و پیشرفت های هوش مصنوعی را دریافت کنید - همه در یک مکان.

بیشتر بخوانید اخبار هوش مصنوعی →