Пока технологические компании стремятся создать все более мощный искусственный интеллект, некоторые из них обращаются к старому институту за помощью в решении новой проблемы: как научить чат-бота правильному и неправильному. Их ответом все чаще становится религия.
В последние месяцы руководители ИИ обратились к философам и религиозным лидерам за советом о том, как сделать модели «морально хорошими». Информационно-пропагандистская деятельность простирается от официальных консультаций до выступлений в Ватикане — и, согласно сообщению Associated Press, опубликованному в воскресенье, это вызывает обеспокоенность среди религиоведов тем, что компании неправильно понимают, к чему они прибегают. Для читателей, отслеживающих [последние разработки в области искусственного интеллекта] (https://aibuzzwire.news), эта история сигнализирует о том, насколько важным стало моральное соответствие тому, как сейчас работают эти компании.
«Вопросы, на которые лаборатория не может ответить»
Anthropic, компания, занимающаяся искусственным интеллектом, которую многие считают наиболее серьезно относящейся к этике, была одной из самых активных. На презентации в Ватикане энциклики Папы Льва XIV об искусственном интеллекте в начале этого года соучредитель Anthropic Крис Ола заявил аудитории, что моральные вопросы, связанные с искусственным интеллектом, выходят за рамки того, что компании могут решить самостоятельно.
«На эти вопросы не может ответить лаборатория», — сказал Ола. «Это вопросы, которые традиции, подобные вашей, хранят в себе на протяжении тысячелетий».
В майском сообщении в блоге Anthropic сообщила, что встретилась с «учеными, духовенством, философами и специалистами по этике из более чем 15 религиозных и межкультурных групп», и этот круг, по ее словам, она надеется расширить. Компания сформулировала свои усилия широко: «Эта работа не направлена на согласование наших моделей с мировоззрением какой-либо одной традиции. Мы хотим, чтобы Клод опирался на весь спектр точек зрения — религиозных, светских, политических — с одинаковой глубиной и строгостью».
Генеральный директор OpenAI Сэм Альтман сформулировал другое, более обобщенное видение. «Я думаю, что ChatGPT должен отражать средневзвешенное значение или что-то в этом роде моральных взглядов человечества», — сказал Альтман в прошлом году.
Внутри собраний веры Anthropic
Меган Салливан, философ религии, возглавляющая инициативу по этике и искусственному интеллекту в Университете Нотр-Дам, присутствовала на одной из встреч Anthropic в начале этого года. В отличие от бесед, которые она имела с другими технологическими компаниями, она была впечатлена строгостью взаимодействия.
«Культура внутри компании аналогична культуре хорошего колледжа в том смысле, что здесь собрана группа очень интеллектуально любознательных людей», — сказал Салливан. «Эти встречи довольно занудные — не знаю, лучше ли это выразиться — в хорошем смысле».
Встреча, в которой приняли участие христиане разных конфессий, была разделена на две части: компания сначала объяснила свои модели «с точки зрения непрофессионала», а религиозные лидеры ответили отзывами и обсуждениями. По словам Салливана, вопросы варьировались от «Есть ли у людей душа?» на «Должны ли третьеклассники иметь доступ к чат-боту для обучения грамоте?»
Ватикан становится регулярной остановкой
Anthropic не одинок на скамьях. Представители Meta, Google и Amazon также встретились с Ватиканом, а Microsoft была описана как особенно энергичная в своей религиозной деятельности.
Это взаимодействие отражает расчет, уникальный для данного момента в развитии ИИ. В то время как руководители бьют тревогу по поводу разрушительного потенциала ИИ и спорят о том, что вообще означает «морально хорошая» модель поведения, религиозные традиции предлагают накопленные за несколько тысячелетий размышления о характере, обязанностях и вреде — материал, который ни один учебный корпус не может полностью воспроизвести и который компании не могут легко получить где-либо еще в большом масштабе.
Собственная формулировка Anthropic делает амбиции явными: «В этих разговорах мы стремимся к тщательному, накопленному размышлению о том, как на самом деле формируется хороший характер».
Ученые предупреждают: религия — это не свод правил
Как эксперты, так и приверженцы предупреждают, что предпосылка компаний о том, что религия может предоставить извлекаемый набор моральных принципов, не учитывает то, как на самом деле работают традиции. Различные мировоззрения часто противоречат друг другу, и отношение к религии как к базе данных правил рискует исказить сам материал, к которому обращаются.
Уэбб Кин, антрополог из Мичиганского университета, утверждает, что ученые потратили десятилетия, выступая против взгляда на религию как на набор принципов, отделенных от «беспорядочного, практичного, специального» образа жизни ее приверженцев.
«Существует очень традиционное представление о религии как о своде правил», — сказал Кин. «Она, безусловно, очень связана с библейской религией, а библейские религии, в конце концов, действительно оказываются авраамическими религиями».
Такое предположение, предупреждает он, рискует отдать приоритет одним традициям и исказить другие – особенно религии, которые не понимают себя в первую очередь как системы этики.
Томоко Масудзава, религиовед и автор книги «Изобретение мировых религий», идет еще дальше, отмечая, что такие категории, как «буддизм» и «индуизм», как четко ограниченные, сопоставимые традиции, в значительной степени являются конструкцией европейской науки, датируемой XIX веком. «Все эти категории не были местными», — сказал Масузава.
Что на самом деле строится
Научная критика имеет практическое значение, потому что все, что компании узнают в ходе этих консультаций, может повлиять на то, как модели отвечают на моральные вопросы миллиардов пользователей. ИИ, который рассматривает религию как источник средневзвешенных принципов, будет вести себя иначе, чем тот, кто обучен признавать, что моральный авторитет оспаривается, устанавливается и живет.
На данный момент компании отрицают какую-либо единую традиционную программу, а вовлеченные религиозные лидеры описывают взаимодействие как серьезное и существенное. Вердикт Салливана об «Антропическом» — интеллектуально любопытный, строгий, немного занудный — предполагает, что эти встречи — это нечто большее, чем просто пиар.
Но более глубокий вопрос, который поднимается в отчете AP, остается открытым: может ли какой-либо процесс консультаций превратить тысячелетия жизненных традиций в модель поведения, не сглаживая ее, - и кто решает, какие части морального наследия человечества попадают в весы.
---
Будьте впереди ИИПолучайте последние новости, анализ и открытия в области искусственного интеллекта — все в одном месте.
Подробнее новости AI →
