У той час як технологічні компанії змагаються за створення все більш потужного штучного інтелекту, деякі з них звертаються до старої інституції за допомогою з новою проблемою: як навчити чат-бота відрізняти правильне від неправильного. Їхньою відповіддю все частіше стає релігія.
Останніми місяцями керівники штучного інтелекту зверталися до філософів і релігійних лідерів щодо того, як зробити моделі «морально хорошими». Інформаційно-роз’яснювальна робота проходить від офіційних консультацій до виступів у Ватикані — і, згідно зі звітом Associated Press, опублікованим у неділю, це викликає занепокоєння серед вчених релігії, що компанії неправильно розуміють те, до чого вони звертаються. Для читачів, які стежать за [останніми розробками штучного інтелекту] (https://aibuzzwire.news), ця історія показує, наскільки моральне ставлення до теперішньої роботи цих компаній стало центральним.
"Питання, на які лабораторія не може відповісти"
Anthropic, компанія зі штучного інтелекту, яка, на думку багатьох, найбільш серйозно ставиться до етики, була однією з найактивніших. Під час презентації у Ватикані енцикліки Папи Лева XIV про штучний інтелект на початку цього року співзасновник Anthropic Кріс Олах сказав аудиторії, що моральні питання навколо штучного інтелекту перевищують те, що компанії можуть вирішити самостійно.
«Лабораторія не може відповісти на ці запитання», — сказав Ола. «Це запитання, які традиції, подібні до вашої, несуть тисячоліттями».
У травневому повідомленні в блозі Anthropic повідомила, що зустрілася з «вченими, священнослужителями, філософами та етиками з більш ніж 15 релігійних і міжкультурних груп», пул яких, за його словами, він сподівається розширити. Компанія сформулювала зусилля широко: «Ця робота не полягає в узгодженні наших моделей із світоглядом якоїсь однієї традиції. Ми хочемо, щоб Клод спирався на повний спектр точок зору — релігійну, світську, політичну — з однаковою глибиною та суворістю».
Генеральний директор OpenAI Сем Альтман сформулював інше, більш загальне бачення. «Я вважаю, що ChatGPT має відображати середньозважену або будь-яку іншу моральну точку зору людства», — сказав Альтман минулого року.
Inside Anthropic's Faith Meetings
Меган Салліван, філософ релігії, яка очолює ініціативу з етики та ШІ в Університеті Нотр-Дам, відвідала одну із зустрічей Anthropic на початку цього року. На відміну від розмов, які вона мала з іншими технологічними компаніями, її вразила суворість взаємодії.
«Культура всередині компанії схожа на культуру в хорошому університетському містечку в тому сенсі, що у вас є колекція дуже інтелектуально цікавих людей», — сказав Салліван. «Ці зустрічі досить ботанські — я не знаю, чи найкраще це сказати — в хорошому сенсі».
Зустріч, на якій були присутні християни з різних конфесій, була розділена на дві частини: компанія спочатку пояснила свої моделі «професійними термінами», а релігійні лідери відповіли зворотним зв’язком та обговоренням. За словами Саллівана, питання варіювалися від "Чи є у людей душа?" до "Чи повинні третьокласники мати доступ до чат-бота для навчання грамотності?"
Ватикан стає регулярною зупинкою
Anthropic не самотній на лавах. Представники Meta, Google і Amazon також зустрічалися з Ватиканом, тоді як Microsoft описується як особливо енергійна у своїй релігійній пропаганді.
Залучення відображає розрахунок, унікальний для цього моменту в розробці ШІ. Поки керівники б’ють на сполох щодо руйнівного потенціалу штучного інтелекту та обговорюють, що взагалі означає «морально хороша» модель поведінки, релігійні традиції пропонують кілька тисячоліть накопичених думок про характер, обов’язки та шкоду — матеріал, який не може повністю відтворити жоден навчальний корпус і який компанії не можуть легко знайти в інших місцях.
Власне обрамлення Anthropic робить амбіції явними: «У цих розмовах ми прагнемо ретельного, накопиченого мислення про те, як насправді формується хороший характер».
Вчені попереджають: релігія не є книгою правил
Експерти та прихильники однаково попереджають, що передумова компаній — що релігія може надати доступний набір моральних принципів — не враховує того, як насправді працюють традиції. Різні світогляди часто суперечать один одному, і ставлення до релігії як бази даних правил ризикує спотворити сам матеріал, до якого звертаються.
Вебб Кін, антрополог з Мічиганського університету, стверджує, що вчені витратили десятиліття, відкидаючи погляд на релігію як набір принципів, відокремлених від «безладного, практичного, спеціального» способу життя прихильників.
«Існує дуже звичайний спосіб сприйняття релігії як книги правил», — сказав Кін. «Це, безсумнівно, дуже пов’язано з релігією зі Священного Писання, а релігії зі Священним Писанням, зрештою, справді виявляються релігіями Авраама».
Таке припущення, попереджає він, ризикує віддати перевагу певним традиціям і спотворити інші — особливо віросповідання, які не розуміють себе в першу чергу як системи етики.
Томоко Масудзава, релігієзнавець і автор книги «Винахід світових релігій», йде далі, зазначаючи, що такі категорії, як «буддизм» та «індуїзм», як чітко обмежені, порівнювані традиції, є в основному конструктом європейської науки, що датується 19 століттям. "Усі ці категорії не були місцевими", - сказав Масудзава.
Що насправді будується
Наукова критика має практичне значення, тому що те, що компанії дізнаються під час цих консультацій, може вплинути на те, як моделі відповідають на моральні запитання мільярдів користувачів. Штучний інтелект, який розглядає релігію як джерело середньозважених принципів, поводитиметься інакше, ніж той, який навчений визнавати, що моральний авторитет є оскаржуваним, встановленим і живим.
Наразі компанії заперечують будь-яку програму, пов’язану з єдиною традицією, а залучені релігійні лідери описують співпрацю як серйозну та суттєву. Вердикт Саллівана щодо Anthropic — інтелектуально цікавий, суворий, трохи ботан — говорить про те, що зустрічі — це щось більше, ніж зв’язки з громадськістю.
Але глибше питання, яке піднімає доповідь AP, залишається відкритим: чи може будь-який процес консультацій перетворити тисячоліття живої традиції на модель поведінки, не згладжуючи її, і хто вирішує, які частини моральної спадщини людства потраплять до ваг.
---
Будьте попереду ШІОтримуйте останні новини штучного інтелекту, аналіз і прориви — усе в одному місці.
Читати більше новин AI →
