Pe măsură ce companiile tehnologice se grăbesc să construiască o inteligență artificială din ce în ce mai puternică, unii dintre ele cer ajutor unei instituții vechi cu o nouă problemă: cum să învețe un chatbot bine din rău. Răspunsul lor, din ce în ce mai mult, este religia.

În ultimele luni, directorii AI au căutat opinii de la filozofi și lideri credincioși cu privire la modul de a face modele „bune din punct de vedere moral”. Divulgarea se desfășoară de la consultări formale la apariții la Vatican – și, potrivit unui raport de la Associated Press publicat duminică, stârnește îngrijorări printre oamenii de știință în religie că companiile înțeleg greșit la ce folosesc. Pentru cititorii care urmăresc cele mai recente evoluții în domeniul inteligenței artificiale, povestea semnalează cât de centrală a devenit alinierea morală față de modul în care funcționează acum aceste companii.

„Întrebări la care un laborator nu poate răspunde”

Anthropic, compania de inteligență artificială considerată pe scară largă ca luând etica cel mai în serios, a fost printre cele mai active. La prezentarea de către Vatican a enciclicii Papei Leon al XIV-lea despre inteligența artificială la începutul acestui an, cofondatorul Anthropic Chris Olah a spus audienței că întrebările morale legate de inteligența artificială depășesc ceea ce companiile pot rezolva singure.

„Acestea nu sunt întrebări la care un laborator poate răspunde”, a spus Olah. „Sunt întrebări pe care tradițiile ca ale tale le-au purtat de milenii.”

Anthropic a declarat într-o postare pe blog din mai că s-a întâlnit cu „erudiți, clerici, filozofi și eticieni din peste 15 grupuri religioase și interculturale”, un grup pe care spune că speră să îl extindă. Compania a încadrat efortul în linii mari: „Această lucrare nu este despre alinierea modelelor noastre la viziunea asupra lumii vreunei tradiții. Vrem ca Claude să atragă dintr-o gamă completă de puncte de vedere – religios, laic, politic – cu aceeași profunzime și rigoare”.

CEO-ul OpenAI, Sam Altman, a articulat o viziune diferită, mai agregată. „Ceea ce cred că ar trebui să facă ChatGPT este să reflecte acea medie ponderată, sau orice altceva, a viziunii morale a umanității”, a spus Altman anul trecut.

În cadrul întâlnirilor de credință ale lui Anthropic

Meghan Sullivan, un filozof al religiei care conduce o inițiativă privind etica și inteligența artificială la Universitatea Notre Dame, a participat la una dintre întâlnirile Anthropic la începutul acestui an. Spre deosebire de conversațiile pe care le-a avut cu alte companii de tehnologie, ea a ieșit impresionată de rigoarea logodnei.

„Cultura din interiorul companiei este similară cu cea dintr-un campus universitar bun, în sensul că ai o colecție de oameni foarte curioși din punct de vedere intelectual”, a spus Sullivan. „Aceste întâlniri sunt destul de tocilar – nu știu dacă acesta este cel mai bun mod de a spune – într-un mod bun”.

Întâlnirea, care a inclus creștini din diferite confesiuni, a fost împărțită în două părți: compania și-a explicat mai întâi modelele „în termeni laici”, iar liderii credinței au răspuns cu feedback și discuții. Potrivit lui Sullivan, întrebările variau de la „Oamenii au suflete?” la „Ar trebui ca elevii de clasa a treia să poată accesa un chatbot pentru educația de alfabetizare?”

Vaticanul devine o oprire obișnuită

Antropicul nu este singurul pe strane. Reprezentanții Meta, Google și Amazon s-au întâlnit și cu Vaticanul, în timp ce Microsoft a fost descrisă ca fiind deosebit de viguroasă în activitatea sa religioasă.

Angajamentul reflectă un calcul unic pentru acest moment în dezvoltarea AI. Pe măsură ce directorii sună alarme cu privire la potențialul distructiv al inteligenței artificiale și dezbat ce înseamnă comportamentul model „bun din punct de vedere moral”, tradițiile religioase oferă câteva milenii de gândire acumulată despre caracter, obligație și prejudiciu - material pe care nici un corp de formare nu îl poate replica pe deplin și pe care companiile nu le pot obține cu ușurință în altă parte la scară.

Încadrarea lui Anthropic face ambiția explicită: „Ceea ce căutăm în aceste conversații este o gândire atentă și acumulată asupra cât de bun se formează de fapt caracterul”.

Savanții avertizează: Religia nu este o carte de reguli

Experții și adepții avertizează deopotrivă că premisa companiilor - că religia poate furniza un set extractibil de principii morale - nu ține cont de modul în care funcționează de fapt tradițiile. Diferite viziuni asupra lumii se contrazic adesea una pe cealaltă, iar tratarea religiei ca pe o bază de date de reguli riscă să distorsioneze însuși materialul consultat.

Webb Keane, un antropolog la Universitatea din Michigan, susține că oamenii de știință au petrecut zeci de ani împingându-se împotriva viziunii religiei ca un set de principii divorțate de modurile „dezordonate, practice, ad-hoc” în care trăiesc adepții.

„Există un mod foarte convențional de a gândi religia ca o carte de reguli”, a spus Keane. „Este cu siguranță foarte legat de religia scripturală, iar religiile scripturale, la sfârșitul zilei, se dovedesc cu adevărat a fi religiile avraamice”.

Această presupunere, avertizează el, riscă să prioritizeze anumite tradiții în timp ce le denaturează pe altele - în special credințele care nu se înțeleg în primul rând ca sisteme de etică.

Tomoko Masuzawa, un cercetător în studii religioase și autor al cărții „Invenția religiilor mondiale”, merge mai departe, observând că categorii precum „budismul” și „hinduismul” ca tradiții clar delimitate și comparabile sunt în mare parte o construcție a științei europene care datează din secolul al XIX-lea. „Toate aceste categorii nu erau native”, a spus Masuzawa.

Ce se construiește de fapt

Critica savantă contează practic, deoarece orice învață companiile în aceste consultări poate modela modul în care modelele răspund la întrebările morale pentru miliarde de utilizatori. O IA care tratează religia ca pe o sursă de principii medii ponderate se va comporta diferit de una instruită să recunoască faptul că autoritatea morală este contestată, situată și trăită.

Deocamdată, companiile neagă orice agendă cu o singură tradiție, iar liderii credinței implicați descriu angajamentul ca fiind serios și substanțial. Verdictul lui Sullivan despre Anthropic – curios din punct de vedere intelectual, riguros, puțin tocilar – sugerează că întâlnirile sunt mai mult decât relații publice.

Dar întrebarea mai profundă pe care o ia la suprafață raportul AP rămâne deschisă: dacă orice proces de consultare poate traduce milenii de tradiție trăită în comportament model fără a-l aplatiza - și cine decide ce părți din moștenirea morală a umanității fac parte din greutăți.

---

Rămâneți înaintea AI

Obțineți cele mai recente știri, analize și descoperiri despre AI - toate într-un singur loc.

Citiți mai multe știri AI →