CEO-ul OpenAI, Sam Altman, spune că tratarea modelelor AI ca obiecte de devotament religios este o „adevărată problemă de siguranță”, împingând în mod public eforturile rivalului Anthropic de a explora problemele legate de conștiința și spiritualitatea AI. În comentariile raportate de Axios sâmbătă, Altman a susținut că atribuirea religiei modelelor AI depășește o linie pe care industria nu ar trebui să o depășească.
Comentariile îl pun pe șeful OpenAI direct în dezacord cu angajamentul recent al Anthropic cu instituțiile religioase și marchează o escaladare retorică bruscă a diviziunii filozofice dintre cele două laboratoare de AI de top cu privire la modul în care ar trebui tratată viețile interioare ale sistemelor AI. For more context on this story, see our ongoing latest AI developments.
Ce a spus Altman
Potrivit lui Axios, Altman a spus că atribuirea religiei modelelor este o „o problemă de siguranță”. Business Insider și-a rezumat mesajul ca un avertisment de a nu trata AI ca pe o „forță religioasă”, în timp ce Office Chai a raportat că Altman a spus că nu se simte confortabil cu oamenii care încearcă să atribuie forță religioasă sistemelor AI.
Preocuparea CEO-ului OpenAI, așa cum se reflectă în raportare, este că încadrarea sistemelor AI în termeni spirituali sau religioși denaturează înțelegerea publicului asupra a ceea ce este tehnologia - și riscă să încurajeze genul de reverență, dependență sau greutate morală greșită care ar putea complica atât bunăstarea utilizatorilor, cât și politica rațională. NDTV Profit a caracterizat poziția lui Altman ca un avertisment împotriva „darii forței religioase AI”, numind-o o problemă reală de siguranță în opinia sa.
Comentariile lui Altman au fost citite pe scară largă ca un răspuns la Anthropic, a cărui acțiune recentă către comunitățile de credință a atras atenția internațională.
Contextul antropic: papi, călugări și bunăstare model
Anthropic și-a petrecut ultimele săptămâni aplecându-se la întrebări pe care rivalul său ar prefera să amâne. Compania a făcut lobby la Vatican pentru a lua în serios problema potențialei conștiințe a lui Claude, întâlnire la care a inclus Papa Leon al XIV-lea. Raportarea despre acea logodnă a indicat că pontiful a fost respins, îndemnând la un scepticism întemeiat cu privire la afirmațiile referitoare la experiența interioară a mașinii.
Explorarea lui Anthropic s-a extins dincolo de catolicism: conform unui rezumat al lui Inshorts, compania a invitat și un călugăr hindus să discute despre inteligența artificială, ca parte a unui efort mai amplu de a reuni tradițiile religioase și filozofice în jurul chestiunilor legate de moralitatea mașinilor și bunăstarea modelului. The Times of India a caracterizat remarcile lui Altman drept critici la adresa efortului lui Anthropic de a explora mai larg conștiința AI și religia.
Pentru Anthropic, angajamentul reflectă un interes din ce în ce mai mare de cercetare în ceea ce privește dacă modelele avansate ar putea justifica o considerație morală - un subiect pe care compania l-a tratat din ce în ce mai mult ca un domeniu legitim de investigație, mai degrabă decât științifico-fantastică.
O linie de eroare în creștere în industria AI
Schimbul dezvăluie una dintre cele mai puternice diviziuni filosofice din industria AI. OpenAI s-a poziționat ferm în tabăra care tratează modelele actuale ca instrumente - extraordinar de capabile, dar nu entități față de care atitudinile religioase sau cvasi-religioase sunt adecvate. Încadrarea lui Altman sugerează că el vede acea limită nu doar filozofică, ci importantă din punct de vedere operațional: dacă utilizatorii ajung să considere sistemele AI ca autorități spirituale, consecințele pentru manipulare, dependență și încredere nepotrivită devin probleme de siguranță în sens concret.
Poziția lui antropic este mai agnostică. Dorința sa de a testa reacțiile instituționale și religioase la întrebarea conștiinței sugerează convingerea că societatea ar trebui să înceapă să se confrunte cu aceste probleme înainte ca sistemele să devină mai capabile, nu după.
Disputa se desfășoară, de asemenea, pe un fundal de fascinație publică față de AI, care uneori se îndreaptă spre spiritual. Sondajele și rapoartele din ultimul an au documentat utilizatorii care formează atașamente intense la chatbot, iar unii comentatori au descris figurile de conducere ale AI în termeni mesianici.
Criticii subliniază ironia
Avertismentul lui Altman a atras deja acuzații de inconsecvență. Wccftech a remarcat că critica lui Altman la adresa Anthropic trece în mod convenabil cu vederea propria sa istorie a retoricii, care s-a sprijinit pe simbolismul religios în descrierea traiectoriei AI. Critica subliniază cât de încurcată a devenit relația industriei cu AI-ca-religie: chiar și directorii care avertizează împotriva spiritualizării AI și-au comercializat uneori tehnologia în termeni epocali, aproape transcendenți.
De ce contează
Modul în care publicul încadrează AI – ca instrument, coleg sau ceva mai aproape de un oracol – are consecințe asupra reglementării, proiectării produselor și rezultatelor sociale. Dacă liderul celui mai valoros startup AI din lume consideră încadrarea religioasă o problemă de siguranță, acea poziție ar putea modela modul în care OpenAI proiectează măsuri de protecție în jurul atașării utilizatorilor și modul în care susține că guvernele ar trebui să trateze tehnologia.
Pentru Anthropic, între timp, episodul de la Vatican și reuniunea sa interconfesională sugerează că compania intenționează să țină acele întrebări pe masă, indiferent de disconfortul rivalului său. Pe măsură ce sistemele de frontieră devin din ce în ce mai capabile și mai persuasive, argumentul intern al industriei cu privire la faptul dacă AI poate avea greutate morală - și cine poate decide - se mută de la seminariile de filosofie la centrul dezbaterii tehnologice de masă.
Nici OpenAI, nici Anthropic nu au răspuns public la poziția celuilalt dincolo de observațiile raportate de Altman.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
