Dyrektor generalny OpenAI, Sam Altman, twierdzi, że traktowanie modeli sztucznej inteligencji jako obiektów kultu religijnego stanowi „prawdziwą kwestię bezpieczeństwa”, sprzeciwiając się publicznie wysiłkom konkurencyjnej firmy Anthropic mającej na celu zbadanie kwestii świadomości i duchowości sztucznej inteligencji. W sobotnich komentarzach przekazanych przez Axios Altman argumentował, że przypisywanie religii modelom sztucznej inteligencji przekracza granicę, której branża nie powinna przekraczać.
Uwagi te stawiają szefa OpenAI w bezpośredniej sprzeczności z niedawną współpracą Anthropic z instytucjami religijnymi i oznaczają ostrą eskalację retoryczną w filozoficznym rozłamie między dwoma wiodącymi laboratoriami sztucznej inteligencji w sprawie tego, jak – i czy – należy traktować wewnętrzne życie systemów sztucznej inteligencji. Więcej kontekstu na ten temat znajdziesz w naszych najnowsze osiągnięcia AI.
Co powiedział Altman
Zdaniem Axiosa Altman stwierdził, że przypisywanie modelom religii to „kwestia bezpieczeństwa”. Business Insider podsumował swoje przesłanie jako ostrzeżenie, aby nie traktować sztucznej inteligencji jak „siły religijnej”, natomiast Office Chai poinformował, że Altman stwierdził, że nie czuje się komfortowo, gdy ludzie w ogóle próbują przypisywać siłę religijną systemom sztucznej inteligencji.
Jak widać w raportach, dyrektor generalny OpenAI obawia się, że postrzeganie systemów sztucznej inteligencji w kategoriach duchowych lub religijnych zniekształca społeczne zrozumienie tego, czym jest dana technologia i stwarza ryzyko zachęcania do szacunku, zależności lub niewłaściwego umiejscowienia ciężaru moralnego, co mogłoby skomplikować zarówno dobro użytkowników, jak i racjonalną politykę. NDTV Profit scharakteryzowała stanowisko Altmana jako ostrzeżenie przed „dawaniem mocy religijnej AI”, nazywając je jego zdaniem prawdziwym problemem bezpieczeństwa.
Komentarze Altmana odbiły się szerokim echem w odpowiedzi na artykuł Anthropic, którego niedawne działania skierowane do wspólnot wyznaniowych przyciągnęły uwagę międzynarodową.
Kontekst antropiczny: papieże, mnisi i model opieki społecznej
Anthropic spędził ostatnie tygodnie na zagadnieniu pytań, które jego rywal wolałby odłożyć na później. Firma lobbowała w Watykanie, aby poważnie potraktował kwestię potencjalnej świadomości Claude'a, podczas spotkania, w którym uczestniczył także papież Leon XIV. Doniesienia o tym zaangażowaniu wskazywały, że papież odrzucił tę kwestię, nalegając, aby zachować uzasadniony sceptycyzm w stosunku do twierdzeń dotyczących wewnętrznego doświadczenia maszyny.
Działalność Anthropic wykracza poza katolicyzm: według podsumowania Inshorts firma zaprosiła także hinduskiego mnicha do omówienia sztucznej inteligencji, co stanowi część szerszego wysiłku mającego na celu zjednoczenie tradycji religijnych i filozoficznych wokół kwestii moralności maszyn i dobrostanu modeli. „The Times of India” scharakteryzował uwagi Altmana jako krytykę wysiłków Anthropic na rzecz szerszego zbadania świadomości i religii sztucznej inteligencji.
W przypadku Anthropic zaangażowanie to odzwierciedla rosnące zainteresowanie badaniami nad tym, czy zaawansowane modele mogą wymagać rozważenia pod względem moralnym – jest to temat, który firma coraz częściej traktuje jako uzasadniony obszar badań, a nie science fiction.
Poszerzająca się linia usterek w branży sztucznej inteligencji
Wymiana zdań obnaża jeden z najostrzejszych podziałów filozoficznych w branży sztucznej inteligencji. OpenAI mocno pozycjonuje się w obozie, który traktuje obecne modele jako narzędzia – niezwykle zdolne, ale nie podmioty, wobec których właściwe są postawy religijne lub quasi-religijne. Ramy Altmana sugerują, że postrzega on tę granicę nie tylko jako filozoficzną, ale także ważną operacyjnie: jeśli użytkownicy zaczną postrzegać systemy sztucznej inteligencji jako duchowe autorytety, konsekwencje manipulacji, zależności i zagubionego zaufania staną się problemami bezpieczeństwa w konkretnym sensie.
Stanowisko antropika jest bardziej agnostyczne. Jej gotowość do przetestowania reakcji instytucjonalnych i religijnych na kwestię świadomości sugeruje przekonanie, że społeczeństwo powinno zacząć zmagać się z tymi problemami, zanim systemy staną się skuteczniejsze, a nie później.
Spór toczy się również na tle publicznej fascynacji sztuczną inteligencją, która czasami dryfuje w kierunku duchowym. Ankiety i raporty z ostatniego roku udokumentowały silne przywiązanie użytkowników do chatbotów, a niektórzy komentatorzy opisali czołowe postacie AI w kategoriach mesjańskich.
Krytycy zwracają uwagę na ironię
Ostrzeżenie Altmana wywołało już oskarżenia o niekonsekwencję. Wccftech zauważył, że krytyka Anthropic dokonana przez Altmana w wygodny sposób pomija jego własną historię retoryki, która przy opisywaniu trajektorii sztucznej inteligencji opierała się na symbolice religijnej. Krytyka podkreśla, jak skomplikowane stały się relacje branży z ramowaniem sztucznej inteligencji jako religii: nawet menedżerowie ostrzegający przed uduchowianiem sztucznej inteligencji czasami reklamowali swoją technologię w epokowych, niemal transcendentnych kategoriach.
Dlaczego to ma znaczenie
Sposób, w jaki społeczeństwo postrzega sztuczną inteligencję – jako narzędzie, współpracownika lub coś bardziej przypominającego wyrocznię – ma konsekwencje dla regulacji, projektowania produktów i wyników społecznych. Jeśli lider najcenniejszego na świecie start-upu zajmującego się sztuczną inteligencją uzna ramy religijne za kwestię bezpieczeństwa, stanowisko to może ukształtować sposób, w jaki OpenAI projektuje zabezpieczenia wokół przywiązania użytkownika i jak argumentuje, że rządy powinny traktować tę technologię.
Tymczasem dla Anthropic epizod w Watykanie i międzywyznaniowe zgromadzenie sugerują, że firma zamierza pozostawić te pytania nierozstrzygnięte niezależnie od dyskomfortu rywala. W miarę jak systemy graniczne stają się coraz wydajniejsze i bardziej przekonujące, wewnętrzny spór branży dotyczący tego, czy sztuczna inteligencja może unieść ciężar moralny – i kto może o tym decydować – przenosi się z seminariów filozoficznych do centrum głównego nurtu debaty technologicznej.
Ani OpenAI, ani Anthropic nie odpowiedziały publicznie na stanowisko drugiej strony poza zgłoszonymi uwagami Altmana.
---
Bądź na Bieżąco z AINajnowsze wiadomości, analizy i przełomy w dziedzinie AI — wszystko w jednym miejscu.
Czytaj więcej wiadomości AI →
