Papież Leon twierdzi, że obawy o zagładę AI nie są „fałszywymi wiadomościami” – i zwraca się do Jensena Huanga z Nvidii

Papież Leon XIV powiedział w poniedziałek, że obawy, że sztuczna inteligencja stanie się nieuczciwa, nie są „fałszywymi wiadomościami” i należy je traktować poważnie, ostro napominając dyrektorów technologicznych, którzy twierdzą, że technologia powinna rozwijać się bez rządowych barier. Jak wynika z doniesień AFP, AP i Reuters nadawanych przez Al Jazeera, przemawiając na konferencji prasowej na pokładzie papieskiego samolotu wracającego do Rzymu po czterodniowej wizycie we Francji, papież odniósł się również – bez podawania jego nazwiska – do stanowiska dyrektora generalnego Nvidii, Jensena Huanga, wobec regulacji dotyczących sztucznej inteligencji.

Uwagi trafiają w newralgiczny moment dla polityki dotyczącej sztucznej inteligencji. Jak podaje Reuters, we wtorek prezydent Donald Trump ma gościć w Białym Domu liderów technologii, w tym Marka Zuckerberga z Meta i Dario Amodei z Anthropic, a branża sprzeciwia się regulacjom, mimo że czołowi naukowcy ostrzegają przed katastrofalnymi zagrożeniami. Czytelnikom śledzącym kolizje rządów z branżą sztucznej inteligencji AI Buzz Wire śledzi najnowsze osiągnięcia w dziedzinie sztucznej inteligencji od Waszyngtonu po Brukselę i Watykan.

„Obawy należy traktować poważnie”

Podczas pokładowej konferencji prasowej zapytano papieża o to, co Stany Zjednoczone i Chiny – dwa światowe superpotęgi związane ze sztuczną inteligencją – powinny zrobić, aby zapobiec stwarzaniu przez sztuczną inteligencję katastrofalnych zagrożeń dla ludzkości. Trump nazwał już obawy, że sztuczna inteligencja może zbuntować się, „mistyfikacją”.

„Uważam, że obawy wyrażone przez wielu ekspertów, specjalistów w dziedzinie sztucznej inteligencji, należy potraktować poważnie” – stwierdził papież, nalegając, aby kwestie bezpieczeństwa podniesione przez ekspertów w dziedzinie sztucznej inteligencji zostały zarówno omówione, jak i podjęte. Nawoływał świat do „promowania dialogu, badań, badań i znalezienia sposobów na zapewnienie, że sztuczna inteligencja nie dojdzie do punktu, w którym mogłaby zniszczyć ludzkość”.

Wymiana z Jensenem Huangiem

Najbardziej znaczący moment nastąpił, gdy Leo nawiązał do ogłoszenia, o którym, jak powiedział, przeczytał tego ranka: szef producenta chipów Nvidia opisał sposób wstawiania poręczy do niektórych modeli AI. Papież wyraził otwarty sceptycyzm co do posłańca.

„Jednak to ten sam, który twierdzi, że nie należy wprowadzać żadnych ograniczeń ani regulacji rządowych” – powiedział Leo, co było bezpośrednim uderzeniem w Huanga, który – jak wynika z raportów zbiorczych – powiedział CBS News na początku tego miesiąca, że ​​zgadza się z Trumpem, że obawy dotyczące bezpieczeństwa związane ze sztuczną inteligencją są przesadzone.

Ogłoszenie, o którym wspomniał papież, wydaje się być nowo zaprezentowaną platformą bezpieczeństwa Open Agent Safety Platform firmy Nvidia, przedsięwzięciem sprzętowo-programowym mającym na celu nadzorowanie autonomicznych agentów AI i zapobieganie ich nieuczciwości. Obserwatorzy nie umknęli ironii: najcenniejsza firma w branży sprzedaje obecnie technologię bezpieczeństwa, jednocześnie lobbując przeciwko przepisom rządowym, które zdaniem zwolenników bezpieczeństwa są potrzebne do ich egzekwowania.

Papiestwo zbudowane na ostrzeżeniach AI

Poniedziałkowe komentarze stanowią kontynuację tego, co stało się głównym tematem 16-miesięcznego pontyfikatu Leona. Pierwszy amerykański papież uznał sztuczną inteligencję za jedno z największych wyzwań stojących przed ludzkością w ciągu kilku dni od swojego wyboru i poświęcił swoją pierwszą encyklikę sztucznej inteligencji i ochronie ludzkości, podejmując niezwykły krok i osobiście ogłaszając dokument wraz ze współzałożycielem Anthropic, Christopherem Olahem, podczas majowego wydarzenia w Watykanie.

Pod rządami Leona Watykan stale nasilał swoją retorykę i inicjatywy na rzecz międzynarodowego zarządzania sztuczną inteligencją, ze szczególnym uwzględnieniem takich dziedzin, jak technologia nuklearna, kultura i twórczość artystyczna. Majowa premiera encykliki była częścią celowych wysiłków Watykanu mających na celu bezpośrednie nawiązanie kontaktu z Doliną Krzemową w sprawie kosztów ludzkich związanych ze sztuczną inteligencją – działania, które obecnie obejmują także publiczne wyzwania dla kadry kierowniczej. Papież powiedział, że należy kontynuować wysiłki na rzecz zwoływania decydentów: „Musimy w dalszym ciągu zapraszać przywódców politycznych, liderów sztucznej inteligencji, organizacji społecznych i stowarzyszeń, aby zebrali się i przyjrzeli się temu, co już się dzieje i co może nastąpić w przyszłości”.

„Myślę, że jest wystarczająco dużo osób poważnie zainteresowanych tą sprawą… ale musimy dalej pracować” – dodał.

Dlaczego papież wchodzi za skórę Doliny Krzemowej

Interwencja Leo ma znaczenie, ponieważ skupia się na głównej sprzeczności w obecnym stanowisku branży. W ostatnich tygodniach OpenAI zrezygnowało z wypuszczenia na rynek pionierskiego modelu ze względu na błędy w zestrojeniu, Nvidia i inne laboratoria szybko wypuściły na rynek produkty zapewniające bezpieczeństwo agentów, a wybitni naukowcy, w tym Geoffrey Hinton i Yoshua Bengio, ostrzegali przed niekontrolowaną „eksplozją inteligencji” – w rzeczywistości tego samego dnia, co uwagi papieża. Jednak czołowe głosy w branży nadal twierdzą, że regulacje rządowe stłumią innowacje.

Przesłanie papieża było takie, że obie rzeczy nie mogą być prawdziwe jednocześnie: jeśli ryzyko jest na tyle realne, że uzasadnia sprzedaż oprogramowania zabezpieczającego, jest na tyle realne, że uzasadnia zasady. Kiedy Biały Dom rozwinął w tym tygodniu czerwony dywan dla kadry kierowniczej AI, Leo pozycjonuje Watykan jako jedną z niewielu globalnych instytucji, które chcą to powiedzieć otwarcie.

Wyprzedź sztuczną inteligencję

Śledź globalną walkę o przyszłość sztucznej inteligencji. Przeczytaj więcej wiadomości o AI w AI Buzz Wire.

Najnowsze osiągnięcia AI →