Papież Leon XIV powiedział na watykańskim spotkaniu naukowców i ekspertów w dziedzinie sztucznej inteligencji, że systemy sztucznej inteligencji to „narzędzia, a nie osoby”, ostrzegając przed przyznaniem agentom AI praw i wzywając rządy zgromadzone w Genewie w przyszłym miesiącu do wprowadzenia zakazu śmiercionośnej broni autonomicznej.
Przemówienie zostało wygłoszone uczestnikom spotkania „Przyszłość sztucznej inteligencji: dialog między Watykanem a światem naukowym na temat rozwoju i zastosowań inteligentnych technologii” zorganizowanego wspólnie przez Papieską Akademię Życia i Instytut Przyszłości Życia. Papież powiedział, że uczestnicy z różnych krajów „poczuwają pewien niepokój w związku z rozwojem sztucznej inteligencji. Zdajemy sobie sprawę, jaki kierunek powinniśmy obrać, ale nie robi się wystarczająco dużo, aby poczynić postępy”.
Maszyny to narzędzia, a nie osoby
Najjaśniejsze zdanie w adresie dotyczyło pomysłu, który zyskał popularność w części branży technologicznej i akademii prawniczej: rozszerzenia osobowości prawnej – lub praw – na zaawansowane systemy sztucznej inteligencji. Papież Leon twierdził coś przeciwnego. Maszyny – stwierdził – nie mają doświadczeń, ciał, uczuć ani relacji i nie rozumieją miłości, pracy ani odpowiedzialności.
Przyznał, że niektórzy sugerowali nadanie tym systemom praw lub osobowości prawnej, ale grozi to „przyćmieniem ludzkiej odpowiedzialności i pozostawieniem tych, którzy doznają krzywdy, w konfrontacji z istotą bez twarzy”. Komentarz pojawia się w tym samym sezonie, w którym agenci sztucznej inteligencji samodzielnie prowadzili firmy, negocjowali umowy i działali w imieniu użytkowników, co wywołało prawdziwą debatę prawną na temat odpowiedzialności w przypadku wyrządzenia szkody przez systemy autonomiczne. AI Buzz Wire śledzi ten i inne zmiany w zasadach dotyczących sztucznej inteligencji na bieżąco. Sformułowanie Papieża ponownie stawia pytanie ludzi stojących za systemem: jeśli agent sztucznej inteligencji powoduje szkody, ktoś z twarzą musi za to odpowiedzieć.
„Rozbrojenie” AI: zakaz broni autonomicznej
Trzecią uwagę Papieża – że pewnych decyzji nigdy nie można delegować maszynom – zilustrowano jaskrawymi przykładami: umieszczenie osoby na liście docelowej lub w bazie danych kontroli granicznej sprowadza ją do „punktu danych”. Przywołał przemówienie swojego poprzednika, papieża Franciszka, skierowane do przywódców G7 w 2024 r., w którym Franciszek określił sztuczną inteligencję jako „ekscytujące i przerażające narzędzie” i upierał się, że żadna maszyna nie powinna kiedykolwiek móc odebrać sobie życia.
„Decyzje dotyczące życia ludzkiego, wolności i użycia siły muszą zawsze podlegać skutecznemu, świadomemu i odpowiedzialnemu nadzorowi człowieka” – powiedział papież Leon. Dlatego sztuczną inteligencję należy „rozbrojyć” – argumentował i wyraźnie zachęcał państwa, które zebrały się w listopadzie w Genewie, do podjęcia kroków w celu wprowadzenia zakazu śmiercionośnej broni autonomicznej. Dyplomaci od lat walczą o uzgodnienie wiążących zasad dotyczących broni autonomicznej; bezpośredni apel papieski dodaje wagi moralnej procesowi negocjacyjnemu, którego motorem są głównie kampanie społeczeństwa obywatelskiego i blok zainteresowanych państw.
Pięć uwag z Magnifica Humanitas
Przemówienie zorganizowało się wokół pięciu rozważań, które Papież sformułował w swojej encyklice Magnifica Humanitas:
1. Przyszłość sztucznej inteligencji nie jest z góry określona. Ponieważ ludzie rozwijają sztuczną inteligencję, jej przyszłość zależy od wyborów ludzkości. „Mamy obowiązek kierować, zmieniać i, jeśli to konieczne, odrzucać jego wnioski” – powiedział Papież. Właściwe pytanie nie brzmi: „Co może zrobić sztuczna inteligencja?” ale „Jakiemu celowi powinno to służyć?”
2. Maszyny to narzędzia, a nie ludzie. Powyższe ostrzeżenie dotyczące osobowości.
3. Niektórych decyzji nigdy nie można delegować. Decyzje mające wpływ na życie ludzkie, wolność i użycie siły wymagają skutecznego, świadomego i odpowiedzialnego nadzoru człowieka.
4. Inteligentne technologie muszą służyć dobru wspólnemu. „Nie mogą nigdy stać się celami samymi w sobie ani służyć jedynie interesom nielicznych uprzywilejowanych” i powinny sprawiedliwie rozdzielać korzyści płynące z postępu.
5. Instytucje są potrzebne, aby etyka mogła funkcjonować. Opisywane jako potencjalnie najpilniejsze wyzwanie: świat potrzebuje „wspólnych standardów, niezależnego nadzoru i jasnych mechanizmów odpowiedzialności, aby decyzje dotyczące rozwoju i wykorzystania sztucznej inteligencji mogły być badane, w razie potrzeby kwestionowane i zapewniane odpowiednimi środkami zaradczymi za wszelkie wyrządzone szkody”.
Dlaczego ma to znaczenie poza Watykanem
Watykan po cichu stał się jednym z bardziej spójnych głosów instytucjonalnych w sprawie zarządzania sztuczną inteligencją. Rzymskie wezwanie do wprowadzenia etyki AI, podpisane w lutym 2020 r. przez Papieską Akademię Życia wraz z Microsoft, IBM, FAO i rządem Włoch, wyrosło z tego ekosystemu, a Papieska Akademia Życia wielokrotnie spotykała się z technologami na temat bioetyki i podejmowania decyzji przez maszyny. Współorganizacja z Future of Life Institute — organizacją zajmującą się bezpieczeństwem sztucznej inteligencji, która stworzyła listy otwarte na temat ryzyka modeli pionierskich — sygnalizuje ciągłe wysiłki na rzecz łączenia religijnych i świeckich społeczności zajmujących się etyką sztucznej inteligencji.
Dla decydentów apel genewski jest konkretnym wnioskiem: po wznowieniu negocjacji w sprawie broni autonomicznej Watykan chce wiążącego zakazu, a nie dobrowolnych wytycznych. Natomiast dla branży sztucznej inteligencji przesłanie dotyczące osobowości jest wyraźną linią na piasku – niezależnie od tego, jak autonomiczni są agenci, odpowiedzialność moralna i prawna spoczywa na ludziach, którzy je tworzą i wdrażają.
