Podczas gdy firmy technologiczne ścigają się w budowaniu coraz potężniejszej sztucznej inteligencji, niektóre z nich proszą starą instytucję o pomoc w rozwiązaniu nowego problemu: jak nauczyć chatbota odróżniać dobro od zła. Ich odpowiedzią w coraz większym stopniu jest religia.
W ostatnich miesiącach dyrektorzy AI zwrócili się do filozofów i przywódców religijnych o opinie na temat tego, jak uczynić modele „dobrymi moralnie”. Docieranie do nich sięga od formalnych konsultacji po wystąpienia w Watykanie i według opublikowanego w niedzielę raportu Associated Press wśród badaczy religii budzą obawy, że firmy źle rozumieją, z czego korzystają. Dla czytelników śledzących najnowsze osiągnięcia w zakresie sztucznej inteligencji ta historia sygnalizuje, jak kluczowe stało się dostosowanie moralne do obecnego działania tych firm.
„Pytania, na które laboratorium nie może odpowiedzieć”
Anthropic, firma zajmująca się sztuczną inteligencją, powszechnie postrzegana jako firma, która najpoważniej podchodzi do etyki, jest jedną z najbardziej aktywnych. Podczas prezentacji w Watykanie encykliki papieża Leona XIV na temat sztucznej inteligencji na początku tego roku współzałożyciel firmy Anthropic, Chris Olah, powiedział zebranym, że kwestie moralne dotyczące sztucznej inteligencji wykraczają poza to, co firmy mogą rozwiązać samodzielnie.
„To nie są pytania, na które laboratorium może odpowiedzieć” – powiedział Olah. „To pytania, które tradycje takie jak twoja niosą ze sobą od tysiącleci”.
W majowym poście na blogu Anthropic poinformowała, że spotkała się z „uczonymi, duchownymi, filozofami i etykami z ponad 15 grup religijnych i międzykulturowych”, a grupę tę ma nadzieję poszerzyć. Firma ujęła to przedsięwzięcie w szeroki sposób: „Ta praca nie polega na dostosowaniu naszych modeli do światopoglądu jakiejkolwiek tradycji. Chcemy, aby Claude czerpał z pełnego zakresu punktów widzenia – religijnego, świeckiego i politycznego – z równą głębią i rygorystycznością”.
Dyrektor generalny OpenAI, Sam Altman, przedstawił inną, bardziej zagregowaną wizję. „Myślę, że ChatGPT powinien odzwierciedlać średnią ważoną, czy cokolwiek innego, z moralnego punktu widzenia ludzkości” – powiedział Altman w zeszłym roku.
Spotkania wiary w Anthropic
Meghan Sullivan, filozofka religii, która kieruje inicjatywą dotyczącą etyki i sztucznej inteligencji na Uniwersytecie Notre Dame, wzięła udział w jednym ze spotkań Anthropic na początku tego roku. W przeciwieństwie do rozmów, które przeprowadziła z innymi firmami technologicznymi, była pod wrażeniem rygoru zaangażowania.
„Kultura wewnątrz firmy jest podobna do tej na dobrym kampusie uniwersyteckim w tym sensie, że zatrudnia się grupę ludzi bardzo ciekawych intelektualnie” – powiedział Sullivan. „Te spotkania są dość kujonskie – nie wiem, czy to najlepszy sposób, aby to ująć – w dobrym tego słowa znaczeniu”.
Spotkanie, w którym uczestniczyli chrześcijanie różnych wyznań, zostało podzielone na dwie części: firma najpierw wyjaśniła swoje modele „w sposób laicki”, a przywódcy wiary odpowiedzieli uwagami i dyskusją. Według Sullivana pytania wahały się od „Czy ludzie mają dusze?” na „Czy uczniowie trzeciej klasy powinni mieć dostęp do chatbota w celu nauczania umiejętności czytania i pisania?”
Watykan staje się częstym przystankiem
Anthropic nie jest sam w ławkach. Przedstawiciele Meta, Google i Amazon również spotkali się z Watykanem, natomiast Microsoft został opisany jako szczególnie energiczny w swoich działaniach religijnych.
Zaangażowanie odzwierciedla kalkulację charakterystyczną dla tego momentu rozwoju sztucznej inteligencji. Podczas gdy kadra kierownicza alarmuje o niszczycielskim potencjale sztucznej inteligencji i debatuje, co w ogóle oznacza „moralnie dobry” model zachowania, tradycje religijne oferują nagromadzone przez kilka tysiącleci myślenie o charakterze, obowiązkach i krzywdzie – materiał, którego żaden korpus szkoleniowy nie jest w stanie w pełni odtworzyć i którego firmy nie mogą łatwo pozyskać gdzie indziej na dużą skalę.
Własne ramy Anthropic jasno wyrażają tę ambicję: „W tych rozmowach chodzi nam o ostrożne, nagromadzone myślenie o tym, jak faktycznie kształtuje się dobry charakter”.
Uczeni ostrzegają: religia nie jest zbiorem przepisów
Zarówno eksperci, jak i zwolennicy przestrzegają, że założenie firm – że religia może dostarczyć dającego się wydobyć zestawu zasad moralnych – nie uwzględnia tego, jak w rzeczywistości działają tradycje. Różne światopoglądy często są ze sobą sprzeczne, a traktowanie religii jako bazy zasad grozi zniekształceniem samego materiału, z którego się korzysta.
Webb Keane, antropolog z Uniwersytetu Michigan, twierdzi, że uczeni przez dziesięciolecia odpierali pogląd, że religia jest zbiorem zasad oderwanych od „niechlujnego, praktycznego, doraźnego” sposobu życia wyznawców.
„Istnieje bardzo konwencjonalny sposób myślenia o religii jako o zbiorze zasad” – powiedział Keane. „Z pewnością jest to bardzo powiązane z religią biblijną, a religie biblijne ostatecznie okazują się w rzeczywistości religiami abrahamowymi”.
Ostrzega, że takie założenie stwarza ryzyko nadawania priorytetu pewnym tradycjom i wypaczania innych – zwłaszcza wyznań, które nie postrzegają siebie przede wszystkim jako systemów etycznych.
Tomoko Masuzawa, religioznawczyni i autorka książki „Wynalezienie religii świata” idzie dalej, zauważając, że kategorie takie jak „buddyzm” i „hinduizm”, jako jasno ograniczone i porównywalne tradycje, są w dużej mierze konstruktem europejskiej nauki sięgającej XIX wieku. „Wszystkie te kategorie nie były rodzime” – powiedział Masuzawa.
Co właściwie jest budowane
Krytyka naukowa ma znaczenie praktyczne, ponieważ wszystko, czego firmy dowiedzą się podczas tych konsultacji, może wpłynąć na sposób, w jaki modele odpowiadają na pytania moralne zadawane przez miliardy użytkowników. Sztuczna inteligencja, która traktuje religię jako źródło zasad opartych na średniej ważonej, będzie zachowywać się inaczej niż sztuczna inteligencja wyszkolona w rozpoznawaniu faktu, że autorytet moralny jest kwestionowany, umiejscowiony i przeżywany.
Na razie firmy zaprzeczają jakiemukolwiek programowi opartemu na jednej tradycji, a zaangażowani przywódcy wiary opisują to zaangażowanie jako poważne i merytoryczne. Werdykt Sullivana na temat Anthropic – ciekawy intelektualnie, rygorystyczny, nieco kujonowy – sugeruje, że spotkania to coś więcej niż public relations.
Jednak głębsze pytanie, jakie wyłania się z raportu AP, pozostaje otwarte: czy jakikolwiek proces konsultacji może przełożyć tysiąclecia przeżywanej tradycji na modelowe zachowanie bez spłaszczania go – i kto decyduje, które części moralnego dziedzictwa ludzkości znajdą się na wadze.
---
Wyprzedź sztuczną inteligencjęOtrzymuj najnowsze wiadomości, analizy i przełomowe informacje dotyczące sztucznej inteligencji — wszystko w jednym miejscu.
Przeczytaj więcej aktualności o sztucznej inteligencji →
