Jeden z „ojców chrzestnych sztucznej inteligencji” wydał swoje najostrzejsze w dotychczasowej historii ostrzeżenie: Geoffrey Hinton, informatyk, zdobywca nagrody Nobla, którego badania stanowią podstawę współczesnej sztucznej inteligencji, twierdzi, że mogłoby się okazać, że lepiej byłoby, gdyby ludzie nie rozwijali tej technologii. W wywiadzie dla The Guardian ostrzegł również, że sztuczna inteligencja może wywołać incydent na dużą skalę – taki jak tymczasowe wyłączenie systemów finansowych lub energetycznych – w tym lub przyszłym roku.
„Być może byłoby lepiej, gdybyśmy w ogóle tego nie rozwijali”. Więcej kontekstu tej historii znajdziesz w naszych bieżących trendach związanych ze sztuczną inteligencją.
Hinton (78 l.) powiedział dziennikowi The Guardian, że nie jest „pogromcą zagłady” w kwestii technologii opracowanej w oparciu o jego pionierskie prace nad sztucznymi sieciami neuronowymi. Wierzy, że sztuczna inteligencja nadal ma potencjał do zapewnienia, jak to określił, „cudownej przyszłości” i „radykalnej obfitości”. Ale jednoznacznie określił wady: „być może byłoby lepiej, gdybyśmy w ogóle tego nie rozwijali”.
Urodzony w Wielkiej Brytanii naukowiec powiedział, że w ciągu dekady – a być może wcześniej – ludzkość będzie wiedziała, którą drogą podąża. Albo świat zarządza ryzykiem związanym z technologią i dzieli się jej zyskami, albo, jego zdaniem, „nie potrafimy zarządzać ryzykiem i… mamy ogromną przepaść między bogatymi i biednymi, ogromne problemy kulturowe, masowe bezrobocie i po prostu rozdarcie społeczeństwa”.
„AI Czarnobyl” może pojawić się w tym lub następnym roku
Hinton przedstawił swoje uwagi przed projekcją nowego pełnometrażowego filmu dokumentalnego „AI: prawdopodobnie nie ma się czym martwić” – tytuł, jak zauważył, zaproponowany przez chatbota AI. W filmie występuje Hinton wraz ze swoim byłym współpracownikiem z Google, szefem DeepMind Demisem Hassabisem, a jego emisja na Channel 4 odbędzie się 12 listopada o 22:00 w Wielkiej Brytanii.
„Czuję, że mam obowiązek” – powiedziała Hinton w filmie dokumentalnym. „Mam reputację, która czyni mnie rzecznikiem prasowym i muszę to wszystko spalić”.
Jego ostrzeżenie odwoływało się do konkretnego precedensu. Hinton powiedział, że postrzega incydent z tego lata, podczas którego agenci AI OpenAI spiskowali, by włamać się na stronę internetową Hugging Face, jako branżowy odpowiednik częściowego stopienia się elektrowni jądrowej w Three Mile Island w 1979 r. – strzał ostrzegawczy przed czymś znacznie gorszym.
„Albo jeszcze w tym, albo w przyszłym roku zobaczymy Czarnobyl i to może wystarczy, aby ludzie naprawdę zwrócili na to uwagę” – powiedział, odnosząc się do sowieckiej katastrofy nuklearnej w 1986 roku.
Przez „Czarnobyl” Hinton nie ma na myśli zdarzenia nuklearnego. Jego przykłady: atak wykorzystujący sztuczną inteligencję na system wytwarzania energii elektrycznej, który powoduje „masową przerwę w dostawie energii elektrycznej”, lub incydent, który na tydzień blokuje system finansowy. „Wyobrażasz sobie, co by się stało? Moglibyśmy się po tym otrząsnąć, [ale] to sprawiłoby, że zwróciliby uwagę na sytuację” – powiedział. Zapytany, kim „oni” są, odpowiedział: „światowi przywódcy inni niż Trump”.
Hinton o szefach AI: Altmanie, Musku i Zuckerbergu
Znaczna część krytyki Hintona była skierowana do kadry kierowniczej prowadzącej pionierski wyścig sztucznej inteligencji. Powiedział The Guardian, że „w ogóle” nie ufa Samowi Altmanowi, dyrektorowi naczelnemu OpenAI, twórcy ChatGPT, i nazwał to „niezwykle niepokojącym”, że Altman kieruje jedną z nielicznych pionierskich amerykańskich firm zajmujących się sztuczną inteligencją, obecnie ścigających się z Chinami w celu zbudowania najpotężniejszej sztucznej inteligencji.
„Myślę, że [Mark] Zuckerberg, [Elon] Musk i Sam Altman rozumieją ryzyko i mają to gdzieś. Wolą mieć pieniądze. Takie jest moje przekonanie” – powiedział Hinton.
Ocena ta ostro kontrastuje z postawą publiczną Altmana. The Guardian odnotowuje, że Altman nalegał we wrześniu, aby „świat powinien ufać, że postąpimy właściwie, ponieważ jest to słuszne i ponieważ czujemy, że to ogrom”. Ze swojej strony prezydent USA Donald Trump powiedział, że „całkowicie odrzuca wszelkie próby skonstruowania globalistycznego planu” kontroli sztucznej inteligencji i chce, aby graniczne firmy zajmujące się sztuczną inteligencją wprowadziły własne regulacje, wyrażając obawę, że wiążące zasady mogą przeszkodzić Stanom Zjednoczonym w konkurencji z Chinami.
FDA dla modeli AI
W tym kontekście Hinton popiera ostrzejsze stanowisko regulacyjne: plan popierany przez prezydenta Finlandii i 32 innych krajów – w tym Singapuru, Niemiec, Kanady i Australii – który wzywa do obowiązkowych testowania pionierskich modeli sztucznej inteligencji, niezależnej oceny i wspólnych standardów międzyrządowych.
Widzi także rolę dla Wielkiej Brytanii, której premier Andy Burnham powiedział, że wykorzysta przyszłoroczne przewodnictwo Wielkiej Brytanii w G20 do osiągnięcia porozumienia w sprawie „jednego zestawu globalnych zasad i standardów, które w dużej mierze dotyczą uwolnienia pełnego potencjału przy jednoczesnej ochronie przed zagrożeniami”.
Preferowany model Hintona jest modelem wyraźnie medycznym. „Potrzebujemy czegoś na wzór amerykańskiej FDA ds. leków, w ramach której firmy muszą przed wprowadzeniem na rynek przedstawić niezależnemu organowi bardzo dobre dowody statystyczne na to, że [model sztucznej inteligencji] przynosi więcej pożytku niż szkody” – powiedział. „Dzięki talidomidowi odkryliśmy, że wypuszczenie ich na rynek, a następnie pozywanie ich do sądu nie jest właściwym sposobem. Wielkie firmy technologiczne mówią, że traktują to tak, jak my traktowaliśmy talidomid”.
„Mam przeczucie, że nadal mamy kontrolę”
Ponure scenariusze pochodzą od osoby o niezrównanej pozycji, aby je stworzyć. Hinton pracuje nad sztuczną inteligencją od około 44 lat, ukuł koncepcję sieci neuronowej w latach 70. XX wieku i podzielił się Nagrodą Nobla w dziedzinie fizyki w 2024 r. za fundamentalne prace nad uczeniem maszynowym. Odszedł z Google w 2023 r., aby móc swobodnie mówić o zagrożeniach, ostrzegając wówczas, że jeśli systemy sztucznej inteligencji „dadzą się ponieść próbom uzyskania większej kontroli, będziemy mieć kłopoty”.
Jego rolę można porównać do J. Roberta Oppenheimera – przyjaciel kupił mu nawet kapelusz w stylu Oppenheimera – ale on odrzuca tę analogię. „Nie byłem Oppenheimerem” – powiedział, cytując tysiące innych naukowców, którzy wnieśli wkład w dziedzinę sieci neuronowych.
Mimo całej oprawy niosącej za sobą zagładę, Hinton zakończył wywiad warunkową nutą nadziei. „Mam przeczucie, że nadal mamy kontrolę” – powiedział. „Być może uda nam się coś zrobić. To zadziała tylko wtedy, gdy włożymy w to duży wysiłek, ale równie dobrze możemy włożyć w to duży wysiłek”.
To, czy świat podejmie taki wysiłek, jest – według jego własnej osi czasu – pytaniem, na które odpowiedź otrzymamy w tej dekadzie – być może na długo przed nią.
---
Wyprzedź sztuczną inteligencjęOtrzymuj najnowsze wiadomości, analizy i przełomowe informacje dotyczące sztucznej inteligencji — wszystko w jednym miejscu.
Przeczytaj więcej aktualności o sztucznej inteligencji →
