Geoffrey Hinton, laureat Nagrody Nobla powszechnie znany jako „ojciec chrzestny sztucznej inteligencji”, przekazał w tym tygodniu jedno ze swoich najsurowszych ostrzeżeń amerykańskim prawodawcom: Kongres ma mniej więcej rok na wprowadzenie znaczących zabezpieczeń sztucznej inteligencji, zanim technologia wymknie się spod kontroli człowieka. Według NBC News brytyjsko-kanadyjski informatyk przedstawił te uwagi 16 września podczas zamkniętej konferencji Senatu na Kapitolu.

„Może rok, ale nie dużo więcej niż rok” – powiedziała Hinton sali prawodawców, zgodnie z relacją NBC ze spotkania. Jak wynika z licznych raportów z sesji, odprawę zwołał senator Bernie Sanders i wziął w niej udział także fizyk z MIT Max Tegmark, współzałożyciel Instytutu Future of Life oraz badacz bezpieczeństwa sztucznej inteligencji Ajeya Cotra.

Istota ostrzeżenia: sztuczna inteligencja buduje sztuczną inteligencję

Argument Hintona skupiał się na konkretnym technicznym kamieniu milowym, a nie na odległej hipotezie. „Sztuczna inteligencja osiągnęła obecnie punkt, w którym projektuje lepszą sztuczną inteligencję” – stwierdził, według raportów z odprawy. „To się nazywa rekurencyjne samodoskonalenie… jeśli czegoś nie zrobimy, wymknie się to spod kontroli”.

Powiedział także prawodawcom, że w ciągu ostatniej dekady harmonogram prac ekspertów w zakresie superinteligencji uległ skróceniu. „Jeśli spojrzeć na przewidywania, kiedy otrzymamy superinteligencję, zwykle było to może 30, a może 50 lat” – powiedział Hinton dla NBC News. „Potem wszystko sprowadzało się do może 10, może 20 lat. Teraz ludzie mówią, wielu badaczy twierdzi, że tylko kilka lat”.

Hinton, emerytowany profesor Uniwersytetu w Toronto, który w 2024 r. otrzymał Nagrodę Nobla w dziedzinie fizyki za fundamentalne prace nad sieciami neuronowymi, opuścił Google w 2023 r. i od tego czasu stał się najwybitniejszym wewnętrznym krytykiem w tej dziedzinie – ostrzegając, że systemy, które pomógł stworzyć, mogą przechytrzyć i wyprzeć swoich twórców.

Sceptycyzm wobec „wyłącznika awaryjnego”

Nawet nawołując do szybkiego wprowadzenia regulacji, Hinton wyraził wątpliwości co do jednej z najczęściej dyskutowanych propozycji: mandatu federalnego, który pozwoliłby rządowi zamknąć niebezpieczne systemy sztucznej inteligencji. Według CNN powiedział prawodawcom, że taki „wyłącznik awaryjny” nie sprawdzi się na dłuższą metę.

Jego sceptycyzm pojawił się w tym samym tygodniu, w którym senator Rand Paul zablokował przyspieszone przyjęcie w Senacie kierowanej przez Republikanów ustawy o wyłączniku AI – odcinek ten ilustruje, jak daleko pozostaje od uchwalenia nawet minimalnego ustawodawstwa dotyczącego poręczy. Senator John Kennedy z Luizjany, który wziął udział w części odprawy, powiedział dziennikowi The Washington Sun, że podobała mu się dyskusja, ale nie widział żadnych oznak, że Senat miałby podjąć działania, dodając, że spodziewa się kolejnego ruchu ze strony Białego Domu, powołując się na doniesienia, że ​​sekretarz skarbu Scott Bessent naciska na wprowadzenie ram bezpieczeństwa.

Widok po drugiej stronie przejścia nie był dużo bardziej słoneczny. Senator Rick Scott z Florydy powiedział w wywiadzie dla NewsNation, że firmy muszą same się regulować: „Nie będziemy wystarczająco mądrzy, aby je regulować. Tutaj nic nie zrobimy” – stwierdził, jak donosi „The Washington Sun”.

Część Demokratów popchnęła inny kierunek. Przedstawicielka Yassamin Ansari z Arizony, która była obecna na odprawie, napisała w X, że sztuczna inteligencja „może i nadal będzie wykraczać poza ludzką kontrolę” oraz że „nasze możliwości jej uregulowania szybko się kurczą. Musimy TERAZ zrobić pauzę”.

Tydzień bezpieczeństwa kręgosłupa AI

Odprawa zakończyła burzliwy okres debaty na temat zarządzania sztuczną inteligencją. Kilka dni wcześniej dyrektor generalny Anthropic, Dario Amodei, opublikował esej, w którym wzywał laboratoria pionierskie do przyspieszenia rozwoju i ostrzegał przed ryzykiem związanym z utratą kontroli po bioterroryzm – stanowisko to, według powszechnych raportów, jest publicznie popierane przez innych liderów laboratoriów. Tego samego dnia, w którym Hinton zwrócił się do senatorów, wybitni badacze sztucznej inteligencji, w tym Andrew Ng, publicznie odrzucili obawy o wyginięcie jako przesadzone, podkreślając dziedzinę, która publicznie toczy spory.

Na Kapitolu aktywność była głośniejsza niż produkcja. Senator Cory Booker wezwał prezydenta Trumpa do zwołania specjalnej sesji Kongresu poświęconej sztucznej inteligencji, natomiast dwupartyjny Klub Rozwiązujących Problemy ogłosił w tym tygodniu utworzenie nowej grupy roboczej ds. sztucznej inteligencji i nowych technologii. Żadne z nich nie stworzyło jeszcze wiążącego prawa federalnego.

Dlaczego jednoroczne ramy mają znaczenie

Ostrzeżenia pionierów sztucznej inteligencji oparte na ostatecznym terminie stały się rutyną, ale specyfika harmonogramu Hintona – dostarczanego bezpośrednio osobom posiadającym uprawnienia do stanowienia prawa, w pomieszczeniu wyłączonym z dostępu do kadry kierowniczej branży – oznacza zmianę tonu. Poprzednie ostrzeżenia badaczy zazwyczaj przewidywały ryzyko na dziesięciolecia; okno roczne oznacza reakcje polityczne zaprojektowane dla obecnego Kongresu, a nie przyszłych.

Zaostrza także problem polityczny. Jak pokazują sceptycyzm samego Hintona w sprawie wyłącznika awaryjnego i blokada proceduralna senatora Paula, nawet wśród osób dbających o bezpieczeństwo nie ma zgody co do tego, jakie interwencje byłyby skuteczne. Hinton argumentował, że sytuacja międzynarodowa – zwłaszcza konkurencja z Chinami – sprawia, że ​​jednostronne spowolnienie jest politycznie niestabilne, co stanowi napięcie, które utrudniało jak dotąd najpoważniejsze propozycje.

Według zegara Hintona to, co stanie się później, to kwestia miesięcy. To, czy odprawa zmieni ten rachunek, zależy od Senatu, który – według relacji jego własnych członków – obecnie w ogóle się nie porusza.

Wyprzedź sztuczną inteligencję

Polityka w zakresie sztucznej inteligencji zmienia się szybko — podobnie jak wszystko inne w tej dziedzinie. Aby uzyskać więcej najświeższych wiadomości o sztucznej inteligencji, aktualizacji przepisów i analiz, przeczytaj więcej wiadomości o sztucznej inteligencji →.

---

Bądź na Bieżąco z AI

Najnowsze wiadomości, analizy i przełomy w dziedzinie AI — wszystko w jednym miejscu.

Czytaj więcej wiadomości AI →