Google DeepMind uruchomił nowy instytut, którego zadaniem jest poszerzanie dyskusji na temat sztucznej inteligencji ogólnej, a jego eseje inauguracyjne zawierają konkretną propozycję Demisa Hassabisa dotyczącą powołania organu pod przewodnictwem Stanów Zjednoczonych, który miałby oceniać pionierskie modele sztucznej inteligencji przed wdrożeniem.
Według TechCrunch Instytut DeepMind, założony w środę przez Google i badaczy Google DeepMind, wymienia współzałożyciela DeepMind, Shane’a Legga, na swoim redaktorze naczelnym, obok dyrektora Google Jamesa Manyiki i przewodniczącego Google DeepMind Demisa Hassabisa na stanowiskach dyrektorów – według TechCrunch. Więcej kontekstu na ten temat znajdziesz w naszych wiadomości AI.
Pokój, w którym można się nie zgodzić
Deklarowanym celem instytutu jest ujawnianie prawdziwych sporów – także w samym Google. „Nie zawsze się zgodzą i prawdopodobnie zmienią zdanie, w miarę jak na szybko przesuwającej się granicy wyjdzie na jaw więcej danych i informacji” – czytamy w ogłoszeniu.
Pierwszy zbiór obejmuje cztery eseje dotyczące polityk gospodarczych mających na celu zarządzanie potencjalnymi zakłóceniami AGI, zachowanie czytelnego dla człowieka rozumowania modelu, zasady rozwoju człowieka oraz ramy oceny pionierskich modeli sztucznej inteligencji.
Instytucjonalizacja otwartego sporu to niezwykłe posunięcie w przypadku korporacyjnego laboratorium sztucznej inteligencji, w którym przekaz publiczny jest zwykle ściśle kontrolowany. Z założenia instytut zapewnia badaczom Google miejsce do przedstawiania stanowisk, które mogą być sprzeczne z interesami handlowymi firmy lub wzajemnymi interesami.
Esej o przejrzystości: obejrzyj „Nieprzezroczystą głębię serialu”
W jednym z czterech esejów, autorstwa badaczy bezpieczeństwa DeepMind, Rohina Shaha i Anci Dragan, dowodzi się, że kurczące się okno przezroczystości sztucznej inteligencji – czyli możliwość zobaczenia i sprawdzenia rozumowania modelu krok po kroku – nie jest nieuniknione, nawet jeśli nowe architektury utrudniają monitorowanie najpotężniejszych modeli.
Autorzy twierdzą, że deweloperzy i organy regulacyjne powinny bezpośrednio skonfrontować się z kompromisami w zakresie bezpieczeństwa. Konkretnie może to oznaczać ograniczenie tego, co nazywają „nieprzezroczystą głębią szeregową” – ilości obliczeń sekwencyjnych, które model może wykonać bez tworzenia czytelnego śladu rozumowania – lub wymaganie od programistów wykazania, że mniej przejrzyste systemy można monitorować tak samo, jak te, które można zinterpretować.
Wniosek jest godny uwagi, ponieważ traktuje utratę interpretowalności jako wybór koncepcji i polityki, a nie nieuniknioną konsekwencję skali, otwierającą drzwi dla wymogów, które można zapisać w przepisach.
Propozycja Hassabisa: amerykański organ ds. standardów granicznych
Najbardziej znaczący esej może być esejem Hassabisa. Proponuje powołanie pod przewodnictwem Stanów Zjednoczonych granicznego organu ds. standardów sztucznej inteligencji, którego zadaniem będzie ocena najbardziej zaawansowanych modeli sztucznej inteligencji. Zgodnie z tymi ramami programiści początkowo dobrowolnie przesyłali modele do przeglądu do 30 dni przed publikacją. Gdy system oceny okaże się skuteczny, zdanie jego testów może stać się wymogiem wdrożenia pionierskich modeli w Stanach Zjednoczonych.
Organ ten zacząłby od zaprojektowania ocen w porozumieniu z firmami zajmującymi się sztuczną inteligencją, ale ostatecznie opracowałby niezależne, nieujawnione oceny – co w eseju nazywa się „testami wstrzymywanymi” – aby uniemożliwić laboratoriom dostosowywanie swoich modeli do znanych wzorców odniesienia, co jest dobrze udokumentowaną przyczyną niepowodzenia systemów publicznej oceny.
Hassabis pozostawił także otwarte drzwi do eskalacji: ramy można „zwiększyć, jeśli wymaga tego powaga sytuacji”, potencjalnie obejmując skoordynowane spowolnienie wśród pionierskich twórców sztucznej inteligencji.
Dlaczego pozostałe dwa eseje mają znaczenie
Pozostałe dwa eseje – na temat polityki gospodarczej w zakresie zarządzania zakłóceniami AGI i zasad rozwoju ludzkości – uzupełniają zbiór, w którym AGI traktuje się jako problem ogólnospołeczny, a nie czysto techniczny. Przemieszczenie gospodarcze od dawna jest najbardziej namacalnym problemem społecznym związanym z zaawansowaną sztuczną inteligencją, a zestawienie go z polityką oceny i możliwością interpretacji sugeruje, że instytut chce, aby decydenci postrzegali te elementy jako jeden program, a nie oddzielne debaty.
Ta szerokość jest także sygnałem o pozycjonowaniu Google. Firma konkuruje o klientów korporacyjnych i kontrakty rządowe, jednocześnie argumentując, że systemy graniczne wymagają zewnętrznej kontroli. Podstawowym założeniem instytutu jest publikowanie napięcia, a nie jego łagodzenie.
Od troski do konkretnych propozycji
Eseje pojawiają się w momencie, gdy branżowa debata na temat bezpieczeństwa zmienia się z ogólnych deklaracji o obawach w stronę konkretnych mechanizmów: wymogów dotyczących ujawniania informacji, kontroli zewnętrznej oraz – w przypadku niespełnienia zabezpieczeń – skoordynowanych spowolnień. Według TechCrunch ta zmiana nabrała przyspieszenia w tym tygodniu, gdy liderzy branży poparli elementy wezwania dyrektora generalnego Anthropic, Dario Amodei, do „tempa” rozwoju pionierskich rozwiązań AI.
Czas ma znaczenie. Rządy po obu stronach Atlantyku zastanawiają się, jak nadzorować systemy, których możliwości rozwijają się szybciej niż infrastruktura ewaluacyjna. Propozycja, która powstała w wiodącym laboratorium sztucznej inteligencji – i która obejmuje wnikliwy przegląd przed wydaniem – daje decydentom szablon, który nominalnie zatwierdziła sama branża, co w przeszłości było warunkiem wstępnym znaczących regulacji dotyczących sztucznej inteligencji.
Co obejrzeć
Pierwszym sprawdzianem będzie niezależność redakcyjna instytutu od Google. Jeśli w esejach nadal będą pojawiać się stanowiska sprzeczne z komercyjnym planem działania Google – jak zapewne ma to miejsce w eseju dotyczącym przejrzystości – miejsce to może stać się poważnym czynnikiem przyczyniającym się do debaty politycznej na temat AGI. Jeśli skieruje się w stronę przekazu korporacyjnego, będzie to kolejny kanał PR w zatłoczonym środowisku.
Tak czy inaczej, istota jest już na stole: wymogi dotyczące oceny przed premierą, wstrzymane testy, a nawet skoordynowane spowolnienie są publicznie argumentowane przez jedną z najpotężniejszych postaci w dziedzinie sztucznej inteligencji. Pytanie nie brzmi już, czy modele pionierskie powinny być poddawane niezależnej ocenie, ale kto dokonuje oceny – i według jakiego harmonogramu.
---
Bądź na Bieżąco z AINajnowsze wiadomości, analizy i przełomy w dziedzinie AI — wszystko w jednym miejscu.
Czytaj więcej wiadomości AI →
