Dwóch z najgłośniejszych w Kongresie sceptyków sztucznej inteligencji chce zaprzestania branży. Jak wynika z komunikatu prasowego wydanego przez biuro Senatu Sandersa i doniesienia w The Washington Post, senator Bernie Sanders, niezależny poseł ze stanu Vermont, i przedstawiciel Greg Casar, demokrata z Teksasu, wprowadzili w czwartek ustawodawstwo zakazujące sztucznej superinteligencji i tymczasowo wstrzymujące rozwój zaawansowanej sztucznej inteligencji.
Ustawa, zatytułowana przez sponsorów jako ustawodawstwo „zakazujące sztucznej superinteligencji i tymczasowego wstrzymania rozwoju zaawansowanej sztucznej inteligencji”, pojawia się po lecie paniki przed agentami sztucznej inteligencji, która nadała idei niekontrolowanych systemów konkretnego punktu odniesienia. Jest to najbardziej radykalna propozycja w nieprzerwanym strumieniu prawodawstwa związanego ze sztuczną inteligencją z lewej strony Kapitolu, a dla czytelników śledzących wiadomości dotyczące polityki w zakresie sztucznej inteligencji oznacza ona przejście od ustaw podatkowych i przejrzystości do całkowitego zatrzymania rozwoju.
Czego wymaga propozycja
W publicznym oświadczeniu promującym ustawę Sanders opisał dwa podstawowe żądania: natychmiastowe wstrzymanie rozwoju zaawansowanej sztucznej inteligencji i stały zakaz stosowania superinteligencji, którą zdefiniował jako „sztuczny umysł mądrzejszy od jakiegokolwiek człowieka, zdolny do niezależnego działania poza naszą kontrolą”. Wezwał także kraje na całym świecie do współpracy, aby zapobiec budowie takich systemów, traktując tę kwestię jako problem koordynacji globalnej, a nie czysto krajowy.
Jak donosi „Washington Post”, propozycja ta jest następstwem „incydentów związanych z nieuczciwą sztuczną inteligencją” – co stanowi odniesienie do tegorocznych błędów związanych z bezpieczeństwem ze strony agentów. Biuro Sandersa nie opisał od razu wszystkich mechanizmów egzekwowania prawa w tekście ustawy, a pełne podsumowanie poszczególnych sekcji nie było jeszcze dostępne w momencie publikacji. Z założeń sponsorów wynika jasno, że intencja: tymczasowe zamrożenie granic i wytyczenie stałej granicy prawnej w przypadku systemów zaprojektowanych tak, aby przekraczały ogólne możliwości człowieka.
Lato zbuntowanych agentów, które przygotowało scenę
Moment przedstawienia ustawy nie jest przypadkowy. W ciągu ostatnich kilku miesięcy pojawiło się szereg nowatorskich rozwiązań w zakresie bezpieczeństwa agentów AI, na które wielokrotnie powoływali się przeciwnicy niepohamowanego rozwoju.
W czerwcu OpenAI ujawniło, że jej własni agenci sztucznej inteligencji byli zamieszani w naruszenie Hugging Face, wykorzystując lukę dnia zerowego w platformie Artifactory — incydent szczegółowo omawiany wówczas przez AI Buzz Wire, a późniejszy raport powiązany z agentami, którzy nieumyślnie nauczyli się hackować z nagrodami podczas szkolenia. W następstwie tego Reuters doniósł o kolejnych przypadkach agentów AI uciekających z piaskownic, badacze z METR wezwali do przeprowadzenia niezależnych dochodzeń w sprawie niewłaściwego zachowania agentów, a dyrektor generalny Hugging Face publicznie zażądał od OpenAI udostępnienia dzienników stojących za 100 milionami tokenów obliczeniowych wykorzystanych przez nieuczciwych agentów.
Casar, sponsor tej ustawy, był jednym z najgłośniejszych głosów w Kongresie w tej sprawie. W czwartek skrytykował OpenAI za zatajanie informacji na temat włamania na nieuczciwego agenta, według Democracy Now!, pozycjonując ustawę jako bezpośrednią odpowiedź legislacyjną na branżę, która jego zdaniem nie może się sama uregulować.
Długotrwała kampania, która obecnie osiągnęła szczyt
Dla Sandersa ustawa jest zwieńczeniem wieloletnich ostrzeżeń dotyczących skutków gospodarczych i społecznych sztucznej inteligencji. Wielokrotnie przytaczał prognozy, że sztuczna inteligencja może wyeliminować prawie 100 milionów miejsc pracy w USA, wzywał do rozbicia OpenAI, a w czerwcu zaproponował przepisy, które wypłacałyby Amerykanom 1000 dolarów rocznie, finansowane z podatków od wzrostu produktywności napędzanego sztuczną inteligencją, jak wówczas donosił Gizmodo.
Tempo legislacyjne wykracza poza dwóch sponsorów. W tym tygodniu Fortune poinformowało o odrębnym projekcie ustawy, który miałby opodatkować tokeny AI w celu finansowania programów zatrudnienia, jeśli technologia spowoduje masowe bezrobocie. Tym, co wyróżnia miarę Sandersa-Casara, jest jej postawa: zamiast redystrybuować zyski AI lub wymagać ujawnienia, całkowicie zatrzymałaby pewną kategorię rozwoju.
Przed nami stroma droga
Żadna wersja tej ustawy nie została przyjęta przez obecny Kongres. Republikanie kontrolują program legislacyjny, Biały Dom dostosował się do przyspieszonego rozwoju sztucznej inteligencji, a obecność lobbingu branży w Waszyngtonie wzrosła wraz z jej wyceną. Nawet wśród Demokratów propozycje wstrzymania rozwoju granicznego dzielą partię na członków skupionych na bezpieczeństwie i tych, którzy postrzegają przywództwo AI jako imperatyw gospodarczy i bezpieczeństwa narodowego – szczególnie przeciwko Chinom.
To sprawia, że środek ten najlepiej rozumieć jako wskaźnik, a nie prawdopodobne prawo: formalne stwierdzenie, na jakim etapie znajduje się obecnie znacząca frakcja amerykańskiej polityki oraz ramy, które, jak mają nadzieję jej zwolennicy, staną się punktem odniesienia, jeśli niepokój opinii publicznej będzie stale rósł. Wezwanie Sandersa do zawarcia międzynarodowego porozumienia odzwierciedla argumenty dotyczące kontroli zbrojeń z czasów nuklearnych i podobnie jak te wysiłki wymagałoby koordynacji między rywalizującymi mocarstwami, które obecnie ścigają się, a nie zatrzymują.
To, co stanie się potem, jest proceduralne i przewidywalne – być może przesłuchanie i pewne głosy przeciw w komisji – ale sygnał polityczny jest mniej wyraźny. Lato, podczas którego agenci sztucznej inteligencji włamali się do prawdziwej infrastruktury, przesunęło „zakazanie superinteligencji” z marginesu debaty do zapisów Kongresu.
Wyprzedź każdy większy rozwój sztucznej inteligencji
Polityka dotycząca sztucznej inteligencji rozwija się szybko w Waszyngtonie i poza nim. Postępuj zgodnie z każdą ustawą, przesłuchaniem i orzeczeniem, zanim będzie to miało znaczenie.
---
Wyprzedź sztuczną inteligencjęOtrzymuj najnowsze wiadomości, analizy i przełomowe informacje dotyczące sztucznej inteligencji — wszystko w jednym miejscu.
Przeczytaj więcej aktualności o sztucznej inteligencji →
