Ustawodawcy z Massachusetts dążą do stworzenia najbardziej rygorystycznych w kraju zabezpieczeń dla sztucznej inteligencji na poziomie stanowym, a propozycja podzieliła dwa wiodące laboratoria w branży: Anthropic popiera zasady, podczas gdy OpenAI lobbuje przeciwko nim.

Środek ten, zawarty w ustawie o rozwoju gospodarczym przyjętej przez Senat stanu w zeszłym miesiącu, wymagałby od wiodących laboratoriów zajmujących się sztuczną inteligencją poddawania swoich granicznych modeli niezależnym przeglądom ryzyka katastrofalnego co najmniej raz na 120 dni – po raz pierwszy w jakimkolwiek stanie USA. Ustalenia zostałyby upublicznione, chociaż państwo nie mogłoby ich wykorzystać do zatrzymania rozwoju. Walka o ostateczny tekst ustawy toczy się obecnie za zamkniętymi drzwiami w Beacon Hill i stanowi ona decydujący sprawdzian tego, jak daleko posunie się stan USA w modelach pilnowania granic. Aby regularnie publikować raporty na temat konfrontacji rządów z technologią, śledź nasze Zasady dotyczące sztucznej inteligencji.

Czego wymagałaby propozycja Massachusetts

Podstawowym zapisem projektu ustawy jest okresowa, niezależna kontrola zagrożeń stwarzanych przez graniczne systemy sztucznej inteligencji. Jak wynika z opublikowanego w środę raportu Bloomberga, organizacje zewnętrzne byłyby uprawnione do oceny potencjału modelu w zakresie katastrof – zdefiniowanych jako zdarzenia, które powodują śmierć lub poważne obrażenia co najmniej 50 osób albo powodują szkody materialne o wartości co najmniej 1 miliarda dolarów – niezależnie od wytycznych bezpieczeństwa opracowanych przez twórcę modelu.

Stan przeprowadziłby także coroczny przegląd zgodności, podobny do tego, czego wymaga już Illinois. Jednak powtarzające się oceny wykraczają daleko poza przepisy przyjęte w Kalifornii, Nowym Jorku i Illinois i uczyniłyby Massachusetts pierwszym stanem, który umieściłby modele graniczne w stałym 120-dniowym zegarze inspekcji strony trzeciej.

Antropiczne: branża nie powinna oceniać własnej pracy domowej

Firma Anthropic, która opowiadała się za bardziej rygorystycznymi przepisami stanowymi dotyczącymi sztucznej inteligencji w obliczu braku standardów federalnych, przychyliła się do propozycji Massachusetts, nazywając ją „najjaśniejszym i najsilniejszym ustawodawstwem dotyczącym sztucznej inteligencji w kraju”.

„Ostatecznie nie uważamy, że branża powinna oceniać swoją pracę domową” – powiedział Bloombergowi Cesar Fernandez, dyrektor ds. relacji z władzami stanowymi i lokalnymi w firmie. Fernandez dodał, że w miarę postępu technologii stany mogą być zmuszone do objęcia jeszcze bardziej rygorystycznego nadzoru – uderzające stanowisko laboratorium sztucznej inteligencji opowiadającego się za większymi regulacjami dotyczącymi własnych produktów.

OpenAI ostrzega, że recenzje przyniosą odwrotny skutek

OpenAI ostrzegł ustawodawców Massachusetts, że częste obowiązkowe przeglądy spowolnią wydawanie modeli cyberbezpieczeństwa, które mogłyby chronić przed zagrożeniami, których obawiają się prawodawcy, podaje Bloomberg. Firma preferuje jednolity standard stanowy wzorowany na prawie stanu Illinois, który wymaga audytu strony trzeciej tylko raz w roku i koncentruje się na tym, czy laboratoria przestrzegają własnych wytycznych dotyczących bezpieczeństwa i dokonują wymaganych ujawnień.

Niespójność między reżimami stanowymi „nie oznacza bezpieczniej. Oznacza po prostu zamieszanie” – powiedział Donnie Fowler, szef polityki stanowej i partnerstw w OpenAI w USA.

Fowler porównał coroczne audyty w Illinois do rutynowej inspekcji samochodu — sprawdzania, czy światła stop i wycieraczki działają prawidłowo — a oceny proponowane w Massachusetts do demontażu silnika i składania go z powrotem co kilka miesięcy.

Lobbingowy sprint przed listopadowymi wyborami

Obie firmy przepychają się teraz nad ostatecznym kształtem tekstu. Według Bloomberga na początku tego roku Anthropic zatrudniło bostońską firmę lobbującą Tremont Strategies Group, a OpenAI w ostatnich tygodniach zatrudniło lokalną firmę Benchmark Strategies.

Uważa się, że szersza ustawa o rozwoju gospodarczym zostanie przyjęta przed listopadowymi wyborami, ponieważ zawiera także finansowanie projektów w okręgach legislacyjnych. Sześcioosobowa grupa negocjatorów Izby i Senatu dopracowuje szczegóły, w tym zasady sztucznej inteligencji.

Senator stanu Barry Finegold, jeden z negocjatorów, powiedział, że potrzebne są niezależne oceny, aby upewnić się, że modele graniczne nie spowodują znaczących szkód, i przewidział, że inne stany pójdą ich śladem, jeśli Massachusetts podejmie działania. „Byliśmy opóźnieni w mediach społecznościowych. Pozwoliliśmy sobie na zbyt wiele, nie wstawiając barierek, a teraz nadrabiamy zaległości” – powiedział Finegold Bloombergowi. „Nie chcemy tego ponownie robić”.

Stany wkraczają w federalną próżnię

Nacisk na Massachusetts pojawia się, gdy bezpieczeństwo sztucznej inteligencji stało się pilniejsze. Bloomberg podał, że w zeszłym miesiącu firmy OpenAI, Anthropic i Meta Platforms zgłosiły przypadki nieumyślnego włamania się ich modeli do systemów stron trzecich w środowiskach testowych.

Nadzór federalny pozostaje ograniczony: prezydent Donald Trump przyjął w dużej mierze podejście bez angażowania rąk, a dwupartyjne ustawodawstwo dotyczące bezpieczeństwa sztucznej inteligencji, które miałoby pierwszeństwo przed przepisami stanowymi, utknęło w Kongresie. Państwa wypełniają obecnie tę lukę, nawet jeśli konkurują ze sobą o część boomu związanego ze sztuczną inteligencją, napędzającą nieproporcjonalny udział we wzroście gospodarczym USA.

Samo Massachusetts aktywnie zabiega o względy branży. W lutym stan ogłosił partnerstwo z OpenAI i stał się pierwszym stanem, który zapewnił całej swojej władzy wykonawczej dostęp do asystenta obsługiwanego przez ChatGPT. Jak wynika z e-maili otrzymanych w ramach prośby o udostępnienie rejestrów publicznych, tej wiosny gubernator Maura Healey i jej sekretarz ds. rozwoju gospodarczego, były inwestor venture capital Eric Paley, rozmawiali z prezydent Anthropic Danielą Amodei na temat rozszerzania swojej obecności w Massachusetts oraz współpracy w zakresie cyberbezpieczeństwa i rozwoju siły roboczej.

W jednej wiadomości Paley powiedział Anthropic, że „wszyscy musimy dzielić się wyraźniejszymi przykładami tego, jak sztuczna inteligencja wzmacnia ludzkość i oferować pozytywną inspirację do zwalczania wszelkiego siania strachu” i zaproponował, że skontaktuje firmę z ustawodawcą stanowym w sprawie współpracy w zakresie nadzoru.

Healey, Demokratka ubiegająca się o reelekcję w listopadzie, nie uwzględniła zabezpieczeń związanych ze sztuczną inteligencją w swojej pierwotnej propozycji rozwoju gospodarczego. Zarówno ona, jak i Izba muszą jeszcze zgodzić się na to postanowienie, a jej administracja twierdzi, że będzie współpracować z prawodawcami, aby sfinalizować prace nad ustawodawstwem tej jesieni.

Wyprzedzaj zasady dotyczące sztucznej inteligencji

Regulacja modelu granicznego nabiera tempa w USA, Europie i Azji, a szczegóły zadecydują o tym, kto buduje, kto wysyła i kto płaci. Otrzymuj zwięzłe, oparte na źródłach raporty o każdym większym rozwoju w AI Buzz Wire.

Przeczytaj więcej aktualności o sztucznej inteligencji →