Firma Anthropic potwierdziła, że rozpowszechnia wśród amerykańskich prawodawców projekt ustawy, który stworzyłby federalny mechanizm blokowania udostępniania lub wykorzystywania najpotężniejszych modeli sztucznej inteligencji, co byłoby jedną z najbardziej konkretnych prób kształtowania amerykańskich przepisów przez pionierskie laboratorium sztucznej inteligencji. O projekcie po raz pierwszy poinformowało w piątek Politico, a rzecznik Anthropic potwierdził AFP jego istnienie.
Propozycja pojawia się, gdy Kongres – podzielony politycznie i mocno lobbowany przez Big Tech – nie przyjął jeszcze żadnej federalnej ustawy o sztucznej inteligencji, a podejście Waszyngtonu za prezydenta Donalda Trumpa opierało się głównie na dobrowolnych zobowiązaniach branżowych i zarządzeniach wykonawczych mających na celu utrzymanie boomu sztucznej inteligencji, który według liderów technologii napędza gospodarkę kraju. Więcej kontekstu tej historii znajdziesz w naszych najświeższych wiadomościach dotyczących sztucznej inteligencji.
Co miałby zrobić projekt ustawy
Zgodnie z projektem tekstu opisanym przez Politico i AFP rząd federalny może zablokować publikację lub wykorzystanie modelu, jeśli istnieje bezpośrednie ryzyko, że model zabije lub poważnie zrani ponad 50 osób albo spowoduje szkody o wartości ponad 1 miliarda dolarów. Co najważniejsze, uprawnienia te wiązałyby się z kontrolą sądową: rząd mógłby działać wyłącznie za zgodą sędziego.
Połączenie wysokiego progu szkody i zgody sądu wydaje się mieć na celu odpowiedź krytykom, którzy twierdzą, że skrajne propozycje zapewniłyby władzy wykonawczej ogromną władzę nad branżą sztucznej inteligencji. Publikacje branżowe opisujące tę historię przedstawiają projekt ustawy jako plan, który pozwoli Waszyngtonowi zaprzestać „niebezpiecznych rozmieszczeń”, ograniczając jednocześnie możliwość interwencji rządu.
Czego według Anthropic wymaga
Rzecznik firmy powiedział AFP, że propozycja „daje rządowi federalnemu możliwość blokowania lub powstrzymywania niebezpiecznych rozmieszczeń najpotężniejszych modeli”.
„Wymaga to od pionierskich twórców testowania najpotężniejszych modeli, podawania publicznie swoich ustaleń w sposób przejrzysty, poddawania ich niezależnej ocenie i utrzymywania solidnego programu bezpieczeństwa” – powiedział rzecznik.
Te cztery obowiązki – testowanie, przejrzystość publiczna, niezależna ocena i bezpieczeństwo – odzwierciedlają zobowiązania w zakresie bezpieczeństwa, które Anthropic i kilku konkurentów przyjęło już dobrowolnie. Projekt w efekcie przekształciłby część tego dobrowolnego systemu w ustawę.
Dlaczego Anthropic się teraz zmienia
Czas ma znaczenie na kilku frontach. Kongres ma przerwę w sesjach do czasu wyborów śródokresowych w przyszłym miesiącu, więc żadne głosowanie nie jest bliskie – ale okno po połowie kadencji może ponownie otworzyć negocjacje legislacyjne, a laboratoria mają motywację, aby preferować gotowy tekst.
Bezpieczeństwo stało się również gorącym tematem w Waszyngtonie po niedawnych doniesieniach o incydentach spowodowanych przez agentów AI – autonomiczne oprogramowanie działające bez stałego nadzoru człowieka – które wymknęło się spod kontroli ich twórców, jak zauważyła AFP w swoim raporcie na temat projektu.
Anthropic sam w sobie ma niezwykły punkt widzenia. Według doniesień AFP przekazanych przez Punch, w lutym firma została wyrzucona z Pentagonu przez administrację Trumpa, a w czerwcu została zmuszona przez Waszyngton do zawieszenia swoich najbardziej zaawansowanych modeli na prawie trzy tygodnie. W zeszłym miesiącu dyrektor generalny Dario Amodei wezwał branżę do spowolnienia rozwoju, ostrzegając, że grupa agentów AI może przejąć kontrolę nad „całym Internetem”.
Innymi słowy, firma, którą Waszyngton potraktował już jako źródło ryzyka, proponuje teraz mechanizm prawny pozwalający kontrolować dokładnie to ryzyko – na warunkach, które sama napisała.
Niezwykła pozycja jak na laboratorium graniczne
Lobbing firm zajmujących się sztuczną inteligencją nie jest niczym nowym, ale rozpowszechnianie aktualnego projektu tekstu ustawy to krok dalej niż przedstawianie stanowisk i listy otwarte. Stawia Anthropic w roli współautora własnego systemu regulacyjnego i daje prawodawcom gotowy punkt odniesienia, na który będą musiały teraz zareagować inne laboratoria, grupy społeczeństwa obywatelskiego i agencje obrony.
Reakcja prawdopodobnie będzie podzielona. Twardogłowi, którzy chcą wiążących przepisów federalnych, mogą krytykować próg 1 miliarda dolarów i 50 ofiar jako zbyt wysoki, a wymóg zatwierdzenia przez sędziego jako zbyt powolny w przypadku prawdziwej sytuacji nadzwyczajnej. Przedstawiciele branży, którzy preferują obecne dobrowolne podejście, mogą w ogóle sprzeciwić się kodyfikacji jakichkolwiek uprawnień blokujących. Obydwa obozy mają teraz konkretny tekst do sporu, a właśnie tego brakowało w debacie federalnej.
Co stanie się dalej
Projekt nie ma jeszcze zidentyfikowanego sponsora w Kongresie, a firma Anthropic nie podała publicznie nazwisk prawodawców, którzy go otrzymali. Ponieważ Kongres będzie nieobecny do końca kadencji, bardziej natychmiastowy wpływ może mieć na samą dyskusję polityczną: projekt ustawy ustanawia punkt odniesienia dla tego, co laboratorium graniczne uważa za akceptowalny nadzór, a każda konkurencyjna propozycja federalna będzie teraz porównywana z nim.
Anthropic nie chciała wyjść poza oświadczenie rzecznika zawarte w raporcie AFP. Ta historia będzie aktualizowana, gdy pojawi się więcej szczegółów projektu tekstu.
---
Otrzymuj najnowsze wiadomości, analizy i przełomowe informacje dotyczące sztucznej inteligencji — wszystko w jednym miejscu.
Przeczytaj więcej aktualności o sztucznej inteligencji →
