OpenAI od kilku tygodni ściśle współpracuje z rywalami Anthropic i Google DeepMind, aby opracować ramy bezpieczeństwa sztucznej inteligencji, potwierdził we wtorek dyrektor wyższego szczebla, ujawniając niezwykły stopień współpracy między firmami, które zaciekle konkurują ze sobą niemal we wszystkim innym.
Chris Lehane, globalny szef polityki OpenAI, powiedział reporterom na konferencji prasowej w Waszyngtonie, że trzy laboratoria koordynują inicjatywy dotyczące bezpieczeństwa. „Lepiej współpracować, aby nadać priorytet bezpieczeństwu” – stwierdził Lehane, według raportu Bloomberga z odprawy. Jego komentarze pojawiły się kilka dni po serii głośnych ostrzeżeń o wyginięciu od badaczy opuszczających największe laboratoria w branży. Więcej kontekstu na ten temat znajdziesz w naszych najnowsze osiągnięcia AI.
Co właściwie obejmuje współpraca
Lehane nie wyjaśnił szczegółowo charakteru swojej pracy, ale ujawnienie to następuje po niezwykłym okresie publicznego pozycjonowania największych nazwisk w branży. W sobotę dyrektor naczelny Anthropic, Dario Amodei, opublikował esej wzywający branżę sztucznej inteligencji do współpracy na rzecz spowolnienia tempa rozwoju modeli pionierskich, aby uniknąć tego, co nazwał „katastrofalnym ryzykiem”.
Apel zyskał zaskakujące poparcie ze strony całej przepaści konkurencyjnej: Sam Altman z OpenAI, Demis Hassabis i Elon Musk z Google poparli tę opinię. Altman poszedł dalej, mówiąc, że OpenAI byłoby skłonne przyłączyć się do inicjatywy Anthropic mającej na celu włączenie zewnętrznych ewaluatorów do swoich zespołów programistycznych w celu monitorowania bezpieczeństwa sztucznej inteligencji od wewnątrz. Tymczasem współzałożyciel Anthropic, Jack Clark, powiedział NPR, że spowolnienie sztucznej inteligencji to zasadniczo „problem zbiorowego działania”, którego żadne pojedyncze laboratorium nie jest w stanie rozwiązać samodzielnie.
Jednak nie wszyscy w OpenAI traktują tę debatę jako pilną. Dyrektor finansowy Sarah Friar powiedziała CNBC, że nie martwi się spowolnieniem rozwoju sztucznej inteligencji, co przypomina, że firma jednocześnie zabiega o względy inwestorów, wyceniając ją na ponad bilion dolarów.
Cień antymonopolowy nad współpracą
Jakakolwiek koordynacja pomiędzy dominującymi laboratoriami zajmującymi się sztuczną inteligencją napotyka oczywisty problem prawny: amerykańskie prawo antymonopolowe. Eksperci prawni ostrzegają, że porozumienia między konkurentami mające na celu ograniczenie możliwości ich produktów mogą zostać zinterpretowane jako „ograniczenie produkcji” i naruszenie ustawy Shermana.
Ta obawa przeniosła się już na Kapitol. Senatorowie Jim Banks z Indiany i Adam Schiff z Kalifornii zaproponowali ustawodawstwo – ustawę o współpracy w zakresie zagrożeń kontradyktoryjnych i zagrożeń bezpieczeństwa – które umożliwiłoby laboratoriom sztucznej inteligencji podejmowanie działań w zakresie bezpieczeństwa, nawet jeśli działania te w przeciwnym razie mogłyby powodować problemy antymonopolowe. W eseju Amodei argumentował, że rząd powinien rozważyć przyznanie firmom odstąpienia od współpracy w zakresie bezpieczeństwa, chociaż Lehane powiedział reporterom, że uważa takie posunięcie za niepotrzebne.
Jensen Huang z Nvidii nadal wypowiada się bardziej bez ogródek. Według CNBC przemawiając we wtorek w Dreamforce, nazwał propozycję Anthropic dotyczącą zrzeczenia się przepisów antymonopolowych „całkowicie niepotrzebną”, podkreślając pogłębiający się podział między laboratoriami wzywającymi do powściągliwości a gigantem sprzętowym wzywającym do przyspieszenia.
„Kartel pod inną nazwą”
Krytycy współpracy są zjadliwi. Dyrektor naczelny Cohere, Aidan Gomez, napisał w poście na blogu w odpowiedzi na esej Amodei, że wezwania dotyczące bezpieczeństwa wyglądają jak podejmowana przez czołowe laboratoria sztucznej inteligencji próba ukrycia antykonkurencyjnego planu, który pozwoliłby im zachować wiodącą pozycję w rozwoju modeli pionierskich, umożliwiając laboratoriom „dominującym na rynku” określenie zasad dla wszystkich pozostałych.
„Po raz kolejny wykorzystując strach pod pretekstem ochrony społeczeństwa, te oligopole żądają teraz nagięcia reguł konkurencji i pozwolenia na dyktowanie warunków wszystkim innym” – napisał Gomez, nazywając porozumienie „wilkiem w owczej skórze, kartelem pod inną nazwą”.
Prezydent Donald Trump zdecydowanie odrzucił wezwanie Amodei do spowolnienia gospodarki, argumentując w poście w Truth Social, że jakiekolwiek spowolnienie umożliwi Chinom wyprzedzenie Stanów Zjednoczonych w wyścigu sztucznej inteligencji. David Sacks, kluczowy doradca Białego Domu ds. sztucznej inteligencji, stwierdził, że obawy, że sztuczna inteligencja może stanowić zagrożenie egzystencjalne, są przesadzone.
Analitycy CNBC zaobserwowali, że w debacie na temat bezpieczeństwa i regulacji sztucznej inteligencji w pełni wyłoniły się obecnie dwa obozy: jeden wzywający granicę do spowolnienia, zanim coś pójdzie nie tak, drugi – skupiający Nvidię, Biały Dom i zwolenników modelu otwartego – argumentujący, że wahanie jest większym niebezpieczeństwem.
Atak OpenAI na Kapitol
Uwagi Lehane'a padły podczas odprawy medialnej w Waszyngtonie, gdzie miał spotkać się z prawodawcami. Z publicznych oświadczeń firmy i raportów Reutersa i Politico wynika, że OpenAI opowiada się za dwoma ponadpartyjnymi ustawami.
Pierwszą z nich jest ustawa FRONTIER, która wzywa do ustanowienia federalnych ram bezpieczeństwa sztucznej inteligencji i wymaga od laboratoriów zajmujących się sztuczną inteligencją przedstawiania nowych modeli do audytów przez niezależnych ewaluatorów. Jak podaje CBS News, OpenAI popiera również rozwiązanie, które wymagałoby niezależnych audytów modeli sztucznej inteligencji. Druga propozycja, wciąż w fazie opracowywania, jest przygotowywana przez przywódcę większości w Senacie Johna Thune’a wraz z republikańskim senatorem Tedem Cruzem i demokratyczną senator Amy Klobuchar. Według Reutersa ustawa ta dałaby Sekretarzowi Handlu uprawnienia do poddawania nowych modeli audytom bezpieczeństwa przed ich wypuszczeniem na rynek. Jak podaje Politico, OpenAI oddzielnie zatwierdziło ponadpartyjne plany dotyczące zagrożeń biologicznych związanych ze sztuczną inteligencją.
Zbieżność jest uderzająca: te same firmy ostrzegające przed uciekającą sztuczną inteligencją zgłaszają się na ochotnika do niezależnych audytów, podczas gdy ich krytycy ostrzegają, że większa niebezpieczeństwo może stanowić sama współpraca. Sposób, w jaki Kongres nawleka tę igłę – umożliwiając współpracę w zakresie bezpieczeństwa bez licencjonowania kartelu – może na lata zdefiniować politykę sztucznej inteligencji.
---
Bądź na Bieżąco z AINajnowsze wiadomości, analizy i przełomy w dziedzinie AI — wszystko w jednym miejscu.
Czytaj więcej wiadomości AI →
