OpenAI potwierdziło, że od kilku tygodni wraz z Anthropic i Google DeepMind prowadzą rozmowy na temat koordynacji bezpieczeństwa sztucznej inteligencji i twierdzi, że popiera przepisy, które zmusiłyby laboratoria graniczne do otwarcia drzwi dla niezależnych organizacji weryfikacyjnych.
Według TechCrunch Chris Lehane, dyrektor ds. spraw globalnych OpenAI, ujawnił tę informację na wtorkowym spotkaniu. Reuters i Bloomberg, cytując te same uwagi, podały, że OpenAI współpracuje z Anthropic i Google nad bezpieczeństwem AI. Potwierdzenie zamienia tygodnie wskazówek – w tym wywiad dla Fortune, w którym Sam Altman potwierdził prywatne rozmowy z innymi liderami AI – w wyraźne przyznanie, że trzy wiodące laboratoria graniczne na świecie koordynują prędkość poruszania się i sposób sprawdzania ich modeli.
Czytelnicy śledzący szerszą polityczną wymianę zdań wokół spowolnienia sztucznej inteligencji doniesienia o aktualizacjach sztucznej inteligencji w tym tygodniu obejmowały różne tematy: od poparcia współzałożyciela firmy Anthropic, Jacka Clarka, do obowiązkowego wyłącznika awaryjnego, po prezydenta Trumpa, który podczas rozmowy na scenie z Jensenem Huangiem z Nvidii nazwał obawy związane z bezpieczeństwem mistyfikacją.
Nadchodzą tygodnie bierzmowania
Rozmowy są następstwem eseju opublikowanego w sobotę przez dyrektora generalnego Anthropic, Dario Amodei, wzywającego branżę do współpracy w celu spowolnienia tempa rozwoju pionierskiej sztucznej inteligencji, aby uniknąć katastrofalnych zagrożeń. List spotkał się z poparciem całej branży – Altman, Demis Hassabis i Elon Musk z Google poparli wezwanie do działania, a Altman zapewnił, że OpenAI dołączy do tych wysiłków.
„The Information” poinformowało następnie, że trzy firmy pracowały nad utworzeniem organu normalizacyjnego dla branży sztucznej inteligencji. Hassabis może pochwalić się tym pomysłem: w lipcu wezwał Stany Zjednoczone do powołania nowego organu normalizacyjnego, który miałby pełnić funkcję organu nadzorującego sztuczną inteligencję i mieć uprawnienia do monitorowania najbardziej zaawansowanych modeli na świecie i koordynowania spowolnień w całej branży w przypadku pogłębienia się zagrożeń.
To, co dodają uwagi Lehane’a, jest oficjalnym potwierdzeniem. Do tej pory rzecznicy laboratoriów w dużej mierze wskazywali na nieformalny dialog; Szef spraw globalnych OpenAI zapisał teraz tę koordynację do protokołu.
Cień antymonopolowy
Każde porozumienie między bezpośrednimi konkurentami dotyczące spowolnienia rozwoju rodzi oczywiste pytania dotyczące prawa antymonopolowego i laboratoria o tym wiedzą. Sam Altman zauważył, że takie rozmowy mogłyby narazić spółki na naruszenie prawa antymonopolowego, gdyby okazało się, że koordynacja tłumi konkurencję. W swoim eseju Amodei zaproponował wąskie odstępstwo rządu, które umożliwiłoby koordynację bezpieczeństwa bez wywoływania prawa konkurencji – co świadczy o tym, jak poważnie kwestia ta jest traktowana w firmach.
Krytycy szybko zwrócili uwagę na napięcie leżące u podstaw porozumienia: trzy firmy posiadające największe udziały w rynku pionierskiej sztucznej inteligencji wspólnie zdecydowały o racjonowaniu wyglądu postępu, dla sceptyków jak zachowanie kartelu w bezpiecznym opakowaniu. Zwolennicy twierdzą, że ryzyko katastroficzne to właśnie problem, którego konkurenci nie mogą rozwiązać jednostronnie, ponieważ każde laboratorium, które samo zwalnia, po prostu oddaje granicę rywalom.
OpenAI obsługuje kontrole stron trzecich
Najbardziej konkretne wiadomości polityczne zawarte w uwagach Lehane’a dotyczą prawodawstwa. Powiedział, że OpenAI popiera zapis ustawy FRONTIER, który wymagałby od wiodących laboratoriów włączenia „niezależnych organizacji weryfikacyjnych” do swoich firm w celu zapewnienia bezpiecznego opracowywania modeli. Politico poinformowało, że OpenAI wspiera ponadpartyjny plan Izby zbudowany na podstawie ocen bezpieczeństwa stron trzecich.
Takie stanowisko byłoby nie do pomyślenia w tej dziedzinie dwa lata temu, gdy dobrowolne zobowiązania i wewnętrzne czerwone zespoły były standardem w branży. Obecnie dostosowuje OpenAI do postawy „najpierw audyt”, którą Anthropic od dawna promuje, i tworzy rzadki punkt porozumienia między laboratoriami a częścią debaty politycznej, która przez cały rok domagała się egzekwowalnego nadzoru.
Powoduje to także kolizję z Białym Domem. Prezydent Trump odrzucił obawy dotyczące bezpieczeństwa jako mistyfikację i argumentował, że jakiekolwiek spowolnienie zapewni Chinom przewagę w wyścigu sztucznej inteligencji. Jego doradca ds. sztucznej inteligencji, David Sacks, wieloletni inwestor mający osobiste udziały w całej branży, nazwał obawy przed ryzykiem egzystencjalnym przesadzone. W Wielkiej Brytanii ministrowie nadal nie są podzieleni w tej samej kwestii. Jedna z frakcji wzywa rząd do usłuchania ostrzeżeń ekspertów, natomiast sekretarz ds. biznesu Reynolds odrzucił plotki o wyłączniku awaryjnym dla zaawansowanych systemów.
Walka polityczna bez neutralnego gruntu
Nadchodzące tygodnie sprawdzą, czy koordynacja laboratoriów przetrwa kontakt z organami ds. konkurencji i sceptyczną administracją. Organ normalizacyjny zbudowany przez trzy firmy kontrolujące granicę stanie przed żądaniami włączenia niezależnych dyrektorów, opublikowania jego kryteriów i poddania się kontroli rządu – w przeciwnym razie zostanie odrzucony jako prywatny kartel w stroju publicznym.
W przypadku ustawy FRONTIER poparcie OpenAI daje sponsorom ustawy głównego sponsora, ale także nową linię ataku dla przeciwników, którzy twierdzą, że największe laboratoria po prostu przejmują kontrolę nad dziedziną przez regulacje, pisząc zasady, na których przestrzeganie tylko oni mogą sobie pozwolić. Mniejsze laboratoria i społeczność open-weights, która nie ma miejsca na rozmowach, uważnie obserwują: jakikolwiek pojawi się system weryfikacji, określi koszty przestrzegania przepisów dla wszystkich za granicą.
To, co nie podlega już dyskusji, to sam fakt koordynacji. Trzy firmy, które definiują najnowocześniejszą sztuczną inteligencję, obecnie otwarcie dyskutują o szybkości biegania i zapraszają rząd do pomocy w sędziowaniu.
---
Wyprzedź sztuczną inteligencjęOtrzymuj najnowsze wiadomości, analizy i przełomowe informacje dotyczące sztucznej inteligencji — wszystko w jednym miejscu.
Przeczytaj więcej aktualności o sztucznej inteligencji →
