Jak podaje PYMNTS, OpenAI prowadzi rozmowy z wieloma niezależnymi audytorami, aby pomóc w zwiększeniu liczby firm posiadających wiedzę specjalistyczną w zakresie bezpieczeństwa pionierskich rozwiązań AI i mogących zapewniać skuteczne oceny stron trzecich, jak podała firma w poście na blogu opublikowanym we wtorek 22 września.

W poście przedstawiono proponowane priorytety i zasady OpenAI dotyczące skutecznego nadzoru strony trzeciej – ramy, które według niego powinny mieć zastosowanie do wszystkich pionierskich laboratoriów zajmujących się sztuczną inteligencją, gdy szkolą, oceniają i wdrażają coraz wydajniejsze modele. Oświadczenie pojawia się w środku miesiąca niezwykle obciążonego polityką bezpieczeństwa sztucznej inteligencji i można je odczytać zarówno jako ustępstwo wobec krytyków, jak i próbę ukształtowania zasad, zanim rządy je napiszą. Dla każdego, kto śledzi najświeższe wiadomości o sztucznej inteligencji, jest to najnowszy krok w trwającym od tygodnia konkursie między laboratoriami, ich krytykami i organami regulacyjnymi o to, kto może sprawdzić, czy pionierskie modele są bezpieczne.

Co proponuje OpenAI

„Zaangażowaliśmy się we wspieranie niezależnych oceniających i ustanawianie jaśniejszych, wspólnych standardów międzynarodowych – zarówno poprzez przyszłe przepisy, jak i inicjatywy w zakresie zarządzania prywatnego – w celu skutecznej oceny stron trzecich” – stwierdził OpenAI w poście, według PYMNTS.

Podstawowym problemem opisanym przez OpenAI jest zawodność rynku: po prostu jest zbyt mało organizacji dysponujących zapleczem technicznym, aby móc przeprowadzić audyt pionierskiego modelu. Rzetelna ocena bezpieczeństwa wymaga dostępu do niepublikowanych wcześniej systemów, wiedzy specjalistycznej w obszarach od cyberbezpieczeństwa po bezpieczeństwo biologiczne oraz niezależności instytucjonalnej w zakresie publikowania niepożądanych ustaleń. Rekrutując i wspierając wielu asesorów, a nie jednego uprzywilejowanego audytora, OpenAI twierdzi, że chce zbudować ekosystem, w którym ocena przez stronę trzecią będzie rutynową częścią wdrażania systemów pionierskich, a nie jednorazowym działaniem w zakresie public relations.

Firma nie podała nazwisk asesorów, z którymi rozmawia, i okaże się, czy wynikające z nich ustalenia zapewnią ewaluatorom dostęp, niezależność finansowania i prawa do publikacji, które badacze bezpieczeństwa uznają za istotne.

Tydzień whiplashu na temat polityki dotyczącej sztucznej inteligencji

Propozycja pojawia się w ramach szybkiej sekwencji zmian politycznych, które zdefiniowały wrześniową debatę na temat sztucznej inteligencji:

  • Poniedziałek, 21 września: OpenAI wezwało Stany Zjednoczone do przewodzenia międzynarodowym wysiłkom mającym na celu opracowanie globalnych standardów technicznych dla pionierskiej sztucznej inteligencji – w tym rekurencyjnego samodoskonalenia, czyli punktu, w którym systemy sztucznej inteligencji same się doskonalą. Firma ostrzegła, że ​​w pełni autonomiczny rozwój sztucznej inteligencji może przekroczyć ludzką zdolność jej zrozumienia i kontrolowania, i stwierdziła, że ​​decyzje o tym, czy i jak kontynuować, należy podjąć już teraz.
  • Piątek, 18 września: Gubernator Kalifornii Gavin Newsom podpisał zarządzenie wykonawcze zwołujące ekspertów krajowych w celu wzmocnienia stanowych przepisów dotyczących bezpieczeństwa sztucznej inteligencji, wyraźnie mających na celu przyspieszenie wdrażania nowego nadzoru strony trzeciej nad zagrożeniami dla bezpieczeństwa i ochrony w systemach sztucznej inteligencji.
  • Sobota, 19 września: Prezydent Donald Trump w poście Truth Social odrzucił obawy branży dotyczące bezpieczeństwa, pisząc: „Nie będziemy w żaden sposób utrudniać ani tłumić rozwoju tej niesamowitej branży. Sztuczna inteligencja to następna rewolucja przemysłowa, czyli Internet, ale będzie jeszcze większa i bardziej wpływowa, prawdopodobnie aż do 25% PKB naszego kraju”.

Jak informowaliśmy na początku tego tygodnia, propozycja standardów OpenAI pod przewodnictwem Stanów Zjednoczonych oznaczała uderzającą zmianę dla firmy, która przez lata opierała się wiążącemu nadzorowi, a nowe zasady oceny przez strony trzecie rozszerzają tę postawę na front zarządzania prywatnego.

Problem niepodległości

Przyjęcie przez OpenAI zewnętrznych organów nadzoru jest następstwem równoległej propozycji głównego rywala. Około tydzień wcześniej dyrektor generalny Anthropic, Dario Amodei, opublikował esej, w którym zaproponował plan bezpieczeństwa sztucznej inteligencji zbudowany w oparciu o niezależnych oceniających osadzonych w wiodących firmach zajmujących się sztuczną inteligencją, koordynację między firmami w krajach demokratycznych i ostatecznie międzynarodowe porozumienie obejmujące Chiny.

Obie propozycje wywołały natychmiastowy sceptycyzm ekspertów. CNBC poinformowało, że koalicja ponad 100 ekspertów ds. sztucznej inteligencji nalega na niezależność i przejrzystość ze strony Anthropic, OpenAI i innych podstawowych laboratoriów modelowych przeprowadzających oceny, ostrzegając, że ewaluatorzy, którzy są zatrudnieni w kontrolowanych przez nich firmach lub przez nie opłacani, stoją w obliczu nieuniknionych konfliktów interesów. Organizacje stróżujące wspierane przez pioniera sztucznej inteligencji, Geoffreya Hintona, naciskały obie firmy na szczegóły ich planów bezpieczeństwa, a komentatorzy zauważyli, że pomiędzy organizacjami oceniającymi bezpieczeństwo sztucznej inteligencji a samymi laboratoriami pojawiają się drzwi obrotowe: osoby oceniające pracę domową z bezpieczeństwa mogą być również tymi, którzy ją napisali.

To napięcie jest sednem debaty, którą nowy post OpenAI próbuje rozładować. Odpowiedź firmy — więcej asesorów, wspólne międzynarodowe standardy i nadzór egzekwowany zarówno w drodze przyszłych przepisów, jak i prywatnych inicjatyw — to ramy, a nie gwarancja. Krytycy zwrócą uwagę, że laboratoria proponujące zasady są tymi samymi laboratoriami, które im podlegają, i że samokształtujące się zarządzanie historycznie faworyzowało firmy kształtujące.

Dlaczego to ma znaczenie

Kolejne modele graniczne są już w fazie szkolenia, a okno na zaprojektowanie nadzoru przed wdrożeniem dobiega końca. Jeśli rekrutacja niezależnych asesorów przez OpenAI stworzy audytorów z rzeczywistym dostępem i prawdziwą niezależnością, może stać się wzorem dla sposobu, w jaki graniczna sztuczna inteligencja będzie zarządzana na całym świecie – prywatnym reżimem, którego nie udało się dotychczas zbudować ustawodawcom w Waszyngtonie, Brukseli i innych miejscach. Jeśli stworzy powiązane firmy doradcze z NDA, potwierdzi to najgorsze przewidywania sceptyków.

Tak czy inaczej, fakt, że OpenAI konkuruje z Anthropic o to, kto może zaproponować najbardziej wiarygodny system nadzoru, sam w sobie jest nowy. Rok temu laboratoria zjednoczyły się głównie w sprzeciwie wobec przepisów. Teraz ścigają się, aby to zdefiniować.

---

Wyprzedź sztuczną inteligencję

Otrzymuj najnowsze wiadomości, analizy i przełomowe informacje dotyczące sztucznej inteligencji — wszystko w jednym miejscu.

Przeczytaj więcej aktualności o sztucznej inteligencji →