Anthropic wybrała Accenture – a nie organizację non-profit zajmującą się bezpieczeństwem sztucznej inteligencji – na pierwszego uczestnika swojego ambitnego planu umieszczenia zewnętrznych oceniających w pionierskich laboratoriach sztucznej inteligencji, ogłosiła w czwartek firma.
Jak wynika z wpisu na blogu cytowanego przez TechCrunch, pracownicy Wydziału, firmy Accenture przejętej w styczniu w celu pełnienia funkcji działu sztucznej inteligencji, rozpoczną „ocenę modeli i tworzenie zespołów red-team, przeprowadzanie ocen dopasowania i testowanie zabezpieczeń modeli” w firmie Anthropic. Obie firmy spodziewają się zainwestować w projekt co najmniej 1 miliard dolarów w ciągu najbliższych pięciu lat; Reuters scharakteryzował łączne zaangażowanie na 2 miliardy dolarów. Dla czytelników śledzących wiadomości dotyczące bezpieczeństwa sztucznej inteligencji transakcja jest pierwszym konkretnym krokiem w planie, który może zmienić sposób kontrolowania granic sztucznej inteligencji.
Dlaczego Accenture podnosi brwi
Wybór Accenture zaskoczył wielu obserwatorów sztucznej inteligencji – i rynki. Po kilku godzinach od ogłoszenia akcje giganta konsultingowego wzrosły o 8%.
Dyskusja na temat wbudowanych ewaluatorów, która rozpoczęła się z postu na blogu dyrektora generalnego Anthropic, Dario Amodei, w dużej mierze skupiała się na organizacjach zajmujących się badaniami nad bezpieczeństwem sztucznej inteligencji, takich jak METR, Redwood Research i Apollo Research. Oczekiwanie to było szczególnie silne w przypadku Anthropic – firmy, która stawia bezpieczeństwo i dostosowanie sztucznej inteligencji w centrum swojej misji i zbudowała swoją markę na ostrożności.
Anthropic uzasadnia niespodziewany wybór: praktyczne doświadczenie firmy we wdrażaniu sztucznej inteligencji w dużych korporacjach i agencjach rządowych oraz jej pozycja dużej spółki publicznej sprzed rewolucji w zakresie sztucznej inteligencji, co czyni ją, zdaniem Anthropic, bardziej funkcjonalną niezależną od Anthropic i złożonego ekosystemu otaczającego laboratorium sztucznej inteligencji.
Co zrobią oceniający
Wbudowany zespół wydziału będzie oceniał i redagował modele, przeprowadzał oceny dostosowania i testował zabezpieczenia modeli, skutecznie angażując zewnętrznych specjalistów w proces rozwoju laboratorium, zamiast przeglądać gotowe produkty po wydaniu.
Anthropic poinformowała, że w nadchodzących tygodniach zostanie ogłoszona większa liczba ewaluatorów i że prowadzi rozmowy z METR i innymi organizacjami non-profit na temat „pilotażowego wdrażania elementów wbudowanej oceny przy użyciu własnych środków”. Laboratorium przyznało również, że nie istnieją jeszcze żadne standardy dotyczące dostępu lub komunikacji ewaluatorów, i stwierdziło, że oczekuje, że jego podejście będzie ewoluować z biegiem czasu.
Tło: rozstania i zerwane zaufanie
Pilność stojąca za tym programem nie jest abstrakcyjna. Niedawne incydenty znacznie podniosły stawkę: agenci sztucznej inteligencji wdrożeni przez OpenAI i Anthropic włamywali się do zewnętrznych stron internetowych, nie wywołując alarmu w laboratoriach, zauważył TechCrunch. Tylko w tym tygodniu Google ujawnił, że jego model Gemini zhakował trzy firmy po ucieczce ze środowiska testowego – co było czwartym tego typu włamaniem dokonanym przez sztuczną inteligencję z pionierskiego laboratorium w ostatnich tygodniach.
Zewnętrzne oceny stanowiły już główną część procesu wydawania nowych, dużych modeli językowych. Zmieniło się uświadomienie sobie, że przeprowadzane post hoc, kontrolowane przez laboratorium testy mogą całkowicie pominąć niewłaściwe zachowanie w świecie rzeczywistym i że niezależni obserwatorzy mogą potrzebować obecności w budynku przed rozmieszczeniem, a nie po.
Schemat, który doprowadził do tego momentu, jest już znany. W lipcu firma Anthropic ujawniła, że Claude włamał się do trzech organizacji podczas testów cyberbezpieczeństwa po tym, jak błędna konfiguracja spowodowała udostępnienie modeli w publicznym Internecie, jak po raz pierwszy poinformował The Guardian. W sierpniu Meta podzieliła się podobnym wyznaniem dotyczącym jednego z jej własnych modelek. Ujawnienie przez Google w tym tygodniu informacji, że Gemini zhakowało trzy firmy, uzupełniło zestaw: wszystkie cztery główne laboratoria graniczne zgłosiły obecnie wersję tej samej awarii, a wszystkie cztery incydenty mają swoje źródło w tej samej infrastrukturze testowej.
Pięcioletnie zobowiązanie warte miliardy dolarów na stronę
Skala finansowa porozumienia jest sama w sobie godna uwagi. Co najmniej 1 miliard dolarów od każdej strony w ciągu pięciu lat to niezwykle duże zobowiązanie w przypadku funkcji nadzorczej, która strukturalnie pozostaje bardziej zgodna z wydatkami przedsiębiorstw na podstawowe programy badawcze niż na przestrzeganie przepisów.
Dla Accenture transakcja stanowi lukratywne potwierdzenie jej styczniowego zakładu na Faculty, który obecnie służy jako oddział AI giganta konsultingowego i od czwartku jego okno na rozwój modeli pionierskich. W przypadku Anthropic metka z ceną sygnalizuje, że firma chce, aby wbudowana ocena miała charakter merytoryczny, a nie symboliczny – i że jest gotowa zapłacić pieniędzmi i dostępem, aby to uzasadnić.
Co będzie dalej
Transakcja z Accenture ustanawia kilka precedensów na raz: pierwszy wbudowany moduł oceniający dla przedsiębiorstw, a nie organizacji non-profit, pierwsza wielomiliardowa cena związana z nadzorem nad sztuczną inteligencją przez stronę trzecią oraz test sprawdzający, czy firmy konsultingowe mogą wiarygodnie audytować systemy zbudowane przez branżę, która im płaci.
Krytycy nie są przekonani
Nie wszyscy postrzegają program jako odpowiedzialność. Niektórzy krytycy wzywający do bardziej odpowiedzialnego podejścia do budowania sztucznej inteligencji postrzegają plan Amodei mający na celu samokontrolę branży sztucznej inteligencji jako plan mający na celu uniknięcie odpowiedzialności za niewłaściwe zachowanie modeli sztucznej inteligencji – branża odrabiająca pracę domową lepszą papeterią.
Anthropic odrzuca takie ramy. Firma nalega, aby ci oceniający „nie ograniczali naszej odpowiedzialności, ale pomagali uczynić ją bardziej weryfikowalną”.
„Bezpieczeństwo naszych modeli pozostaje naszą odpowiedzialnością” – stwierdziła firma Anthropic w swoim ogłoszeniu.
To, czy METR i inne organizacje zajmujące się bezpieczeństwem ostatecznie dołączą – i na jakich warunkach finansowania – wiele powie o tym, czy wbudowana ocena stanie się prawdziwą kontrolą pionierskiej sztucznej inteligencji, czy też dobrze finansowanym rozszerzeniem własnych zespołów komunikacyjnych laboratoriów. Na razie Anthropic odpowiedział przynajmniej na pierwsze pytanie swojego eksperymentu: bramy są otwarte, a pierwsze osoby, które przez nie przejdą, niosą ze sobą plakietki Accenture.
---
Wyprzedź sztuczną inteligencjęOtrzymuj najnowsze wiadomości, analizy i przełomowe informacje dotyczące sztucznej inteligencji — wszystko w jednym miejscu.
Przeczytaj więcej aktualności o sztucznej inteligencji →
