W środę OpenAI ogłosiło, że oferuje technologię Zero Data Retention (ZDR) dla swoich pionierskich modeli i zaprezentowało nowy system o nazwie Private Safety Processing, zaprojektowany w celu wykrywania nadużyć w wielu interakcjach bez zapewniania firmie dostępu do treści klientów. Posunięcie to wyraźnie kontrastuje z konkurencją: firma Axios poinformowała, że ogłoszenie następuje w związku z tym, że Anthropic wymaga obecnie od klientów zezwolenia na rejestrowanie danych, a Firstpost zauważył kontrast w stosunku do przejścia firmy Anthropic na 30-dniowy okres przechowywania danych.
Czas nie jest subtelny. W swoim ogłoszeniu OpenAI zauważyło, że „niektóre niedawne wdrożenia pionierskich modeli wymagały od klientów zezwolenia dostawcy sztucznej inteligencji na przechowywanie poufnych treści w celu monitorowania bezpieczeństwa” – a wymagania, które zdaniem firmy „są w sprzeczności z ich obowiązkami w zakresie bezpieczeństwa lub zobowiązaniami wobec osób, którym służą”. Firma pozycjonuje prywatność jako broń konkurencyjną w walce o regulowanych klientów korporacyjnych. Więcej kontekstu na ten temat znajdziesz w naszych najnowsze osiągnięcia AI.
Co obiecuje Zero Data Retention
W ramach oferty ZDR uprawnieni klienci API otrzymują to, co OpenAI określa jako „jasną obietnicę”: OpenAI nie przechowuje monitów ani modelowych odpowiedzi po przetworzeniu żądania. Treści klientów nie są dostępne do przeglądu dla personelu OpenAI, a dane klientów korporacyjnych nie są wykorzystywane do uczenia modeli OpenAI, chyba że klienci wyraźnie wyrażą na to zgodę.
W przypadku banków, szpitali i kancelarii prawnych rozważających wdrożenie sztucznej inteligencji zobowiązania te dotyczą najczęstszego czynnika zakłócającego transakcje: ryzyka, że wrażliwe materiały przepływające przez systemy dostawcy sztucznej inteligencji mogą zostać zapisane, odczytane lub wchłonięte przez przyszłe modele. OpenAI zauważa, że organizacje, z którymi współpracuje, zajmują się „dokumentacją finansową, danymi zdrowotnymi, poufnymi biznesplanami i zastrzeżonymi badaniami”.
Problem bezpieczeństwa został rozwiązany
W ogłoszeniu przyznaje się również do prawdziwego napięcia technicznego. Jak opisuje samo OpenAI, najpoważniejsze zagrożenia bezpieczeństwa AI nie zawsze są widoczne w pojedynczej interakcji. Szkodliwe intencje mogą stać się jasne tylko wtedy, gdy spojrzy się na wiele interakcji łącznie — gdy nieuczciwi aktorzy wielokrotnie sprawdzają zabezpieczenia, koordynują działania na różnych kontach, ukrywają zagrożenia jako rutynowe badania lub gdy agent sztucznej inteligencji nadal działa, mimo że otrzymał polecenie zaprzestania.
Istniejące systemy bezpieczeństwa kompatybilne z ZDR oceniają każdą interakcję indywidualnie, co oznacza, że ryzyko opiera się na wzorcach. Dostawcy, którzy w odpowiedzi zażądali przechowywania, rozwiązali jeden problem, tworząc inny, zmuszając klientów do wyboru między monitorowaniem bezpieczeństwa a własnymi obowiązkami w zakresie prywatności.
Jak działa przetwarzanie danych w ramach bezpieczeństwa prywatnego
Rozwiązanie proponowane przez OpenAI ma charakter architektoniczny. W ramach Private Safety Processing treści klientów pozostają w infrastrukturze kontrolowanej przez klienta lub, w przypadku opcji wciąż opracowywanej, są przechowywane w infrastrukturze OpenAI zaszyfrowanej kluczami kontrolowanymi przez klienta. Zautomatyzowane systemy następnie analizują wzorce w powiązanych interakcjach i zwracają „ograniczone sygnały bezpieczeństwa” – flagi dotyczące potencjalnego niewłaściwego użycia – bez ujawniania podstawowych monitów lub odpowiedzi personelowi OpenAI.
Klienci badają alerty, korzystając z informacji dostępnych w ich własnych systemach. Jeśli chcą odwołać się od decyzji wykonawczej, wyjaśnić legalną działalność lub wesprzeć dochodzenie w sprawie zweryfikowanego nadużycia, mogą zdecydować się na udostępnienie odpowiednich informacji OpenAI. Innymi słowy, prywatność staje się wartością domyślną, a ujawnienie informacji jest opcją klienta.
System jest obecnie testowany z udziałem pierwszych klientów. OpenAI twierdzi, że planuje rozpocząć wdrażanie rozwiązania Private Safety Processing i opublikować białą księgę techniczną we wrześniu.
Zaufanie przedsiębiorstw jako rynek
Ogłoszeniu towarzyszyła opinia klienta, która brzmi jak argument dotyczący zamówienia. „Wdrożenie sztucznej inteligencji w przedsiębiorstwach zależy wyłącznie od kontroli danych przez klienta i nie ma bezpośredniego lub pochodnego wykorzystania poza wybraną usługą” – powiedział Sunil Agrawal, dyrektor ds. bezpieczeństwa informacji w firmie Glean, którego cytat OpenAI opublikowany został obok postu. „W miarę jak modele stają się coraz bardziej wydajne, OpenAI pokazuje, że bezpieczeństwo może się rozwijać bez uszczerbku dla prywatności i kontroli, które podtrzymują zaufanie przedsiębiorstwa”.
OpenAI formułuje podgląd jako odpowiedź na zapotrzebowanie, twierdząc, że od klientów „głośno i wyraźnie wynika, że potrzebują przewidywalności co do sposobu ochrony ich treści w miarę zwiększania się wydajności systemów sztucznej inteligencji”. Firma dodaje, że podejście to jest kształtowane przez klientów „z różnych branż, regionów i wielkości firm” oraz że dzięki temu klienci będą na bieżąco informowani z wystarczającym czasem realizacji, aby zaplanować wdrożenia pod kątem zmian.
Debata, którą to wywoła
Badacze zajmujący się bezpieczeństwem od dawna twierdzą, że wgląd w wzorce użytkowania jest niezbędny do wykrycia niewłaściwego użycia, zanim spowoduje ono szkodę, a niektórzy kwestionują, czy zautomatyzowana, zaszyfrowana analiza może dorównać jakości wykrywania weryfikacji ręcznej. Tymczasem zwolennicy prywatności z radością przyjmą architekturę, która traktuje dostęp do danych klienta jako decyzję klienta, a nie prerogatywę dostawcy.
Jasne jest, że zarządzanie danymi przeniosło się z prawnego drobnego druku do centrum konkurencji AI. W miarę jak modele graniczne przejmują dłuższe i bardziej autonomiczne zadania w regulowanych branżach, kwestia tego, kto może zobaczyć ślady pozostawione przez te systemy – klient, dostawca czy nikt – staje się główną osią, na której wygrywane i przegrywane są transakcje dotyczące sztucznej inteligencji przedsiębiorstw. OpenAI udzieliło teraz jednoznacznej odpowiedzi i postawiło swoich rywali w pozycji obrony.
---
Bądź na Bieżąco z AINajnowsze wiadomości, analizy i przełomy w dziedzinie AI — wszystko w jednym miejscu.
Czytaj więcej wiadomości AI →
