W czwartek OpenAI opublikowało najbardziej szczegółowy jak dotąd opis sposobu, w jaki wykrywa i zakłóca „destylację kontradyktoryjną” – nieuprawnione wykorzystanie wyników modelu granicznego do szkolenia konkurencyjnego systemu – i, według wielu raportów, zaczęło wymagać od zewnętrznych bram i sprzedawców uzyskania zgody przed zaoferowaniem bezpośredniego dostępu do swoich modeli.

Posunięcia te, opisane w poście na blogu OpenAI zatytułowanym „Zwalczanie destylacji kontradyktoryjnej” i relacjonowane przez Semafor i eWeek, oznaczają znaczne zaostrzenie sposobu, w jaki firma kontroluje, kto może redystrybuować możliwości swoich modeli – zmiana z realnymi konsekwencjami dla programistów, startupów i przedsiębiorstw uzyskujących dostęp do systemów OpenAI za pośrednictwem pośredników.

Dlaczego OpenAI traktuje destylację jako problem bezpieczeństwa

Destylacja to standardowa technika uczenia maszynowego, w której jeden model uczy się na podstawie wyników drugiego. OpenAI samo w sobie zauważa, że ​​nie jest to ani nielegalne, ani niezwykłe. Firma niepokoi się tym, co nazywa destylacją kontradyktoryjną: aktor wykorzystuje wyniki modelu pionierskiego bez zezwolenia do szkolenia innego modelu o podobnych możliwościach, a następnie wdraża go bez porównywalnych zabezpieczeń.

W swoim poście na blogu OpenAI argumentuje, że ryzyko jest najwyraźniejsze w dziedzinach podwójnego zastosowania, takich jak cyberbezpieczeństwo i biologia. Model, który pomaga obrońcom znaleźć luki w oprogramowaniu, po przeniesieniu umiejętności do systemu ze słabszymi zabezpieczeniami może pomóc atakującemu je wykorzystać. „Przeciwnik może wydestylować cybernetyczne możliwości modelu i wykorzystać powstały model do przeprowadzenia cyberataków, przy których oryginalny model odmówiłby pomocy” – napisała firma.

Ochrona łańcucha myślowego

W centrum obrony OpenAI znajduje się to, co nazywa chronionym rozumowaniem: etapy pośrednie – łańcuch myślowy – model generowany wewnętrznie podczas pracy nad odpowiedzią. Jak wyjaśnia firma, ślady te mogą zawierać informacje, które pominięto w ostatecznej odpowiedzi, co czyni je szczególnie cennymi jako dane szkoleniowe dla modelu innego laboratorium.

OpenAI twierdzi, że wzmocniło swoją obronę przed ekstrakcją śladów rozumowania w GPT-6.2 Astra i GPT-6.2 Sol. W wewnętrznej ocenie adaptacyjnej wykorzystującej zautomatyzowane red-teaming firma podała, że ​​średni wskaźnik powodzenia ataków mających na celu odzyskanie chronionego rozumowania spadł z 54,0% w przypadku GPT-6 Astra z oryginalnymi zabezpieczeniami do 0,2% w przypadku GPT-6.2 Astra ze zaktualizowanymi zabezpieczeniami.

Co odkryło wewnętrzne badanie cybernetyczne

Firma udostępniła także wyniki wewnętrznego badania dotyczącego transferu możliwości cybernetycznych podczas destylacji. Modele uczniów zostały dostrojone na podstawie trajektorii opracowanych przez modele nauczycieli pracujących nad programowaniem i zadaniami defensywnymi w zakresie cyberbezpieczeństwa. Studenci przeszkoleni w zakresie dokładnych śladów rozumowania na ogół osiągali lepsze wyniki od uczniów przeszkolonych wyłącznie w zakresie podsumowań rozumowania, zarówno po nadzorowanym dostrojeniu, jak i – przy największych przetestowanych budżetach wnioskowania – po kolejnej rundzie uczenia się przez wzmacnianie, zgodnie z testami porównawczymi OpenAI wyświetlanymi obok postu.

Konsekwencje są otrzeźwiające dla każdego, kto ma nadzieję, że transfer możliwości można powstrzymać poprzez publikowanie oczyszczonych wyników: nawet interakcje dozwolone zgodnie z zasadami użytkowania mogą łącznie nauczyć ucznia umiejętności modelowania, które wykraczają poza zadania pierwotnie wykonywane przez nauczyciela.

Bramy i sprzedawcy wymagają teraz zatwierdzenia

Środki techniczne pojawiają się wraz ze zmianą polityki. Jak podaje eWeek, od czwartku OpenAI będzie wymagać routerów i bram modelowych AI zapewniających stronom trzecim bezpośredni dostęp do modeli w celu uzyskania wcześniejszej zgody. Wymóg ten opiera się na ogłoszeniu firmy z października, w którym określono, w jaki sposób powinny obowiązywać zabezpieczenia, gdy klienci uzyskują dostęp do jej modeli bezpośrednio lub za pośrednictwem partnerów hostingowych i sprzedawców.

Według podsumowania tych ram opublikowanego przez eWeek, oczekuje się, że uczestniczące usługi utrzymają porównywalne standardy, tak aby użytkownicy nie mogli po prostu zmienić dostawców w celu uniknięcia ograniczeń. Środki obejmują trzy etapy: ocenę ryzyka i testowanie prób obejścia zabezpieczeń przed wdrożeniem; monitorowanie podczas użytkowania, a od partnerów oczekuje się badania podejrzanych działań; oraz kroki egzekucyjne po wystąpieniu naruszeń. Semafor scharakteryzował tę zmianę jako wzmocnienie przez OpenAI ekosystemu sprzedawców, który szybko rozwinął się wokół jego API.

Co to oznacza dla programistów

Dla programistów praktycznym efektem jest nowe pytanie dotyczące zgodności, które należy dodać do należytej staranności dostawcy: czy pośrednik oferujący modele OpenAI jest rzeczywiście do tego upoważniony. Firmy, które kierują ruch za pośrednictwem agregatorów, powinny potwierdzić status zatwierdzenia swojego dostawcy oraz sposób, w jaki obsługuje on dane uwierzytelniające i dane, radzi eWeek.

Dla szerszej branży ogłoszenie to jest sygnałem, że dostawcy modeli w coraz większym stopniu postrzegają kontrolę pochodnych możliwości – a nie tylko samych modeli – jako obszar, który ma znaczenie. W ostatnich latach w całej branży zaostrzyły się spory dotyczące destylacji, a obecnie OpenAI postrzega swoją reakcję nie jako spór licencyjny, ale jako wymóg bezpieczeństwa, dostosowując zabezpieczenia destylacji do środków kontroli, jakie stosuje w odniesieniu do zagrożeń biologicznych i cyberbezpieczeństwa.

Droga przed nami

OpenAI twierdzi, że będzie kontynuować badanie zakresu możliwości transferu możliwości różnych modeli studenckich i receptur destylacji, i zaprasza inne laboratoria do wykorzystania swoich prac w zakresie wykrywania i egzekwowania prawa. To, czy rywale przyjmą porównywalne systemy zatwierdzania bramek – i czy użytkownicy zaakceptują dodatkowe tarcia – pomoże określić, w jaki sposób budowana jest następna generacja systemów sztucznej inteligencji i kto może je budować.

Wyprzedź konkurencję

Chcesz na bieżąco otrzymywać najnowsze informacje na temat modeli sztucznej inteligencji, bezpieczeństwa i zasad? Śledź najświeższe wiadomości o AI w AI Buzz Wire.

Przeczytaj więcej aktualności o sztucznej inteligencji →