Google wstrzymał program nagród za luki w oprogramowaniu open source – inicjatywę, w ramach której płaci badaczom bezpieczeństwa za znajdowanie luk w zabezpieczeniach w projektach firmy związanych z oprogramowaniem typu open source, obwiniając falę zautomatyzowanych, w dużej mierze bezużytecznych zgłoszeń. Wstrzymanie zaczęło obowiązywać 1 października, a Google twierdzi, że uczestnicy mogą spodziewać się aktualizacji w pierwszym kwartale 2027 r.
Ogłoszenie zostało opublikowane w serwisie X oraz na stronie internetowej programu, gdzie Google podał niezwykle dosadne wyjaśnienie zamknięcia programu. „Ta przerwa wynika ze znacznego wzrostu liczby zautomatyzowanych zgłoszeń, z których zdecydowana większość jest nieważna” – stwierdziła firma. Innymi słowy, napływ raportów nie uległ spowolnieniu — został utopiony w hałasie, z którego prawie żaden nie jest dziełem człowieka. Więcej informacji na temat tego, jak narzędzia generatywne zmieniają ekosystem oprogramowania, znajdziesz w naszych najnowszych osiągnięciach w zakresie sztucznej inteligencji.
Co właściwie robi wstrzymany program
Program nagród za luki w oprogramowaniu open source, zwykle skracany do OSS VRP, to narzędzie Google służące do nagradzania zewnętrznych badaczy, którzy znajdą luki w zabezpieczeniach w kodzie open source publikowanym i utrzymywanym przez firmę. Zamiast ograniczać nagrody do zastrzeżonych produktów Google, program rozszerza wypłaty na luki wykryte w projektach open source, opierając się na teorii, że społeczność zajmująca się bezpieczeństwem szybciej znajdzie błędy, jeśli będzie do tego dołączona zachęta.
Model ten działa tylko wtedy, gdy można kontrolować stosunek sygnału do szumu. Niewielki zespół recenzentów programu musi dokonać selekcji każdego przychodzącego raportu, odtworzyć deklarowaną lukę, ocenić jej wagę i zdecydować o nagrodzie. Każdy nieprawidłowy raport pochłania tyle samo czasu personelu co prawdziwy i w przeciwieństwie do prawdziwego nie daje nic w zamian.
Inżynierowie toną w halucynacjach
Rzeczywistość operacyjna stojąca za ogłoszeniem Google została bardziej szczegółowo opisana przez Tom's Hardware, który odkrył, że inżynierowie Google i opiekunowie oprogramowania open source byli przytłoczeni raportami, które były nieprawdziwe lub zawierały zwykłe halucynacje. Na tym właśnie polega typowy błąd badania podatności wspomaganego sztuczną inteligencją: model językowy może wygenerować raport, który wygląda formalnie poprawnie — wraz z komponentami, których dotyczy problem, etapami odtwarzania i analizą wpływu — a jednocześnie opisuje błąd, który po prostu nie istnieje.
Rozpatrzenie takiego zgłoszenia nie jest zwolnieniem w ciągu dziesięciu sekund. Recenzent musi przeczytać raport, sprawdzić żądaną ścieżkę kodu i sprawdzić, czy wada jest fałszywa, zanim ją odrzuci. Pomnóż to przez zalew automatycznych zgłoszeń i ekonomię upadku całego programu. Program nagród, mający na celu wzmocnienie pozycji ludzkich badaczy, staje się atakiem typu „odmowa usługi” skierowanym przeciwko tym samym recenzentom, z którymi miał współpracować.
Ostrzeżenie pojawiło się rok wcześniej
Przerwa nie wzięła się znikąd. TechCrunch zauważył, że w zeszłym roku w swoim raporcie ostrzegał ekspertów ds. cyberbezpieczeństwa, że błędy w sztucznej inteligencji stanowią poważne ryzyko dla programów nagradzania błędów. Przewidywanie było proste: ponieważ modele generatywne umożliwiły niemal swobodne tworzenie wiarygodnie wyglądających dokumentów technicznych, koszt przesłania fałszywego lub niskiej jakości raportu spadnie do zera, podczas gdy koszt jego sprawdzenia pozostanie taki sam.
Ta asymetria występuje obecnie w jednej z największych firm technologicznych na świecie. Platformy nagradzania błędów w całej branży eksperymentują ze środkami zaradczymi — bardziej rygorystycznymi wymaganiami dotyczącymi przesyłania, wymaganiami dotyczącymi dowodów pracy, systemami reputacji — ale Google wybrał najtępszy dostępny instrument: całkowicie zaprzestać przyjmowania raportów do czasu rozwiązania problemu przyjmowania zgłoszeń.
Co w międzyczasie dzieje się z badaczami
Przesłaniem Google do uczestników jest przekierowanie ich wysiłków. W międzyczasie zachęca się badaczy do rozważenia innych programów firmy związanych z naliczaniem błędów, które obejmują flagowe produkty Google i wydają się działać normalnie. Sam OSS VRP obiecuje aktualizację w pierwszym kwartale 2027 r., chociaż Google nie powiedział, jaką formę przybierze ta aktualizacja – nowe filtry przesyłania, weryfikacja tożsamości, segregacja wspomagana sztuczną inteligencją lub przeprojektowana struktura nagród to prawdopodobne kierunki, ale firma nie zobowiązała się do żadnego z nich publicznie.
Dla legalnych badaczy bezpieczeństwa zamrożenie stanowi realny koszt. Prace nad luką w zabezpieczeniach oprogramowania typu open source odkrytą przed 1 października znajdują się obecnie w zawieszeniu i nic nie wskazuje na to, czy Google będzie honorował raporty przesłane w najbliższym czasie, czy też poprosi osoby zgłaszające o ich ponowne przesłanie po ponownym uruchomieniu.
Test obciążeniowy dotyczący konserwacji oprogramowania typu open source
Głębsza historia dotyczy ekonomii utrzymania oprogramowania typu open source. Opiekunowie-wolontariusze już zmagają się z liczbą żądań nowych funkcji, żądań ściągnięcia i wystawiania raportów generowanych przez użytkowników. Treści generowane przez sztuczną inteligencję zwiększają podstawowe obciążenie wszystkich kanałów jednocześnie: raporty o błędach, ujawnienia informacji o bezpieczeństwie, pytania dotyczące dokumentacji i wkład w kod mogą teraz być tworzone na skalę przemysłową przez podmioty niemające żadnego udziału w faktycznym stanie projektu.
Odpowiedź Google – całkowite zamknięcie programu bezpieczeństwa – to środek, który osiemnaście miesięcy temu wydawałby się nieproporcjonalny. Własne sformułowanie firmy, że zdecydowana większość zautomatyzowanych zgłoszeń jest nieprawidłowa, sugeruje, że problem z przyjęciem narastał szybciej, niż byłoby to w stanie zaradzić jakiemukolwiek podejściu filtrującemu. To, czy ponowne uruchomienie w pierwszym kwartale 2027 r. będzie w stanie przywrócić realny stosunek sygnału do szumu, powie wiele o tym, czy programy nagród za błędy, jako instytucja, mogą przetrwać erę generowania wolnego tekstu.
Do tego czasu wiadomość dla społeczności badaczy bezpieczeństwa będzie frustrująca: luki w zabezpieczeniach nadal istnieją, teoretycznie nagrody wciąż są dostępne, ale Google obecnie nie przyjmuje pomocy w ich znalezieniu.
---
Wyprzedź sztuczną inteligencjęOtrzymuj najnowsze wiadomości, analizy i przełomowe informacje dotyczące sztucznej inteligencji — wszystko w jednym miejscu.
Przeczytaj więcej aktualności o sztucznej inteligencji →
