Google pozastavil svůj Open Source Software Vulnerability Rewards Program, iniciativu, která platí bezpečnostní výzkumníky za nalezení zranitelností v open-source projektech společnosti, přičemž obviňuje nárůst automatizovaných, do značné míry zbytečných příspěvků. Pozastavení vstoupilo v platnost 1. října a Google říká, že účastníci mohou očekávat aktualizaci v prvním čtvrtletí roku 2027.
Oznámení bylo zveřejněno na X a na vlastní webové stránce programu, kde Google poskytl nezvykle neomalené vysvětlení vypnutí. "Tato pauza je způsobena výrazným nárůstem automatizovaných podání, z nichž velká většina není platná," uvedla společnost. Jinými slovy, tok zpráv se nezpomalil – utopil se v hluku a téměř žádný z toho hluku není lidský. Další informace o tom, jak generativní nástroje přetvářejí softwarový ekosystém, najdete v našem nejnovějším vývoji AI.
What the paused program actually does
Open Source Software Vulnerability Rewards Program, obvykle zkrácený na OSS VRP, je nástrojem společnosti Google pro odměňování externích výzkumníků, kteří najdou bezpečnostní chyby v open-source kódu, který společnost vydává a spravuje. Spíše než omezování odměn na proprietární produkty Google, program rozšiřuje výplaty na zranitelnosti objevené v open-source projektech na základě teorie, že bezpečnostní komunita najde chyby rychleji, pokud je k tomu připojena pobídka.
Tento model funguje pouze tehdy, když je poměr signálu k šumu zvládnutelný. Malý tým programových kontrolorů musí vyhodnotit každou příchozí zprávu, reprodukovat deklarovanou zranitelnost, posoudit její závažnost a rozhodnout o odměně. Každá neplatná zpráva spotřebuje stejný čas zaměstnanců jako skutečná zpráva a na rozdíl od skutečné zprávy neprodukuje nic na oplátku.
Inženýři se topí v halucinovaných nálezech
O provozní realitě, která stojí za oznámením Google, podrobněji informoval Tom's Hardware, který zjistil, že inženýři Google a správci open source byli zavaleni zprávami, které byly neplatné nebo obsahovaly přímo halucinace. To je režim selhání podpisu výzkumu zranitelnosti za pomoci umělé inteligence: jazykový model může generovat zprávu, která vypadá formálně správně – včetně dotčených komponent, kroků reprodukce a analýzy dopadu – a zároveň popisuje chybu, která prostě neexistuje.
Třídění takového podání není desetisekundové propuštění. Recenzent si musí zprávu přečíst, zkontrolovat nárokovanou cestu kódu a ověřit, že chyba je falešná, než ji odmítne. Znásobte to záplavou automatizovaných podání a ekonomika celého programu se zhroutí. Odměnový program, navržený tak, aby posílil lidské výzkumníky, se stává útokem odmítnutí služby proti právě těm recenzentům, se kterými měl pracovat.
The warning arrived a year early
The pause did not come out of nowhere. TechCrunch poznamenal, že v loňském roce informoval o varování odborníků na kybernetickou bezpečnost, že AI slop představuje vážné riziko pro bugy bounty programů. Předpověď byla přímočará: protože generativní modely umožňovaly téměř zdarma vytvářet věrohodně vypadající technické dokumenty, náklady na odeslání falešné nebo nekvalitní zprávy by klesly na nulu, zatímco náklady na její přezkoumání zůstaly stejné.
Tato asymetrie se nyní projevuje v jedné z největších technologických společností na světě. Platformy pro odměny za chyby v celém odvětví experimentovaly s protiopatřeními – přísnějšími požadavky na předkládání, požadavky na dokazování práce, systémy reputace – ale Google zvolil ten nejhrubší dostupný nástroj: úplně přestat přijímat zprávy, dokud nebude problém s příjmem vyřešen.
What happens to researchers in the meantime
Poselstvím společnosti Google účastníkům je přesměrovat jejich úsilí. Mezitím se výzkumníkům doporučuje, aby zvážili další programy odměny za chyby společnosti, které pokrývají vlajkové produkty společnosti Google a zdá se, že fungují normálně. Samotnému OSS VRP je přislíbena aktualizace v prvním čtvrtletí roku 2027, i když Google neřekl, jakou podobu bude mít tato aktualizace – nové filtry odesílání, ověřování identity, třídění za pomoci umělé inteligence nebo přepracovaná struktura odměn jsou všechny možné směry, ale společnost se k žádnému z nich veřejně nezavázala.
Pro legitimní bezpečnostní výzkumníky je zmrazení skutečnou cenou. Práce na zranitelnosti s otevřeným zdrojovým kódem objevené před 1. říjnem nyní uvízly v limbu a nic nenasvědčuje tomu, zda bude Google respektovat zprávy odeslané poblíž uzávěrky nebo požádá odesílatele o opětovné odeslání po opětovném spuštění.
Zátěžový test pro údržbu open-source
Hlubší příběh je o ekonomice údržby open-source. Dobrovolní správci se již potýkají s objemem žádostí o funkce, žádostí o stažení a vydání zpráv generovaných lidskými uživateli. Obsah generovaný umělou inteligencí zvyšuje toto základní zatížení na všech kanálech najednou: hlášení o chybách, bezpečnostní odhalení, otázky týkající se dokumentace a příspěvky do kódu, to vše mohou nyní vytvářet v průmyslovém měřítku aktéři, kteří nemají žádný zájem na skutečném stavu projektu.
Odpověď společnosti Google – úplné uzavření dveří bezpečnostního programu – je druhem opatření, které by se před osmnácti měsíci zdálo nepřiměřené. Vlastní rámec společnosti, že velká většina automatických podání je neplatná, naznačuje, že problém s příjmem narůstal rychleji, než by dokázal absorbovat jakýkoli přístup k filtrování. To, zda relaunch Q1 2027 dokáže obnovit funkční poměr signál/šum, hodně napoví o tom, zda programy odměn za chyby jako instituce mohou přežít éru generování volného textu.
Do té doby je zpráva pro bezpečnostní výzkumnou komunitu frustrující: zranitelnosti stále existují, odměny jsou stále teoreticky na stole, ale Google v současné době nepřijímá pomoc při jejich hledání.
---
Stay Ahead of AIZískejte nejnovější zprávy, analýzy a průlomové informace o umělé inteligenci – vše na jednom místě.
Přečtěte si další zprávy o AI →
