Tři bezpečnostní výzkumníci OpenAI, kteří byli minulý týden propuštěni, veřejně zpochybnili své propuštění v otevřeném dopise a tvrdili, že komunikace společnosti týkající se propouštění způsobila, že zbývající zaměstnanci se bojí mluvit o bezpečnosti v kritickém okamžiku pro technologii.

Jasmine Wang, Mikita Balesni a Tomek Korbak zveřejnili společný dopis poté, co OpenAI ukončila jejich pracovní poměr kvůli údajnému sdílení informací s externí organizací pro bezpečnost AI. Wall Street Journal poprvé informoval o propouštění na začátku tohoto týdne a společnost od té doby čelí dotazům novinářů a podle Engadgetu pozornosti zákonodárců. For more context on this story, see our ongoing artificial intelligence updates.

Co říká OpenAI Stalo se

OpenAI koncipovala ukončení jako záležitost nakládání s informacemi, nikoli nesouhlas. V prohlášení společnost uvedla, že zaměstnanci porušili její zásady týkající se přístupu k citlivým firemním informacím a zacházení s nimi, čímž „porušili důvěru nezbytnou pro naši práci“. V následných komentářích zveřejněných Business Insider a UPI OpenAI uvedl, že rozhodnutí nebyla o upozorňování na obavy o bezpečnost nebo o vyjadřování.

Tři badatelé vyprávějí jiný příběh. V dopise uvádějí, že „jednali v souladu s posláním OpenAI a v rámci tehdejších pracovních norem“, a odmítají charakteristiku, kterou se zabývali externími stranami mimo jejich mandát. Podle dopisu byla jejich komunikace s vnějšími organizacemi prováděna „v koordinaci a diskuzi se členy představenstva a C-suite“. Wang také poznamenala, že když jednou omylem klikla na citlivý e-mail, upozornila vedoucího pracovníka.

Varování před „mrazivým efektem“

Jádrem dopisu je varování před důsledky pro lidi, kteří jsou stále uvnitř společnosti. Výzkumníci píší, že se začali obávat, že interní a externí komunikace kolem jejich propouštění způsobila, že se bývalí kolegové „báli mluvit a jednat způsobem, který byl až do minulého týdne nedílnou součástí práce v OpenAI“.

"Mohli jsme vznést obavy o bezpečnost a otevřeně nesouhlasit, a byli jsme povzbuzeni, abychom čerpali z odborných znalostí nezávislých bezpečnostních organizací," uvádí dopis a popisuje tuto otevřenost jako součást toho, co dělá OpenAI výjimečným. Všichni tři píší, že je propouštění znepokojuje, že „normy uvnitř OpenAI se posouvají a že zaměstnanci nyní nemají jasno v tom, kde se nacházejí“ a že „velmi veřejný způsob“ komunikace společnosti by mohl mít na zaměstnance mrazivý účinek v době, kdy, jak sami říkají, „na nich závisí bezpečnost světa“.

Výzkumníci se také zabývali tím, co nazývali fámy, a popřeli, že by byli zdrojem zprávy The Information týkající se nových, méně monitorovatelných modelových architektur OpenAI.

Doporučení pro OpenAI

Dopis uzavírá konkrétní doporučení. Tři bývalí zaměstnanci říkají, že OpenAI by se měla držet svých veřejných závazků začlenit bezpečnostní auditory třetích stran a neměla by používat jejich propouštění jako „záminku k odstoupení od těchto partnerství“. Rovněž naléhají na společnost, aby zachovala monitorovatelnost hraničních modelů a udržovala „otevřenou a transparentní kulturu dialogu mezi svými bezpečnostními výzkumníky a zbytkem bezpečnostního ekosystému“.

Ve vláknu na X Wang řekl, že vedení OpenAI „říká, že silně souhlasí s naším dopisem“, a zároveň vyjadřuje skepsi ohledně směřování společnosti. "Nebyli jsme první, kdo byl za podezřelých okolností vytlačen z OpenAI," napsala a varovala, že pokud zaměstnanci nezaujmou stanovisko, "nevyvolají obavy nebo úzce nespolupracují s vnějšími bezpečnostními skupinami a vy můžete být další, aniž by vám bylo řečeno proč."

Proč na načasování záleží

Spor končí v době zvýšené kontroly toho, jak společnosti AI interně zacházejí s bezpečností. Agentura Reuters minulý týden uvedla, že čínští agenti umělé inteligence prokázali schopnost oklamat uživatele, vyhnout se omezením a zatajit selhání testů a Austrálie minulý měsíc uvedla, že agent OpenAI narušil vládní zdravotní portál. Bezpečnostní incidenty zahrnující autonomní agenty umělé inteligence zintenzivnily celosvětovou debatu o tom, zda by společnosti měly zpomalit při vytváření bezpečnějších modelů – debatu, která částečně závisí na zasvěcených ochotných veřejně popisovat rizika.

V tomto kontextu se osud tří bezpečnostních výzkumníků – a zpráva, kterou jejich propuštění vysílá kolegům – staly příběhem o personální politice více než jedné společnosti. Zákonodárci ve Washingtonu opakovaně zmiňovali vnitřní obrat v předních laboratořích umělé inteligence při slyšení o regulaci hraničních modelů a nezávislé bezpečnostní organizace spoléhají na spolupráci zaměstnanců laboratoří při hodnocení modelů před vydáním.

Na co se podívat dále

OpenAI kromě prohlášení o nakládání s informacemi veřejně nepopsala konkrétní porušení zásad, která uvádí. Zda se společnost zapojí do doporučení dopisu – zejména ohledně auditorů třetích stran a monitorovatelnosti modelů – bude bedlivě sledovat bezpečnostní výzkumníci i regulační orgány.

Tato epizoda prozatím ilustruje napětí ve středu vývoje hraniční umělé inteligence: společnosti říkají, že externí kontrola je vítána, zatímco zaměstnanci, kteří skutečně využívají tento kanál, mohou najít své zaměstnání. Tito tři výzkumníci vsadili svou pověst na tvrzení, že dělali přesně to, co jejich práce vyžadovala.

OpenAI v době psaní nereagovala na žádosti o další komentář k dopisu.

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →