Generální ředitel Protonu Andy Yen zrušil kontroverzní plán společnosti „znovu vyzpovídat“ zaměstnance ohledně jejich používání AI, aby se rozhodlo, kdo si ponechá jejich práci, a řekl zaměstnancům na pátečním setkání všech rukou, že opakované pohovory „již splnily svůj účel“. Zvrat nastal jeden den poté, co 404 Media zveřejnila vyšetřování agresivního interního tlaku AI společnosti na ochranu soukromí – a mnoho zaměstnanců není přesvědčeno, že jde o skutečnou změnu.
Proton, švýcarská společnost stojící za Proton Mail, byla silně kritizována poté, co 404 Media minulý týden informovalo, že plánuje znovu pohovor se zaměstnanci ohledně jejich používání AI, s výsledky spojenými s dalším zaměstnáním. AI Buzz Wire pokrýval původní plán opětovného pohovoru, když byl poprvé hlášen, jako součást našeho průběžného pokrytí AI průmyslu. Nová zpráva, založená na rozhovorech s osmi současnými a jedním bývalým zaměstnancem, spolu s chaty Slack, zvukem schůzek a interním manifestem AI, který napsal technický ředitel Protonu Bart Butler, popsala společnost, která prosazuje přijetí AI rychleji, než bylo jejím bezpečnostním pracovníkům příjemné – alespoň částečně poháněné cíli příjmů.
"To jsou kecy a poražené myšlení"
Nejčastěji citovaná výměna názorů při vyšetřování přišla od samotného Yena. Když zaměstnanec v bezpečnostním Slack kanálu Protonu naléhal na společnost, aby si vzala alespoň několik dní na otestování nově napsaného kódu, než jej odešle, Yen na konci srpna odpověděl: "To jsou kecy a hloupé myšlení. Samozřejmě je možné být rychlý a bezpečný. Přestaňte si myslet, [že tomu tak není]."
Butlerův manifest AI, zveřejněný interně, řekl inženýrům přímo: "Vaše stará práce je pryč." Napsal, že nepřijetí umělé inteligence představuje „existenční hrozbu pro úspěch samotné mise“ – jazyk, který ostře koliduje s veřejným obrazem Protonu jako pečlivého správce soukromí uživatelů.
Co Yen řekl zaměstnancům
Na pátečním setkání Yen zahájil své poděkování: „Osobně se chci přiznat, že došlo k selhání komunikace z mé strany a že existuje mnoho věcí, které pravděpodobně mohly a měly být sdělovány jinak,“ řekl podle 404 Media. Ale spojil omluvu se závazkem pokračovat v základním tlaku: "Jdu vpřed, stále budu tlačit."
Při samotných opakovaných pohovorech Yen řekl, že vedení se shromáždilo během předchozích dvou dnů a také mluvilo s radou Proton Foundation – jejíž správci jsou Yen, webový vynálezce Sir Tim Berners-Lee, profesor Carissa Veliz, Dingchao Lu a Antonio Gambardella. "Situaci bedlivě sledují," řekl Yen. Závěr: "Rozhodli jsme se skutečně zrušit opakované pohovory." Jeho zdůvodnění: „Myslím, že ve skutečnosti, řekněme, neúmyslným způsobem, ve skutečnosti již posloužily svému účelu“ – to znamená, že zaměstnanci nyní mluví a učí se o AI.
Butler byl ohledně chybného kroku přímější. „Efektivní a pragmatické používání umělé inteligence neznamená, že jsme rezignovali na bezpečnost, dobrou architekturu nebo zdravé principy softwarového inženýrství,“ řekl a dodal, že Yen „potřebuje, a zavázal se k tomu, dělat lépe“ v tom, jak komunikuje se zaměstnanci. Později na schůzce v reakci na komentáře zaměstnance řekl: "Posrali jsme se, víme, že jsme se posrali."
Zaměstnanci vidí „kontrolu škod“
Reakce mezi zaměstnanci Protonu, na 404 médií, byly rozdělené. Jeden zaměstnanec poznamenal, že "někteří jsou šťastní, když jde o pokrok. Jiní věří, že to nic nezmění, protože to pro Andyho [Yen] nemá žádné důsledky," dodal, "upřednostnili by skutečnou odpovědnost ze strany vedoucího týmu." Tentýž zaměstnanec poukázal na většinový podíl Yen jako na strukturální limit toho, co může představenstvo dělat.
Jiní označili, co se stalo, stejným dechem jako zrušení: vedení uvedlo, že věci, které budou měřeny v opakovaných pohovorech, se místo toho stanou součástí hodnocení výkonu. "Jasně řekli, že směr se nezměnil," řekl jeden ze zaměstnanců. "Jako uživatele Protonu mě to neuklidňuje. Jako zaměstnance nebyly opakované pohovory zrušeny, dokud se to neobjevilo na veřejnosti navzdory obavám vzneseným mnoha z nás. Myslím, že to přesahuje komunikační problémy a rostoucí bolesti."
"Právě teď se zdá, že je vše v souladu s tím, že jde o kontrolu škod," dodal zaměstnanec. Mimo Proton mnoho uživatelů vyzvalo Yen k rezignaci na sociálních sítích do 24 hodin po zveřejnění vyšetřování, uvedla 404 Media.
Co bude dál
Yen řekl zaměstnancům, že se chystají „změny v organizaci“, s reorganizací příští měsíc zaměřenou na „přerozdělení talentů mezi týmy“ – a trval na tom, že „nedojde ke ztrátě pracovních míst kvůli umělé inteligenci“. Toto ujištění bude nyní testováno proti realitě, že se očekává, že metriky využití umělé inteligence budou zahrnuty do hodnocení výkonu, přesně toho mechanismu, jehož se zaměstnanci obávali, že by opakované pohovory prosadily.
Tato epizoda se stala případovou studií v rámci limitů AI mandátů shora dolů. Podnikání Protonu je založeno na příslibu důvěry a minulý týden ukázal, jak rychle může agresivní vnitřní tlak AI – jakkoli komerčně motivovaný – tento slib podcenit. Zda zrušený re-interview, reorganizace a závazek „tlačit“ zdvořileji ho obnoví, je úplně jiná otázka.
