První týden jednoho z nejzávažnějších technologických pokusů v historii USA skončil v Oaklandu v Kalifornii, kde žalobci svařili Metaho údajnou příručku na čtyři slova: háček, držet, sklízet, schovat.

Majitel Facebooku a Instagramu uživatele „zahákuje“, „drží“ je na svých platformách co nejdéle, „sbírá“ jejich data a poté „skrývá“ pravdu před veřejností, řekla porotě Megan O'Neill, právnička státu Kalifornie. "Obchodní model Mety fungoval obzvláště dobře pro děti," řekla podle zprávy The Guardian ze soudní budovy.

Senzační proces byl zahájen v úterý v Oaklandu, severně od sídla společnosti Meta v Silicon Valley. Kalifornie se připojila k 28 dalším americkým státům, které žalují společnost v hodnotě zhruba 1,36 bilionu dolarů, která tvrdí, že navrhla návykové produkty, které poškozují děti, a porušila federální zákony na ochranu soukromí dětí a státní zákony na ochranu spotřebitele tím, že sbírala údaje o dětech mladších 13 let bez souhlasu rodičů. Případ je bedlivě sledován v celém světě politiky AI jako zátěžový test, zda lze návrh produktu založený na zapojení do zákona vyřadit z existence – což je debata podrobně pokrytá analýzou odvětví AI.

Hvězdný svědek s interními daty

Nejdramatičtější svědectví prvního týdne procesu přišlo od Artura Béjara, bezpečnostního inženýra, který pracoval ve společnosti Meta ve dvou samostatných stájích v letech 2009 až 2021 a od té doby se stal jedním z nejvýznamnějších interních kritiků společnosti, svědčil před výborem amerického Senátu a sloužil jako odborný svědek v jiných případech na sociálních sítích.

Béjar porotě řekl, že jeho motivace pro hledání řešení pro bezpečnost dětí byla osobní: jeho vlastní dospívající dcera obdržela na Instagramu nechtěné sexuální návrhy, fotografie mužských genitálií a misogynní urážky a zjistila, že procesy podávání zpráv platformy jsou buď neúčinné, nebo nemožné. "Meta používá strategii 'neptej se, neříkej'", pokud jde o bezpečnost dětí, svědčil.

Jeho svědectví mělo neobvyklou váhu kvůli tomu, jak blízko byl kdysi vrcholu společnosti. Béjar řekl, že jeho práce pravidelně zahrnovala informování Marka Zuckerberga a že s generálním ředitelem mluvil více než 100krát. Během jeho svědectví právníci států ukázali porotě e-mail, který Béjar poslal Zuckerbergovi v roce 2021 a nastínil průzkum zkušeností teenagerů na Instagramu. Výsledky byly strohé: 51 % dotázaných dospívajících uživatelů uvedlo špatné nebo škodlivé zkušenosti během předchozích sedmi dnů a škodlivý obsah byl odstraněn pouze v 0,02 % případů.

Béjar řekl, že poslal data na vrchol, protože podle jeho slov "když Mark učiní něco prioritou, hory se pohnou." Na otázku, zda Zuckerberg někdy odpověděl, odpověděl: "Ne. Neozval se mi."

Meta se tvrdě snažila udržet Béjara mimo tribunu, podala řadu návrhů, aby zasáhla jeho exponáty a zablokovala jeho svědectví. Všechny byly zamítnuty.

Meta's Defense: „Extrémní výplata“

Meta všechna obvinění popřela. Mluvčí společnosti Liza Crenshaw uvedla, že státy se rozhodly „usilovat o podivné výplaty“, spíše než se držet „faktů nebo zákonů“.

Během úvodních prohlášení právní zástupce společnosti Meta Paul Schmidt připustil, že není „žádný spor“, že lidé mohou bojovat se sociálními médii, ale tvrdil, že společnost vytvořila nástroje k řešení těchto škod. Poznamenal, že Meta nedovoluje dětem mladším 13 let registrovat účty a řekl, že deaktivovala více než jeden milion účtů patřících nezletilým uživatelům.

Porota také během prvního týdne vyslechla další bývalé zaměstnance a psychologa a osm porotců bude pokračovat ve zvažování důkazů v procesu, který bude trvat šest až osm týdnů.

Co je v sázce: Až 200 miliard dolarů

Hrozba pro Meta je existenční. Pokud bude společnost shledána odpovědnou, škody by mohly dosáhnout až 200 miliard dolarů – což je zhruba ekvivalent celého ročního příjmu společnosti Meta v roce 2025, jak poznamenal The Guardian. Státy také žádají soud, aby přinutil společnost Meta přepracovat své produkty tak, aby byly pro děti bezpečnější, což je náprava, která by mohla trvale změnit fungování jejích platforem.

Jedna neobvyklá vráska: role poroty je poradní. Panel vydá doporučení, ale konečné rozhodnutí o verdiktu a náhradě škody učiní soudkyně Yvonne Gonzalez Rogersová, která případu předsedá. Řízení vedou právníci z Kalifornie, Colorada, Kentucky a New Jersey a očekává se, že porota nakonec vyslechne svědectví generálního ředitele společnosti Meta Marka Zuckerberga a ředitele Instagramu Adama Mosseriho.

Soud v Oaklandu je největší z tisíců podobných amerických žalob, kterým Meta čelí od rodin, školních obvodů a dalších generálních prokurátorů. Společnost již prohrála první dva z těchto případů, aby se dostala k soudu: v březnu jí bylo nařízeno zaplatit státu Nové Mexiko téměř 1 miliardu dolarů za sexuální zneužívání dětí na jejích platformách a v samostatném případě byla shledána odpovědnou za záměrné navrhování návykových produktů, které připoutaly mladou ženu, se škodami přesahujícími 4 miliony dolarů.

Proč na této zkoušce záleží mimo meta

Pro technologický průmysl je tento případ přelomovým testem toho, zda zákon může dosáhnout rozhodnutí o designu, která stojí za platformami optimalizovanými pro zapojení. Žalobci argumentují, že maximalizace času na místě a sběr dat od nezletilých není jen obchodní volbou, ale i právní odpovědností – a že interní znalosti o škodách, jaké Béjar zdokumentoval ve svém e-mailu z roku 2021, činí společnosti za ně odpovědné.

Verdikt vynucující změny designu by vytvořil precedens přesahující jednu společnost sociálních médií, což by potenciálně ovlivnilo to, jak každá platforma, která algoritmicky řadí a doporučuje obsah, přistupuje k mladým uživatelům. Vzhledem k tomu, že zákonodárci ve Washingtonu a Bruselu stále zápasí s tím, jak regulovat systémy umělé inteligence, které spravují to, co vidí miliardy lidí, se soudní síň v Oaklandu stala nejdůležitější fází technologické politiky letošního podzimu.

Udržujte si náskok před umělou inteligencí

Chcete-li získat nejnovější vývoj v politice umělé inteligence, regulaci platforem a analýze odvětví, uložte si záložku [AI Buzz Wire] (https://aibuzzwire.news).

Přečtěte si další zprávy o AI →