Meta on Trial: 'Hook, Hold, Harvest, Hide' staat centraal in de historische privacyzaak voor kinderen

De eerste week van een van de meest ingrijpende technologieprocessen in de geschiedenis van de VS, die zich afspeelde in Oakland, Californië, waarbij aanklagers Meta's vermeende speelboek in vier woorden terugbrachten: hook, hold, harvest, hide.

De eigenaar van Facebook en Instagram ‘haakt’ gebruikers, ‘houdt’ ze zo lang mogelijk vast op zijn platforms, ‘oogst’ hun gegevens en ‘verbergt’ vervolgens de waarheid voor het publiek, zei Megan O’Neill, een advocaat van de staat Californië, tegen de jury. “Het bedrijfsmodel van Meta werkte vooral goed voor kinderen”, zei ze, volgens het rapport van The Guardian van het gerechtsgebouw.

Het succesvolle proces begon dinsdag in Oakland, net ten noorden van het hoofdkantoor van Meta in Silicon Valley. Californië heeft samen met 28 andere Amerikaanse staten het bedrijf met een waarde van ongeveer 1,36 biljoen dollar aangeklaagd, omdat het verslavende producten heeft ontworpen die schadelijk zijn voor kinderen en de federale kinderprivacywetten en staatsstatuten voor consumentenbescherming heeft geschonden door gegevens te verzamelen over kinderen jonger dan 13 jaar zonder toestemming van de ouders. De zaak wordt in de hele AI-beleidswereld nauwlettend in de gaten gehouden als een stresstest voor de vraag of op betrokkenheid gebaseerd productontwerp kan worden uitgebannen – een debat dat uitvoerig wordt behandeld in [AI-industrieanalyse] (https://aibuzzwire.news).

Een stergetuige met interne gegevens

De meest dramatische getuigenis van de eerste week van het proces kwam van Arturo Béjar, een veiligheidsingenieur die tussen 2009 en 2021 in twee afzonderlijke perioden bij Meta werkte en sindsdien een van de meest prominente interne critici van het bedrijf is geworden. Hij getuigt voor een commissie van de Amerikaanse Senaat en fungeert als getuige-deskundige in andere zaken op het gebied van de sociale media.

Béjar vertelde de jury dat zijn motivatie om oplossingen voor de veiligheid van kinderen na te streven persoonlijk was: zijn eigen tienerdochter ontving ongewenste seksuele avances, foto's van mannelijke geslachtsdelen en vrouwonvriendelijke beledigingen op Instagram, en vond dat de rapportageprocessen van het platform ineffectief of onmogelijk te gebruiken waren. "Meta volgt een 'niet vragen, niet vertellen'-strategie" als het gaat om de veiligheid van kinderen, getuigde hij.

Zijn getuigenis woog ongebruikelijk zwaar omdat hij ooit zo dicht bij de top van het bedrijf stond. Béjar zei dat zijn werk regelmatig het briefen van Mark Zuckerberg omvatte, en dat hij meer dan 100 keer met de CEO had gesproken. Tijdens zijn getuigenis lieten advocaten van de staten de jury een e-mail zien die Béjar in 2021 naar Zuckerberg stuurde met een overzicht van de ervaringen van tieners op Instagram. De resultaten waren grimmig: 51% van de ondervraagde tienergebruikers meldde slechte of schadelijke ervaringen in de afgelopen zeven dagen, en schadelijke inhoud werd slechts 0,02% van de tijd verwijderd.

Béjar zei dat hij de gegevens naar de top heeft gestuurd omdat, in zijn woorden, "wanneer Mark van iets een prioriteit maakt, er bergen bewegen." Op de vraag of Zuckerberg ooit heeft gereageerd, antwoordde hij: "Nee. Ik heb niets van hem gehoord."

Meta vocht hard om Béjar van de tribune te houden en diende een reeks moties in om zijn bewijsstukken te schrappen en zijn getuigenis te blokkeren. Ze werden allemaal afgewezen.

Meta's verdediging: een 'bizarre uitbetaling'

Meta heeft alle beschuldigingen ontkend. Woordvoerder van het bedrijf, Liza Crenshaw, zei dat de staten besloten hadden 'een bizarre uitbetaling na te jagen' in plaats van zich 'aan de feiten of de wet te houden'.

Tijdens de openingsverklaringen gaf Meta-advocaat Paul Schmidt toe dat er “geen twijfel over bestaat” dat mensen kunnen worstelen met sociale media, maar hij voerde aan dat het bedrijf hulpmiddelen heeft ontwikkeld om deze schade aan te pakken. Hij merkte op dat Meta niet toestaat dat kinderen onder de 13 jaar accounts registreren en zei dat het meer dan een miljoen accounts van minderjarige gebruikers heeft uitgeschakeld.

De jury hoorde de eerste week ook van andere oud-werknemers en een psycholoog, en acht juryleden zullen bewijsmateriaal blijven wegen in een proces dat naar verwachting zes tot acht weken zal duren.

Wat er op het spel staat: tot $ 200 miljard

De bedreiging voor Meta is existentieel. Als het bedrijf aansprakelijk wordt gesteld, kan de schade oplopen tot 200 miljard dollar – ongeveer gelijk aan de volledige jaaromzet van Meta in 2025, zoals The Guardian opmerkte. De staten vragen de rechtbank ook om Meta te dwingen haar producten opnieuw te ontwerpen om ze veiliger te maken voor kinderen, een remedie die de manier waarop haar platforms werken permanent zou kunnen veranderen.

Eén ongebruikelijke rimpel: de rol van de jury is adviserend. Het panel zal aanbevelingen doen, maar rechter Yvonne Gonzalez Rogers, die de zaak voorzit, zal de uiteindelijke beslissing nemen over het vonnis en de schadevergoeding. De procedure wordt geleid door advocaten uit Californië, Colorado, Kentucky en New Jersey, en de jury zal naar verwachting uiteindelijk getuigenissen horen van Meta-CEO Mark Zuckerberg en Instagram-CEO Adam Mosseri.

Het proces in Oakland is het grootste van duizenden vergelijkbare Amerikaanse rechtszaken waarmee Meta wordt geconfronteerd door families, schooldistricten en andere procureurs-generaal. Het bedrijf heeft de eerste twee zaken die voor de rechter kwamen al verloren: in maart werd het veroordeeld tot het betalen van bijna 1 miljard dollar aan de staat New Mexico wegens seksuele uitbuiting van kinderen op zijn platforms, en in een afzonderlijke zaak werd het aansprakelijk gesteld voor het opzettelijk ontwerpen van verslavende producten die een jonge vrouw aan de haak sloegen, met een schadevergoeding van meer dan 4 miljoen dollar.

Waarom deze proef belangrijker is dan meta

Voor de technologie-industrie is de zaak een mijlpaaltest voor de vraag of de wet tot ontwerpbeslissingen kan komen achter voor betrokkenheid geoptimaliseerde platforms. Aanklagers stellen dat het maximaliseren van de tijd ter plaatse en het verzamelen van gegevens bij minderjarigen niet alleen een zakelijke keuze is, maar ook een wettelijke verplichting – en dat interne kennis van schade, van het soort dat Béjar in zijn e-mail uit 2021 documenteerde, bedrijven daarvoor verantwoordelijk maakt.

Een uitspraak die ontwerpwijzigingen afdwingt zou een precedent scheppen dat veel verder reikt dan één sociale-mediabedrijf, en mogelijk van invloed zijn op de manier waarop elk platform dat algoritmisch inhoud rangschikt en aanbeveelt, jonge gebruikers benadert. Nu wetgevers in Washington en Brussel nog steeds worstelen met het reguleren van AI-systemen die bepalen wat miljarden mensen zien, is de rechtszaal van Oakland dit najaar de belangrijkste fase in het technologiebeleid geworden.

Blijf AI een stap voor

Voor de nieuwste ontwikkelingen op het gebied van AI-beleid, platformregulering en sectoranalyse kunt u een bladwijzer maken voor AI Buzz Wire.

Lees meer AI-nieuws →