La première semaine de l'un des procès technologiques les plus importants de l'histoire des États-Unis s'est terminée à Oakland, en Californie, où les procureurs ont réduit le prétendu manuel de jeu de Meta à quatre mots : accrocher, tenir, récolter, cacher.

Le propriétaire de Facebook et d'Instagram "accroche" les utilisateurs, les "retient" sur ses plateformes le plus longtemps possible, "récolte" leurs données puis "cache" la vérité au public, a déclaré au jury Megan O'Neill, avocate de l'État de Californie. "Le modèle économique de Meta a particulièrement bien fonctionné pour les enfants", a-t-elle déclaré, selon le rapport du palais de justice du Guardian.

Le procès à succès s'est ouvert mardi à Oakland, juste au nord du siège social de Meta dans la Silicon Valley. La Californie s'est jointe à 28 autres États américains pour poursuivre en justice l'entreprise d'une valeur d'environ 1,36 billion de dollars, alléguant qu'elle a conçu des produits addictifs qui nuisent aux enfants et violé les lois fédérales sur la vie privée des enfants et les lois des États sur la protection des consommateurs en collectant des données sur des enfants de moins de 13 ans sans autorisation parentale. L'affaire est étroitement surveillée dans le monde de la politique en matière d'IA comme un test de résistance pour déterminer si la conception de produits axée sur l'engagement peut être légiférée - un débat couvert en profondeur dans [Analyse de l'industrie de l'IA] (https://aibuzzwire.news).

Un témoin vedette avec des données internes

Le témoignage le plus dramatique de la première semaine du procès est venu d'Arturo Béjar, un ingénieur en sécurité qui a travaillé chez Meta à deux reprises entre 2009 et 2021 et est depuis devenu l'un des critiques internes les plus éminents de l'entreprise, témoignant devant un comité du Sénat américain et servant de témoin expert dans d'autres affaires sur les réseaux sociaux.

Béjar a déclaré au jury que sa motivation pour rechercher des solutions pour la sécurité des enfants était personnelle : sa propre fille adolescente a reçu des avances sexuelles non désirées, des photos d'organes génitaux masculins et des insultes misogynes sur Instagram, et a trouvé les processus de signalement de la plateforme inefficaces, voire impossibles à utiliser. "Meta adopte une stratégie" ne demande pas, ne dit pas "" en matière de sécurité des enfants, a-t-il témoigné.

Son témoignage avait un poids inhabituel en raison de sa proximité avec le sommet de l'entreprise. Béjar a déclaré que son travail consistait régulièrement à briefer Mark Zuckerberg et qu'il avait parlé avec le PDG plus de 100 fois. Lors de son témoignage, les avocats des États ont montré au jury un e-mail envoyé par Béjar à Zuckerberg en 2021 décrivant une enquête sur les expériences des adolescents sur Instagram. Les résultats ont été sans appel : 51 % des utilisateurs adolescents interrogés ont signalé des expériences mauvaises ou préjudiciables au cours des sept jours précédents, et le contenu préjudiciable n'a été supprimé que 0,02 % du temps.

Béjar a déclaré qu'il avait envoyé les données au sommet car, selon ses propres termes, "lorsque Mark fait de quelque chose une priorité, les montagnes bougent". Lorsqu'on lui a demandé si Zuckerberg avait déjà répondu, il a répondu : "Non. Je n'ai pas eu de réponse de sa part."

Meta s'est battu avec acharnement pour éloigner Béjar de la barre, déposant une série de requêtes pour radier ses pièces à conviction et bloquer son témoignage. Tous ont été rejetés.

La défense de Meta : un « paiement extravagant »

Meta a nié toutes les allégations. La porte-parole de l'entreprise, Liza Crenshaw, a déclaré que les États avaient décidé de "rechercher un paiement farfelu" plutôt que de s'en tenir "aux faits ou à la loi".

Lors de ses déclarations liminaires, l'avocat de Meta, Paul Schmidt, a reconnu qu'il n'y avait « aucune contestation » sur le fait que les gens peuvent avoir des difficultés avec les médias sociaux, mais a soutenu que l'entreprise avait construit des outils pour remédier à ces préjudices. Il a noté que Meta ne permet pas aux enfants de moins de 13 ans d'enregistrer des comptes et a déclaré avoir désactivé plus d'un million de comptes appartenant à des utilisateurs mineurs.

Le jury a également entendu d'autres anciens employés et un psychologue au cours de la première semaine, et huit jurés continueront d'évaluer les preuves dans le cadre d'un procès qui devrait durer six à huit semaines.

Quels sont les enjeux : jusqu'à 200 milliards de dollars

La menace qui pèse sur Meta est existentielle. Si l'entreprise est reconnue responsable, les dommages pourraient atteindre 200 milliards de dollars, soit à peu près l'équivalent de la totalité du chiffre d'affaires annuel de Meta pour 2025, comme l'a noté The Guardian. Les États demandent également au tribunal d'obliger Meta à repenser ses produits pour les rendre plus sûrs pour les enfants, un remède qui pourrait remodeler définitivement le fonctionnement de ses plateformes.

Une particularité inhabituelle : le rôle du jury est consultatif. Le panel émettra des recommandations, mais la juge Yvonne Gonzalez Rogers, qui préside l'affaire, prendra la décision finale sur le verdict et les dommages-intérêts. La procédure est dirigée par des avocats de Californie, du Colorado, du Kentucky et du New Jersey, et le jury devrait éventuellement entendre les témoignages du PDG de Meta, Mark Zuckerberg, et du PDG d'Instagram, Adam Mosseri.

Le procès d'Oakland est le plus important parmi des milliers de poursuites similaires aux États-Unis auxquelles Meta est confrontée par des familles, des districts scolaires et d'autres procureurs généraux. L'entreprise a déjà perdu les deux premières affaires jusqu'en procès : en mars, elle a été condamnée à payer près d'un milliard de dollars à l'État du Nouveau-Mexique pour exploitation sexuelle d'enfants sur ses plateformes, et dans une autre affaire, elle a été reconnue responsable d'avoir délibérément conçu des produits addictifs qui ont rendu accro une jeune femme, avec des dommages et intérêts de plus de 4 millions de dollars.

Pourquoi cet essai est important au-delà de la méta

Pour l’industrie technologique, cette affaire constitue un test historique pour déterminer si la loi peut prendre des décisions de conception derrière des plateformes optimisées pour l’engagement. Les procureurs font valoir que maximiser le temps passé sur place et la collecte de données auprès des mineurs n’est pas seulement un choix commercial mais une responsabilité juridique – et que la connaissance interne des dommages, du type de celle documentée par Béjar dans son e-mail de 2021, rend les entreprises responsables de ces dommages.

Un verdict imposant des changements de conception créerait un précédent bien au-delà d’une seule entreprise de médias sociaux, influençant potentiellement la façon dont chaque plate-forme qui classe et recommande du contenu de manière algorithmique aborde les jeunes utilisateurs. Alors que les législateurs de Washington et de Bruxelles se demandent toujours comment réglementer les systèmes d'IA qui conservent ce que voient des milliards de personnes, le tribunal d'Oakland est devenu l'étape la plus importante de la politique technologique cet automne.

Gardez une longueur d'avance sur l'IA

Pour connaître les derniers développements en matière de politique en matière d'IA, de réglementation des plateformes et d'analyse du secteur, ajoutez AI Buzz Wire à vos favoris.

Lire plus d'actualités sur l'IA →