Une enquête du New York Times publiée samedi affirme que DraftKings, l'un des plus grands opérateurs de paris sportifs aux États-Unis, a construit un modèle d'apprentissage automatique conçu pour identifier les clients les plus susceptibles de perdre de l'argent – ​​et a utilisé ces scores pour déterminer qui a reçu des paris bonus et des promotions de jeu gratuit.

Le rapport décrit un système dans lequel la même technologie prédictive qui a rendu les promotions plus rentables aurait pu être utilisée pour repérer les clients risquant d'être victimes de jeux de hasard. Selon le Times, cette application de protection a été lancée mais n'a jamais été terminée.

Comment le modèle a fonctionné

Le modèle, construit en 2023, a évalué les clients de DraftKings en fonction du montant d'argent qu'ils étaient censés perdre après avoir reçu un pari gratuit ou un bonus, selon le Times. Pour faire cette prédiction, il a examiné des signaux tels que la fréquence à laquelle un utilisateur jouait, les soldes de son compte, ses ratios perte/pari et une estimation distincte de la probabilité qu'un utilisateur arrête complètement de jouer.

Un score plus élevé signifiait qu'un client devait générer plus de revenus par dollar promotionnel dépensé. En d’autres termes, les personnes les plus susceptibles de recevoir des paris gratuits étaient, de par leur conception, celles que l’algorithme s’attendait à perdre le plus.

Jayden Butts, un ancien analyste de données de DraftKings, a décrit la logique sous-jacente au Times : « Nous recherchons des caractéristiques et des caractéristiques que nous pouvons cibler et qui indiquent un bon investissement. »

Les résultats commerciaux

L’approche semble avoir fonctionné commercialement. Les dirigeants de DraftKings ont déclaré que la science et l’analyse des données ont amélioré de 13 % les marges des paris sportifs axés sur la promotion en 2025 et que l’IA a contribué à personnaliser des centaines de millions de dollars en dépenses promotionnelles, selon le Times.

Ce chiffre illustre pourquoi le ciblage prédictif est devenu un élément central de l'économie de l'industrie des paris sportifs. Les paris bonus sont des acquisitions de clients coûteuses ; un modèle qui prédit les pertes attendues peut diriger chaque dollar promotionnel vers les utilisateurs les plus susceptibles de le convertir en paris durables.

L'outil qui n'était pas terminé

La conclusion la plus marquante de l’enquête concerne ce que DraftKings a choisi de ne pas construire. D'anciens employés ont déclaré au Times qu'une initiative distincte visant à créer des scores de risque identifiant les clients ayant des problèmes de jeu potentiels avait été abandonnée – même si, selon le rapport, l'infrastructure de données sous-jacente aurait pu la prendre en charge. L’infrastructure permettant de regarder dans les deux directions aurait existé ; seul le modèle axé sur le profit a été achevé.

DraftKings a repoussé le cadrage. La responsable des jeux de la société, Lori Kalani, a déclaré au Times que DraftKings surveillait les comportements à risque des clients et a déclaré que la société avait refusé de déployer une technologie de prévision des risques parce qu'elle n'était pas suffisamment fondée sur des preuves. DraftKings a également déclaré au Times qu'il « rejette toute implication » selon laquelle son marketing cible injustement les clients, affirmant que les promotions vont aux utilisateurs qui font preuve d'une utilisation soutenue et engagée de la plateforme plutôt qu'aux utilisateurs classés en fonction de leurs pertes.

La société met publiquement en avant ses initiatives en matière de jeu responsable, notamment une collaboration avec l'outil Gamalyze de Mindway AI et un partenariat avec IC360 pour la surveillance de l'intégrité et de la conformité. Les rapports disponibles ne permettent pas de savoir si ces outils comblent l'écart spécifique décrit par d'anciens employés – en notant et en protégeant de manière proactive les utilisateurs présentant un risque élevé.

Un cas de test d'éthique de l'IA au-delà du jeu

L’histoire se déroule au milieu d’une surveillance de plus en plus minutieuse de la manière dont les entreprises en contact avec les consommateurs utilisent l’IA prédictive. La principale tension n’est pas que la technologie existe – l’évaluation des utilisateurs en fonction de la valeur prédite est une pratique courante dans les abonnements, la publicité et la fintech – mais que se passe-t-il lorsque le même modèle qui identifie le client le plus rentable identifie également le client le plus vulnérable.

Les régulateurs s’orientent dans cette direction depuis un certain temps. Dans le secteur du jeu en particulier, les responsables ont remis en question l'utilisation des données par l'industrie pour façonner le comportement des joueurs, et la région de Philadelphie a été le théâtre de litiges concernant les pratiques promotionnelles de DraftKings. Si les reportages du Times tiennent le coup, ils donnent aux législateurs et aux régulateurs des jeux de hasard quelque chose de plus spécifique que la préoccupation générale de l'industrie : un cas présumé dans lequel la prévision des dommages et la prévision des bénéfices étaient techniquement réalisables, et une seule a été terminée.

Pour les utilisateurs, l’aspect pratique est inconfortable. Le pari gratuit qui arrive dans votre boîte de réception peut refléter un jugement fondé sur des données sur votre probabilité de perdre, et non une récompense de fidélité. Et le modèle qui porte ce jugement sait des choses – à quelle fréquence vous jouez, à quel point vous courez après les pertes, si vous montrez des signes d’arrêt – que vous n’avez jamais explicitement partagées dans ce but.

DraftKings n'est pas accusé d'avoir enfreint la loi et les promotions ciblées sont légales. Mais à mesure que les systèmes d’IA décident de plus en plus qui voit quelle offre, l’écart entre ce que les entreprises peuvent prédire et ce sur quoi elles choisissent d’agir devient la question centrale de l’éthique de l’IA des consommateurs – et le rapport DraftKings est l’un des exemples les plus clairs à ce jour de cet écart dans la pratique.

Gardez une longueur d'avance sur l'IA

Des applications de paris aux laboratoires frontières, l’IA remodèle la façon dont les entreprises perçoivent leurs clients. Pour plus d’informations sur l’éthique de l’IA et la responsabilité de l’industrie, suivez AI Buzz Wire.

Lire les dernières nouvelles sur l'IA →