OpenAI a annoncé mardi son soutien au projet de loi 1119 du Sénat de Californie, une législation qui établirait des garanties radicales sur la façon dont les jeunes utilisent l'intelligence artificielle, et a exhorté le gouverneur Gavin Newsom à signer le projet de loi.
L'approbation est venue dans une lettre publique à Newsom rédigée par Ann O'Leary, vice-présidente de la politique mondiale d'OpenAI, et dans un article de blog publié sur le site de l'entreprise. Dans ce document, l'entreprise présente le SB 1119 comme une voie médiane significative : des protections solides pour les utilisateurs de moins de 18 ans, sans couper les adolescents des outils qui, selon elle, les aident à apprendre, créer et préparer l'avenir. Cette annonce est la dernière d’une série d’articles politiques sur l’IA remodelant la manière dont les gouvernements traitent les plus jeunes utilisateurs de l’IA. Pour plus de contexte sur cette histoire, consultez notre actualités IA.
Pourquoi OpenAI adopte la réglementation – celle-ci, de toute façon
Le positionnement d'OpenAI repose sur une statistique frappante issue de sa propre publication : près de neuf adolescents sur dix qui utilisent ChatGPT s'y tournent pour apprendre, s'informer, développer leurs compétences ou leur productivité au cours d'une semaine donnée. "Les adolescents constituent la première génération à grandir avec l'IA", écrit l'entreprise, affirmant que cette opportunité s'accompagne de la responsabilité de concevoir des expériences adaptées aux besoins de développement distincts des jeunes.
L’entreprise est explicite sur le vide fédéral qui motive sa position. "En l'absence d'action fédérale, la Californie a l'opportunité d'établir des normes strictes en matière de sécurité de l'IA pour les jeunes", indique la lettre adressée à Newsom. OpenAI affirme que le projet de loi s'appuie sur les engagements pris l'année dernière par le PDG Sam Altman en décrivant les principes de l'entreprise sur la sécurité des adolescents, ainsi que le travail de l'entreprise sur la Parents & Kids Safe AI Act.
Ce que le SB 1119 exigerait
Selon le résumé du projet de loi d'OpenAI, le SB 1119 obligerait les entreprises d'IA à :
- Déterminer l'âge d'un utilisateur avant de lui accorder l'accès ;
- Identifier et traiter les risques de sécurité avant de mettre un produit à la disposition des jeunes ;
- Se soumettre à des audits indépendants de ces efforts ;
- Donner aux parents des outils pour guider et limiter l'utilisation de leurs enfants ;
- Connecter les jeunes avec des ressources de soutien en cas de crise lorsque de graves risques pour la sécurité surviennent ; et
- Limiter la publicité ciblée et protéger les informations personnelles des jeunes.
Pour les utilisateurs identifiés comme étant âgés de 13 à 17 ans, ces protections s’appliqueraient automatiquement – et non en tant que paramètres facultatifs que les adolescents peuvent désactiver.
"L'IA n'est pas un média social"
L'un des arguments les plus conséquents de la lettre d'OpenAI est une distinction que les législateurs ont inscrite dans le projet de loi lui-même : l'IA n'est pas un média social. Plutôt que de transférer les règles basées sur la publicité conçues pour des plateformes comme Instagram sur des chatbots et des outils d'étude, le SB 1119 adapte les protections pour préserver ce qu'OpenAI appelle les fonctionnalités éducatives et critiques pour la sécurité – y compris ce qu'il décrit comme une utilisation responsable de la fonction de mémoire de ChatGPT, qui aide les protections à reconnaître les tendances au fil du temps.
Les critiques des limites d’âge générales ont averti que des règles sévères pourraient pousser les adolescents vers des alternatives moins réglementées ou bloquer l’accès à des outils d’apprentissage véritablement utiles. L'approbation d'OpenAI suggère que le plus grand acteur du secteur considère que le SB 1119 atteint l'équilibre avec lequel il peut vivre.
ChatGPT pour les adolescents est déjà en ligne
L’approbation du projet de loi ne se fait pas en vase clos. OpenAI a lancé ChatGPT for Teens, une expérience dédiée aux jeunes utilisateurs qui, selon la société, place automatiquement toute personne estimée par son système à moins de 18 ans – ou qui déclare avoir entre 13 et 17 ans – en mode protégé. Les garanties font partie de l'expérience de base, affirme la société, et non des paramètres d'adhésion.
Ces détails sur l’estimation de l’âge sont plus importants qu’il n’y paraît à première vue. Les estimations, et non les identifiants vérifiés, déterminent l'expérience qu'un utilisateur obtient, et l'entreprise affirme que le contexte des conversations antérieures – y compris la mémoire – aide à appliquer des mesures de protection de manière cohérente et à reconnaître des modèles préoccupants au fil du temps. L’efficacité de cette estimation dans la pratique et ce qui se passe lorsque les adolescents déclarent mal leur âge détermineront si les régulateurs considéreront l’autorégulation de l’industrie comme crédible.
Le produit pour adolescents s'appuie également sur l'apprentissage : des fonctionnalités telles que les quiz, les visualisations d'apprentissage et le mode étude ont été développées avec des éducateurs et des experts en apprentissage pour guider les étudiants à travers les problèmes étape par étape, selon OpenAI. L’entreprise présente ces outils comme la preuve que les exigences de sécurité et les produits utiles ne sont pas en tension – un argument qu’elle présente effectivement autant à Newsom qu’au public.
La politique à Sacramento
Dans sa lettre, OpenAI félicite Newsom, le sénateur Steve Padilla et les membres de l'Assemblée Buffy Wicks et Rebecca Bauer-Kahan pour leur leadership sur cette question. Le projet de loi est désormais entre les mains du gouverneur, et la campagne de lobbying publique d'OpenAI – accompagnée d'une lettre téléchargeable – montre clairement que l'entreprise veut sa signature.
Cette décision se produit également alors que les régulateurs d’autres pays resserrent les vis. L'Union européenne a récemment désigné ChatGPT comme un très grand moteur de recherche en ligne en vertu de sa loi sur les services numériques, donnant à OpenAI jusqu'à fin décembre 2026 pour se conformer aux règles de l'UE plus strictes sur les mineurs et la transparence. Face aux désignations descendantes de Bruxelles, OpenAI semble calculer que soutenir une loi d'État sur mesure à Sacramento est le meilleur moyen de façonner les règles avant qu'elles ne soient écrites pour lui.
Que Newsom signe – et que d’autres États suivent l’exemple de la Californie – contribuera grandement à répondre à la question que le Congrès a jusqu’à présent laissée ouverte : qui fixe les règles pour les plus jeunes utilisateurs de l’IA ?
Restez informé de la politique en matière d'IASuivez chaque développement au fur et à mesure. Lire plus d'actualités sur l'IA sur AI Buzz Wire →
