La Californie interdit les fonctions « addictives » aux moins de 16 ans et encadre les chatbots IA

Le gouverneur de Californie, Gavin Newsom, a promulgué le 10 septembre 2026 treize lois sur la technologie et la sécurité des enfants, un paquet que son cabinet présente comme le plus protecteur des jeunes en ligne aux États-Unis. Deux mesures portent l’essentiel du poids : la première interdiction nationale des fonctions « addictives » des réseaux sociaux pour les utilisateurs de moins de 16 ans, et un vaste régime de sécurité pour les chatbots de compagnie à IA, baptisé « Adam’s Law » en mémoire d’un adolescent californien qui s’est suicidé en 2025 après de longs échanges avec ChatGPT.

À lire aussi: L'UE veut éloigner les moins de 15 ans des réseaux sociaux et des chatbots IA · Trump veut créer une « AI Force » et nommer un tsar de l'IA, sans plus de détails.

La cérémonie, tenue au Bay Area Discovery Museum de Sausalito avec la Première partenaire Jennifer Siebel Newsom, la mère d’Adam Raine, Maria, et plusieurs élus, a clos une semaine où Newsom a aussi approuvé deux lois soutenues par Anthropic créant un cadre étatique pour des auditeurs indépendants de l’IA et un registre d’auditeurs. Ensemble, ces textes font de la Californie l’État américain le plus offensif en matière de sécurité en ligne des jeunes, et préparent une bataille constitutionnelle quasi certaine sur la question de savoir si un État peut réguler le design des fils et des chatbots comme un enjeu de sécurité des produits.

Ce que fait réellement le paquet

Les treize lois couvrent un large terrain. Les principaux textes :

• AB 1709 interdit aux « plateformes couvertes » de fournir une « fonction addictive » à tout utilisateur de moins de 16 ans. La définition inclut un « fil addictif » algorithmique, la lecture automatique et toute autre fonction désignée par le procureur général par voie réglementaire. Les plateformes qui refusent de retirer ces fonctions pour les mineurs doivent exclure entièrement les moins de 16 ans de leur service.
• SB 1119 (Adam’s Law) oblige les opérateurs de chatbots à réaliser des évaluations de risque documentées sur la sécurité des enfants, à publier une politique de sécurité pour les mineurs, à proposer des contrôles parentaux, à appliquer des protocoles de réponse aux crises et à se soumettre à des audits indépendants de sécurité infantile. Ses réglages par défaut limitent les mineurs à une heure de session continue et deux heures par jour, et désactivent les notifications push et la mémoire conversationnelle persistante.
• AB 2 rend les plateformes de réseaux sociaux réalisant plus de 100 millions de dollars de revenus annuels responsables de dommages-intérêts légaux allant jusqu’à un million de dollars par enfant lorsqu’elles manquent à leur devoir de diligence ordinaire et causent un préjudice.
• AB 1856 élargit les exigences de vérification de l’âge pour les applications logicielles; AB 2246 remplace la loi californienne sur la conception adaptée à l’âge par de nouvelles obligations pour les services « susceptibles d’être consultés par des enfants ».
• AB 1946 élargit les obligations des plateformes face aux contenus d’exploitation sexuelle des mineurs; SB 1276 étend la loi sur l’exploitation sexuelle des enfants aux images altérées numériquement et générées par IA de mineurs.
• AB 1159 encadre l’usage des données des élèves de la maternelle au lycée dans les systèmes d’IA; AB 302, AB 2071, AB 1128 et AB 2298 ajoutent des dispositions scolaires sur le bien-être numérique, la communication avec les familles et l’informatique, dont une possibilité de refuser les appareils fournis par l’école.
• SB 867 instaure un moratoire de quatre ans, jusqu’au 1er janvier 2031, sur la fabrication ou la vente de jouets intégrant un chatbot de compagnie.

L’interdiction des fonctions addictives

AB 1709 est le texte le plus contesté. Selon le nouveau chapitre du code du commerce et des professions, une « fonction addictive » est un mécanisme « psychologiquement exploiteur » visant à maximiser l’engagement et conduisant prévisiblement à un usage compulsif. Le texte cite le « fil addictif » (des contenus recommandés, sélectionnés ou priorisés à partir d’informations liées à l’utilisateur ou à son appareil) et la lecture automatique, avec une clause générale pour les fonctions ajoutées plus tard par le procureur général.

Point décisif : contrairement à une loi californienne antérieure qui permettait aux parents de consentir aux fils algorithmiques, AB 1709 n’offre aucune échappatoire par consentement parental pour les moins de 16 ans. Une plateforme couverte peut soit retenir ces fonctions, soit exclure ces utilisateurs. La loi entre en vigueur le 1er janvier 2027, date à laquelle débute aussi la loi de garantie de l’âge numérique de l’État, qui s’appuie sur des signaux de tranche d’âge transmis par les systèmes d’exploitation et les magasins d’applications plutôt que sur la collecte directe de pièces d’identité.

L’application est étroite : seuls le procureur général ou un procureur public local peuvent agir, avec des sanctions civiles allant jusqu’à 50 000 dollars par mineur concerné en cas d’infraction délibérée et 25 000 dollars en cas de négligence. La loi crée aussi une commission consultative indépendante d’e-sécurité au sein du ministère de la Justice, chargée de conseiller sur les technologies de vérification de l’âge et les designs nuisibles. Elle a été adoptée sans une seule voix contre.

Adam’s Law : un régime de sécurité pour les chatbots

SB 1119 s’appuie sur les règles californiennes existantes (qui exigent déjà une notification claire indiquant que l’on parle à une IA et non à un humain) et ajoute un dispositif de conception et d’application qui entre en vigueur le 1er juillet 2027. Avant de rendre disponible un chatbot de compagnie nouveau ou substantiellement modifié, l’opérateur doit documenter une évaluation des risques complète couvrant les préjudices physiques, financiers, psychologiques et liés à la vie privée, puis prendre des mesures raisonnables pour les atténuer.

Pour les chatbots qui autorisent l’accès des enfants, les exigences sont détaillées. Les opérateurs doivent tenir un protocole de réponse aux crises avec renvoi vers le 988 ou une ligne équivalente; si le système détecte une menace crédible et imminente d’automutilation, il doit prévenir un parent lié au compte ou connecter directement l’enfant à une ligne de crise. Les réglages par défaut (modifiables uniquement par un parent) doivent désactiver la mémoire conversationnelle persistante et les notifications push, et limiter les mineurs à une heure continue et deux heures au total par jour. Les chatbots doivent rappeler périodiquement aux enfants qu’ils parlent à une IA, et ne peuvent pas encourager l’automutilation ou les troubles alimentaires, se prétendre sensible, simuler une romance, solliciter des cadeaux ou pousser les enfants à dissimuler leur usage à leurs parents.

La supervision est à plusieurs niveaux. Les opérateurs doivent faire réaliser un audit indépendant de sécurité infantile (le premier avant le 1er janvier 2029, puis tous les deux ans, les petits opérateurs de moins de 500 millions de dollars de revenus étant exemptés jusqu’en 2032) et transmettre un résumé au procureur général. Les procureurs publics peuvent réclamer jusqu’à 5 000 dollars par enfant en cas de manquement par négligence et 15 000 dollars en cas d’intention, et un enfant lésé ou son parent peut agir en justice pour obtenir des dommages réels. La définition de « chatbot de compagnie » exclut les bots de service client, les bots de jeux vidéo limités aux thèmes du jeu et les assistants vocaux simples.

Adam’s Law a reçu un soutien inattendu. OpenAI, visé par une plainte des parents de Raine, a soutenu le texte, et son vice-président chargé des affaires mondiales, Chris Lehane, a déclaré qu’il « répond à la fois aux attentes des parents et à la réussite éducative des adolescents ». Pinterest l’a également approuvé. Cette transversalité (les règles sur les chatbots ont avancé aux côtés des mesures de responsabilité et de conception) contraste nettement avec la bataille autour des réseaux sociaux.

Responsabilité, vérification de l’âge et données des enfants

Le reste du paquet élargit l’exposition juridique. AB 2 est une disposition de responsabilité directe : une grande plateforme de réseaux sociaux qui manque à son devoir ordinaire de diligence et blesse un enfant doit le montant le plus élevé entre 5 000 dollars par infraction, plafonné à un million par enfant, ou trois fois le dommage réel. Elle ne s’applique que pour l’avenir, jusqu’au 1er janvier 2035, et exclut les affaires déjà pendantes. Newsom et les élus l’ont présentée comme une mesure dissuasive destinée à imposer un design plus sûr, non comme un système d’indemnisation.

AB 2246, de son côté, abroge et remplace la loi californienne sur la conception adaptée à l’âge, dont certaines parties étaient bloquées dans le long litige NetChoice contre Bonta. Ses obligations pour les services « susceptibles d’être consultés par des enfants » incluent l’estimation de l’âge des utilisateurs, des réglages par défaut très protecteurs de la vie privée, la limitation du profilage et de la collecte de géolocalisation précise, et l’interdiction des « dark patterns ». Les sanctions vont jusqu’à 5 000 dollars par enfant concerné en cas de négligence et 15 000 en cas d’intention, appliquées par le procureur général ou un procureur public, sans droit d’action privé. AB 1856 élargit le régime étatique des signaux de vérification de l’âge, et AB 1159 limite la manière dont les données des élèves peuvent alimenter les systèmes d’IA.

Les critiques

L’industrie et les organisations de libertés civiles ne sont pas convaincues. NetChoice, l’association professionnelle qui compte Google, Meta et X parmi ses membres, estime que le paquet pose des problèmes au regard du Premier Amendement. « L’État ne peut pas simplement qualifier un discours d’addictif puis revendiquer le droit d’en réguler l’accès », a déclaré Zach Lilly, directeur des affaires gouvernementales du groupe. « Que le gouverneur et la législature choisissent de le respecter ou non, les Californiens ont le droit de s’exprimer, et NetChoice continuera de se battre pour ce droit. » TechNet a soutenu que les législateurs devraient appliquer les lois existantes et renforcer les contrôles parentaux plutôt que d’en adopter de nouvelles.

L’Electronic Frontier Foundation avait demandé le veto d’AB 1709, la jugeant « bien intentionnée, mais profondément défectueuse ». Rindala Alajaji, directrice associée des affaires étatiques de l’EFF, a estimé que la définition des fonctions addictives est si large qu’elle équivaut à « une interdiction de fait des réseaux sociaux » pour les moins de 16 ans. « Priver les mineurs d’accès aux forums numériques — ou leur retirer les outils de base nécessaires pour s’y repérer — ne rendra pas les jeunes plus sûrs ni plus sains à l’ère de l’IA », a-t-elle déclaré.

Ces objections ont un précédent. NetChoice a attaqué la Californie à plusieurs reprises au sujet de ses lois de sécurité en ligne, et les tribunaux lui ont partiellement donné raison : le Neuvième Circuit a largement validé la loi étatique de 2024 sur les fils addictifs en septembre 2025, mais a annulé une disposition par défaut sur le comptage des « likes », tandis que le code de conception adaptée à l’âge a fait l’objet d’injonctions avant d’être remplacé. Le Washington Post a rapporté qu’AB 1709 « fera presque certainement l’objet de recours juridiques ».

Une vague plus large aux États-Unis et dans le monde

La Californie n’agit pas seule. New York a interdit début septembre l’IA générative destinée aux élèves jusqu’à la classe de quatrième. En Floride, le procureur général James Uthmeier a poursuivi Netflix le 9 septembre, accusant la plateforme de tromper les familles et de collecter les données de visionnage des enfants tandis que la lecture automatique par défaut les maintenait devant l’écran, une affaire de plusieurs milliards. L’initiative californienne suit l’accord multi-États d’août dans lequel Meta a accepté de payer jusqu’à 17 milliards de dollars et de modifier les fonctions destinées aux adolescents.

À l’étranger, le Royaume-Uni a annoncé en juin 2026 qu’il interdirait les services de réseaux sociaux aux moins de 16 ans, et sa réponse à la consultation de juillet a ajouté des protections activées par défaut pour les 16-17 ans, des pauses obligatoires pour les utilisateurs de chatbots de moins de 18 ans et l’interdiction des chatbots d’IA sexualisés pour les mineurs, avec des textes attendus au printemps 2027. L’Australie est devenue fin 2025 le premier pays à interdire les réseaux sociaux aux moins de 16 ans, et plus de 40 pays envisagent désormais des restrictions similaires.

Réserves et points à surveiller

L’effet des lois se situe à des années de distance et dépend fortement de la réglementation et de l’application. Une grande partie de la portée d’AB 1709 dépendra de règlements que le procureur général n’a pas encore rédigés; le régime des chatbots ne s’appliquera pleinement qu’à la mi-2027 et les audits arriveront en 2029. Ed Howard, du Children’s Advocacy Institute de l’Université de San Diego, a averti que les résultats « dépendront, en partie, des ressources que les juristes et les régulateurs étatiques consacreront à leur application ».

Trois questions détermineront la suite. D’abord, la manière dont le procureur général définira « plateforme couverte » et « fonction addictive » : plus la définition est large, plus un tribunal risque de la juger inconstitutionnelle. Ensuite, la capacité de NetChoice et de l’EFF à transformer leurs objections en injonctions, et la question de savoir si la récente déférence du Neuvième Circuit envers la loi californienne sur les fils perdurera. Enfin, le choix des plateformes : redessiner réellement leurs produits ou simplement écarter les mineurs, et la capacité des systèmes de vérification de l’âge à confirmer l’âge sans transformer chaque application sociale en point de contrôle de surveillance. La Californie a désormais écrit certaines des règles les plus strictes du pays. Savoir si elles protègent les enfants ou ne font que raviver le débat sur le Premier Amendement se décidera dans les années à venir.

Image de couverture : Capitole de l’État de Californie, Sacramento. Photo de Tony Webster, CC BY-SA 2.0, via Wikimedia Commons.