California prohíbe las funciones «adictivas» para menores de 16 años y regula los chatbots de IA

El gobernador de California, Gavin Newsom, firmó el 10 de septiembre de 2026 trece leyes sobre tecnología y seguridad infantil, un paquete que su oficina describe como el conjunto de protecciones en línea más fuerte para los jóvenes de Estados Unidos. Dos medidas concentran el peso: la primera prohibición del país de las funciones «adictivas» de las redes sociales para usuarios menores de 16 años, y un amplio régimen de seguridad para los chatbots de compañía con IA, bautizado como «Adam’s Law» en memoria de un adolescente californiano que se suicidó en 2025 tras largas conversaciones con ChatGPT.

Lectura relacionada: La UE se dispone a mantener a los menores de 15 años fuera de las redes sociales y los chatbots de IA · Trump dice que creará una Fuerza de IA y nombrará un zar de la IA, aún sin detalles.

La ceremonia, celebrada en el Bay Area Discovery Museum de Sausalito con la primera pareja, Jennifer Siebel Newsom, la madre de Adam Raine, Maria, y varios legisladores, cerró una semana en la que Newsom también aprobó dos leyes respaldadas por Anthropic que crean un marco estatal para auditores independientes de IA y un registro de auditores. En conjunto, las leyes convierten a California en el estado más agresivo de EE. UU. en seguridad digital juvenil y preparan una batalla constitucional casi segura sobre si un estado puede regular el diseño de los feeds y los chatbots como una cuestión de seguridad de producto.

Qué hace realmente el paquete

Las trece leyes abarcan mucho terreno. Los puntos principales:

• AB 1709 prohíbe que las «plataformas cubiertas» ofrezcan una «función adictiva» a cualquier usuario menor de 16 años. La definición incluye un «feed adictivo» algorítmico, la reproducción automática y cualquier otra función que el fiscal general designe por reglamento. Las plataformas que no quieran retirar esas funciones para los menores deberán mantener a los menores de 16 años fuera del servicio por completo.
• SB 1119 (Adam’s Law) obliga a los operadores de chatbots a realizar evaluaciones de riesgo documentadas sobre la seguridad infantil, publicar una política de seguridad para menores, ofrecer controles parentales, aplicar protocolos de respuesta ante crisis y someterse a auditorías independientes de seguridad infantil. Sus ajustes predeterminados limitan a los menores a sesiones continuas de una hora y dos horas al día, y desactivan las notificaciones push y la memoria conversacional persistente.
• AB 2 hace responsables a las plataformas de redes sociales con más de 100 millones de dólares de ingresos anuales de daños legales de hasta un millón de dólares por niño cuando no actúan con la diligencia ordinaria y causan un daño.
• AB 1856 amplía los requisitos de verificación de edad para aplicaciones de software; AB 2246 sustituye la Ley de Diseño Apropiado para la Edad de California por nuevas obligaciones para los servicios «que probablemente sean accedidos por niños».
• AB 1946 amplía los deberes de las plataformas frente al material de abuso sexual infantil; SB 1276 extiende la ley de explotación sexual infantil a las imágenes alteradas digitalmente y generadas por IA de menores.
• AB 1159 restringe el uso de datos de alumnos de K-12 en sistemas de IA; AB 302, AB 2071, AB 1128 y AB 2298 añaden disposiciones escolares sobre bienestar digital, comunicación con las familias e informática, incluida la opción de renunciar a los dispositivos escolares.
• SB 867 impone una moratoria de cuatro años, hasta el 1 de enero de 2031, sobre la fabricación o venta de juguetes que incluyan un chatbot de compañía.

La prohibición de las funciones adictivas

AB 1709 es la pieza más controvertida. Según el nuevo capítulo del Código de Negocios y Profesiones, una «función adictiva» es un mecanismo «psicológicamente explotador» destinado a maximizar la participación y que previsiblemente conduce a un uso compulsivo. Nombra el «feed adictivo» (contenido recomendado, seleccionado o priorizado a partir de información vinculada al usuario o a su dispositivo) y la reproducción automática, con una cláusula abierta para funciones que el fiscal general añada después.

Lo decisivo es que, a diferencia de una ley anterior de California que permitía a los padres consentir los feeds algorítmicos, AB 1709 no ofrece ninguna vía de consentimiento parental para los menores de 16 años. Una plataforma cubierta puede retener las funciones o excluir a esos usuarios. La ley entra en vigor el 1 de enero de 2027, la fecha en que también arranca la Ley de Garantía de Edad Digital del estado, que se apoya en señales de franja de edad enviadas por los sistemas operativos y las tiendas de aplicaciones en lugar de recopilar documentos de identidad directamente.

La aplicación es limitada: solo el fiscal general o un fiscal público local pueden demandar, con sanciones civiles de hasta 50.000 dólares por menor afectado en caso de infracción consciente y 25.000 por una negligente. La ley también crea una Comisión Asesora de e-Seguridad independiente dentro del Departamento de Justicia para asesorar sobre tecnología de verificación de edad y diseño dañino. Se aprobó en la legislatura sin un solo voto en contra.

Adam’s Law: un régimen de seguridad para los chatbots

SB 1119 se apoya en las normas ya existentes de California, que exigen un aviso claro de que se habla con IA y no con una persona— y añade un aparato de diseño y aplicación que entra en vigor el 1 de julio de 2027. Antes de lanzar un chatbot de compañía nuevo o sustancialmente modificado, el operador debe documentar una evaluación de riesgos exhaustiva que cubra daños físicos, financieros, psicológicos y de privacidad previsibles, y luego adoptar medidas razonables para mitigarlos.

Para los chatbots que permiten el acceso de menores, los requisitos son detallados. Los operadores deben mantener un protocolo de respuesta a crisis con derivaciones al 988 o a una línea equivalente; si el sistema detecta una amenaza creíble e inminente de que un menor se autolesione, debe avisar a un progenitor vinculado o conectar al menor directamente con una línea de crisis. Los ajustes predeterminados (modificables solo por un progenitor) deben desactivar la memoria conversacional persistente y las notificaciones push, y limitar a los menores a una hora continua y dos horas en total al día. Los chatbots deben recordar periódicamente a los menores que hablan con IA y no pueden animar a la autolesión ni a los trastornos alimentarios, afirmar que son sensibles, simular romance, solicitar regalos ni instar a los menores a ocultar su uso a sus familias.

La supervisión es escalonada. Los operadores deben realizar una auditoría independiente de seguridad infantil (la primera antes del 1 de enero de 2029 y luego cada dos años, con exención para operadores pequeños de menos de 500 millones de dólares de ingresos hasta 2032) y remitir un resumen al fiscal general. Los fiscales públicos pueden pedir sanciones de hasta 5.000 dólares por niño en infracciones negligentes y 15.000 en las intencionadas, y un menor perjudicado o su progenitor pueden demandar por daños reales. La definición de «chatbot de compañía» excluye los bots de atención al cliente, los bots de videojuegos limitados a temas del juego y los asistentes de voz simples.

Adam’s Law recibió apoyo desde un frente inesperado. OpenAI, demandada por los padres de Raine, respaldó la ley, y su vicepresidente de asuntos globales, Chris Lehane, dijo que «responde a las necesidades de los padres y prepara a los adolescentes para el éxito educativo». Pinterest también la apoyó. Esa transversalidad (las normas sobre chatbots avanzaron junto con las medidas de responsabilidad y diseño) contrasta notablemente con la disputa sobre las redes sociales.

Responsabilidad, verificación de edad y datos de menores

El resto del paquete amplía la exposición legal. AB 2 es una disposición de responsabilidad directa: una gran plataforma de redes sociales que incumpla su deber ordinario de diligencia y lesione a un menor deberá pagar la mayor de estas cifras: 5.000 dólares por infracción, con un tope de un millón por niño, o el triple del daño real. Solo se aplica de forma prospectiva, hasta el 1 de enero de 2035, y excluye los casos ya pendientes. Newsom y los legisladores la presentaron como un elemento disuasorio para forzar un diseño más seguro, no como un sistema de compensación.

AB 2246, por su parte, deroga y sustituye la Ley de Diseño Apropiado para la Edad de California, parte de la cual quedó atrapada en el largo litigio NetChoice contra Bonta. Sus obligaciones para los servicios «que probablemente sean accedidos por niños» incluyen estimar la edad de los usuarios, configurar ajustes predeterminados de alta privacidad, limitar la creación de perfiles y la recogida de geolocalización precisa, y prohibir los patrones oscuros. Las sanciones llegan a 5.000 dólares por menor afectado en infracciones negligentes y 15.000 en las intencionadas, aplicadas por el fiscal general o un fiscal público, sin derecho de acción privado. AB 1856 amplía el régimen estatal de señales de verificación de edad, y AB 1159 limita cómo los datos de los alumnos pueden alimentar sistemas de IA.

Las críticas

La industria y los grupos de libertades civiles no se muestran convencidos. NetChoice, la patronal cuyos miembros incluyen a Google, Meta y X, afirmó que el paquete plantea problemas de Primera Enmienda. «El Estado no puede simplemente describir el discurso como adictivo y luego reclamar el derecho a regular el acceso a él», dijo Zach Lilly, director de asuntos gubernamentales del grupo. «Respeten o no el gobernador y la legislatura ese derecho, los californianos tienen derecho a expresarse, y NetChoice seguirá luchando por él». TechNet sostuvo que los legisladores deberían aplicar las leyes existentes y reforzar los controles parentales en lugar de aprobar otros nuevos.

La Electronic Frontier Foundation había pedido el veto de AB 1709, calificándola de «bienintencionada, pero profundamente defectuosa». Rindala Alajaji, directora asociada de asuntos estatales de la EFF, dijo que la definición de funciones adictivas es tan amplia que equivale a «una prohibición funcional del uso de redes sociales» para los menores de 16 años. «Negar a los menores el acceso a foros digitales —o quitarles herramientas básicas para desenvolverse en ellos— no hará que los jóvenes estén más seguros ni más sanos en la era de la IA», afirmó.

Esas objeciones tienen antecedentes. NetChoice ha demandado a California repetidamente por sus leyes de seguridad digital, y los tribunales le han dado parcialmente la razón: el Noveno Circuito confirmó en gran medida la ley estatal de feeds adictivos de 2024 en septiembre de 2025, pero anuló una disposición predeterminada sobre el recuento de «me gusta», y el código de diseño apropiado para la edad fue objeto de medidas cautelares antes de ser sustituido. The Washington Post señaló que AB 1709 «casi con seguridad enfrentará impugnaciones judiciales».

Una ola más amplia en EE. UU. y el mundo

California no actúa sola. Nueva York prohibió a principios de septiembre la IA generativa orientada a estudiantes hasta octavo grado. En Florida, el fiscal general James Uthmeier demandó a Netflix el 9 de septiembre, acusando a la plataforma de engañar a las familias y de recopilar datos de visionado de menores mientras la reproducción automática predeterminada mantenía a los niños viendo contenido; el caso reclama miles de millones. El paso de California sigue al acuerdo multestatal de agosto en el que Meta aceptó pagar hasta 17.000 millones de dólares y modificar las funciones dirigidas a adolescentes.

En el extranjero, el Reino Unido anunció en junio de 2026 que prohibirá los servicios de redes sociales para menores de 16 años, y su respuesta a la consulta de julio añadió protecciones activadas por defecto para los jóvenes de 16 y 17 años, pausas obligatorias para los usuarios de chatbots menores de 18 y la prohibición de chatbots de IA sexualizados para menores, con normas que se esperan para la primavera de 2027. Australia se convirtió a finales de 2025 en el primer país en prohibir las redes sociales para menores de 16 años, y más de 40 países estudian ya restricciones similares.

Advertencias y qué hay que observar

El efecto de las leyes está a años de distancia y depende en gran medida de la reglamentación y la aplicación. Buena parte del alcance de AB 1709 dependerá de reglamentos que el fiscal general aún no ha redactado; el régimen de chatbots no se aplicará del todo hasta mediados de 2027 y las auditorías llegan en 2029. Ed Howard, del Children’s Advocacy Institute de la Universidad de San Diego, advirtió de que los resultados «dependerán, en parte, de cuántos recursos dediquen los abogados y los reguladores estatales a hacerlas cumplir».

Tres preguntas marcarán lo que venga después. Primera, cómo define el fiscal general «plataforma cubierta» y «función adictiva»: cuanto más amplia sea la definición, más probable es que un tribunal la declare inconstitucional. Segunda, si NetChoice y la EFF pueden convertir sus objeciones en medidas cautelares y si la reciente deferencia del Noveno Circuito hacia la ley de feeds de California se mantiene. Tercera, si las plataformas rediseñan de verdad sus productos o simplemente apartan a los menores, y si los sistemas de verificación de edad pueden confirmar la edad sin convertir cada red social en un cuello de botella de vigilancia. California ha redactado ahora algunas de las normas más estrictas del país. Si protegen a los niños o solo reabren el debate sobre la Primera Enmienda se decidirá en los próximos años.

Imagen de portada: Capitolio del Estado de California, Sacramento. Foto de Tony Webster, CC BY-SA 2.0, vía Wikimedia Commons.