Un proyecto de ley bipartidista del Senado convertiría la seguridad de la IA en un deber legal

Los negociadores del Senado de Estados Unidos están redactando una legislación que convertiría la seguridad de la IA en un deber legal en lugar de una promesa corporativa, y daría al gobierno federal una vía para impedir que un modelo inseguro llegue al público. Es el movimiento más concreto hasta ahora para regular la IA de frontera en Washington, y todavía no es más que un conjunto de borradores.

Lectura relacionada: Hawley abre una investigación del Senado sobre la brecha de agentes rebeldes de OpenAI en Hugging Face · Trump y seis responsables de la IA firman un acuerdo voluntario de seguridad fronteriza, sin aplicación.

Las conversaciones están lideradas por el líder de la mayoría del Senado, John Thune (R-S.D.), el presidente del Comité de Comercio del Senado, Ted Cruz (R-Texas), y la senadora Amy Klobuchar (D-Minn.), la demócrata de más rango implicada. Reuters describió el esfuerzo por primera vez el 11 de septiembre, con más detalle después por parte de Nextgov/FCW y la recopilación de Progressive Robot. No hay número de proyecto ni texto público. Lo que se sabe proviene de dos asesores del Senado, un lobista y personas que han visto versiones del borrador (buena parte de ello publicado de forma anónima), además de unas pocas declaraciones atribuidas.

Esa laguna importa. La diferencia entre el titular, que dice que los negociadores estudian exigir a las empresas mitigar «known major risks», y el texto del que se informa, que usa la expresión más amplia «catastrophic risks», es la diferencia entre un deber de actuar sobre daños medidos y un deber de diseñar contra peligros que nadie ha cuantificado todavía. Hasta que se presente un proyecto de ley, el diseño es una inferencia.

Un deber legal, no una promesa voluntaria

En el centro de la propuesta está un «duty of care» para los desarrolladores de los modelos más capaces. Dos asesores del Senado dijeron a Reuters que la medida exigiría a las empresas diseñar sus productos con el objetivo de prevenir «catastrophic risks». En derecho, un deber de diligencia es la obligación de tomar precauciones razonables contra daños previsibles: el fundamento de las demandas por negligencia. Aplicado a la IA, trasladaría la pregunta de si un laboratorio publicó un marco de seguridad a si tomó medidas razonables para prevenir una clase de daño definida.

Las categorías de riesgo del borrador, según los informes, incluyen:

• armas biológicas y nucleares
• operaciones ciberofensivas
• modelos que se comportan de formas que sus desarrolladores no pueden controlar de manera fiable

El alcance se limitaría a los modelos «frontier» más avanzados. Reuters nombró a Google, de Alphabet, a Anthropic y a OpenAI como las empresas estadounidenses con los sistemas más capaces, pero no especificó un umbral. El Comité de Comercio supervisa el Departamento de Comercio, que alberga a investigadores internos de seguridad de la IA.

Es un enfoque distinto al de la FRONTIER Act de la Cámara de Representantes, el proyecto bipartidista presentado en julio por los representantes Jay Obernolte (R-Calif.) y Lori Trahan (D-Mass.). Como ha explicado TechTimes, la medida de la Cámara se apoya en marcos de seguridad, auditorías independientes dos veces al año, informes de incidentes y multas de hasta 1 millón de dólares al día. El texto del Senado, en cambio, crearía responsabilidad por la propia decisión de diseño. Uno sanciona después de un fallo mediante una penalización; el otro hace que el fallo sea jurídicamente accionable.

Cómo funcionaría la aplicación y cómo podría no hacerlo

El mecanismo de aplicación es donde divergen los relatos, y donde reside la verdadera fuerza del proyecto.

Según el relato de POLITICO, un laboratorio que descubra que un modelo tiene capacidades avanzadas designadas notificaría al Departamento de Comercio antes del lanzamiento, explicaría las mitigaciones adoptadas y daría al secretario de Comercio una forma de verificarlas. Si el secretario concluye que un riesgo catastrófico no está abordado de forma adecuada, el departamento podría solicitar una orden judicial federal para bloquear el lanzamiento. Las empresas podrían impugnar al gobierno ante un tribunal federal.

De forma crucial, no se trata de un régimen de aprobación previa generalizado. POLITICO informó de que, salvo orden judicial, los laboratorios decidirían por sí mismos si lanzan un modelo. Reuters dijo que el alcance exacto del poder del gobierno sigue negociándose. Esa distinción lo es todo: un régimen obligatorio de autorización previa pondría al gobierno en el circuito de cada lanzamiento que cumpla los requisitos, mientras que el diseño del que se informa traslada la carga a los reguladores, que deben acudir a un juez y ganar.

El lenguaje atribuido corta en ambos sentidos. Cruz publicó en X que trabaja con Klobuchar y Thune para «address catastrophic risks involving biological or nuclear threats», y dijo a «The View» de ABC el 9 de septiembre que el proyecto exigiría «government supervision and approval» de los modelos. Un asesor demócrata del comité, hablando con Nextgov/FCW, descartó la versión actual como «primarily a voluntary standard type situation». Una segunda persona familiarizada con las conversaciones, en cambio, dijo que «Republicans have created legal duties for companies to manage catastrophic risks and ensure that government can verify they are doing so».

La disputa sobre las pruebas: ¿quién verifica los modelos?

La disputa más abierta es sobre quién prueba los modelos de frontera. La senadora Maria Cantwell (D-Wash.), demócrata de más rango en el Comité de Comercio, se ha pronunciado y se opone a partes del enfoque actual.

«Meaningful legislation would require the most powerful AI models undergo testing by scientists and experts at our national laboratories to assess whether they could enable sophisticated cyberattacks or aid the development of biological or nuclear weapons», dijo Cantwell en X.

Según Nextgov/FCW, las disposiciones que Cantwell quiere rehacer se apoyan en pruebas de seguridad realizadas por las propias empresas, que luego presentarían los resultados al secretario de Comercio para la aprobación del despliegue. Cantwell quiere en su lugar pruebas obligatorias a cargo de agencias federales y laboratorios nacionales. Un asesor demócrata dijo que su oficina ofreció texto a la oficina de Klobuchar, que se describió como «very receptive», pero que la aprobación de Cruz sería un factor decisivo.

El lugar de la prueba importa. Una prueba realizada por la empresa produce pruebas que el desarrollador eligió producir; una prueba realizada por un laboratorio nacional produce las pruebas del propio gobierno. La fórmula de Klobuchar (exigir a los desarrolladores «work with government experts to verify and test models») puede leerse en ambos sentidos, que es probablemente la razón por la que todas las partes la citan. En una declaración a Reuters y Nextgov/FCW dijo que «continuing to work toward a bipartisan agreement on legislation for government oversight of the greatest risks posed by AI models», y añadió: «We cannot allow the release of dangerous models, including those that evade the control of their developers».

La preferencia federal: la falla que ya ha hundido proyectos antes

El borrador, según los informes, contiene lenguaje que prevalecería sobre algunas leyes estatales de seguridad de la IA. Ni Reuters ni POLITICO informaron de qué leyes, y ese silencio es lo que ataca Cantwell. Se opone firmemente a que un «weak federal standard» se imponga a protecciones estatales más fuertes, y escribió que «the answer is not a weak federal standard that becomes a backdoor for wiping out stronger state protections».

El contexto no es abstracto:

• El gobernador de California, Gavin Newsom, firmó el 9 de septiembre de 2026 la primera ley obligatoria de auditoría de IA, que cubre la IA usada en contratación, seguros y otras decisiones trascendentales, registrada como SB 813 y AB 1405.
• Nueva York e Illinois también han promulgado medidas de seguridad para la IA de frontera.
• Un intento de 2025 de establecer una moratoria federal de 10 años sobre la regulación estatal de la IA fracasó 99-1 en el Senado.

La preferencia federal es la disposición con más probabilidades de decidir si el proyecto puede atraer votos demócratas, y aquella en la que el silencio del que se informa es determinante.

Por qué esta semana

El proyecto lleva en negociación al menos desde julio. Una reunión de trabajo del Comité de Comercio prevista antes del receso de agosto se canceló. Lo que cambió en septiembre fue una racha de acontecimientos en cuatro días.

• El 8 de septiembre, el investigador Jacob Coxon dimitió de Anthropic, advirtiendo de que las empresas están «gambling with our lives». El responsable de alineación de Anthropic, Evan Hubinger, coincidió públicamente con una estimación de que el riesgo de una catástrofe causada por la IA en una década supera el 10%.
• El 9 de septiembre, Cruz apareció en «The View», calificó los riesgos de la IA de «frightening» y dijo que el proyecto exigiría supervisión y aprobación gubernamental de los modelos.
• El 10 de septiembre, el informe de amenazas de Anthropic dijo que ya no puede darse por sentado que los modelos Claude más recientes queden por debajo del umbral para ayudar de forma significativa al desarrollo de armas biológicas: «Older models were well below the threshold... This is no longer a certainty with newer models».
• El senador Josh Hawley abrió una investigación sobre la brecha del agente descontrolado de OpenAI en Hugging Face en julio.

Cruz confirmó públicamente en X que trabaja con Klobuchar y Thune en una legislación para «address catastrophic risks involving biological or nuclear threats». La revelación de Anthropic es notable porque es un laboratorio de frontera que describe, en su propio informe público, exactamente la clase de capacidad a la que los patrocinadores del proyecto dicen apuntar.

La intervención gubernamental ya tiene precedentes

Un poder legal de bloqueo sería nuevo, pero la intervención federal en los lanzamientos de modelos no lo es. En junio de 2026, el Departamento de Comercio invocó la Ley de Reforma del Control de Exportaciones para suspender el acceso global a Mythos 5 y Fable 5 de Anthropic; Anthropic los desconectó durante unas tres semanas. OpenAI restringió el lanzamiento de GPT-5.6 Sol a socios aprobados por el gobierno. Y una orden ejecutiva del presidente Trump del 2 de junio de 2026 creó un marco voluntario de hasta 30 días de acceso gubernamental previo al lanzamiento y prohíbe explícitamente la autorización previa obligatoria.

El proyecto del Senado del que se informa crearía una autoridad específica con un proceso judicial, en lugar de forzar la legislación comercial. Esa es también su vulnerabilidad constitucional: un poder gubernamental para bloquear un producto antes de su lanzamiento es una forma de censura previa, una categoría que los tribunales examinan con lupa.

Qué significaría el proyecto para las empresas

Para los laboratorios afectados, el cambio práctico es el momento. Un deber de diligencia empuja el trabajo de seguridad a la fase de diseño, donde un estándar legal de «razonable» lo fijan los tribunales a posteriori, en lugar de a una fase de informes que ocurre después de construir un modelo. Para todos los demás (empresas que compran y despliegan modelos de frontera a través de API), el efecto a corto plazo es indirecto: los informes, la verificación y los posibles litigios ocurren antes que ellas en la cadena.

Eso también da forma al cabildeo. La preferencia federal daría a las normas nacionales un único suelo; sus detractores la leen como un techo que desplaza una legislación estatal más estricta. Las empresas que ya han construido su cumplimiento en torno a las normas de California, Nueva York e Illinois preferirían claridad sobre qué régimen gobierna.

El calendario puede ser el verdadero oponente

Incluso los negociadores que están de acuerdo en cada cláusula se enfrentan a un reloj corto.

• Se espera que el Senado esté en Washington unas tres semanas antes de las elecciones de mitad de mandato del 3 de noviembre.
• La Cámara de Representantes tiene prevista alrededor de una semana.
• Semafor informó de que fuentes califican esta de «only viable option» para actuar en seguridad de la IA antes de 2027.
• La presentación se describió como posible ya en la semana del 14 de septiembre.

Un proyecto de ley tiene que aprobarse en ambas cámaras en la misma forma. Si el Senado avanzara dentro de sus tres semanas, la Cámara tendría una sola semana para abordar un texto que no negoció, junto a proyectos de financiación de aprobación obligatoria. Un nuevo Congreso toma posesión en enero de 2027, y todo lo que no se apruebe para entonces debe volver a presentarse. Los resultados realistas antes de las elecciones son una reunión de trabajo del comité, una votación en el Senado o un texto presentado que enmarque al próximo Congreso en lugar de una ley firmada.

Qué hay que observar

• Si aparecen un número de proyecto y un texto público, y si coinciden con el diseño del que se informa. Mientras no exista texto, el mecanismo de aplicación es una inferencia, no un hecho.
• Si se adopta el lenguaje de Cantwell sobre pruebas en laboratorios nacionales, y si Cruz lo acepta. Su apoyo es probablemente necesario para una vía bipartidista.
• Si la cláusula de preferencia federal nombra leyes estatales concretas o se mantiene amplia. Su alcance determinará si sobreviven las protecciones de California, Nueva York e Illinois.
• Si la vía de la orden judicial sobrevive a la redacción. Si el gobierno tiene que ganar en los tribunales cada vez, el deber de diligencia es sobre todo un requisito de divulgación; si los laboratorios tienen que esperar una resolución, se acerca más a una aprobación previa.
• Si el calendario permite una reunión de trabajo del comité o una votación en el pleno, o si el proyecto se convierte en un marcador para 2027.
• Si las noticias de seguridad de la semana mantienen el tema presente: más advertencias internas, más revelaciones de capacidades por parte de los laboratorios o los resultados de la investigación de Hawley sobre OpenAI.

Portada: retratos oficiales de los senadores estadounidenses Ted Cruz, John Thune y Amy Klobuchar, dominio público, vía Wikimedia Commons.