Google DeepMind lanza un instituto para debatir sobre la AGI antes de que llegue

Google DeepMind lanzó el miércoles el DeepMind Institute (DMI), una plataforma para la investigación y los ensayos públicos sobre inteligencia artificial general que sus impulsores describen como un intento de ampliar un debate que, dicen, no deberían zanjar quienes construyen la tecnología. El instituto está dirigido por Shane Legg, cofundador de DeepMind y científico jefe de AGI; James Manyika, presidente de investigación, laboratorios, tecnología y sociedad de Google; y Demis Hassabis, cofundador y presidente de DeepMind y científico jefe de Alphabet. Legg es además su editor jefe, según el ensayo de lanzamiento del instituto.

Lectura relacionada: Anthropic propuso al Congreso un borrador de ley de seguridad de la IA que escribió ella misma · Gemini 4 Argon de Google llega primero a defensores cibernéticos de confianza, con un límite de salida de 1 millón de tokens.

El ensayo de lanzamiento afirma que el DMI abarcará ciencia, educación, sociedad, política, filosofía y florecimiento humano, y enmarca su propósito en torno a la idea de que las preguntas sobre la AGI necesitan un conjunto más amplio de voces. «No deberían ser solo los tecnólogos quienes las aporten», escriben los tres directores, y añaden que la responsabilidad de moldear la era de la AGI corresponde al conjunto de la sociedad, incluidas las artes y las humanidades y los gobiernos.

Una plataforma, no un producto

El DMI publica ensayos e investigaciones de personas de todo Google DeepMind, Google y la comunidad investigadora en general, según el ensayo de lanzamiento. No lleva asociado el lanzamiento de ningún modelo, ni tiene autoridad de evaluación ni papel regulatorio. El instituto dice que sus textos «no deberían leerse como la opinión oficial de Google», una advertencia que se repite en la página de cada ensayo.

DeepMind ya cuenta con mecanismos internos de seguridad. Legg dirige su Consejo de Seguridad de AGI, y el laboratorio mantiene un Marco de Seguridad de Frontera para los modelos que cruzan umbrales de riesgo grave. El DMI no sustituye nada de eso. Es una operación editorial, y su producción se juzgará como argumento, no como política.

Esa distinción importa al leer la más trascendente de las piezas de lanzamiento. En «A framework for frontier AI and the dawning of a new age», Hassabis propone un organismo de estándares estadounidense inspirado en la Autoridad Reguladora de la Industria Financiera, un ente público-privado que definiría los modelos de clase frontera, los revisaría hasta 30 días antes de su lanzamiento y, con el tiempo, exigiría que superaran una evaluación para poder desplegarse en el mercado estadounidense. El ensayo dice que el organismo podría intensificar su respuesta si la situación lo justificara, incluida la coordinación de una ralentización entre los laboratorios de frontera. Es un argumento político, no un compromiso de Google, y la advertencia se aplica.

Tres directores que esperan discrepar

El ensayo de lanzamiento deja claro que el instituto no es una máquina de consenso. Sus autores «no siempre estarán de acuerdo, y es probable que cambien de opinión a medida que salgan a la luz más datos e información en una frontera que se mueve deprisa», escriben los directores. Lo presentan precisamente como el objetivo: el debate amplio es la vía por la que esperan que se forme cualquier entendimiento compartido sobre la gobernanza de la AGI.

El planteamiento es inusual en una publicación de investigación corporativa, donde lo habitual es una postura de la casa. También crea una prueba que el instituto tendrá que superar: si los ensayos posteriores publican discrepancias reales, desde dentro o desde fuera de Google, o convergen hacia opiniones que halagan a la empresa.

Qué defienden los cuatro ensayos de lanzamiento

Junto con la introducción, el DMI abrió con cuatro ensayos que abarcan seguridad, economía, filosofía y política.

«The case for reasoning transparency», de Rohin Shah, director de seguridad y alineación de AGI de DeepMind, y Anca Dragan, su vicepresidenta de seguridad y comportamiento de IA, sostiene que leer la cadena de pensamiento de un modelo da a los investigadores una ventana para ver si un sistema está maquinando o engañando, y que esa ventana podría estar cerrándose. El ensayo cita la tarjeta de sistema de OpenAI para GPT-6 Astra, de la que dice que alega «una disminución sustancial de la monitorizabilidad de la cadena de pensamiento» en comparación con modelos anteriores. Propone tres contramedidas: hacer seguimiento de cuán monitorizable es el razonamiento, mantener arquitecturas que razonen en pasos legibles por humanos y auditar el entrenamiento para que las recompensas no enseñen a un modelo a esconder su pensamiento.

«Economic policy for AGI», de Julian Jacobs y Alex Imas, evalúa 11 políticas frente a tres escenarios, desde una disrupción leve hasta un desacoplamiento del trabajo y el capital. Los autores describen la renta básica universal como «un instrumento caro y tosco que puede no concentrar el alivio suficiente donde más se necesita», y se decantan por una secuencia que empieza con un seguro de desempleo ampliado y recualificación y escala hasta una red de capital básico universal si la participación del trabajo en el PIB cae de forma persistente. Sus cifras de encuesta, un 85 por ciento a favor de la recualificación financiada con fondos públicos y un 72 por ciento a favor del seguro de desempleo, se ofrecen como evidencia sobre la viabilidad política, no como previsiones. TNW tiene un resumen más completo del ensayo.

«Principles for a new utopianism», de Stephen Cave, de la Universidad de Cambridge, es la contribución sobre florecimiento humano. Cave sostiene que las visiones de catástrofe han desplazado los relatos positivos sobre hacia dónde debería construir la AGI, y propone servicios básicos universales en lugar de la renta básica universal, sobre la base de que los pagos en efectivo no arreglan la infraestructura de salud, educación y transporte de la que depende el florecimiento.

Qué entiende DeepMind por AGI

El ensayo de lanzamiento define la AGI como un sistema que exhibe todas las capacidades cognitivas del cerebro humano. Reconoce que los sistemas actuales todavía fallan en algunas tareas básicas y «carecen de la consistencia y la creatividad» necesarias, y añade que la empresa espera que esas lagunas se cierren pronto.

Las previsiones públicas de los directores varían. Legg dijo al Financial Times que sigue cómodo con su estimación de un 50 por ciento de probabilidad de una AGI «mínima» para 2028, y consideró prematuro declarar alcanzada la AGI, informó Reuters. En su ensayo, Hassabis escribe que la AGI está «probablemente a solo unos pocos años». Esas afirmaciones conviven con otras más rotundas: Jensen Huang, de Nvidia, dijo el 7 de septiembre que la AGI ya había llegado, y OpenAI hizo su propia declaración el 4 de septiembre. La postura de Legg es que las declaraciones se adelantan a la evidencia.

El lanzamiento coincide con una semana cargada

El DMI llegó en un tramo inusual de coordinación pública sobre la seguridad de la IA de frontera. El 15 de septiembre, el responsable de política global de OpenAI, Chris Lehane, confirmó que la empresa había pasado varias semanas en conversaciones con Anthropic y Google DeepMind sobre coordinación en materia de seguridad, informó Reuters. TechPastWeek cubrió las preguntas antimonopolio que plantean esas conversaciones cuando se hicieron públicas.

Tres días antes, el consejero delegado de Anthropic, Dario Amodei, publicó «We Must Pace the Frontier», en el que pedía a los laboratorios que frenaran el ritmo al que mejoran las capacidades de los modelos. Legg dijo al FT que la propuesta de Amodei de ralentizar, pero no pausar, los lanzamientos de frontera era «interesante en cuanto a dirección» y «digna de consideración». En la cumbre All-In de Los Ángeles, Elon Musk propuso que laboratorios rivales, incluidas empresas chinas, prueben los modelos de los demás antes de lanzarlos, informó CNBC.

La regulación avanza al mismo tiempo. La aplicación general y la entrada en vigor de la Ley de IA de la UE comenzaron el 2 de agosto de 2026, incluidas las obligaciones de transparencia para los sistemas de IA, después de que una enmienda del Ómnibus Digital mantuviera esa fecha y aplazara el régimen de alto riesgo a 2027 y 2028, según la Comisión Europea. En ese contexto, una unidad de Google que publica ensayos sobre gobernanza de la AGI es una forma de entrar en los debates políticos sin esperar a un proceso gubernamental formal.

Qué señala el instituto

Hay tres cosas que destacan. La primera es la decisión de publicar bajo una advertencia. El DMI puede poner ideas en circulación, incluidas propuestas como el organismo de estándares de Hassabis y marcos económicos que tocarían la política fiscal y de bienestar, manteniendo al mismo tiempo a Google a distancia de cualquiera de ellas. Eso es útil para una empresa que es parte en las conversaciones de coordinación en seguridad y objeto de la regulación que discute.

La segunda es la apuesta de fondo del ensayo de economía. Tratar la AGI como un problema fiscal y de mercado laboral, con una lista jerarquizada de políticas y datos de encuestas adjuntos, lleva la discusión más allá de los calendarios de capacidades y hacia la maquinaria del gobierno. Es un tipo de contribución distinta a la de un lanzamiento de modelo, e invita al escrutinio de economistas que no trabajan en Google.

Una tercera señal es la composición del lanzamiento. Cuatro de los cinco documentos iniciales proceden de directores o personal sénior de Google DeepMind; solo el ensayo sobre utopismo, de un académico de la Universidad de Cambridge, está escrito desde fuera de la empresa. Si la lista de colaboradores del DMI se amplía más allá de personas ya alineadas con el laboratorio es un indicador temprano de cuánto tomarse en serio la promesa interdisciplinar.

Hay límites en lo que establece el lanzamiento. El DMI no ha revelado presupuesto, gobernanza independiente ni autoridad para comprometer a Google con las posiciones de sus autores. Los ensayos están etiquetados como puntos de partida para la conversación, y el instituto dice que espera que sus propios colaboradores cambien de opinión. La medida del proyecto será si puede sostener su compromiso declarado con la discrepancia a medida que el debate se vuelva menos abstracto.

Qué observar

Si los ensayos posteriores incluyen opiniones que chocan con los intereses comerciales de Google, y si a los investigadores externos se les da la misma plataforma que a los empleados y directores. Si la propuesta de organismo de estándares gana tracción entre los responsables políticos estadounidenses, dado que Hassabis la publicó por primera vez en X antes de que existiera el DMI. Si las propuestas de Cave y la secuencia de los economistas afloran en consultas de la UE o nacionales a medida que se acercan las obligaciones posteriores de la Ley de IA. Y si los calendarios de los directores, unos pocos años según Hassabis y una moneda al aire para 2028 según Legg, parecen premonitorios o cautos cuando el instituto vuelva a publicar.

Imagen de portada: el logotipo de Google DeepMind. Recurso de marca de Google DeepMind utilizado para la cobertura informativa de la empresa.