Google DeepMind lance un institut pour débattre de l'AGI avant son arrivée

Google DeepMind a lancé mercredi le DeepMind Institute (DMI), une plateforme de recherche et d'essais publics consacrés à l'intelligence artificielle générale, que ses promoteurs présentent comme un moyen d'élargir un débat qui, selon eux, ne doit pas être tranché par ceux qui construisent la technologie. L'institut est dirigé par Shane Legg, cofondateur de DeepMind et scientifique en chef de l'AGI ; James Manyika, président de la recherche, des laboratoires, de la technologie et de la société chez Google ; et Demis Hassabis, cofondateur et président de DeepMind ainsi que scientifique en chef d'Alphabet. Legg en est aussi le rédacteur en chef, selon l'essai de lancement de l'institut.

À lire aussi: Anthropic a proposé au Congrès un projet de loi sur la sécurité de l'IA qu'elle a rédigé elle-même · Gemini 4 Argon de Google atteint d'abord des défenseurs cyber de confiance, avec une limite de sortie d'un million de jetons.

L'essai de lancement indique que le DMI couvrira la science, l'éducation, la société, la politique, la philosophie et l'épanouissement humain, et inscrit sa raison d'être dans l'idée que les questions liées à l'AGI exigent un éventail de voix plus large. « Ce ne sont pas aux seuls technologues de les apporter », écrivent les trois directeurs, ajoutant que la responsabilité de façonner l'ère de l'AGI revient à la société dans son ensemble, y compris aux arts, aux sciences humaines et aux gouvernements.

Une plateforme, pas un produit

Le DMI publie des essais et des travaux de recherche de personnes issues de Google DeepMind, de Google et de la communauté de recherche au sens large, précise l'essai de lancement. Aucun modèle n'est associé à son lancement, il ne dispose d'aucune autorité en matière de tests ni d'aucun rôle réglementaire. L'institut indique que ses textes « ne doivent pas être lus comme la position officielle de Google », une mise en garde répétée sur chaque page d'essai.

DeepMind dispose déjà de dispositifs internes de sécurité. Legg dirige son AGI Safety Council, et le laboratoire maintient un Frontier Safety Framework pour les modèles qui franchissent des seuils de risque grave. Le DMI ne remplace rien de tout cela. C'est une activité éditoriale, et ses productions seront jugées comme des arguments, non comme des politiques.

Cette distinction compte à la lecture du plus lourd des textes de lancement. Dans « A framework for frontier AI and the dawning of a new age », Hassabis propose une instance américaine de normalisation calquée sur la Financial Industry Regulatory Authority, un organisme public-privé qui définirait les modèles « de classe frontière », les examinerait jusqu'à 30 jours avant leur publication et exigerait à terme qu'ils réussissent une évaluation pour être déployés sur le marché américain. L'essai indique que l'organisme pourrait durcir sa réponse si la situation l'exigeait, jusqu'à coordonner un ralentissement entre les laboratoires de frontière. C'est un argument de politique publique, non un engagement de Google, et la mise en garde s'applique.

Trois directeurs qui s'attendent à être en désaccord

L'essai de lancement affirme clairement que l'institut n'est pas une machine à produire du consensus. Ses auteurs « ne seront pas toujours d'accord et changeront probablement d'avis, à mesure que davantage de données et d'informations apparaissent à une frontière qui évolue vite », écrivent les directeurs. Ils en font justement le cœur du projet : c'est d'un large débat qu'ils attendent qu'émerge une compréhension partagée de la gouvernance de l'AGI.

Le positionnement est inhabituel pour une publication de recherche d'entreprise, où la ligne maison est la norme. Il crée aussi une épreuve que l'institut devra réussir : ses prochains essais publieront-ils de vrais désaccords, venus de l'intérieur ou de l'extérieur de Google, ou convergeront-ils vers des vues flatteuses pour l'entreprise ?

Ce que défendent les quatre essais de lancement

Outre l'introduction, le DMI ouvre avec quatre essais couvrant la sécurité, l'économie, la philosophie et les politiques publiques.

« The case for reasoning transparency », de Rohin Shah, directeur de la sécurité et de l'alignement de l'AGI chez DeepMind, et Anca Dragan, vice-présidente chargée de la sécurité et du comportement de l'IA, soutient que lire la chaîne de raisonnement d'un modèle donne aux chercheurs une fenêtre sur le point de savoir si un système complote ou trompe, et que cette fenêtre pourrait se refermer. L'essai cite la fiche système d'OpenAI pour GPT-6 Astra, qui ferait état d'« une baisse substantielle de la surveillabilité de la chaîne de raisonnement » par rapport aux modèles antérieurs. Il propose trois contre-mesures : suivre le degré de surveillabilité du raisonnement, conserver des architectures qui raisonnent en étapes lisibles par l'humain et auditer l'entraînement pour que les récompenses n'apprennent pas à un modèle à dissimuler sa pensée.

« Economic policy for AGI », de Julian Jacobs et Alex Imas, évalue 11 politiques au regard de trois scénarios, allant d'une perturbation modérée à un découplage du travail et du capital. Les auteurs qualifient le revenu universel de base d'« instrument coûteux et fruste, qui risque de ne pas concentrer un soutien suffisant là où il est le plus nécessaire », et privilégient une séquence qui commence par une assurance chômage élargie et de la reconversion, puis monte jusqu'à un filet de sécurité universel en capital si la part du travail dans le PIB recule durablement. Leurs chiffres d'enquête, 85 % favorables à une reconversion financée par l'État et 72 % à l'assurance chômage, sont présentés comme des indices de faisabilité politique plutôt que comme des prévisions. TNW propose un résumé plus complet de l'essai.

« Principles for a new utopianism », de Stephen Cave, de l'université de Cambridge, constitue la contribution sur l'épanouissement humain. Cave soutient que les visions de catastrophe ont évincé les récits positifs de ce vers quoi l'AGI devrait tendre, et propose des services publics universels plutôt qu'un revenu universel, au motif que les versements en espèces ne réparent pas les infrastructures de santé, d'éducation et de transport dont dépend l'épanouissement.

Ce que DeepMind entend par AGI

L'essai de lancement définit l'AGI comme un système qui présente toutes les capacités cognitives du cerveau humain. Il concède que les systèmes actuels échouent encore sur certaines tâches de base et « manquent de constance et de créativité », avant d'ajouter que l'entreprise s'attend à ce que ces écarts se comblent bientôt.

Les prévisions publiques des directeurs divergent. Legg a déclaré au Financial Times qu'il restait à l'aise avec son estimation d'une probabilité de 50 % d'une AGI « minimale » d'ici 2028, et qu'il était prématuré de déclarer l'AGI atteinte, rapporte Reuters. Dans son essai, Hassabis écrit que l'AGI est « probablement à quelques courtes années ». Ces déclarations côtoient des affirmations plus bruyantes venues d'ailleurs : le patron de Nvidia, Jensen Huang, a déclaré le 7 septembre que l'AGI était arrivée, et OpenAI a fait sa propre déclaration le 4 septembre. La position de Legg est que ces proclamations devancent les faits.

Un lancement dans une semaine chargée

Le DMI arrive dans une période inhabituelle de coordination publique autour de la sécurité de l'IA de frontière. Le 15 septembre, le directeur mondial des politiques d'OpenAI, Chris Lehane, a confirmé que l'entreprise avait passé plusieurs semaines en discussions avec Anthropic et Google DeepMind sur la coordination en matière de sécurité, rapporte Reuters. TechPastWeek a couvert les questions de concurrence que ces discussions soulèvent lorsqu'elles sont devenues publiques.

Trois jours plus tôt, le directeur général d'Anthropic, Dario Amodei, a publié « We Must Pace the Frontier », appelant les laboratoires à ralentir le rythme auquel ils améliorent les capacités de leurs modèles. Legg a dit au FT que la proposition d'Amodei de ralentir, sans la suspendre, la publication des modèles de frontière était « intéressante en termes d'orientation » et « méritait d'être examinée ». Au sommet All-In de Los Angeles, Elon Musk a proposé que les laboratoires rivaux, y compris les entreprises chinoises, testent mutuellement leurs modèles avant leur publication, rapporte CNBC.

La réglementation avance en parallèle. L'application et l'exécution générales de l'AI Act européen ont débuté le 2 août 2026, y compris les obligations de transparence pour les systèmes d'IA, après qu'un amendement du Digital Omnibus a maintenu cette date tout en reportant le régime des systèmes à haut risque à 2027 et 2028, selon la Commission européenne. Dans ce contexte, une entité de Google qui publie des essais sur la gouvernance de l'AGI est une manière d'entrer dans les débats de politique publique sans attendre un processus gouvernemental formel.

Ce que l'institut signale

Trois choses ressortent. La première est le choix de publier sous couvert d'une mise en garde. Le DMI peut mettre des idées en circulation, notamment des propositions comme l'organisme de normalisation de Hassabis et des cadres économiques qui toucheraient à la fiscalité et aux politiques sociales, tout en tenant Google à distance de chacune d'elles. C'est utile pour une entreprise partie prenante des discussions sur la coordination en matière de sécurité et sujet de la réglementation qu'elle commente.

La deuxième est le pari de fond de l'essai économique. Traiter l'AGI comme un problème budgétaire et de marché du travail, avec une liste hiérarchisée de politiques et des données d'enquête à l'appui, déplace la discussion au-delà des calendriers de capacités, vers les rouages de l'État. C'est un type de contribution différent d'une sortie de modèle, qui expose l'institut à l'examen d'économistes qui ne travaillent pas chez Google.

Un troisième signal tient à la composition du lancement. Quatre des cinq documents inauguraux viennent de directeurs ou de cadres supérieurs de Google DeepMind ; seul l'essai sur l'utopisme, signé d'un universitaire de Cambridge, est écrit depuis l'extérieur de l'entreprise. Savoir si la liste des contributeurs du DMI s'élargira au-delà de personnes déjà alignées sur le laboratoire est un premier indicateur du sérieux à accorder à l'ambition interdisciplinaire.

Le lancement a ses limites. Le DMI n'a communiqué aucun budget, aucune gouvernance indépendante et aucun pouvoir d'engager Google sur les positions de ses auteurs. Les essais sont présentés comme des amorces de discussion, et l'institut dit s'attendre à ce que ses propres contributeurs changent d'avis. La vraie mesure du projet sera de tenir son engagement affiché en faveur du désaccord à mesure que le débat deviendra moins abstrait.

Ce qu'il faut surveiller

Les prochains essais porteront-ils des vues en conflit avec les intérêts commerciaux de Google, et des chercheurs extérieurs auront-ils la même tribune que les salariés et les directeurs ? La proposition d'organisme de normalisation trouvera-t-elle un écho chez les décideurs américains, sachant que Hassabis l'a d'abord publiée sur X avant l'existence du DMI ? Les propositions de Cave et la séquence des économistes referont-elles surface dans les consultations européennes ou nationales à l'approche des obligations ultérieures de l'AI Act ? Et les calendriers des directeurs, quelques années pour Hassabis et un pile ou face pour 2028 chez Legg, apparaîtront-ils visionnaires ou prudents lors de la prochaine publication de l'institut ?

Image de couverture : le logotype Google DeepMind. Ressource de marque Google DeepMind utilisée pour la couverture journalistique de l'entreprise.