Google DeepMind gründet ein Institut, um über AGI zu streiten, bevor sie da ist

Google DeepMind hat am Mittwoch das DeepMind Institute (DMI) gegründet, eine Plattform für Forschung und öffentliche Essays über künstliche allgemeine Intelligenz. Die Initiatoren beschreiben sie als Versuch, eine Debatte zu öffnen, die ihrer Ansicht nach nicht von den Menschen entschieden werden sollte, die die Technologie bauen. Geleitet wird das Institut von Shane Legg, Mitgründer von DeepMind und dortiger Chefwissenschaftler für AGI, von James Manyika, Googles Präsident für Forschung, Labs, Technologie und Gesellschaft, sowie von Demis Hassabis, Mitgründer und Vorsitzender von DeepMind und Chefwissenschaftler von Alphabet. Legg ist laut dem Gründungsessay des Instituts zugleich dessen geschäftsführender Redakteur.

Zum Weiterlesen: Anthropic legte dem Kongress einen selbst verfassten Entwurf für ein KI-Sicherheitsgesetz vor · Googles Gemini 4 Argon erreicht zuerst vertrauenswürdige Cyber-Verteidiger, mit 1 Million Token Ausgabelimit.

Das Gründungsessay nennt als Themen des DMI Wissenschaft, Bildung, Gesellschaft, Politik, Philosophie und menschliches Gedeihen und begründet den Zweck mit der These, dass AGI-Fragen ein breiteres Spektrum an Stimmen brauchen. „Es sollten nicht allein Technologen sein, die sie liefern", schreiben die drei Direktoren, und ergänzen, die Verantwortung für die Gestaltung des AGI-Zeitalters liege bei der Gesellschaft als Ganzem, einschließlich Kunst und Geisteswissenschaften sowie der Regierungen.

Eine Plattform, kein Produkt

DMI veröffentlicht Essays und Forschung von Menschen aus dem gesamten Google DeepMind, aus Google und der weiteren Forschungsgemeinschaft, heißt es in dem Gründungsessay. Ein Modellstart ist damit nicht verbunden, ebenso wenig eine Prüfinstanz oder eine regulatorische Rolle. Das Institut erklärt, seine Beiträge „sollten nicht als offizielle Position von Google gelesen werden", ein Hinweis, der auf jeder Essay-Seite wiederholt wird.

DeepMind verfügt bereits über interne Sicherheitsstrukturen. Legg leitet den AGI Safety Council des Labors, und das Unternehmen unterhält ein Frontier Safety Framework für Modelle, die schwere Risikoschwellen überschreiten. Das DMI ersetzt nichts davon. Es ist ein publizistischer Betrieb, und seine Ergebnisse werden als Argument zu bewerten sein, nicht als Politik.

Dieser Unterschied ist wichtig, wenn man den folgenreichsten der Gründungstexte liest. In „A framework for frontier AI and the dawning of a new age" schlägt Hassabis eine US-Standardsbehörde nach dem Vorbild der Financial Industry Regulatory Authority vor, eine öffentlich-private Einrichtung, die „Frontier-class"-Modelle definieren, sie bis zu 30 Tage vor der Veröffentlichung prüfen und schließlich verlangen würde, dass sie eine Bewertung bestehen, um auf dem US-Markt eingesetzt werden zu dürfen. Der Essay erklärt, die Behörde könne ihre Antwort verschärfen, wenn die Lage es rechtfertige, einschließlich der Koordinierung einer Verlangsamung unter den Frontier-Labors. Das ist ein politisches Argument, keine Zusage von Google, und der Haftungshinweis gilt.

Drei Direktoren, die Widerspruch erwarten

Das Gründungsessay sagt ausdrücklich, das Institut sei keine Konsensmaschine. Seine Autoren „werden nicht immer einer Meinung sein, und sie werden ihre Meinung ändern, wenn an der schnell voranschreitenden Frontier mehr Daten und Informationen ans Licht kommen", schreiben die Direktoren. Genau das stellen sie als den Punkt dar: Eine breite Debatte sei der Weg, auf dem sich ein gemeinsames Verständnis von AGI-Governance bilden soll.

Die Rahmung ist ungewöhnlich für eine Unternehmenspublikation, bei der eine Hausposition die Norm ist. Sie schafft zugleich einen Test, den das Institut bestehen muss: ob spätere Essays echten Widerspruch veröffentlichen, aus Google oder von außerhalb, oder ob sie sich auf Ansichten einpendeln, die dem Unternehmen schmeicheln.

Was die vier Gründungsessays argumentieren

Zusammen mit der Einführung startete das DMI mit vier Essays aus Sicherheit, Ökonomie, Philosophie und Politik.

„The case for reasoning transparency", von Rohin Shah, DeepMinds Direktor für AGI-Sicherheit und Alignment, und Anca Dragan, Vizepräsidentin für KI-Sicherheit und -Verhalten, argumentiert, dass das Lesen der Gedankenkette eines Modells Forschern ein Fenster dazu öffnet, ob ein System Intrigen spinnt oder täuscht, und dass sich dieses Fenster schließen könnte. Der Essay verweist auf die Systemkarte von OpenAIs GPT-6 Astra, die laut den Autoren „einen erheblichen Rückgang der Überwachbarkeit von Gedankenketten" im Vergleich zu früheren Modellen behauptet. Vorgeschlagen werden drei Gegenmaßnahmen: verfolgen, wie überwachbar das Schlussfolgern ist; Architekturen beibehalten, die in für Menschen lesbaren Schritten denken; und das Training so prüfen, dass Belohnungen ein Modell nicht lehren, sein Denken zu verbergen.

„Economic policy for AGI", von Julian Jacobs und Alex Imas, bewertet 11 Policies gegen drei Szenarien, von milder Störung bis zur Entkopplung von Arbeit und Kapital. Die Autoren bezeichnen ein bedingungsloses Grundeinkommen als „ein teures und stumpfes Instrument, das möglicherweise nicht genug Entlastung dort bündelt, wo sie am nötigsten ist", und plädieren für eine Reihenfolge, die mit erweiterter Arbeitslosenversicherung und Umschulung beginnt und bis zu einem universellen Grundkapital als Rückfalllösung eskaliert, falls der Anteil der Arbeit am BIP dauerhaft fällt. Ihre Umfragewerte, 85 Prozent Zustimmung zu öffentlich finanzierter Umschulung und 72 Prozent zu Arbeitslosenversicherung, werden als Beleg für politische Machbarkeit angeboten, nicht als Prognosen. TNW hat eine ausführlichere Zusammenfassung des Essays.

„Principles for a new utopianism", von Stephen Cave von der University of Cambridge, ist der Beitrag zum menschlichen Gedeihen. Cave argumentiert, Katastrophenvisionen hätten positive Vorstellungen davon verdrängt, worauf AGI hinarbeiten sollte, und schlägt universelle Grunddienste statt eines Grundeinkommens vor, da Geldzahlungen nicht die Infrastruktur von Gesundheit, Bildung und Verkehr reparieren, auf der Gedeihen beruht.

Was DeepMind unter AGI versteht

Das Gründungsessay definiert AGI als ein System, das alle kognitiven Fähigkeiten des menschlichen Gehirns aufweist. Es räumt ein, dass heutige Systeme bei manchen einfachen Aufgaben noch scheitern und „die nötige Konsistenz und Kreativität" vermissen lassen, und ergänzt, das Unternehmen erwarte, dass sich diese Lücken bald schließen.

Die öffentlichen Prognosen der Direktoren gehen auseinander. Legg sagte der Financial Times, er fühle sich mit seiner Schätzung einer 50-prozentigen Chance auf eine „minimale" AGI bis 2028 weiter wohl, und nannte es verfrüht, AGI für erreicht zu erklären, berichtete Reuters. In seinem Essay schreibt Hassabis, AGI sei „wahrscheinlich nur noch wenige Jahre entfernt". Diese Aussagen stehen neben lauteren Behauptungen von anderer Seite: Nvidias Jensen Huang sagte am 7. September, AGI sei erreicht, und OpenAI erhob am 4. September einen eigenen Anspruch. Leggs Haltung ist, dass die Erklärungen der Beweislage voraus sind.

Der Start fällt in eine volle Woche

Das DMI kam in einer ungewöhnlichen Phase öffentlicher Koordination zur Sicherheit von Frontier-KI. Am 15. September bestätigte OpenAIs globaler Politikchef Chris Lehane, das Unternehmen habe mehrere Wochen Gespräche mit Anthropic und Google DeepMind über Sicherheitskoordination geführt, berichtete Reuters. TechPastWeek behandelte die kartellrechtlichen Fragen dieser Gespräche, als sie öffentlich wurden.

Drei Tage zuvor veröffentlichte Anthropic-Chef Dario Amodei „We Must Pace the Frontier", ein Aufruf an die Labors, das Tempo der Modellverbesserung zu verlangsamen. Legg sagte der FT, Amodeis Vorschlag, Frontier-Veröffentlichungen zu verlangsamen, aber nicht auszusetzen, sei „richtungweisend interessant" und „erwägenswert". Beim All-In Summit in Los Angeles schlug Elon Musk vor, konkurrierende Labors, auch chinesische Firmen, sollten die Modelle der jeweils anderen vor der Veröffentlichung testen, berichtete CNBC.

Die Regulierung bewegt sich parallel. Die allgemeine Anwendung und Durchsetzung des EU AI Act begann am 2. August 2026, einschließlich Transparenzpflichten für KI-Systeme, nachdem eine Digital-Omnibus-Änderung dieses Datum beließ und die Hochrisiko-Regelung auf 2027 und 2028 verschob, laut der Europäischen Kommission. Vor diesem Hintergrund ist eine Google-Einheit, die Essays zur AGI-Governance veröffentlicht, ein Weg, in politische Debatten einzutreten, ohne auf ein formales Regierungsverfahren zu warten.

Was das Institut signalisiert

Drei Dinge stechen hervor. Das erste ist die Entscheidung, unter einem Haftungshinweis zu veröffentlichen. Das DMI kann Ideen zirkulieren lassen, darunter Vorschläge wie Hassabis' Standardsbehörde und ökonomische Rahmen, die Steuer- und Sozialpolitik berühren würden, und Google zugleich von jedem einzelnen davon auf Abstand halten. Das ist nützlich für ein Unternehmen, das Partei der Sicherheitsgespräche und zugleich Gegenstand der Regulierung ist, die es diskutiert.

Das zweite ist die inhaltliche Wette im Ökonomie-Essay. AGI als fiskalisches und arbeitsmarktpolitisches Problem zu behandeln, mit einer geordneten Liste von Policies und Umfragedaten, führt die Diskussion über Fähigkeitszeitpläne hinaus in die Maschinerie der Regierung. Das ist eine andere Art von Beitrag als ein Modellstart, und es lädt zur Prüfung durch Ökonomen ein, die nicht bei Google arbeiten.

Ein drittes Signal ist die Zusammensetzung des Starts. Vier der fünf Gründungsdokumente stammen von Direktoren oder leitenden Mitarbeitern von Google DeepMind; nur der Utopismus-Essay, von einem Akademiker der University of Cambridge, ist von außerhalb des Unternehmens geschrieben. Ob sich die Autorenliste des DMI über bereits mit dem Labor verbundene Personen hinaus erweitert, ist ein früher Hinweis darauf, wie ernst der interdisziplinäre Anspruch zu nehmen ist.

Der Gründung sind Grenzen gesetzt. Das DMI hat kein Budget, keine unabhängige Governance und keine Befugnis offengelegt, Google auf die Positionen seiner Autoren festzulegen. Die Essays sind als Gesprächsanfänge gekennzeichnet, und das Institut erklärt, es erwarte, dass seine eigenen Autoren ihre Meinung ändern. Der Maßstab des Projekts wird sein, ob es sein erklärtes Bekenntnis zum Dissens aufrechterhalten kann, wenn die Debatte weniger abstrakt wird.

Was zu beobachten ist

Ob spätere Essays Ansichten vertreten, die Googles kommerziellen Interessen widersprechen, und ob externen Forschern dieselbe Bühne geboten wird wie Mitarbeitern und Direktoren. Ob der Vorschlag einer Standardsbehörde bei US-Politikern Anklang findet, zumal Hassabis ihn zuerst auf X veröffentlichte, bevor das DMI existierte. Ob Caves Vorschläge und die Reihenfolge der Ökonomen in EU- oder nationalen Konsultationen auftauchen, wenn die späteren Pflichten des AI Act näher rücken. Und ob die Zeitpläne der Direktoren, wenige Jahre bei Hassabis und ein Münzwurf 2028 bei Legg, vorausschauend oder vorsichtig wirken, wenn das Institut das nächste Mal veröffentlicht.

Titelbild: der Google-DeepMind-Schriftzug. Markenmaterial von Google DeepMind, verwendet für die Berichterstattung über das Unternehmen.