Microsofts Maia 300 macht den eigenen Chip zum Standard für KI-Inferenz

Microsoft hat am 12. Oktober 2026 die dritte Generation seines hauseigenen KI-Beschleunigers vorgestellt und damit eine Aussage darüber verbunden, wie das Unternehmen KI ab dem kommenden Jahr betreiben will. Der Azure Maia 300, präsentiert auf dem OCP Global Summit in San Jose, geht 2027 in Produktions-Deployments, und laut Microsoft wird die Maia-Familie von da an auf Multi-Gigawatt-Deployments skalieren und damit zum primären Inferenzsystem über die Produkte und Dienste des Unternehmens hinweg werden.

Zum Weiterlesen: SpaceX verhandelt über 40 Milliarden Dollar für Nvidia-KI-Chips · AMD kauft World Labs für 8,2 Milliarden Dollar und macht Fei-Fei Li zur Chefwissenschaftlerin.

Die Nachricht kam in einem Blogbeitrag von Scott Guthrie, Microsofts Executive Vice President für Cloud + AI, auf dem offiziellen Microsoft-Blog. Ein separater Azure-Technikbeitrag enthielt die Architekturdetails. Rani Borkar, President of Azure Hardware Systems and Infrastructure, lieferte die Interviewzitate, die den Start begleiteten.

Ein Chip zum Ausführen von Modellen, nicht zum Trainieren

Inferenz ist die Arbeit, ein trainiertes Modell einzusetzen: auf Eingaben antworten, Text erzeugen, ein Gespräch führen, eine Kette von Schritten durcharbeiten. Sie geschieht jedes Mal, wenn ein Mensch oder ein Agent ein KI-Produkt berührt, was sie zu den laufenden Kosten macht, sobald ein Modell im Einsatz ist. Microsoft hat die Maia-Familie von der ersten Generation an um diese Hälfte des Problems herum entworfen, und der Maia 300 ist bislang der direkteste Ausdruck davon.

Die von Microsoft genannten Spezifikationen sehen 288 GB HBM4-Speicher pro Chip vor, verteilt über acht HBM4-Stapel, mit 18,0 TB/s Spitzenbandbreite und einem Thermal Design Point von 950 Watt. Microsoft nennt bis zu 13,8 PFLOPS Durchsatz im FP4-Format. Der Chip besteht aus mehreren Chiplets statt aus einem einzigen Siliziumblock: Die Compute-Chiplets nutzen TSMCs 2-Nanometer-Prozess N2P, während die datenbewegenden Teile einen günstigeren 3-Nanometer-Node verwenden. Diese Aufteilung setzt den teuren Transistor dort ein, wo er das Ergebnis verändert, und nutzt älteres Silizium für Speichersteuerung sowie Ein- und Ausgabe.

Auf Rack-Ebene platziert Microsoft 96 Maia-300-Beschleuniger in einem System, das etwa 167 Kilowatt zieht und 27,6 TB HBM trägt, mit 1,7 PB/s aggregierter Bandbreite über die Scale-up-Domain. The Next Web merkte unter Berufung auf Reuters zum Vergleich an, dass Nvidias jüngster GB300-Rack 72 GPUs bei etwa 142 Kilowatt fasst. Das Maia-Netzwerk läuft über Ethernet statt über ein proprietäres Fabric, und Microsoft zufolge skaliert die Topologie von einem einzelnen Rack bis zu einem ganzen Rechenzentrum.

Die Leistungszahlen und die Lücke darin

Microsoft zufolge liefert der Maia 300 etwa 40 Prozent mehr Token pro Megawatt als „führende GPU-basierte Systeme“ und bis zu siebenmal den Token-Durchsatz der Maia 200 auf Rack-Ebene in einer vollen Konfiguration mit 96 Beschleunigern. Token pro Megawatt ist ein Maß für Energieeffizienz: Es beschreibt, wie viel Modellausgabe ein System pro verbrauchter Energieeinheit erzeugt. Strom ist eine laufende Kostenposition, die nicht aufhört.

„Wir erwarten, dass der Maia 300 im Vergleich zu führenden GPU-basierten Systemen 40 Prozent mehr Token pro Megawatt liefert. Und in einer vollen Konfiguration mit 96 Beschleunigern erreicht er bis zu siebenmal den Token-Durchsatz der Maia 200 auf Rack-Ebene.“ — Scott Guthrie, Executive Vice President für Cloud + AI, Microsoft

Der Vergleich hinter der 40-Prozent-Zahl wird nicht offengelegt. Microsoft nannte die Systeme nicht, gegen die gemessen wurde, und es wurde kein unabhängiger Benchmark des Maia 300 veröffentlicht. Die Siebenfach-Zahl misst den neuen Chip gegen Microsofts eigene vorige Generation. Sie beschreibt das Tempo der internen Roadmap, nicht Microsofts Position gegenüber Nvidia.

Eine Zahl, die im Umlauf ist, gehört zum falschen Chip. Die Angabe von 1,7-mal mehr Token pro Watt, die dem Maia 300 zugeschrieben wurde, ist ein Maia-200-Ergebnis, und Microsoft hat sie für die eigenen integrierten KI-Funktionen, Teams, Copilot und Cowork angeführt. Der Maia 200 ist die Generation, die tatsächlich im Einsatz ist.

Maia 200 ist derjenige, der schon arbeitet

Der Maia 200, am 26. Januar 2026 eingeführt, ist die Generation, auf die Microsoft im Produktivbetrieb verweisen kann. Er nutzt TSMCs 3-Nanometer-Prozess, trägt 216 GB HBM3e bei 7 TB/s, umfasst mehr als 140 Milliarden Transistoren und ist auf 750 Watt ausgelegt, mit mehr als 10 PFLOPS FP4-Durchsatz. Microsoft zufolge betreibt er Produktions-Workloads für Microsoft Copilot, für die MAI-Modelle des Unternehmens und für OpenAI-Modelle auf Azure, wobei GitHub Copilot und Microsoft Foundry bis Ende 2026 folgen sollen. Er ist in den Vereinigten Staaten, Europa und Australien im Einsatz.

Zu seiner eigenen Markteinführung behauptete Microsoft, der Maia 200 habe die dreifache FP4-Leistung von Amazons Trainium der dritten Generation und eine FP8-Leistung über Googles TPU der siebten Generation. Das war Microsofts Vergleich, vom Unternehmen über das eigene Bauteil angestellt. Er ist noch immer die klarste Aussage darüber, wofür die Maia-Familie steht: eine interne Versorgung, die Microsofts eigene Nachfrage vom Merchant-Markt wegbewegt, kein Handelschip, der an externe Kunden verkauft wird.

Warum die Inferenz-Hälfte die teure ist

Das Training eines Frontier-Modells ist kapitalintensiv und episodisch. Ein Labor kauft einen großen Cluster, betreibt wochen- oder monatelang einen Trainingsjob, und das Ergebnis ist ein Modell. Inferenz läuft so lange, wie das Produkt live ist, und sie skaliert mit Nutzern, nicht mit Forschungsplänen. Jede Copilot-Abfrage, jeder Agent-Schritt, jede zusammengefasste E-Mail ist eine Inferenzanfrage, die ein Rechenzentrum zu Kosten beantworten muss, die niedrig genug sind, um die Funktion zu verschenken oder mitzubündeln.

Deshalb rahmt Microsoft den Maia 300 um Token pro Megawatt und nicht nur um Spitzendurchsatz. Ein Rack, das 167 Kilowatt zieht, kostet Geld in jeder Stunde, in der es läuft, und Microsoft erwartet, in diesem Kalenderjahr mehr als 175 Milliarden Dollar an Investitionsausgaben zu tätigen. 40 Prozent weniger Strom für eine gegebene Ausgabemenge einzusparen, falls die Behauptung stimmt, ist eine Ersparnis, die sich über eine Flotte hinweg vervielfacht.

Die Formulierung „primäres Inferenzsystem“ ist der strategische Teil. Sie impliziert, dass der größte Teil des KI-Datenverkehrs, den Microsoft bedient, irgendwann auf dem eigenen Silizium statt auf Nvidia-GPUs laufen wird. CNBC berichtete, dass Alistair Speirs, ein General Manager bei Microsoft, keinen Zeitplan dafür nannte, wann Multi-Gigawatt-Skala erreicht wird. „Wir behalten uns dort ein wenig Optionalität vor, denn das ist eine Branche, die sich sehr schnell verändert, und wir wollen zum richtigen Zeitpunkt das richtige Silizium für die richtigen Modelle einsetzen, die wir verwenden“, sagte Speirs.

Was sich im Rennen mit Nvidia ändert

Nvidias Vorsprung ruht auf zwei Dingen: der Hardware und dem darum herum gebauten Software-Ökosystem. Ein Cloud-Anbieter, der seinen eigenen Beschleuniger entwirft, vermeidet die Marge eines Zulieferers und kann den Chip auf die spezifischen Modelle abstimmen, die er bedient. Der Preis dafür ist, dass hauseigenes Silizium bei reiner Leistung meist hinter den besten Merchant-Bauteilen zurückbleibt und Jahre braucht, um Volumen zu erreichen.

Microsoft muss Nvidia nicht bei jedem Workload schlagen, damit die Strategie sich lohnt. Es muss die eigenen Modelle nur gut genug bei den volumenstärksten Workloads betreiben, um sie vom Merchant-Markt wegzubewegen. Microsoft Copilot, Teams und die MAI-Modelle sind die Art von volumenstarkem, kostensensitivem Datenverkehr, bei dem ein effizientes Custom-Bauteil Sinn ergibt, und bei dem Microsoft das Modell, den Serving-Stack und den Workload-Mix kontrolliert.

Der weitere Kontext ist eine Welle von Custom-Silizium. Google und Amazon haben mehrere Generationen eigener Beschleuniger ausgeliefert, und KI-Labore einschließlich OpenAI haben eigene Designs verfolgt, alle mit demselben Ziel, Nvidias Griff auf den Markt zu lockern. Microsoft war unter den großen Cloud-Anbietern in dieser Hinsicht der Nachzügler, was teils erklärt, warum die Größenordnung des Maia-300-Plans ebenso sehr als Aufholjagd wie als Führung gelesen wird.

Reuters berichtete im August, dass Microsoft plante, den Maia 300 im Herbst vorzustellen. Zum Start bezifferte Reuters den Deployment-Plan auf möglicherweise mehr als eine Million Maia-300-Chips im kommenden Jahr. Jeder dieser Chips hängt von TSMCs N2P-Linie ab, derselben knappen Leading-Edge-Kapazität, für die jeder andere KI-Chip-Designer ansteht.

Vorbehalte

Drei Dinge sind von der Ankündigung zu trennen. Das erste ist der Zeitpunkt: Die Produktions-Deployments beginnen 2027, hier beschreibt also nichts Hardware, die heute läuft. Das zweite ist die Größenordnung. Mehr als eine Million Chips 2027 ist ein Plan, keine Auslieferungszahl, und Microsoft hat sich öffentlich nicht in diesen Worten darauf festgelegt. Das dritte ist die Vergleichsbasis. Die Haupteffizienzbehauptung richtet sich gegen unbenannte GPU-Systeme, und der einzige benannte Vergleich gilt gegen Microsofts eigene vorige Generation.

Es gibt außerdem die Frage der Abdeckung. Microsofts Produktoberfläche ist breit, und die Maia-Familie muss alles abdecken, von kleinen, latenzsensitiven Chat-Modellen bis zu Long-Context-Reasoning und mehrstufigen Agent-Aufgaben, wenn sie das primäre Inferenzsystem sein soll. Microsoft zufolge ist der Maia 300 für Long-Context-Reasoning, latenzsensitive Konversation und agentische Arbeit optimiert, mit verbessertem Low-Precision-MXFP4, On-Die-SRAM als softwareverwaltetem Scratchpad und einem eigenen KI-Transport über Ethernet. Ob der Chip in der Praxis so breit ist, wie diese Liste nahelegt, wird sich erst zeigen, wenn die Workloads live sind.

Worauf zu achten ist

Microsoft hat angekündigt, auf seiner Ignite-2026-Konferenz im November weitere Details zu teilen, und ein Maia-300-Technikpapier ist bereits verfügbar. Unabhängige Benchmarks wären der erste echte Test der Effizienzbehauptungen.

Der zweite Test ist der Hochlauf. Ein Millionen-Chip-Deployment in einem einzigen Jahr umzusetzen verlangt, dass Angebot, Packaging, Strom und Rechenzentrumskapazität zusammenkommen, und Microsoft hat seinen Zeitplan bewusst flexibel gehalten. Eine Verzögerung würde das Unternehmen länger auf gekaufte Beschleuniger setzen lassen, als es gesagt hat.

Das dritte ist, ob Nvidias Softwarevorteil noch die Kosten für das eigene Silizium aufwiegt. Microsoft kontrolliert seine Modelle und seine Cloud, die beste Ausgangsposition, um Custom-Silizium profitabel zu machen. Es ist zugleich die Position, aus der Google und Amazon jahrelang gearbeitet haben, und keiner der beiden hat Nvidia verdrängt. Microsofts Wette ist, dass Inferenz, wo der Workload stabil und das Volumen enorm ist, der richtige Ausgangspunkt ist.

Titelbild: „Microsoft Data Center Middenmeer, the Netherlands - 1.jpg“ von Hay Kranen, CC BY 4.0, über Wikimedia Commons. Ein Microsoft-Rechenzentrum in den Niederlanden.