Anthropic sagt, es könnte kurz vor der eigenen Schwelle für selbstverbessernde KI stehen

Anthropic hat den US-Regulierern am Montag mitgeteilt, dass es kurz davor stehen könnte, die eigene Schwelle für dramatisch beschleunigten KI-Fortschritt zu erreichen, jene Bedingung, die TechCrunch und andere als rekursive Selbstverbesserung beschreiben. Das Unternehmen erklärte zugleich, kein aktuelles Modell als Überschreitung dieser Linie eingestuft zu haben.

Zum Weiterlesen: Die Erbauer der KI warnen vor den Maschinen, die sie bauen · Anthropic legte dem Kongress einen selbst verfassten Entwurf für ein KI-Sicherheitsgesetz vor.

Die Aussage steht in Nachtrag Nr. 1 zu Anthropics S-1, am 2. November 2026 bei der Securities and Exchange Commission eingereicht, dem Registrierungsdokument hinter der geplanten Nasdaq-Notierung unter dem Ticker ANT. TechCrunch bemerkte, dass ein Großteil der Aufmerksamkeit am Montag den aktualisierten Finanzzahlen galt. Die Risikofaktor-Sprache ist der Teil, der auch nach der Preisbildung des Börsengangs noch zählen wird.

Was in der Einreichung tatsächlich steht

Anthropic führt in zwei Schritten auf die Offenlegung hin. Der erste ist allgemein: „Der Einsatz von KI, um leistungsfähigere KI zu bauen, könnte auch ein erhebliches Sicherheitsrisiko darstellen, besonders wenn er das Tempo des Fortschritts stark beschleunigt“, schreibt das Unternehmen und verweist dann auf seine Responsible Scaling Policy (RSP).

Der zweite ist konkret, und er wurde zitiert:

Unsere internen Schätzungen und unsere Erwartungen zu künftigen Modellen, nicht unsere aktuellen Modelle, deuten darauf hin, dass wir die Definition der Responsible Scaling Policy für „dramatisch beschleunigten, der KI zurechenbaren Fortschritt“ möglicherweise unmittelbar erfüllen. Wir haben keines unserer aktuellen Modelle als Überschreitung dieser Schwelle eingestuft und bewerten die zugrunde liegenden Daten weiter.

Drei Einschränkungen stecken darin: Die Evidenz sind „interne Schätzungen“ und Erwartungen zu Modellen, die noch nicht existieren; das Verb ist „könnte“; und die Schwelle gehört Anthropic, geschrieben von dem Unternehmen, das daran gemessen würde.

Ein Satz direkt darüber ist leichter zu überfliegen und schwerer zu vergessen: „Wir haben in der Vergangenheit eine erhebliche Beschleunigung unserer Entwicklungsgeschwindigkeit nicht erkannt und werden sie möglicherweise auch künftig nicht erkennen, bevor sie eingetreten ist.“ Das ist eine Aussage über die Erkennung. Anthropic sagt Anlegern, dass eine Beschleunigung der Fähigkeit des Unternehmens davonlaufen könnte, sie zu bemerken.

Die Einreichung zieht auch eine Grenze dafür, was Anthropic nach eigenen Angaben mit der Fähigkeit tun will. Das Unternehmen erklärt, es erwarte nicht, Claude ohne bedeutsame menschliche Aufsicht oder Einsicht sicher vollständig autonom nachfolgende Generationen von Frontier-Modellen entwerfen und bauen lassen zu können, falls und wenn das technisch möglich werde. Es ergänzt, es prüfe Aktualisierungen seiner Responsible Scaling Policy, um Menschen die Kontrolle über die Entwicklung von Frontier-Modellen bei Anthropic zu erhalten.

Diese beiden Klauseln zählen so viel wie die zur Schwelle. Anthropic kündigt kein System an, das sich selbst baut. Es beschreibt eine Zukunft, die es zu sehen glaubt, verspricht menschliche Aufsicht in dieser Zukunft und räumt ein, dass die Schwelle für diese Zukunft von ihm selbst gesetzt wurde.

Was rekursive Selbstverbesserung bedeutet

Rekursive Selbstverbesserung hat keine vereinbarte technische Schwelle. Im allgemeinen Sprachgebrauch beschreibt sie eine Schleife: Ein Modell hilft, ein besseres Modell zu entwerfen, das hilft, ein noch besseres zu entwerfen, und der Abstand zwischen den Generationen schrumpft. Anthropics eigene Forschungsseite beschreibt das ferne Ende als „ein KI-System, das fähig ist, seinen eigenen Nachfolger vollständig autonom zu entwerfen und zu entwickeln“.

Der Absatz in der Einreichung verwendet den Begriff „rekursive Selbstverbesserung“ nicht. Er nutzt die Formulierung der RSP, und TechCrunch las sie als Anthropics Schwelle für die Fähigkeit.

Das nahe Ende ist bereits da, und es ist etwas anderes. Anthropics eigene Forschungsseite berichtet, dass mehr als 80 Prozent des bis Mai in die Codebasis eingefügten Codes von Claude geschrieben wurden, gegenüber niedrigen einstelligen Werten, bevor Claude Code Anfang 2025 startete, und dass Ingenieure etwa achtmal so viel Code auslieferten wie zwischen 2021 und 2025. Derselbe Bericht zieht seine eigene Grenze: „Wir sind noch nicht so weit, und rekursive Selbstverbesserung ist nicht unvermeidlich.“

An dieser Grenze entfaltet die Formulierung der Einreichung ihre Wirkung. „Dramatisch beschleunigter, der KI zurechenbarer Fortschritt“ beschreibt eine Veränderungsrate, keinen Programmiermeilenstein und kein einzelnes Experiment. Es ist ein Urteil gegen eine Definition, die Anthropic geschrieben hat. Die hier zitierte Sprache verbindet keine Zahl damit, und der von TechCrunch veröffentlichte Auszug liefert keine Messung, die klären würde, ob die Schwelle überschritten ist.

Das Messproblem ist keine Formalie. Ein Labor kann zeigen, dass ein Modell mehr seines Codes schreibt oder längere Aufgaben erledigt. Keine der beiden Beobachtungen beantwortet die Frage der RSP, denn sie betrifft das Tempo des Fähigkeitswachstums im Verhältnis zu dem, was ohne die KI geschehen wäre. Dieses Gegenfaktum lässt sich nicht beobachten. Es muss geschätzt werden, weshalb die Einreichung „interne Schätzungen“ nennt und dort aufhört.

Wo die Offenlegung endet und der Verkaufsprospekt beginnt

Jede S-1 ist zugleich zwei Dokumente. Als Offenlegung soll sie schlechte Nachrichten vor Käufer bringen, bevor diese behaupten können, getäuscht worden zu sein; ein Unternehmen, das ein wesentliches Risiko verschweigt, kann dafür verklagt werden. Als Verkaufsdokument ist sie die Broschüre für ein Geschäft, das einen hohen Preis will. Derselbe Absatz kann beiden Zwecken dienen, und oft tut er das.

Julie Bort von TechCrunch formulierte den skeptischen Einwand schlicht: „Skeptiker könnten anführen, dass eine S-1 zugleich Offenlegung und Marketing ist und dass Aussagen, man sei kurz vor einem Modell, das sich selbst bauen kann, in die zweite Kategorie fallen könnten.“

Es gibt eine ganz zynische Lesart und eine ganz aufrichtige, und der Text entscheidet nicht zwischen ihnen. Ein Unternehmen, das sagt, es könne bald die eigene Sicherheitsschwelle überschreiten, teilt Anlegern mit, dass es an der Frontier steht, was der Bewertung hilft, und warnt sie, dass sich sein Risikoprofil verändert, wozu das Wertpapierrecht verpflichtet. Beide Lesarten können gleichzeitig wahr sein, und keine muss wahr sein, damit der Absatz seine rechtliche Aufgabe erfüllt.

Die Behauptung wird erst nützlich, wenn sie überprüfbar wird: ob die Schwelle eine öffentliche Definition bekommt, ob ein Modell förmlich eingestuft wird und ob jemand außerhalb des Unternehmens die Evidenz sehen darf. Bis dahin ist der Satz eine Offenlegung von Unsicherheit, und dafür sind Risikofaktoren da.

Der Nachtrag erscheint eine Woche nach der ursprünglichen S-1, eingereicht am 26. Oktober 2026 und gezeichnet von einem Konsortium aus 22 Banken unter Führung von Goldman Sachs und Morgan Stanley. Er ergänzt die Zahlen des dritten Quartals und die neue Risikosprache und verlangt von Anlegern, beides zugleich einzupreisen.

Das Quartal hinter der Warnung

Die Finanzzahlen im selben Nachtrag geben der Sicherheitssprache ihren Kontext. Anthropic meldete für das dritte Quartal einen Umsatz von fast 17 Milliarden Dollar, ein Plus von mehr als 5 Milliarden Dollar gegenüber dem zweiten Quartal, laut Business Insider. Das Quartal brachte zugleich einen operativen Verlust von 567 Millionen Dollar, nach 974 Millionen Dollar operativem Gewinn im zweiten Quartal.

Die Wachstumsraten sind es, die ein Käufer beim Börsengang studieren wird. Der Umsatz stieg in den drei Monaten bis zum 30. September 2026 um 1.127 Prozent im Jahresvergleich, während die Ausgaben für Rechenleistung und Infrastruktur um 382 Prozent zulegten, so die Einreichung. Der Umsatz der letzten zwölf Monate je Mitarbeiter lag am Quartalsende über 6,6 Millionen Dollar.

Diese Kombination wirkt in beide Richtungen. Ein Umsatz, der auf etwa das Zwölffache des Vorjahres wächst, bei Kosten, die auf weniger als das Fünffache steigen, ist die Form eines Geschäfts, das operative Hebelwirkung gewinnt. Es ist auch die Form eines Geschäfts, dessen absolute Kosten inzwischen groß genug sind, um in einem Quartal mit fast 17 Milliarden Dollar Umsatz einen Verlust zu erzeugen. Das Unternehmen wächst in seine Kostenbasis hinein, und die Kostenbasis wächst mit.

Die Halbjahreszahlen aus der ursprünglichen Einreichung zeigen, wie steil die Kurve war. Anthropic verbuchte im ersten Halbjahr 2026 einen Umsatz von 16,29 Milliarden Dollar, gegenüber 1,16 Milliarden Dollar ein Jahr zuvor, und meldete einen Nettoverlust von 80,7 Milliarden Dollar, der überwiegend eine nicht zahlungswirksame Belastung im Zusammenhang mit Wandelinstrumenten war. Das dritte Quartal allein war größer als dieses gesamte erste Halbjahr.

Die Verpflichtung über 895 Milliarden Dollar

Der Nachtrag offenbart zudem rund 895 Milliarden Dollar verpflichteter Ausgaben für Rechenleistung und Infrastruktur, fast die Hälfte davon bis Ende 2030 erwartet. Eine Verpflichtung ist eine Zahlungsverpflichtung über Zeit, keine eingetroffene Rechnung, und der Zeitplan zählt so viel wie die Summe.

Zum Maßstab: 895 Milliarden Dollar sind etwa das 53-Fache des Quartalsumsatzes. Dieser Vergleich ist Arithmetik auf zwei gemeldeten Zahlen, keine Prognose: Der Umsatz steigt schnell, und die Verpflichtung läuft über Jahre. Dennoch setzt sie den Maßstab für den Umsatz, den Anthropic braucht, um die Infrastruktur zu rechtfertigen, die es zu kaufen zugesagt hat.

Hier berühren sich die beiden Offenlegungen. Wenn ein Unternehmen fast 900 Milliarden Dollar zugesagt hat und bereits mehr als 6,6 Millionen Dollar Umsatz der letzten zwölf Monate je Mitarbeiter erwirtschaftet, kann die Rendite aus mehr Kunden, höheren Preisen oder mehr Output pro Person kommen. KI, die mehr der Forschung und Entwicklung übernimmt, ist ein Weg zum dritten, und es ist der Weg, den die Einreichung in ihren eigenen Risikofaktoren beschreibt. Anthropic zieht diese Linie zwischen Rechenverpflichtung und RSI-Warnung nicht. Die Gegenüberstellung ist unsere, und sie ist eine Schlussfolgerung, keine offengelegte Strategie.

Anleger können eine ähnliche Schlussfolgerung mit besseren Informationen ziehen. Ein Unternehmen, das sich zu Ausgaben in dieser Größenordnung verpflichtet hat, braucht die Produktivitätsgeschichte als reale Größe. Dieselbe Produktivitätsgeschichte macht die Sicherheitswarnung glaubwürdig, und die Einreichung stellt beides auf dieselbe Seite.

Einschränkungen: Was „unmittelbar“ nicht belegt

Die Einreichung ist vorsichtig. Anthropic sagt, es könne die Schwelle erreichen. Es sagt nicht, dass es sie erreicht hat. Das Signal kommt aus internen Schätzungen und aus Erwartungen zu künftigen Modellen, nicht aus der Evaluierung eines Systems, das heute existiert. Kein aktuelles Modell wurde als Überschreitung der Schwelle eingestuft.

„Unmittelbar“ ist eine Prognose ohne Datum, und kein unabhängiges Labor hat sie bestätigt. Die RSP ist Anthropics eigener Rahmen, den das Unternehmen schreibt, anwendet und ändern kann; die Einreichung nennt Änderungen in Prüfung. Eine überarbeitete Politik könnte die Kontrollen um die Frontier-Entwicklung verschärfen oder die Schwelle so neu fassen, dass sie leichter zu erreichen ist. Die Einreichung sagt nicht, was davon, weil der Text nicht veröffentlicht wurde.

Der Satz zur Erkennung verdient eine eigene Einschränkung. „Wir haben in der Vergangenheit eine erhebliche Beschleunigung unserer Entwicklungsgeschwindigkeit nicht erkannt und werden sie möglicherweise auch künftig nicht erkennen, bevor sie eingetreten ist“ ist das Eingeständnis, dass die Überwachung des Unternehmens hinter dem zurückbleiben kann, was sie überwacht. Es ist kein Beleg dafür, dass eine Beschleunigung stattgefunden hat.

Die Einreichung nennt auch kein Datum, keinen Benchmark und kein benanntes Modell, das die Überschreitung markieren würde.

Was zu beobachten ist

Das erste Signal ist die Aktualisierung der RSP. Wenn Anthropic vor der Notierung eine überarbeitete Politik veröffentlicht, wird die Formulierung zeigen, ob „Menschen die Kontrolle erhalten“ eine Regel mit benannten Auslösern und Prüfpfad wird oder eine Absichtserklärung bleibt.

Das zweite ist eine Einstufung. Die Einreichung sagt, keines der aktuellen Modelle sei als Überschreitung der Schwelle eingestuft. Der nächste echte Datenpunkt ist das erste eingestufte Modell oder eine öffentliche Erklärung, warum die Schwelle weiterhin nicht erreicht ist.

Das dritte ist der Bericht zum vierten Quartal. Umsatz, operatives Ergebnis und die Höhe der Rechenverpflichtung werden zeigen, ob das Wachstum zu den Ausgaben aufschließt oder weiter zurückfällt. Eine wachsende Lücke würde das Produktivitätsargument dringlicher und die Sicherheitswarnung tragender machen.

Das vierte ist die Prüfung von außen. Ob eine externe Gruppe die Evidenz hinter einer RSI-Behauptung untersuchen kann, ist der Unterschied zwischen einem Risikofaktor und einem bestätigten Fakt.

Anthropic hat Anlegern gesagt, was es für möglich hält. Es hat nicht gezeigt, dass es so weit ist, und nicht gesagt, wie jemand außerhalb des Unternehmens das erfahren würde.

Titelbild: „Dario Amodei at TechCrunch Disrupt 2023“ von TechCrunch, CC BY 2.0, via Wikimedia Commons, auf 16:9 zugeschnitten.