TechPastWeek logo
Sicherheit9 Min. Lesezeit

Eine Sicherheitslücke bei einem KI-Cloud-Anbieter erreichte Uber, Notion und Cursor

Die Sicherheitslücke bei Fireworks AI traf Uber, Notion und Cursor: Führerscheindaten, Chatprotokolle und eine manipulierte Coding-Erweiterung waren betroffen.

Die Uber-Bürogebäude in San Franciscos Mission Bay, wo das Unternehmen Daten für Fahrten und Fahrerkonten verwaltet.
Auf dieser Seite

Die wichtigsten Punkte

  • Uber informierte 149.346 Fahrer, dass Namen, Adressen, Geburtsdaten und Führerscheinnummern über eine Sicherheitslücke bei seinem KI-Anbieter Fireworks AI gestohlen wurden.
  • Notion teilte mit, bei etwa 1 Prozent der Kunden seien Chatprotokolle der Funktion Notion AI Insights offengelegt worden; bei Cursor betraf es Zugangsdaten von weniger als 0,01 Prozent der Kunden.
  • Cursor bestätigte zudem, dass ein gestohlener Schlüssel zu einer manipulierten Claude-Code-Erweiterung führte, die am 29. Oktober etwa elf Stunden lang bis zu 5.000 Nutzer erreichte.
  • Fireworks führte den Einbruch auf eine finanziell motivierte Gruppe zurück, die Zugang zu großen Sprachmodellen verkauft, ein Verfahren namens LLMJacking.
  • Fireworks beauftragte Palo Alto Networks Unit 42 und informierte die Strafverfolgung; betroffen seien Abrechnungsdaten, Geheimnisse, Datensätze und einige unvollständige Modellgewichte.

Uber hat begonnen, 149.346 Fahrer darüber zu informieren, dass Namen, Adressen, Geburtsdaten und Führerscheinnummern bei einer Sicherheitslücke bei Fireworks AI gestohlen wurden, einer Plattform, die offene KI-Modelle für andere Unternehmen hostet. Die Offenlegung, im November bei den Generalstaatsanwälten der Bundesstaaten eingereicht, zeigt, wie schnell ein Vorfall bei einem Anbieter zu einem Datenschutzvorfall beim Kunden werden kann.

Zum Weiterlesen: China zugeordnete Hacker nutzten vCenter-Zero-Day Wochen vor dem Patch · JPMorgan Chase: Sicherheitslücke bei Dienstleistern gab Kundennamen und E-Mail-Adressen preis.

Fireworks bestätigte die Sicherheitslücke im Oktober und hat seither zwei Aktualisierungen veröffentlicht. Das Unternehmen teilt mit, der Angreifer sei über einen Drittanbieter-Cloud-Dienst in seine Entwicklungssysteme gelangt und habe diesen Zugang genutzt, um Kundenabrechnungsdaten, Geheimnisse, Datensätze und für eine begrenzte Zahl von Konten unvollständige Modellgewichte zu entwenden. Fireworks hat Palo Alto Networks' Unit 42 mit der Untersuchung beauftragt und nach eigenen Angaben die Strafverfolgung informiert. Das Bulletin des Unternehmens beschreibt den Ablauf und die Datenkategorien.

Die Kundenliste macht den Vorfall zu mehr als der Geschichte eines einzelnen Unternehmens. Notion, der Produktivitäts- und Notizdienst, teilte mit, bei etwa 1 Prozent seiner Kunden seien Chatprotokolle offengelegt worden. Cursor, die KI-Plattform für Programmierung, teilte mit, Zugangsdaten von weniger als 0,01 Prozent seiner Kunden seien entwendet worden, und ein gestohlener Schlüssel sei später genutzt worden, um eine manipulierte Version der Claude-Code-Erweiterung von Anthropic in seinem Marktplatz zu platzieren. Fireworks hat nach eigenen Angaben Zehntausende Kunden, darunter das Legal-Tech-Unternehmen Harvey.

Was Fireworks offengelegt hat

Fireworks veröffentlichte sein erstes Bulletin am 9. Oktober. In der späteren Aktualisierung teilte das Unternehmen mit, ein Drittanbieter-Cloud-Dienst, der seine Forschungs- und Entwicklungsrechner hostete, habe am 23. Oktober einen eigenen Sicherheitsvorfall erlitten. Am 24. Oktober nutzte der Angreifer diesen Zugang, um Fireworks-Entwicklungsrechner zu erreichen und eine nicht autorisierte Arbeitslast auszuführen, wodurch weitere Kundendaten offengelegt wurden. Fireworks sagt, die Aktivität noch am selben Tag erkannt und die bekannten kritischen Schwachstellen geschlossen zu haben.

Die Datenkategorien sind breit. Fireworks nannte Ressourcen-Metadaten wie Kennungen und Erstellungszeiten, Abrechnungsinformationen einschließlich Adressen, Rechnungs- und Zahlungshistorie, Kontoständen und Kreditnutzung sowie für manche Kunden Geheimnisse, Datensätze und unvollständige Modellgewichte. Kartennummern wurden laut Unternehmen nicht bei Fireworks gespeichert und waren nicht betroffen.

Fireworks zog auch eine Grenze um seine Hauptprodukte. Das Unternehmen erklärte, keine Auswirkungen auf den Inferenzdienst, das Training SDK oder das Produkt Nexus gefunden zu haben, für die standardmäßig keine Datenspeicherung gilt. Diese Unterscheidung ist wichtig: Die Sicherheitslücke traf die internen Systeme, mit denen Fireworks sein Geschäft betreibt, nicht die Inferenzpfade, auf die die meisten Kunden für Produktionsverkehr setzen.

Die Liste der Gegenmaßnahmen ist die übliche für einen schweren Vorfall. Das Unternehmen widerrief und ersetzte Zugangsdaten und Dienstkonten, entfernte erhöhte Berechtigungen, beschränkte Netzwerkpfade, verschärfte den Zugang zu Speicher- und Analysesystemen und baute Protokollierung und Überwachung neu auf. Außerdem deaktivierte es während der laufenden Untersuchung Selbstbedienungs-Uploads und -Downloads von Datensätzen für Batch-Inferenz und datensatzbasiertes Training.

Fireworks hat weder eine vollständige Liste der betroffenen Kunden noch eine endgültige Zahl veröffentlicht. Die Angaben von Uber, Notion und Cursor stammen aus deren eigenen Mitteilungen, und die Untersuchung läuft. Das Unternehmen sagt, seine Ergebnisse könnten sich ändern, während die Prüfung fortschreitet.

Ubers blinder Fleck

Ubers Mitteilung ist das klarste Beispiel dafür, wie eine Sicherheitslücke beim Anbieter die Abwehr eines Kunden umgehen kann. Das Unternehmen teilte mit, es habe Warnmeldungen eingerichtet, um unbefugten Zugriff auf seine Fireworks-Umgebung zu erkennen. Diese Warnungen lösten nicht aus, weil der Angreifer die internen Zugangsdaten von Fireworks nutzte und nicht die von Uber.

Das ist das Kernproblem geteilter Verantwortung in Cloud-Diensten. Uber konnte seine eigenen Konten, Schlüssel und seinen Netzwerkverkehr überwachen. Es konnte keine Sitzung sehen, die für seine Systeme so aussah, als nutze der Anbieter seinen eigenen Zugang. Der Angreifer musste kein Uber-Passwort stehlen; er musste das Unternehmen kompromittieren, das bereits die Berechtigung hatte, auf Ubers Daten zuzugreifen.

Die gestohlenen Daten sind sensibel, aber begrenzt. Uber teilte mit, die Mitteilungen umfassten Namen, Adressen, Geburtsdaten und Führerscheinnummern. Das Unternehmen erklärte nicht, dass Sozialversicherungsnummern, Bankdaten oder Fahrtaufzeichnungen entwendet wurden. Uber begann mit der Benachrichtigung der Fahrer, nachdem es am 9. Oktober über die Sicherheitslücke informiert worden war, und die Zahl 149.346 stammt aus der Meldung an die Generalstaatsanwaltschaft von Oregon.

Es ist Ubers zweiter bekannter Sicherheitsvorfall in diesem Jahr. Im August meldete das Unternehmen einen Vorfall in seiner Speditionssparte Uber Freight, nachdem eine Erpressergruppe behauptet hatte, Daten gestohlen zu haben. Die beiden Ereignisse sind getrennt, aber zusammen schwächen sie das Argument, ein Unternehmen von Ubers Größe habe sein Lieferantenrisiko im Griff.

Notions Chatprotokolle

Notions Fall ist prozentual kleiner und verrät mehr darüber, wie KI-Funktionen Daten speichern. Das Unternehmen teilte mit, die Sicherheitslücke habe etwa 1 Prozent seiner Kunden betroffen. Das gestohlene Material waren Chatprotokolle der Funktion Insights von Notion AI, mit der Nutzer Fragen zu ihrem Arbeitsbereich stellen können. Die Sicherheitsmitteilung von Notion legt den Zeitablauf dar.

Notion teilte mit, die Protokolle enthielten jede Eingabe an das Modell und jede Ausgabe daraus, die in den Chat geschrieben wurden. Ein großer Teil der Daten war nicht zuzuordnen, das heißt, Notion konnte nicht immer sagen, von welchem Kunden sie stammten. Das Unternehmen trennte seine Systeme am 3. November von Fireworks, löschte die dort gespeicherten Daten und beendete die Verbindung zwischen beiden.

Es widerrief außerdem am 11. November Notion-API-Schlüssel, die in betroffenen Nutzernachrichten gefunden wurden. Dieses Detail erinnert daran, dass Chatprotokolle oft Geheimnisse enthalten, die Nutzer hineinkopieren: Schlüssel, Tokens, Verbindungszeichenfolgen und interne URLs. Eine Sicherheitslücke bei einem Modellanbieter kann daher zu einer Sicherheitslücke für alles werden, was Kunden in das Modell getippt haben.

Notion deaktivierte die Funktion Insights und stellte die Auslieferung offener Modelle über Fireworks ein. Das Unternehmen forderte betroffene Kunden auf, alle Zugangsdaten zu erneuern, die sie in Notion AI eingefügt hatten. Die eigenen Systeme von Notion wurden nicht kompromittiert, die Daten seiner Kunden aber schon, und der Unterschied wird den Menschen, die Schlüssel erneuern, weniger bedeuten.

Cursor und die manipulierte Erweiterung

Cursors Offenlegung ist die komplexeste. Das Unternehmen teilte mit, ein Angreifer habe einen Zugangsschlüssel erlangt, den Cursor Fireworks ausgestellt hatte. Der Schlüssel war bei der Sicherheitslücke bei Fireworks offengelegt worden, und der Angreifer nutzte ihn, um Daten aus einem schreibgeschützten Speicherbereich zu kopieren, den Cursor für den Datenaustausch mit dem Anbieter verwendete. Die Aktualisierung von Cursor zum Vorfall beschreibt den Zugang und den späteren Angriff auf den Marktplatz.

Dieser Speicher enthielt Spuren von Coding-Agenten aus Sitzungen, die nicht im Privacy Mode liefen, der Einstellung, mit der Nutzer der Verwendung ihrer Daten für das Training widersprechen. Die meisten Spuren stammten aus dem Jahr 2025. Einige enthielten Zugangsdaten, die nicht entfernt worden waren, und legten API-Schlüssel von weniger als 0,01 Prozent der Cursor-Kunden offen.

Der Angreifer nutzte diese Zugangsdaten anschließend, um auf ausgewählte SaaS-Werkzeuge von Cursor zuzugreifen. Laut Cursor umfasste der Zugang archivierte Quellcode-Repositories außerhalb der Produktion, einige mit geschäftlichen Kontaktinformationen; begrenzte Kundendienst- und E-Mail-Daten; Produktnutzungsmetriken und Kontaktdaten; Zusammenfassungen einiger Gespräche mit Coding-Agenten; und Zugangsdaten, die Nutzer an das Support-Team geschickt hatten.

Der schwerwiegendste Schritt erfolgte am 29. Oktober. Cursor teilte mit, der Angreifer habe mit einem gestohlenen Zugangsdatensatz aus den offengelegten Daten manipulierte Versionen der Claude-Code-Erweiterung von Anthropic in den Cache gelegt, der seinen Erweiterungsmarktplatz bediente. Die schädlichen Builds, Versionen 2.1.312 und 2.1.313, waren etwa elf Stunden lang verfügbar. Cursor schätzt, dass höchstens 5.000 Nutzer, die genau diese zwischengespeicherten Versionen anforderten, sie erhalten haben könnten.

Die Erweiterung versuchte laut The Hacker News, eine dauerhafte SSH-Hintertür zu installieren. Cursor nahm den Marktplatz offline, entfernte die Builds, benachrichtigte betroffene Nutzer und arbeitete mit dem Cloud-Anbieter, der den Server des Angreifers hostete, um ihn abzuschalten. Das Unternehmen verlegte außerdem den gesamten Inferenzverkehr von Fireworks weg, deaktivierte den Schlüssel und schnitt dem Anbieter den Zugang zu seinen Datensätzen ab. Seit dem 1. November hat es nach eigenen Angaben keine weitere schädliche Aktivität festgestellt.

Die Ökonomie des LLMJacking

Fireworks führte den Einbruch auf eine finanziell motivierte Gruppe von Cyberkriminellen zurück, deren Ziel der Verkauf von Zugang zu großen Sprachmodellen ist. Das Verfahren heißt LLMJacking: Angreifer stehlen Zugangsdaten oder Rechenleistung, betreiben Modelle auf Kosten anderer und verkaufen die Kapazität über inoffizielle Gateways weiter.

Die Ökonomie erklärt die Wahl des Ziels. KI-Inferenz ist teuer, und ein gestohlener Schlüssel kann mehr wert sein als eine gestohlene Datenbank, wenn er Zugang zu einem Frontier-Modell mit großem Kontingent verschafft. Die Angreifer müssen keine Kundendatensätze exfiltrieren, um Profit zu machen. Sie brauchen gültige Zugangsdaten und einen Weg, den Verkehr zu leiten.

Das verändert das Risikomodell für KI-Anbieter. Eine klassische SaaS-Sicherheitslücke dreht sich um Daten. Eine Sicherheitslücke bei einer KI-Plattform dreht sich um Daten und Rechenleistung, und die Rechenleistung lässt sich sofort monetarisieren. Zudem werden die internen Zugangsdaten des Anbieters zu einem hochwertigen Ziel, weil sie jede Kundenumgebung erreichen können, die der Anbieter betreut.

Googles Threat Intelligence Group und Mandiant veröffentlichten am 2. November Forschung zu LLMJacking und beschrieben die Motive und Techniken hinter dem Anstieg gestohlenen Modellzugangs. Fireworks verwies in seiner Aktualisierung auf diese Forschung, was nahelegt, dass das Unternehmen seinen Vorfall als Teil eines breiteren Musters sieht und nicht als isolierten Angriff.

Das Lieferkettenproblem

Der Fall Fireworks ist ein Test dafür, wie sehr sich Kunden auf Zusicherungen von Anbietern verlassen können. Uber hatte Warnmeldungen. Notion hatte eine schnelle Trennung. Cursor hatte einen schreibgeschützten Speicher und einen Privacy Mode. Keine dieser Kontrollen verhinderte die Sicherheitslücke, weil der Angreifer innerhalb der Vertrauensgrenze operierte, die dem Anbieter gewährt worden war.

Die praktische Lehre ist, dass Anbieterzugang eine Angriffsfläche ist und kein Compliance-Häkchen. Unternehmen, die einem KI-Anbieter Zugang zu Daten geben, sollten wissen, welche Zugangsdaten der Anbieter hält, was diese erreichen können und ob der Zugang so protokolliert wird, dass der Kunde es sehen kann. Viele Verträge verlangen diese Transparenz nicht, und viele Kunden fragen nicht danach.

Die zweite Lehre betrifft die Aufbewahrung. Cursors Spuren stammten überwiegend aus dem Jahr 2025, und einige enthielten noch Zugangsdaten. Notions Chatprotokolle enthielten API-Schlüssel, die Nutzer eingefügt hatten. Fireworks speicherte Datensätze und unvollständige Modellgewichte für Kunden. Jeder dieser Datenspeicher erhöhte die Wirkung der Sicherheitslücke, und jeder existierte aus einem Geschäftsgrund, der damals vernünftig schien.

Was Kunden tun sollten

Die unmittelbaren Schritte sind vertraut. Erneuern Sie jeden Schlüssel, jedes Token und jedes Passwort, das mit Fireworks geteilt oder in ein Werkzeug eingefügt wurde, das Fireworks nutzte. Prüfen Sie Protokolle auf Zugriffe von unbekannten Orten oder zu ungewöhnlichen Zeiten. Überprüfen Sie, welche Drittanwendungen Produktionsdaten erreichen können, und entfernen Sie die, die sie nicht mehr brauchen.

Die schwierigeren Schritte sind struktureller Art. Geben Sie Anbietern eng begrenzte Zugangsdaten statt weitreichender, und bevorzugen Sie kurzlebige Tokens gegenüber statischen Schlüsseln. Verlangen Sie von Anbietern, Kunden schnell zu informieren und die betroffenen Datenkategorien zu benennen. Führen Sie ein Verzeichnis darüber, welche KI-Funktionen Kundeninhalte speichern und wie lange. Und prüfen Sie die Annahme, dass eine interne Kompromittierung beim Anbieter in Ihren eigenen Protokollen wie ein externer Angriff aussieht. Die eigenen Zugangsdaten eines Anbieters erzeugen oft Verkehr, der normal aussieht.

Worauf zu achten ist

Fireworks sagt, die Untersuchung dauere an, und die Zahl der betroffenen Kunden könnte steigen. Auch die regulatorische Lage ist ungeklärt: Die Generalstaatsanwälte der Bundesstaaten sammeln Meldungen, und der Kongress hat nach einem Jahr mit prominenten Vorfällen Interesse an der Sicherheit von KI-Lieferketten gezeigt. Ob die Sicherheitslücke neue Offenlegungspflichten bringt oder eine Fallstudie bleibt, hängt davon ab, was die Untersuchung ergibt.

Für Uber sind die nächsten Schritte Benachrichtigungen und Identitätsschutz für 149.346 Fahrer. Für Fireworks sind es der Rest der Untersuchung und die Kunden, die das Unternehmen noch nicht genannt hat. Für alle anderen gilt: Der KI-Anbieter mit Zugang zu Ihren Daten ist Teil Ihrer Angriffsfläche.

Titelbild: Ubers Büros in Mission Bay, San Francisco. Foto von HaeB, CC BY-SA 4.0, über Wikimedia Commons.

Tags

fireworks-aidata-breachsupply-chainllmjackinguber

Häufige Fragen

Was ist bei Fireworks AI passiert?
Fireworks AI, eine Plattform zum Betrieb offener KI-Modelle, teilte mit, ein Angreifer habe einen Drittanbieter-Cloud-Dienst kompromittiert, der die Forschungsrechner hostete, und sei am 24. Oktober 2026 in Entwicklungssysteme von Fireworks gelangt. Der Eindringling griff auf Abrechnungsdaten, Geheimnisse, Datensätze und einige unvollständige Modellgewichte zu.
Wie viele Uber-Fahrer waren betroffen?
Uber informierte 149.346 Personen, wie aus einer Meldung an die Generalstaatsanwaltschaft von Oregon hervorgeht. Zu den gestohlenen Daten gehörten Namen, Adressen, Geburtsdaten und Führerscheinnummern.
Wurde Notion direkt gehackt?
Nein. Notion teilte mit, die Daten stammten von Fireworks, einem externen KI-Anbieter. Bei etwa 1 Prozent der Notion-Kunden wurden Chatprotokolle der Funktion Notion AI Insights offengelegt.
Was ist LLMJacking?
LLMJacking ist der Diebstahl von Zugangsdaten oder Rechenleistung, der es einem Angreifer erlaubt, große Sprachmodelle auf Kosten anderer zu betreiben, oft um den Zugang über inoffizielle Gateways weiterzuverkaufen. Fireworks sagte, die Gruppe hinter dem Einbruch sei finanziell motiviert gewesen und habe den Verkauf von Modellzugang angestrebt.
Share

Fandest du das nützlich? Teile es mit deinem Team.

TPW Editorial

TPW Editorial

Redaktion

Die Redaktion von TechPastWeek recherchiert und betreut jeden veröffentlichten Artikel. Jede Geschichte wird anhand von Primär- und glaubwürdigen Sekundärquellen geprüft und vor der Veröffentlichung redaktionell freigegeben.

Weiterlesen