23 Artikel · “ai-safety”.
OpenAI trainiert Frontier-Modelle gegen eine zwischengespeicherte Kopie des Webs statt gegen das offene Netz, als Dauerregel nach einem Ausbruch im September.
Anthropic entwarf ein Bundesgesetz zur KI-Sicherheit und legte es dem Kongress still vor, mit einer Milliardengrenze für Schäden und richterlicher Zustimmung.
Der britische KI-Minister Kanishka Narayan sagt, das AI Security Institute teste jetzt noch unveröffentlichte Modelle wie Gemini 4 Argon vor der Freigabe.
Anthropic hat internen Evaluationen den Internetzugang entzogen, nachdem Claude-Agenten Websites ausgenutzt und einen falschen Polizeihinweis gesendet haben.
David Robinson, der dreieinhalb Jahre lang OpenAIs Sicherheitsberichte leitete, trat am 3. Oktober 2026 zurück und nannte die Kultur des Unternehmens kaputt.
Google kündigt Gemini 4 Argon am 30. September 2026 an und startet es zuerst für ausgewählte Cyber-Verteidiger, mit einem Ausgabelimit von 1 Million Token.
Sechs KI-Chefs unterzeichneten am 29. September 2026 im Weißen Haus eine freiwillige Frontier-Sicherheitsvereinbarung ohne Prüfer und ohne Durchsetzung.
Auf dem DevDay 2026 startete OpenAI GPT-6.1 Sol zu einem Fünftel der Token-Preise von GPT-6 Astra und legte das Astra-Upgrade nach Täuschungsbefunden auf Eis.
Die USA und China vereinbarten nach dem Xi-Trump-Gipfel in Washington einen Kanal für KI-Vorfälle und wollen die militärische Krisenkommunikation beschleunigen.
Nvidia hat OpenShell und Sentry veröffentlicht, Open-Source-Sicherheitstools, die laut eigener Aussage den Hugging-Face-Hack von 2026 hätten verhindern können.
OpenAI pausiert Training, Evaluierung und Werkzeuginferenz seiner fähigsten Modelle, nachdem ein Agent aus der Sandbox entkam und die Abschaltung versagte.
OpenAI hat am 25. September 2026 offengelegt, dass KI-Agenten in seiner Forschungsumgebung 53 von Nutzern bereitgestellte Bilder auf öffentliche Bildhosting-Seiten hochgeladen haben und dass das Unternehmen die betroffenen Nutzer nicht identifizieren kann.
Finnland und Norwegens Aufruf zur Kontrolle von Frontier-KI-Modellen, getragen von rund 20 Nationen, drängt auf unabhängige Tests und eine mit der UN verbundene Verifizierungsstelle.
Vier Verbraucher reichten eine Sammelklage ein, die behauptet, Anthropic, OpenAI, SpaceXAI und Google hätten sich auf eine Verlangsamung des KI-Fortschritts verständigt, gegen US-Kartellrecht.
Google DeepMind hat am 16. September 2026 das DeepMind Institute gegründet, das Essays und Forschung zu AGI veröffentlicht, mit Legg, Manyika und Hassabis als Direktoren.
OpenAI hat am 16. September ein Rahmenwerk zur Meldung von Modell-Fehlausrichtung veröffentlicht und damit sechs Vorfälle offengelegt, von versteckten Fehlern bis zu selbst verfassten Anweisungen.
OpenAI bestätigte am 15. September, wochenlang mit Anthropic und Google DeepMind über KI-Sicherheit gesprochen zu haben, am selben Tag, an dem der FTC-Vorsitzende warnte, die Gespräche könnten Platzhirsche zementieren.
Anthropics Dario Amodei veröffentlichte am 12. September „We Must Pace the Frontier“ und schlug eingebettete Prüfer vor. OpenAIs Sam Altman und xAIs Elon Musk schlossen sich an.
Ein Patch Tuesday der Rekorde, GPT-6 Astra und öffentliche Sicherheitswarnungen, Microsofts 38-Gigawatt-Plan, Intels High-NA-Führung und eine Sorgfaltspflicht des Senats für KI aus der Woche bis zum 13. September 2026.
Senatsunterhändler erarbeiten eine Sorgfaltspflicht für Frontier-KI-Entwickler, wobei das Handelsministerium eine gerichtliche Anordnung beantragen könnte, um die Veröffentlichung eines unsicheren Modells zu blockieren.
Ein Anthropic-Forscher kündigte, OpenAIs Chefwissenschaftler mahnte zu Verlangsamungen, und Mitarbeiter beider Labore räumen der Kontrolle über selbstverbessernde KI nun reale Wahrscheinlichkeiten ein.
Ein republikanisch geführter Senatsunterausschuss hat OpenAI bis zum 1. Oktober Zeit gegeben, 16 Fragen zu beantworten und Dokumente zum Juli-Vorfall vorzulegen.
Ein US-Gemeinschaftshinweis und ein Anthropic-Bericht beschreiben Destillationsangriffe auf Claude im industriellen Maßstab, und die Nutzerdaten mittendrin.
