Metas Oversight Board ordnet Entfernung von Deepfakes an und nennt Schutzmaßnahmen unzureichend

Das unabhängige Inhaltsprüfungsgremium von Meta hat Facebook angewiesen, zwei KI-generierte Videos zu entfernen, und erklärt, der Umgang des Unternehmens mit Deepfakes werde dem Problem nicht gerecht. In am 17. September 2026 bekannt gegebenen Entscheidungen hob das Oversight Board frühere Urteile von Meta in beiden Fällen auf und bezeichnete dessen Schutzmaßnahmen als „durchgängig und grundlegend unzureichend“, um dem schnellen Anstieg synthetischer Medien zu begegnen.

Zum Weiterlesen: Meta fügt eine KI-Crawling-Klausel in seine Geschäftsbedingungen ein und entfernt sie wieder · Meta One steckt KI- und Creator-Werkzeuge hinter ein Monatsabo.

Das Board ist ein quasi unabhängiges Gremium, das Meta 2020 schuf, um seine schwierigsten Inhaltsentscheidungen zu schlichten, und seine Entscheidungen zu einzelnen Beiträgen sind für das Unternehmen bindend. In beiden Fällen sprach es Richtlinienempfehlungen aus, und die Berichterstattung beschrieb neun Änderungen über die beiden Entscheidungen hinweg. Meta hat 60 Tage Zeit zu reagieren.

Das Video der Stadträtin, das Meta online ließ

Der erste Fall betrifft eine Stadträtin der Labour Party in Schottland. Im November 2025 veröffentlichte ein Facebook-Nutzer ein kurzes Video, das ihr Abbild zeigte. Das Video wirkt KI-generiert, und der Ton ist nicht vollständig mit ihren Gesichtsbewegungen synchron, was laut dem Board auf eine Fälschung hindeutet. Es zeigte sie mit der Aussage: „Flüchtlinge sind hier willkommen, selbst wenn sie unsere Frauen vergewaltigen, weil weiße Menschen das auch tun.“

Der Clip befand sich in einem Album, das auch ein Foto mehrerer namentlich genannter Frauen bei einer antifaschistischen Protestaktion enthielt, darunter die Stadträtin. Laut der Zusammenfassung des Boards erhielten das Album und das Video zusammen mehr als 5.000 Aufrufe, über 50 Kommentare, über 20 Reaktionen und mehr als 10 Shares.

Zwei Personen meldeten das Video nach Metas Richtlinie zu Mobbing und Belästigung, eine davon die Stadträtin selbst. Die Systeme von Meta priorisierten den Beitrag nicht für eine menschliche Prüfung, und er blieb auf Facebook. Beide Nutzer legten Widerspruch ein, und der Beitrag blieb ohne menschliche Prüfung online. Der Nutzer, der nicht die Politikerin war, wandte sich dann an das Board.

Als das Board den Fall an Meta herantrug, kam das Unternehmen zu dem Schluss, das Video verstoße nicht gegen seine Gemeinschaftsstandards und verdiene kein KI-Label. Meta teilte dem Board mit, keine Trusted-Partner-Organisation habe das Video gemeldet, und es enthalte keine verbotenen Behauptungen über Wahlen oder den Zensus. Das Unternehmen bezeichnete das Video zudem als Satire mit geringer Reichweite und merkte an, dass keine Wahl und keine Krise unmittelbar bevorstehe, wie TNW berichtete.

Eine Mehrheit sieht Hassrede, eine Minderheit widerspricht

Eine Mehrheit des Boards befand, dass das Video gegen Metas Regeln zu hasserfülltem Verhalten verstieß. Die Mehrheit vertrat die Auffassung, es unterstelle Flüchtlingen als ganzer Gruppe schwere Kriminalität und übergriffiges Sexualverhalten und nicht nur einigen Flüchtlingen, wie Meta es dargestellt hatte. Das Board hob Metas Entscheidung auf und verlangte die Entfernung nach dem Hassrede-Standard.

Die Mehrheit befand zudem, das Video hätte ein Label „High Risk AI“ tragen müssen, und kam zu dem Schluss, dass Metas Regeln zur Kennzeichnung von Deepfakes unzureichend sind. Eine Verletzung der Mobbing- und Belästigungsregeln stellte das Board nicht fest, mit der Begründung, eine gewählte Amtsträgerin sei eine öffentliche Person, die nach dieser Richtlinie weniger Schutz genieße als eine Privatperson.

Die Entscheidung war nicht einstimmig. Eine Minderheit widersprach, dass das Video als Hassrede gelten solle, und argumentierte, es richte sich gegen die angeblichen Ansichten der Politikerin und nicht gegen alle oder die meisten Flüchtlinge, und politische Rede rechtfertige eine höhere Schwelle für eine Entfernung. Eine separate Minderheit erklärte, ein schwächeres Label „AI Info“ wäre angemessen gewesen, während eine weitere Minderheit argumentierte, die Schwere des Schadens rechtfertige die Entfernung.

Das Video der Aktivistin und Privatpersonen

Die zweite Entscheidung des Boards betrifft eine junge Muslimin in Europa, die sich an einer Kampagne für bessere Aufklärung über Menstruationsgesundheit und gegen die Stigmatisierung von Frauen und Mädchen aus ethnischen Minderheiten beteiligte. KI-manipulierte Videos und Bilder, die sich über sie lustig machten, erzielten online zig Millionen Aufrufe, auch auf Plattformen von Meta, laut The Guardian. Das Board hob ein Video hervor, das sie beim absurden Sporttreiben und beim Essen von Junkfood zeigte, als Verstoß gegen Metas Mobbing- und Belästigungsrichtlinie und ordnete seine Entfernung an.

Meta schloss die erste Meldung zu diesem Video und den zugehörigen Widerspruch automatisch, berichtete TNW, und entfernte das Video erst, nachdem das Board sich eingeschaltet hatte. Zu den drei Empfehlungen in diesem Fall gehört, Metas Definition von „unerwünschtem manipuliertem Bildmaterial“ zu erweitern, sodass sie Deepfakes von Privatpersonen erfasst, die Dinge sagen oder tun, die sie nicht gesagt oder getan haben.

Neun Empfehlungen, von Labels bis Transparenz

TNW berichtete, das Board habe über die beiden Fälle hinweg neun Empfehlungen ausgesprochen, sechs im Fall der Stadträtin und drei im Fall der Aktivistin. Die eigene Mitteilung des Boards listet die Maßnahmen auf, die es von Meta erwartet.

• Die Schwelle für „High Risk“-Labels senken, damit sie nicht Krisen oder Wahlen vorbehalten bleiben.
• Für Betrachter von als KI-generiert oder „High Risk AI“ gekennzeichneten Inhalten Hürden einbauen, etwa eine Zwischenseite zum Wegklicken statt eines bloßen Labels.
• Alle mit „High Risk“ gekennzeichneten Inhalte von Monetarisierung, Herabstufung oder Entfernung aus Empfehlungen betroffen sein lassen, mit eskalierenden Sanktionen für Konten, die solche Inhalte wiederholt teilen.
• Die Regeln und Beispiele zu Wahl- oder Zensusbeeinflussung global anwendbar machen statt spezifisch für die Vereinigten Staaten.
• Jährliche Daten des Transparency Center öffentlich offenlegen, wie oft die Labels „High Risk“ und „High Risk AI“ vergeben werden, auch für Inhalte von oder über Politiker.
• Sicherstellen, dass jedes Fehlinformations-Label, darunter „AI Info“, „High Risk“ und „High Risk AI“, bei Inhalten in der Meta Content Library sichtbar ist und gekennzeichnete Inhalte über einen Filter auffindbar sind.
• Eine frühere Empfehlung wiederholen, dass Meta klare Sanktionen für die unterlassene Selbstkennzeichnung digital erstellter oder veränderter Inhalte veröffentlicht, mit Kriterien und den daraus folgenden Kontobeschränkungen.

Die Forderung nach einer Zwischenseite zum Wegklicken behandelt ein Label als für sich genommen unzureichend. Nach dem Vorschlag des Boards stünde eine Warnung zwischen dem Betrachter und dem Video, statt in einer Ecke des Bildes zu sitzen. Die Empfehlung, „High Risk“-Inhalte herabzustufen oder zu demonetarisieren, würde solche Beiträge aus den Empfehlungssystemen drängen, in denen die meiste Reichweite gewonnen wird. Die Forderung nach jährlichen Zahlen zur Label-Nutzung würde ein still angewandtes Durchsetzungsinstrument messbar machen.

Warum das Board dies als Muster beschreibt

Die Co-Vorsitzende des Boards, Pamela San Martin, verknüpfte die beiden Fälle. „Von Politikerinnen bis zu Privatbürgerinnen werden KI-generierte Deepfakes zunehmend eingesetzt, um Frauen zu belästigen und vom öffentlichen Diskurs auszuschließen“, sagte sie in der Ankündigung des Boards.

Der Kontext, den das Board anführt, ist breiter als diese beiden Videos. Politikerinnen, Journalistinnen und Aktivistinnen werden überproportional von Deepfakes ins Visier genommen, die ihre Ansichten verfälschen, oft als Teil von Belästigungskampagnen, und weniger bekannten Personen wie Kommunalpolitikerinnen und Aktivistinnen fehlen die Mittel, um zu reagieren. Dieses Ungleichgewicht prägt beide Fälle. Die Stadträtin teilte dem Board mit, sie habe das Video bei Meta und bei der Polizei gemeldet, ohne Erfolg, so TNW, während die Spottvideos über die Aktivistin weite Verbreitung fanden, bevor eines entfernt wurde.

Dies ist nicht die erste Entscheidung des Boards zu synthetischen Medien. Im Juni 2026 entschied es einen Fall mit einem sexualisierten KI-Deepfake, und im März 2026 urteilte es über ein KI-generiertes Video im Zusammenhang mit dem Konflikt zwischen Israel und Iran. Dass das Board seine frühere Empfehlung zu Sanktionen für die Selbstkennzeichnung wiederholt, zeigt, wie lange einige dieser Lücken offen sind.

Was die Entscheidungen ändern und was nicht

Die Entscheidungen binden Meta bei den konkreten Beiträgen, und das Unternehmen hat die Videos entfernt, so die Berichterstattung. Die Richtlinienempfehlungen haben weniger Gewicht. Sie setzen eine Agenda, die Meta annehmen, anpassen oder mit Begründung ablehnen kann, weshalb die Transparenzforderungen des Boards wichtig sind. Jährliche Daten zur Label-Nutzung schaffen eine öffentliche Aufzeichnung, die mit späteren Behauptungen abgeglichen werden kann.

Metas Verteidigung im Fall der Stadträtin stützte sich darauf, wie das Unternehmen das Ziel der hasserfüllten Behauptung las, und darauf, ob das Video Satire mit begrenzter Reichweite war. Die Mehrheit des Boards las das Ziel anders, und ihre Empfehlungen zielen auf die Mechanismen, die ein kleines, täuschendes Video online bleiben lassen: enge Label-Kriterien, schwache Sanktionen für wiederholte Konten und begrenzte Einsicht darin, wie oft Labels vergeben werden. Der Widerspruch erinnert daran, dass die Grenze zwischen geschützter politischer Rede und regelwidrigen Deepfakes tatsächlich umstritten ist und dass das Board selbst keine einheitliche Stimme dazu hat, wo sie verläuft.

Das Erkennungsproblem liegt all dem zugrunde. Meta kann nur kennzeichnen oder entfernen, was seine Systeme erfassen, und das Video der Stadträtin wurde von zwei Personen gemeldet, statt von einer automatisierten Prüfung aufgespürt zu werden. Der Fall der Aktivistin zeigt das gegenteilige Versagen: Meldungen wurden eingereicht, und die Systeme des Unternehmens schlossen sie ohne menschliche Prüfung ab. Aggressiveres Kennzeichnen und klarere Sanktionen wirken nur, wenn die Erkennung zuverlässig genug ist, um sie auszulösen.

Zwei weitere Fragen werden bestimmen, wie viel diese Entscheidungen ändern. Erstens, ob Meta die Zwischenseite zum Wegklicken und die erweiterten „High Risk“-Kriterien übernimmt oder sie in seiner Antwort einschränkt. Zweitens, ob die versprochenen Transparenzdaten zur Label-Nutzung, auch für Inhalte über Politiker, tatsächlich erscheinen und über die Zeit vergleichbar sind.

Vorerst ist die Bedeutung die Richtung. Ein Gremium, das Meta schuf, um seine schwierigsten Entscheidungen zu schlichten, hat dem Unternehmen mitgeteilt, dass seine Deepfake-Regeln der Technologie hinterherhinken, die sie regeln sollen, und es hat Änderungen verlangt, die weit über die beiden betroffenen Videos hinausreichen. Die Entscheidungen wurden von Medien wie TechXplore neben den eigenen Veröffentlichungen des Boards aufgegriffen.

Das Logo des Oversight Board (gemeinfrei via Wikimedia Commons) auf einem TechPastWeek-eigenen Hintergrund.