El Oversight Board de Meta ordena retirar deepfakes y califica sus salvaguardas de insuficientes

El órgano independiente de revisión de contenidos de Meta ha ordenado a Facebook retirar dos vídeos generados por IA y ha dicho que el enfoque de la empresa ante los deepfakes se queda corto frente al problema. En decisiones anunciadas el 17 de septiembre de 2026, el Oversight Board anuló los dictámenes anteriores de Meta en ambos casos y describió sus salvaguardas como «consistente y fundamentalmente inadecuadas» para afrontar el rápido auge de los medios sintéticos.

Lectura relacionada: Meta añade y luego retira una cláusula sobre rastreo con IA de sus condiciones comerciales · Meta One pone la IA y las herramientas para creadores tras una suscripción mensual.

El consejo es un panel cuasi independiente que Meta creó en 2020 para arbitrar sus decisiones de contenido más difíciles, y sus decisiones sobre publicaciones concretas son vinculantes para la empresa. Emitió recomendaciones de política en ambos casos, y la cobertura describió nueve cambios entre las dos decisiones. Meta tiene 60 días para responder.

El vídeo de la concejala que Meta dejó publicado

El primer caso se refiere a una concejala del Partido Laborista en Escocia. En noviembre de 2025, un usuario de Facebook publicó un vídeo breve que mostraba su imagen. El vídeo parece generado por IA, y el audio no está del todo sincronizado con sus movimientos faciales, lo que según el consejo indicaba una falsificación. La mostraba diciendo: «Los refugiados son bienvenidos aquí, aunque violen a nuestras mujeres, porque los blancos también lo hacen».

El clip estaba dentro de un álbum que también contenía una fotografía de varias mujeres con nombre en una protesta contra la extrema derecha, incluida la concejala. Según el resumen del consejo, el álbum y el vídeo juntos recibieron más de 5.000 visualizaciones, más de 50 comentarios, más de 20 reacciones y más de 10 veces compartido.

Dos personas denunciaron el vídeo en virtud de la política de acoso y hostigamiento de Meta, una de ellas la propia concejala. Los sistemas de Meta no priorizaron la publicación para una revisión humana, y permaneció en Facebook. Ambos usuarios apelaron, y la publicación siguió visible sin una revisión humana. El usuario que no era la política apeló entonces ante el consejo.

Cuando el consejo llevó el caso a Meta, la empresa concluyó que el vídeo no infringía sus Normas Comunitarias y no merecía una etiqueta de IA. Meta dijo al consejo que ninguna organización socia de confianza había señalado el vídeo y que no contenía afirmaciones prohibidas sobre el voto o el censo. La empresa también calificó el vídeo de sátira con poca interacción y señaló que no había elecciones ni crisis cercanas, informó TNW.

Una mayoría ve discurso de odio y una minoría discrepa

Una mayoría del consejo concluyó que el vídeo infringía las normas de conducta odiosa de Meta. La mayoría sostuvo que imputaba criminalidad grave y comportamiento sexual depredador a los refugiados como grupo entero, y no a algunos refugiados, que es como lo había caracterizado Meta. El consejo anuló la decisión de Meta y exigió la retirada conforme a la norma sobre discurso de odio.

La mayoría también concluyó que el vídeo debería haber llevado una etiqueta de «High Risk AI» y determinó que las normas de Meta para etiquetar deepfakes son inadecuadas. El consejo no halló una infracción de las normas de acoso y hostigamiento, razonando que un cargo electo es una figura pública con derecho a menos protección que un particular en virtud de esa política.

La decisión no fue unánime. Una minoría no estuvo de acuerdo con que el vídeo debiera contar como discurso de odio, argumentando que se dirigía a las opiniones atribuidas a la política y no a todos o la mayoría de los refugiados, y que el discurso político merece un umbral más alto para la retirada. Otra minoría dijo que habría sido apropiada una etiqueta menor de «AI Info», mientras que otra minoría sostuvo que la gravedad del daño justificaba la retirada.

El vídeo de la activista y los particulares

El segundo dictamen del consejo se refiere a una joven musulmana en Europa que participó en una campaña para mejorar la educación sobre salud menstrual y reducir el estigma entre mujeres y niñas de minorías étnicas. Vídeos e imágenes manipulados con IA que se burlaban de ella acumularon decenas de millones de visualizaciones en internet, incluidas las plataformas de Meta, según The Guardian. El consejo señaló un vídeo concreto, que la mostraba haciendo ejercicio de forma absurda y comiendo comida basura, como una infracción de la política de acoso y hostigamiento de Meta, y ordenó su retirada.

Meta cerró automáticamente la primera denuncia sobre ese vídeo y la apelación relacionada, informó TNW, y retiró el vídeo solo después de que el consejo interviniera. Las tres recomendaciones de ese caso incluyen ampliar la definición de «imagen manipulada no deseada» de Meta para que abarque los deepfakes de particulares mostrados diciendo o haciendo cosas que no dijeron ni hicieron.

Nueve recomendaciones, de las etiquetas a la transparencia

TNW informó de que el consejo formuló nueve recomendaciones entre los dos casos, seis en el de la concejala y tres en el de la activista. El propio comunicado del consejo enumera las medidas que quiere que adopte Meta.

• Bajar el umbral de las etiquetas de «alto riesgo» para que no se reserven a crisis o elecciones.
• Añadir fricción para quienes ven contenido etiquetado como generado por IA o «High Risk AI», como una pantalla intermedia que haya que pulsar en lugar de una simple etiqueta.
• Someter todo el contenido etiquetado como «High Risk» a desmonetización, reducción de alcance o retirada de las recomendaciones, con sanciones crecientes para las cuentas que compartan ese contenido de forma reiterada.
• Hacer que las normas y los ejemplos sobre interferencia en el voto o el censo sean aplicables a escala global y no solo a Estados Unidos.
• Divulgar públicamente datos anuales del Centro de Transparencia sobre la frecuencia con que se aplican las etiquetas «High Risk» y «High Risk AI», incluidos los contenidos procedentes de políticos o sobre ellos.
• Asegurar que toda etiqueta de desinformación, incluidas «AI Info», «High Risk» y «High Risk AI», sea visible en el contenido de la Biblioteca de Contenido de Meta y que el contenido etiquetado pueda encontrarse mediante un filtro.
• Repetir una recomendación anterior de que Meta publique sanciones claras por no declarar por cuenta propia contenido creado o alterado digitalmente, con criterios y las restricciones de cuenta que se deriven.

La petición de una pantalla que haya que pulsar trata la etiqueta como insuficiente por sí sola. Según la propuesta del consejo, un aviso se interpondría entre el espectador y el vídeo en lugar de ocupar una esquina del marco. La recomendación de reducir el alcance o desmonetizar el contenido de «High Risk» sacaría esas publicaciones de los sistemas de recomendación, donde se gana la mayor parte del alcance. Pedir cifras anuales sobre el uso de las etiquetas convertiría una herramienta de aplicación aplicada discretamente en una medible.

Por qué el consejo lo enmarca como un patrón

La copresidenta del consejo, Pamela San Martin, vinculó los dos casos. «De los políticos a los ciudadanos particulares, los deepfakes generados por IA se usan cada vez más para acosar y silenciar a las mujeres que participan en el discurso público», dijo en el anuncio del consejo.

El contexto que cita el consejo es más amplio que estos dos vídeos. Las mujeres políticas, periodistas y activistas son objeto desproporcionado de deepfakes que tergiversan sus opiniones, a menudo como parte de campañas de acoso, y las figuras menos prominentes, como políticos locales y activistas, carecen de recursos para responder. Ese desequilibrio da forma a ambos casos. La concejala dijo al consejo que denunció el vídeo ante Meta y ante la policía sin éxito, según TNW, mientras que los vídeos burlescos sobre la activista circularon ampliamente antes de que se retirara alguno.

No es el primer dictamen del consejo sobre medios sintéticos. En junio de 2026 resolvió un caso con un deepfake sexualizado generado por IA, y en marzo de 2026 dictaminó sobre un vídeo generado por IA vinculado al conflicto entre Israel e Irán. La decisión del consejo de repetir su recomendación anterior sobre sanciones por no declarar muestra cuánto tiempo llevan abiertas algunas de estas brechas.

Qué cambian las decisiones y qué no

Los dictámenes vinculan a Meta en las publicaciones concretas, y la empresa ha retirado los vídeos, según la cobertura. Las recomendaciones de política tienen menos fuerza. Marcan una agenda que Meta puede aceptar, adaptar o rechazar con una explicación, y por eso importan las peticiones de transparencia del consejo. Los datos anuales sobre el uso de etiquetas crean un registro público que puede contrastarse con afirmaciones posteriores.

La defensa de Meta en el caso de la concejala se basó en cómo interpretaba el objetivo de la afirmación odiosa y en si el vídeo era sátira con alcance limitado. La mayoría del consejo leyó el objetivo de otra manera, y sus recomendaciones apuntan a los mecanismos que permiten que un vídeo pequeño y engañoso permanezca visible: criterios de etiquetado estrechos, sanciones débiles para cuentas reincidentes y visibilidad limitada sobre la frecuencia con que se aplican las etiquetas. La disidencia recuerda que la frontera entre el discurso político protegido y los deepfakes que infringen las normas está genuinamente disputada, y que el propio consejo no habla con una sola voz sobre dónde se sitúa.

El problema de la detección subyace a todo esto. Meta solo puede etiquetar o retirar lo que sus sistemas detectan, y el vídeo de la concejala fue señalado por dos personas en lugar de aflorar mediante una comprobación automatizada. El caso de la activista muestra el fallo opuesto: se presentaron denuncias y los sistemas de la empresa las cerraron sin una revisión humana. Un etiquetado más agresivo y unas sanciones más claras solo importan si la detección es lo bastante fiable para activarlos.

Dos preguntas más determinarán cuánto cambian estas decisiones. La primera es si Meta adopta la pantalla intermedia y los criterios ampliados de «alto riesgo», o los estrecha en su respuesta. La segunda es si los datos de transparencia prometidos sobre el uso de etiquetas, incluidos los contenidos sobre políticos, aparecen realmente y son comparables a lo largo del tiempo.

Por ahora, lo significativo es la dirección. Un órgano que Meta creó para arbitrar sus decisiones más difíciles ha dicho a la empresa que sus normas sobre deepfakes van por detrás de la tecnología que deben regular, y ha pedido cambios que van mucho más allá de los dos vídeos en cuestión. Los dictámenes recibieron cobertura de medios como TechXplore junto con las propias publicaciones del consejo.

El logotipo del Oversight Board (dominio público vía Wikimedia Commons) sobre un fondo original de TechPastWeek.