Incidente 957: Un supuesto fallo en el algoritmo de Instagram inunda los feeds de Reels de los usuarios con contenido violento y gráfico.
Descripción: Un supuesto fallo del algoritmo de Instagram provocó que los feeds de Reels de los usuarios se vieran inundados de contenido violento y angustiante. Muchos reportaron haber visto muertes, brutalidad extrema y otro material gráfico en rápida sucesión, a menudo sin haber interactuado previamente con contenido similar. La repentina exposición causó angustia psicológica a muchos usuarios, especialmente a menores y personas vulnerables. Meta confirmó que se trató de un fallo de la IA y se disculpó.
Herramientas
Nuevo InformeNueva RespuestaDescubrirVer Historial
El Monitor de Incidentes y Riesgos de IA de la OCDE (AIM) recopila y clasifica automáticamente incidentes y riesgos relacionados con la IA en tiempo real a partir de fuentes de noticias reputadas en todo el mundo.
Entidades
Ver todas las entidadesPresunto: un sistema de IA desarrollado e implementado por Meta , Instagram Reels y Instagram recommendation algorithm, perjudicó a minors , Meta users y Instagram users.
Sistemas de IA presuntamente implicados: Instagram Reels y Instagram recommendation algorithm
Estadísticas de incidentes
ID
957
Cantidad de informes
1
Fecha del Incidente
2025-02-28
Editores
Dummy Dummy
Informes del Incidente
Cronología de Informes
Loading...
Meta, de Mark Zuckerberg, se disculpó después de que los usuarios de Instagram fueran sometidos a una avalancha de violencia, sangre, maltrato animal y cadáveres en sus feeds de Reels.
Los usuarios denunciaron las imágenes después de un apa…
Variantes
Una "Variante" es un incidente de IA similar a un caso conocido—tiene los mismos causantes, daños y sistema de IA. En lugar de enumerarlo por separado, lo agrupamos bajo el primer incidente informado. A diferencia de otros incidentes, las variantes no necesitan haber sido informadas fuera de la AIID. Obtenga más información del trabajo de investigación.
¿Has visto algo similar?
