Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
Descubrir
Enviar
  • Bienvenido a la AIID
  • Descubrir Incidentes
  • Vista espacial
  • Vista Tabular
  • Vista de lista
  • Entidades
  • Taxonomías
  • Enviar Informes de Incidentes
  • Ranking de Reportadores
  • Blog
  • Resumen de noticias de IA
  • Control de Riesgos
  • Incidente aleatorio
  • Registrarse
Colapsar
Descubrir
Enviar
  • Bienvenido a la AIID
  • Descubrir Incidentes
  • Vista espacial
  • Vista Tabular
  • Vista de lista
  • Entidades
  • Taxonomías
  • Enviar Informes de Incidentes
  • Ranking de Reportadores
  • Blog
  • Resumen de noticias de IA
  • Control de Riesgos
  • Incidente aleatorio
  • Registrarse
Colapsar

Incidente 624: Child Sexual Abuse Material Taints Image Generators

Respondido
Descripción: The LAION-5B dataset (a commonly used dataset with more than 5 billion image-description pairs) was found by researchers to contain child sexual abuse material (CSAM), which increases the likelihood that downstream models will produce CSAM imagery. The discovery taints models built with the LAION dataset requiring many organizations to retrain those models. Additionally, LAION must now scrub the dataset of the imagery.

Herramientas

Nuevo InformeNuevo InformeNueva RespuestaNueva RespuestaDescubrirDescubrirVer HistorialVer Historial

Entidades

Ver todas las entidades
Alleged: LAION developed an AI system deployed by Various people y Various organizations, which harmed Various people , Various organizations , LAION , General public y Children.

Estadísticas de incidentes

ID
624
Cantidad de informes
18
Fecha del Incidente
2023-12-20
Editores
Applied Taxonomies
MIT

Clasificaciones de la Taxonomía MIT

Machine-Classified
Detalles de la Taxonomía

Risk Subdomain

A further 23 subdomains create an accessible and understandable classification of hazards and harms associated with AI
 

2.1. Compromise of privacy by obtaining, leaking or correctly inferring sensitive information

Risk Domain

The Domain Taxonomy of AI Risks classifies risks into seven AI risk domains: (1) Discrimination & toxicity, (2) Privacy & security, (3) Misinformation, (4) Malicious actors & misuse, (5) Human-computer interaction, (6) Socioeconomic & environmental harms, and (7) AI system safety, failures & limitations.
 
  1. Privacy & Security

Entity

Which, if any, entity is presented as the main cause of the risk
 

Human

Timing

The stage in the AI lifecycle at which the risk is presented as occurring
 

Pre-deployment

Intent

Whether the risk is presented as occurring as an expected or unexpected outcome from pursuing a goal
 

Unintentional

Informes del Incidente

Cronología de Informes

Revisión de seguridad para LAION 5B - Respuesta+13
Una investigación encuentra modelos de generación de imágenes de IA entrenados en abuso infantil
+1
LAION y los desafíos de prevenir el CSAM generado por IA
+1
¿Fue desmantelado un generador de imágenes con inteligencia artificial por producir pornografía infantil? - Respuesta
Revisión de seguridad para LAION 5B

Revisión de seguridad para LAION 5B

laion.ai

Una investigación encuentra modelos de generación de imágenes de IA entrenados en abuso infantil

Una investigación encuentra modelos de generación de imágenes de IA entrenados en abuso infantil

cyber.fsi.stanford.edu

Se descubrió que el conjunto de datos de entrenamiento de imágenes de IA incluye imágenes de abuso sexual infantil

Se descubrió que el conjunto de datos de entrenamiento de imágenes de IA incluye imágenes de abuso sexual infantil

theverge.com

Un estudio descubre la presencia de CSAM en un popular conjunto de datos de entrenamiento de IA

Un estudio descubre la presencia de CSAM en un popular conjunto de datos de entrenamiento de IA

theregister.com

El conjunto de datos más grande que impulsa imágenes de IA se elimina después del descubrimiento de material de abuso sexual infantil

El conjunto de datos más grande que impulsa imágenes de IA se elimina después del descubrimiento de material de abuso sexual infantil

404media.co

Un conjunto de datos de imágenes de IA gratuito, eliminado por imágenes de abuso sexual infantil, ha sido criticado antes

Un conjunto de datos de imágenes de IA gratuito, eliminado por imágenes de abuso sexual infantil, ha sido criticado antes

venturebeat.com

Los investigadores encontraron material de abuso infantil en el conjunto de datos de generación de imágenes de IA más grande

Los investigadores encontraron material de abuso infantil en el conjunto de datos de generación de imágenes de IA más grande

engadget.com

Stable Diffusion 1.5 recibió capacitación sobre material ilegal de abuso sexual infantil, según un estudio de Stanford

Stable Diffusion 1.5 recibió capacitación sobre material ilegal de abuso sexual infantil, según un estudio de Stanford

forbes.com

Los datos de entrenamiento de IA contienen imágenes de abuso sexual infantil, el descubrimiento apunta a LAION-5B

Los datos de entrenamiento de IA contienen imágenes de abuso sexual infantil, el descubrimiento apunta a LAION-5B

techtimes.com

Se encontró material de abuso sexual infantil en un importante conjunto de datos de inteligencia artificial. Los investigadores no se sorprenden.

Se encontró material de abuso sexual infantil en un importante conjunto de datos de inteligencia artificial. Los investigadores no se sorprenden.

vice.com

Un influyente conjunto de datos de IA contiene miles de imágenes sospechosas de abuso sexual infantil

Un influyente conjunto de datos de IA contiene miles de imágenes sospechosas de abuso sexual infantil

gizmodo.com

Se eliminó un gran conjunto de datos de entrenamiento de IA después de que un estudio encontrara material de abuso infantil

Se eliminó un gran conjunto de datos de entrenamiento de IA después de que un estudio encontrara material de abuso infantil

cointelegraph.com

Material de abuso encontrado en un conjunto de datos de acceso abierto

Material de abuso encontrado en un conjunto de datos de acceso abierto

cybernews.com

Error importante encontrado en el conjunto de datos de entrenamiento más grande de Stable Diffusion

Error importante encontrado en el conjunto de datos de entrenamiento más grande de Stable Diffusion

analyticsvidhya.com

LAION y los desafíos de prevenir el CSAM generado por IA

LAION y los desafíos de prevenir el CSAM generado por IA

techpolicy.press

LAION-5B, Difusión Estable 1.5 y el pecado original de la IA generativa

LAION-5B, Difusión Estable 1.5 y el pecado original de la IA generativa

techpolicy.press

¿Fue desmantelado un generador de imágenes con inteligencia artificial por producir pornografía infantil?

¿Fue desmantelado un generador de imágenes con inteligencia artificial por producir pornografía infantil?

spectrum.ieee.org

Investigadores afirman que se eliminaron imágenes de abuso infantil de la fuente de entrenamiento del generador de imágenes de IA

Investigadores afirman que se eliminaron imágenes de abuso infantil de la fuente de entrenamiento del generador de imágenes de IA

apnews.com

Revisión de seguridad para LAION 5B
laion.ai · 2023
Traducido por IA
Respuesta post-incidente de LAION.ai

En la prensa han aparecido noticias sobre los resultados de un proyecto de investigación de la Universidad de Stanford, según el cual el equipo de entrenamiento LAION 5B contiene contenidos potencialmente ilegales en forma de CSAM. Nos gust…

Una investigación encuentra modelos de generación de imágenes de IA entrenados en abuso infantil
cyber.fsi.stanford.edu · 2023
Traducido por IA

Una investigación del Stanford Internet Observatory (SIO) identificó cientos de imágenes conocidas de material de abuso sexual infantil (CSAM) en un conjunto de datos abiertos utilizado para entrenar modelos populares de generación de texto…

Se descubrió que el conjunto de datos de entrenamiento de imágenes de IA incluye imágenes de abuso sexual infantil
theverge.com · 2023
Traducido por IA

Un conjunto de datos de entrenamiento popular para la generación de imágenes de IA contenía enlaces a imágenes de abuso infantil, [encontrado por el Observatorio de Internet de Stanford](https://cyber.fsi.stanford.edu/news/investigation-fin…

Un estudio descubre la presencia de CSAM en un popular conjunto de datos de entrenamiento de IA
theregister.com · 2023
Traducido por IA

Se ha descubierto que un enorme conjunto de datos públicos que sirvió como datos de entrenamiento para varios generadores de imágenes de IA contiene miles de casos de material de abuso sexual infantil (CSAM).

En un estudio publicado hoy, el…

El conjunto de datos más grande que impulsa imágenes de IA se elimina después del descubrimiento de material de abuso sexual infantil
404media.co · 2023
Traducido por IA

*Este artículo se publica con el apoyo de The Capitol Forum. * La organización que lo creó eliminó el conjunto de datos de aprendizaje automático LAION-5B utilizado por Stable Diffusion y otros productos importantes de IA después de que un …

Un conjunto de datos de imágenes de IA gratuito, eliminado por imágenes de abuso sexual infantil, ha sido criticado antes
venturebeat.com · 2023
Traducido por IA

Un enorme conjunto de datos de IA de código abierto, LAION-5B, que se ha utilizado para entrenar generadores de texto a imágenes de IA populares como Stable Diffusion 1.5 e Imagen de Google, contiene al menos 1008 casos de material de abuso…

Los investigadores encontraron material de abuso infantil en el conjunto de datos de generación de imágenes de IA más grande
engadget.com · 2023
Traducido por IA

Investigadores del Observatorio de Internet de Stanford dicen que un conjunto de datos utilizado para entrenar herramientas de generación de imágenes de IA contiene al menos 1.008 casos validados de material de abuso sexual infantil. Los in…

Stable Diffusion 1.5 recibió capacitación sobre material ilegal de abuso sexual infantil, según un estudio de Stanford
forbes.com · 2023
Traducido por IA

Stable Diffusion, una de las herramientas de IA generativa de conversión de texto a imagen más populares del mercado de [la startup Stability AI de mil millones de dólares](https://www.forbes.com/sites/kenrickcai/2023/06/04/stable -diffusio…

Los datos de entrenamiento de IA contienen imágenes de abuso sexual infantil, el descubrimiento apunta a LAION-5B
techtimes.com · 2023
Traducido por IA

Ha habido problemas importantes con los datos de entrenamiento de AI, con varias quejas ya presentadas por quienes afirmaron que su trabajo fue robado, pero el descubrimiento más reciente vio imágenes de abuso sexual infantil en su conjunto…

Se encontró material de abuso sexual infantil en un importante conjunto de datos de inteligencia artificial. Los investigadores no se sorprenden.
vice.com · 2023
Traducido por IA

Se han descubierto más de 1.000 imágenes de niños abusados sexualmente dentro del conjunto de datos más grande utilizado para entrenar IA generadora de imágenes, sorprendiendo a todos, excepto a las personas que han advertido sobre este tip…

Un influyente conjunto de datos de IA contiene miles de imágenes sospechosas de abuso sexual infantil
gizmodo.com · 2023
Traducido por IA

Un influyente conjunto de datos de aprendizaje automático, como el que se ha utilizado para entrenar numerosas aplicaciones populares de generación de imágenes, incluye miles de imágenes sospechosas de abuso sexual infantil, revela un nuevo…

Se eliminó un gran conjunto de datos de entrenamiento de IA después de que un estudio encontrara material de abuso infantil
cointelegraph.com · 2023
Traducido por IA

Su creador eliminó un conjunto de datos de inteligencia artificial ampliamente utilizado para entrenar Stable Diffusion, Imagen y otros modelos de generación de imágenes de IA después de que un estudio encontró que contenía miles de instanc…

Material de abuso encontrado en un conjunto de datos de acceso abierto
cybernews.com · 2023
Traducido por IA

Se ha localizado material de abuso sexual infantil (CSAM) en LAION, un importante conjunto de datos utilizado para entrenar la IA.

El Observatorio de Internet de Stanford reveló miles de imágenes de abuso sexual infantil en el conjunto de d…

Error importante encontrado en el conjunto de datos de entrenamiento más grande de Stable Diffusion
analyticsvidhya.com · 2023
Traducido por IA

La integridad de un importante conjunto de datos de entrenamiento de imágenes de IA, LAION-5B, utilizado por modelos de IA influyentes como Stable Diffusion, se ha visto comprometida después del descubrimiento de miles de enlaces a material…

LAION y los desafíos de prevenir el CSAM generado por IA
techpolicy.press · 2024
Traducido por IA

La IA generativa se ha democratizado. Los kits de herramientas para descargar, configurar, usar y ajustar una variedad de modelos se han convertido en marcos de un clic para que los use cualquier persona con una computadora portátil. Si bie…

LAION-5B, Difusión Estable 1.5 y el pecado original de la IA generativa
techpolicy.press · 2024
Traducido por IA

En Los que se alejan de Omelas, la escritora de ficción Ursula K. Le Guin describe una ciudad fantástica donde el avance tecnológico ha asegurado una vida de abundancia para todos los que viven allí. Escondido debajo de la ciudad, donde nad…

¿Fue desmantelado un generador de imágenes con inteligencia artificial por producir pornografía infantil?
spectrum.ieee.org · 2024
Traducido por IA
Respuesta post-incidente de David Evan Harris, Dave Willner

¿Por qué las empresas de IA están valoradas en millones y miles de millones de dólares creando y distribuyendo herramientas que pueden generar material de abuso sexual infantil (CSAM) generado por IA?

Un generador de imágenes llamado Stable…

Investigadores afirman que se eliminaron imágenes de abuso infantil de la fuente de entrenamiento del generador de imágenes de IA
apnews.com · 2024
Traducido por IA

Los investigadores de inteligencia artificial dijeron el viernes que han eliminado más de 2.000 enlaces web a imágenes sospechosas de abuso sexual infantil de un conjunto de datos utilizado para entrenar herramientas populares de generación…

Variantes

Una "Variante" es un incidente que comparte los mismos factores causales, produce daños similares e involucra los mismos sistemas inteligentes que un incidente de IA conocido. En lugar de indexar las variantes como incidentes completamente separados, enumeramos las variaciones de los incidentes bajo el primer incidente similar enviado a la base de datos. A diferencia de otros tipos de envío a la base de datos de incidentes, no se requiere que las variantes tengan informes como evidencia externa a la base de datos de incidentes. Obtenga más información del trabajo de investigación.

Incidentes Similares

Por similitud de texto

Did our AI mess up? Flag the unrelated incidents

DALL-E 2 Reported for Gender and Racially Biased Outputs

A new AI draws delightful and not-so-delightful images

Apr 2022 · 3 informes
Sexist and Racist Google Adsense Advertisements

Discrimination in Online Ad Delivery

Jan 2013 · 27 informes
Facebook’s Political Ad Detection Reportedly Showed High and Geographically Uneven Error Rates

An Audit of Facebook’s Political Ad Policy Enforcement

Jul 2020 · 5 informes
Incidente AnteriorSiguiente Incidente

Incidentes Similares

Por similitud de texto

Did our AI mess up? Flag the unrelated incidents

DALL-E 2 Reported for Gender and Racially Biased Outputs

A new AI draws delightful and not-so-delightful images

Apr 2022 · 3 informes
Sexist and Racist Google Adsense Advertisements

Discrimination in Online Ad Delivery

Jan 2013 · 27 informes
Facebook’s Political Ad Detection Reportedly Showed High and Geographically Uneven Error Rates

An Audit of Facebook’s Political Ad Policy Enforcement

Jul 2020 · 5 informes

Investigación

  • Definición de un “Incidente de IA”
  • Definición de una “Respuesta a incidentes de IA”
  • Hoja de ruta de la base de datos
  • Trabajo relacionado
  • Descargar Base de Datos Completa

Proyecto y Comunidad

  • Acerca de
  • Contactar y Seguir
  • Aplicaciones y resúmenes
  • Guía del editor

Incidencias

  • Todos los incidentes en forma de lista
  • Incidentes marcados
  • Cola de envío
  • Vista de clasificaciones
  • Taxonomías

2023 - AI Incident Database

  • Condiciones de uso
  • Política de privacidad
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • 30ebe76