Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
Descubrir
Enviar
  • Bienvenido a la AIID
  • Descubrir Incidentes
  • Vista espacial
  • Vista Tabular
  • Vista de lista
  • Entidades
  • Taxonomías
  • Enviar Informes de Incidentes
  • Ranking de Reportadores
  • Blog
  • Resumen de noticias de IA
  • Control de Riesgos
  • Incidente aleatorio
  • Registrarse
Colapsar
Descubrir
Enviar
  • Bienvenido a la AIID
  • Descubrir Incidentes
  • Vista espacial
  • Vista Tabular
  • Vista de lista
  • Entidades
  • Taxonomías
  • Enviar Informes de Incidentes
  • Ranking de Reportadores
  • Blog
  • Resumen de noticias de IA
  • Control de Riesgos
  • Incidente aleatorio
  • Registrarse
Colapsar
Entidades

Women depicted in deepfake pornography

Afectado por Incidentes

Incidente 10042 Reportes
San Francisco City Attorney Sues Operators of AI Deepfake Pornography Websites for Violations of State and Federal Law

2024-08-15

In August 2024, the San Francisco City Attorney’s Office filed a first-of-its-kind lawsuit against 16 websites accused of using generative AI to create and distribute nonconsensual pornographic deepfakes, including images of minors. The sites, which had over 200 million visits in six months, invited users to upload real images to generate explicit fakes. By March 2025, 11 of the targeted websites had shut down following legal pressure.

Más

Entidades relacionadas
Otras entidades que están relacionadas con el mismo incidente. Por ejemplo, si el desarrollador de un incidente es esta entidad pero el implementador es otra entidad, se marcan como entidades relacionadas.
 

Entity

Operators of 16 deepfake pornography websites

Incidents involved as Deployer
  • Incidente 1004
    2 Report

    San Francisco City Attorney Sues Operators of AI Deepfake Pornography Websites for Violations of State and Federal Law

Más
Entity

Unknown deepfake technology developers

Incidents involved as Developer
  • Incidente 1004
    2 Report

    San Francisco City Attorney Sues Operators of AI Deepfake Pornography Websites for Violations of State and Federal Law

Más
Entity

Minors depicted in deepfake pornography

Afectado por Incidentes
  • Incidente 1004
    2 Report

    San Francisco City Attorney Sues Operators of AI Deepfake Pornography Websites for Violations of State and Federal Law

Más
Entity

Unknown deepfake apps

Incidents implicated systems
  • Incidente 1004
    2 Report

    San Francisco City Attorney Sues Operators of AI Deepfake Pornography Websites for Violations of State and Federal Law

Más
Entity

Unknown generative AI tools

Incidents implicated systems
  • Incidente 1004
    2 Report

    San Francisco City Attorney Sues Operators of AI Deepfake Pornography Websites for Violations of State and Federal Law

Más

Investigación

  • Definición de un “Incidente de IA”
  • Definición de una “Respuesta a incidentes de IA”
  • Hoja de ruta de la base de datos
  • Trabajo relacionado
  • Descargar Base de Datos Completa

Proyecto y Comunidad

  • Acerca de
  • Contactar y Seguir
  • Aplicaciones y resúmenes
  • Guía del editor

Incidencias

  • Todos los incidentes en forma de lista
  • Incidentes marcados
  • Cola de envío
  • Vista de clasificaciones
  • Taxonomías

2023 - AI Incident Database

  • Condiciones de uso
  • Política de privacidad
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • f28fa7c