Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
Descubrir
Enviar
  • Bienvenido a la AIID
  • Descubrir Incidentes
  • Vista espacial
  • Vista Tabular
  • Vista de lista
  • Entidades
  • Taxonomías
  • Enviar Informes de Incidentes
  • Ranking de Reportadores
  • Blog
  • Resumen de noticias de IA
  • Control de Riesgos
  • Incidente aleatorio
  • Registrarse
Colapsar
Descubrir
Enviar
  • Bienvenido a la AIID
  • Descubrir Incidentes
  • Vista espacial
  • Vista Tabular
  • Vista de lista
  • Entidades
  • Taxonomías
  • Enviar Informes de Incidentes
  • Ranking de Reportadores
  • Blog
  • Resumen de noticias de IA
  • Control de Riesgos
  • Incidente aleatorio
  • Registrarse
Colapsar

Incidente 799: Aledo High School Student Allegedly Generates and Distributes Deepfake Nudes of Seven Female Classmates

Descripción: In October 2023, an unnamed male student at Aledo High School outside of Fort Worth, Texas allegedly generated and distributed deepfake nude pictures of classmate Elliston Berry and six other female students in her friend group via social media. Berry's mother, Anna McAdams, spoke with Senators Ted Cruz and Amy Klobuchar, who consequently drafted the Tools to Address Known Exploitation by Immobilizing Technological Deepfakes on Websites and Networks (or TAKE IT DOWN) Act.
Editor Notes: Note on the timeline: 10/15/2023 is an approximate date for the incident. According to reports, it occurred sometime in October 2023. Reporting on the incident did not emerge until mid-June 2024. Refer to Incident 597 for another case with similar timing and a shared focus on advancing advocacy against the misuse of deepfake technology for nonconsensual abuse.

Herramientas

Nuevo InformeNuevo InformeNueva RespuestaNueva RespuestaDescubrirDescubrirVer HistorialVer Historial

Entidades

Ver todas las entidades
Alleged: Unknown deepfake technology developer developed an AI system deployed by Unnamed male student, which harmed Elliston Berry y Aledo High School students.
Sistema de IA presuntamente implicado: Unknown deepfake app

Estadísticas de incidentes

ID
799
Cantidad de informes
24
Fecha del Incidente
2023-10-15
Editores
Applied Taxonomies
MIT

Clasificaciones de la Taxonomía MIT

Machine-Classified
Detalles de la Taxonomía

Risk Subdomain

A further 23 subdomains create an accessible and understandable classification of hazards and harms associated with AI
 

4.3. Fraud, scams, and targeted manipulation

Risk Domain

The Domain Taxonomy of AI Risks classifies risks into seven AI risk domains: (1) Discrimination & toxicity, (2) Privacy & security, (3) Misinformation, (4) Malicious actors & misuse, (5) Human-computer interaction, (6) Socioeconomic & environmental harms, and (7) AI system safety, failures & limitations.
 
  1. Malicious Actors & Misuse

Entity

Which, if any, entity is presented as the main cause of the risk
 

Human

Timing

The stage in the AI lifecycle at which the risk is presented as occurring
 

Post-deployment

Intent

Whether the risk is presented as occurring as an expected or unexpected outcome from pursuing a goal
 

Intentional

Informes del Incidente

Cronología de Informes

Incident OccurrenceUna madre del norte de Texas comparte una historia de terror sobre un 'deepfake' mientras los legisladores buscan cerrar una laguna legal+12
“Me sentí avergonzada y temerosa”: una adolescente que vio desnudos falsos de sí misma creados por una IA habla al respecto
“Tenía mucho miedo”: los padres se enfrentan a las grandes tecnológicas por los desnudos realizados con inteligencia artificialEl auge de los deepfakes: adolescentes expuestos a pornografía generada por inteligencia artificial+5
Esta nueva legislación daría a todos el derecho a eliminar las deepfakes, dice el senador Ted Cruz
+1
El senador Cruz y Elliston Berry, víctima de un deepfake, instan a la Cámara de Representantes a aprobar una ley que penalice las imágenes explícitas generadas por inteligencia artificial
Una madre del norte de Texas comparte una historia de terror sobre un 'deepfake' mientras los legisladores buscan cerrar una laguna legal

Una madre del norte de Texas comparte una historia de terror sobre un 'deepfake' mientras los legisladores buscan cerrar una laguna legal

fox4news.com

“Me sentí avergonzada y temerosa”: una adolescente que vio desnudos falsos de sí misma creados por una IA habla al respecto

“Me sentí avergonzada y temerosa”: una adolescente que vio desnudos falsos de sí misma creados por una IA habla al respecto

wsj.com

Una víctima de ciberexplotación de inteligencia artificial de 14 años habla sobre su humillante experiencia en las redes sociales

Una víctima de ciberexplotación de inteligencia artificial de 14 años habla sobre su humillante experiencia en las redes sociales

foxbusiness.com

El senador Cruz lucha por las víctimas de la pornografía vengativa

El senador Cruz lucha por las víctimas de la pornografía vengativa

foxnews.com

El senador Ted Cruz habla sobre el 'patrón enfermizo y retorcido' de los esquemas de explotación cibernética de la IA

El senador Ted Cruz habla sobre el 'patrón enfermizo y retorcido' de los esquemas de explotación cibernética de la IA

foxbusiness.com

Adolescente del norte de Texas es víctima de deepfake y pide una ley federal

Adolescente del norte de Texas es víctima de deepfake y pide una ley federal

spectrumlocalnews.com

Adolescente dice que los “deepfakes” de un compañero de clase convirtieron sus fotos en desnudos

Adolescente dice que los “deepfakes” de un compañero de clase convirtieron sus fotos en desnudos

wtop.com

Sus compañeros de clase hicieron desnudos falsos de ella. Un nuevo proyecto de ley federal responsabilizaría a las empresas de redes sociales

Sus compañeros de clase hicieron desnudos falsos de ella. Un nuevo proyecto de ley federal responsabilizaría a las empresas de redes sociales

cnn.com

Una niña del norte de Texas que fue víctima de fotos falsas de desnudos presiona para que se apruebe una ley federal

Una niña del norte de Texas que fue víctima de fotos falsas de desnudos presiona para que se apruebe una ley federal

wfaa.com

“Ya no quiero vivir con miedo”: niña del norte de Texas víctima de desnudos falsos presiona por una ley federal

“Ya no quiero vivir con miedo”: niña del norte de Texas víctima de desnudos falsos presiona por una ley federal

wfaa.com

Una niña de 15 años habla después de que un compañero de clase hiciera fotos falsas de ella desnuda y las publicara en línea

Una niña de 15 años habla después de que un compañero de clase hiciera fotos falsas de ella desnuda y las publicara en línea

independent.co.uk

El senador Ted Cruz propone una nueva legislación tras la historia de terror sobre la inteligencia artificial "deepfake" de una niña del norte de Texas

El senador Ted Cruz propone una nueva legislación tras la historia de terror sobre la inteligencia artificial "deepfake" de una niña del norte de Texas

fox4news.com

Impulso bipartidista para eliminar y prohibir la pornografía deepfake generada por inteligencia artificial

Impulso bipartidista para eliminar y prohibir la pornografía deepfake generada por inteligencia artificial

foxnews.com

Adolescente de Texas trabaja para proteger a víctimas de pornografía real e inteligencia artificial no consentida

Adolescente de Texas trabaja para proteger a víctimas de pornografía real e inteligencia artificial no consentida

wfaa.com

“Tenía mucho miedo”: los padres se enfrentan a las grandes tecnológicas por los desnudos realizados con inteligencia artificial

“Tenía mucho miedo”: los padres se enfrentan a las grandes tecnológicas por los desnudos realizados con inteligencia artificial

thetimes.com

El auge de los deepfakes: adolescentes expuestos a pornografía generada por inteligencia artificial

El auge de los deepfakes: adolescentes expuestos a pornografía generada por inteligencia artificial

highschool.latimes.com

Esta nueva legislación daría a todos el derecho a eliminar las deepfakes, dice el senador Ted Cruz

Esta nueva legislación daría a todos el derecho a eliminar las deepfakes, dice el senador Ted Cruz

foxnews.com

El senador Cruz a Newsmax: el proyecto de ley es vital para impedir la pornografía deepfake

El senador Cruz a Newsmax: el proyecto de ley es vital para impedir la pornografía deepfake

newsmax.com

El senador Ted Cruz y un estudiante de secundaria de Texas instan a la Cámara de Representantes de EE. UU. a aprobar un proyecto de ley del Senado que prohíba la pornografía deepfake

El senador Ted Cruz y un estudiante de secundaria de Texas instan a la Cámara de Representantes de EE. UU. a aprobar un proyecto de ley del Senado que prohíba la pornografía deepfake

statesman.com

Una adolescente víctima de pornografía deepfake trabaja con senadores para aprobar un proyecto de ley contra el crimen con inteligencia artificial

Una adolescente víctima de pornografía deepfake trabaja con senadores para aprobar un proyecto de ley contra el crimen con inteligencia artificial

foxnews.com

Los defensores piden la aprobación de un proyecto de ley para ilegalizar la pornografía deepfake generada por inteligencia artificial

Los defensores piden la aprobación de un proyecto de ley para ilegalizar la pornografía deepfake generada por inteligencia artificial

wwnytv.com

Una adolescente víctima de pornografía deepfake advierte que la generación futura está "en riesgo" si fracasa el proyecto de ley contra el crimen con inteligencia artificial

Una adolescente víctima de pornografía deepfake advierte que la generación futura está "en riesgo" si fracasa el proyecto de ley contra el crimen con inteligencia artificial

foxnews.com

El senador Cruz y Elliston Berry, víctima de un deepfake, instan a la Cámara de Representantes a aprobar una ley que penalice las imágenes explícitas generadas por inteligencia artificial

El senador Cruz y Elliston Berry, víctima de un deepfake, instan a la Cámara de Representantes a aprobar una ley que penalice las imágenes explícitas generadas por inteligencia artificial

texasinsider.org

Una adolescente víctima de "pornografía deepfake" generada por inteligencia artificial insta al Congreso a aprobar la "Ley de eliminación"

Una adolescente víctima de "pornografía deepfake" generada por inteligencia artificial insta al Congreso a aprobar la "Ley de eliminación"

cbsnews.com

Una madre del norte de Texas comparte una historia de terror sobre un 'deepfake' mientras los legisladores buscan cerrar una laguna legal
fox4news.com · 2024
Traducido por IA

AUSTIN, Texas - Los legisladores estatales están tratando de mantenerse a la vanguardia de los depredadores de menores y los acosadores cibernéticos que utilizan inteligencia artificial.

Eso significa cerrar las lagunas en la ley estatal do…

“Me sentí avergonzada y temerosa”: una adolescente que vio desnudos falsos de sí misma creados por una IA habla al respecto
wsj.com · 2024
Traducido por IA

Elliston Berry se despertó un lunes por la mañana en octubre pasado con algunos mensajes de texto alarmantes. Sus amigos le preguntaban si había visto fotos de ella desnuda que circulaban entre los estudiantes de su escuela secundaria de Te…

Una víctima de ciberexplotación de inteligencia artificial de 14 años habla sobre su humillante experiencia en las redes sociales
foxbusiness.com · 2024
Traducido por IA

Un siniestro plan de explotación cibernética puso patas arriba la vida de Elliston Berry, una adolescente de 14 años de Texas, el pasado mes de octubre, después de que una mañana descubriera imágenes falsas de ella misma desnuda circulando …

El senador Cruz lucha por las víctimas de la pornografía vengativa
foxnews.com · 2024
Traducido por IA

Consulte la fuente original del informe en video.

Elliston Berry, víctima de pornografía vengativa deepfake, y su madre, Anna McAdams, hablan sobre cómo las imágenes explícitas de inteligencia artificial se dirigen a las mujeres jóvenes. El…

El senador Ted Cruz habla sobre el 'patrón enfermizo y retorcido' de los esquemas de explotación cibernética de la IA
foxbusiness.com · 2024
Traducido por IA

Consulte la fuente original del informe en video.

El senador Ted Cruz, republicano por Texas, Elliston Berry, víctima de explotación cibernética mediante inteligencia artificial, y su madre, Anna McAdams, hablan sobre los peligros de la int…

Adolescente del norte de Texas es víctima de deepfake y pide una ley federal
spectrumlocalnews.com · 2024
Traducido por IA

WASHINGTON — En el Capitolio, una madre del norte de Texas y su hija de 15 años presionaron a favor de una legislación que proteja contra la pornografía de venganza deepfake, que son imágenes sexualmente explícitas creadas por inteligencia …

Adolescente dice que los “deepfakes” de un compañero de clase convirtieron sus fotos en desnudos
wtop.com · 2024
Traducido por IA

Se ha presentado un proyecto de ley bipartidista en el Senado de Estados Unidos para abordar el tipo de situación terrible que experimentó una chica de secundaria de Texas cuando dijo que un compañero de estudios creó imágenes deepfake de a…

Sus compañeros de clase hicieron desnudos falsos de ella. Un nuevo proyecto de ley federal responsabilizaría a las empresas de redes sociales
cnn.com · 2024
Traducido por IA

Consulte la fuente original del informe en video.

Una adolescente de Texas fue víctima de pornografía artificial después de que un compañero de clase le hiciera fotos falsas de ella desnuda y las compartiera en las redes sociales. Ahora, el…

Una niña del norte de Texas que fue víctima de fotos falsas de desnudos presiona para que se apruebe una ley federal
wfaa.com · 2024
Traducido por IA

Consulte la fuente original del informe en video.

Elliston Berry, de Aledo, tenía 14 años cuando un compañero de clase creó imágenes pornográficas falsas de ella que se difundieron en las redes sociales. Ella está presionando para que se ap…

“Ya no quiero vivir con miedo”: niña del norte de Texas víctima de desnudos falsos presiona por una ley federal
wfaa.com · 2024
Traducido por IA

DALLAS --- Elliston Berry, que está cursando su segundo año en la escuela secundaria Aledo, se está recuperando de lo que le sucedió el año pasado.

En octubre de 2023, una estudiante tomó sus fotos de Instagram y las introdujo en una inteli…

Una niña de 15 años habla después de que un compañero de clase hiciera fotos falsas de ella desnuda y las publicara en línea
independent.co.uk · 2024
Traducido por IA

El pasado mes de octubre, Elliston Berry, de 14 años, se despertó con una pesadilla.

El teléfono de la adolescente se llenó de llamadas y mensajes de texto que le decían que alguien había compartido imágenes falsas de ella desnuda en Snapch…

El senador Ted Cruz propone una nueva legislación tras la historia de terror sobre la inteligencia artificial "deepfake" de una niña del norte de Texas
fox4news.com · 2024
Traducido por IA

DALLAS - La inteligencia artificial abrió las compuertas para la creación de imágenes pornográficas falsas realizadas sin consentimiento.

Un comité del Senado de Estados Unidos celebró una audiencia el miércoles en Dallas para abordar el cr…

Impulso bipartidista para eliminar y prohibir la pornografía deepfake generada por inteligencia artificial
foxnews.com · 2024
Traducido por IA

Consulte la fuente original del informe en video.

Elliston Berry y Francesca Mani, víctimas de pornografía deepfake creada con inteligencia artificial, hablan sobre cómo fueron víctimas de imágenes falsas que circularon en línea y cómo esto…

Adolescente de Texas trabaja para proteger a víctimas de pornografía real e inteligencia artificial no consentida
wfaa.com · 2024
Traducido por IA

Consulte la fuente original para ver el informe del video incrustado.

Elliston Berry tenía 14 años cuando un compañero de clase creó imágenes pornográficas falsas de ella que se difundieron en las redes sociales. Berry y su madre hablan sob…

“Tenía mucho miedo”: los padres se enfrentan a las grandes tecnológicas por los desnudos realizados con inteligencia artificial
thetimes.com · 2024
Traducido por IA

La inteligencia artificial no era algo en lo que Elliston Berry estuviera pensando, más allá de una vaga comprensión de que los estudiantes no podían usarla para hacer trampa en los exámenes.

Acababa de comenzar su primer año en la escuela …

El auge de los deepfakes: adolescentes expuestos a pornografía generada por inteligencia artificial
highschool.latimes.com · 2024
Traducido por IA

En febrero, el departamento de policía de Beverly Hills investigó a los estudiantes de la escuela secundaria Beverly Vista por crear fotos falsas de desnudos de sus compañeros de clase. Los funcionarios de la escuela y del distrito expresar…

Esta nueva legislación daría a todos el derecho a eliminar las deepfakes, dice el senador Ted Cruz
foxnews.com · 2024
Traducido por IA

Consulte la fuente original del informe en video.

El senador Ted Cruz y Elliston Berry, una adolescente víctima de pornografía deepfake, hablan sobre el aumento del uso de inteligencia artificial para crear imágenes pornográficas de mujeres…

El senador Cruz a Newsmax: el proyecto de ley es vital para impedir la pornografía deepfake
newsmax.com · 2024
Traducido por IA

La pornografía deepfake está prosperando en la era de la inteligencia artificial, "y está mal", dijo el senador Ted Cruz, republicano por Texas, quien propuso un proyecto de ley para prohibir la publicación de pornografía deepfake no consen…

El senador Ted Cruz y un estudiante de secundaria de Texas instan a la Cámara de Representantes de EE. UU. a aprobar un proyecto de ley del Senado que prohíba la pornografía deepfake
statesman.com · 2024
Traducido por IA

En octubre de 2023, cuando Elliston Berry, estudiante de secundaria de Texas, tenía 14 años, un compañero de clase usó inteligencia artificial para convertir fotos inocentes de ella y sus amigos en pornografía "deepfake". Luego, compartió l…

Una adolescente víctima de pornografía deepfake trabaja con senadores para aprobar un proyecto de ley contra el crimen con inteligencia artificial
foxnews.com · 2024
Traducido por IA

Consulte la fuente original del informe en video.

El estudiante de secundaria Elliston Berry habla sobre la Take It Down Act, una medida que obligaría a las empresas de redes sociales a eliminar deepfakes gráficos, evitar que se publiquen y…

Los defensores piden la aprobación de un proyecto de ley para ilegalizar la pornografía deepfake generada por inteligencia artificial
wwnytv.com · 2024
Traducido por IA

WASHINGTON (Gray DC) - El miércoles, legisladores del Congreso y víctimas de explotación sexual presionaron para la aprobación de un proyecto de ley que penalizaría la publicación de pornografía deepfake no consensual.

“La legislación, la T…

Una adolescente víctima de pornografía deepfake advierte que la generación futura está "en riesgo" si fracasa el proyecto de ley contra el crimen con inteligencia artificial
foxnews.com · 2024
Traducido por IA

Los legisladores del Senado aprobaron por unanimidad la ley Take It Down, liderada por dos partidos, que obligaría a las empresas de redes sociales a eliminar rápidamente las falsificaciones sexuales explícitas (https://www.foxnews.com/medi…

El senador Cruz y Elliston Berry, víctima de un deepfake, instan a la Cámara de Representantes a aprobar una ley que penalice las imágenes explícitas generadas por inteligencia artificial
texasinsider.org · 2024
Traducido por IA

Texas Insider Report: WASHINGTON, D.C. – En caso de que te lo hayas perdido, el miembro de mayor rango del Comité de Comercio del Senado de EE. UU., Ted Cruz (R-Texas) y Elliston Berry, un estudiante de secundaria de 15 años de Aledo, Texas…

Una adolescente víctima de "pornografía deepfake" generada por inteligencia artificial insta al Congreso a aprobar la "Ley de eliminación"
cbsnews.com · 2024
Traducido por IA

Anna McAdams siempre ha seguido de cerca la vida en línea de su hija de 15 años, Elliston Berry. Por eso fue difícil aceptar lo que sucedió hace 15 meses, el lunes por la mañana después de la fiesta de bienvenida en Aledo, Texas.

Una compañ…

Variantes

Una "Variante" es un incidente que comparte los mismos factores causales, produce daños similares e involucra los mismos sistemas inteligentes que un incidente de IA conocido. En lugar de indexar las variantes como incidentes completamente separados, enumeramos las variaciones de los incidentes bajo el primer incidente similar enviado a la base de datos. A diferencia de otros tipos de envío a la base de datos de incidentes, no se requiere que las variantes tengan informes como evidencia externa a la base de datos de incidentes. Obtenga más información del trabajo de investigación.
en revisión
Fecha del Incidente:
2024-06-18
en revisión
Fecha del Incidente:
2024-12-11

Incidentes Similares

Selected by our editors
Female Students at Westfield High School in New Jersey Reportedly Targeted with Deepfake Nudes

Fake Nudes of Real Students Cause an Uproar at a New Jersey High School

Oct 2023 · 57 informes
Incidente AnteriorSiguiente Incidente

Incidentes Similares

Selected by our editors
Female Students at Westfield High School in New Jersey Reportedly Targeted with Deepfake Nudes

Fake Nudes of Real Students Cause an Uproar at a New Jersey High School

Oct 2023 · 57 informes

Investigación

  • Definición de un “Incidente de IA”
  • Definición de una “Respuesta a incidentes de IA”
  • Hoja de ruta de la base de datos
  • Trabajo relacionado
  • Descargar Base de Datos Completa

Proyecto y Comunidad

  • Acerca de
  • Contactar y Seguir
  • Aplicaciones y resúmenes
  • Guía del editor

Incidencias

  • Todos los incidentes en forma de lista
  • Incidentes marcados
  • Cola de envío
  • Vista de clasificaciones
  • Taxonomías

2023 - AI Incident Database

  • Condiciones de uso
  • Política de privacidad
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • 30ebe76