Incident 651: Students at a Beverly Hills Middle School Allegedly Created and Shared Deepfake Nudes of Their Classmates

Description: At Beverly Vista Middle School in Beverly Hills, California, students allegedly used AI to generate fake nude photos with their classmates' faces, prompting investigations by school officials and the police. The incident highlights the increasing misuse of generative AI among minors.

Outils

Nouveau rapportNouveau rapportNouvelle RéponseNouvelle RéponseDécouvrirDécouvrirVoir l'historiqueVoir l'historique

Entités

Voir toutes les entités
Alleged: Unknown deepfake creator developed an AI system deployed by , which harmed Unnamed middle school students.

Statistiques d'incidents

ID
651
Nombre de rapports
3
Date de l'incident
2023-12-06
Editeurs
Applied Taxonomies
MIT

Classifications de taxonomie MIT

Machine-Classified
Détails de la taxonomie

Risk Subdomain

4.3. Fraud, scams, and targeted manipulation

Risk Domain

  1. Malicious Actors & Misuse

Entity

Human

Timing

Post-deployment

Intent

Intentional

translated-fr-A Beverly Hills middle school is investigating AI-made nude photos of students
nbcnews.com · 2024
Traduit par IA

translated-fr-Students at a middle school in Beverly Hills, California, used artificial intelligence technology to create fake nude photos of their classmates, according to school administrators. Now, the community is grappling with the fal…

translated-fr-A.I. Is Making the Sexual Exploitation of Girls Even Worse
nytimes.com · 2024
Traduit par IA

translated-fr-On Tuesday, Kat Tenbarge and Liz Kreutz of NBC News reported that several middle schoolers in Beverly Hills, Calif., were caught making and distributing fake naked photos of their peers: "School officials at Beverly Vista Midd…

L'essor des deepfakes : des adolescents victimes de pornographie générée par l'IA
highschool.latimes.com · 2024
Traduit par IA

Ce rapport contient plus de détails concernant l'incident 799, mais commence par faire également référence à cet incident.

En février, des élèves de la Beverly Vista Middle School ont fait l'objet d'une enquête de la part du département de …

Variantes

Une "Variante" est un incident qui partage les mêmes facteurs de causalité, produit des dommages similaires et implique les mêmes systèmes intelligents qu'un incident d'IA connu. Plutôt que d'indexer les variantes comme des incidents entièrement distincts, nous listons les variations d'incidents sous le premier incident similaire soumis à la base de données. Contrairement aux autres types de soumission à la base de données des incidents, les variantes ne sont pas tenues d'avoir des rapports en preuve externes à la base de données des incidents. En savoir plus sur le document de recherche.

Incidents similaires

Selected by our editors

A 15-year-old’s prom picture was altered into AI-created nudes

· 5 rapports
Par similarité textuelle

Did our AI mess up? Flag the unrelated incidents

Fake LinkedIn Profiles Created Using GAN Photos

That smiling LinkedIn profile face might be a computer-generated fake

· 4 rapports
Google’s YouTube Kids App Presents Inappropriate Content

Google’s YouTube Kids App Criticized for ‘Inappropriate Content’

· 14 rapports
Warehouse robot ruptures can of bear spray and injures workers

24 Amazon workers sent to hospital after robot accidentally unleashes bear spray

· 17 rapports
Incident précédentProchain incident