Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
Découvrir
Envoyer
  • Bienvenue sur AIID
  • Découvrir les incidents
  • Vue spatiale
  • Vue de tableau
  • Vue de liste
  • Entités
  • Taxonomies
  • Soumettre des rapports d'incident
  • Classement des reporters
  • Blog
  • Résumé de l’Actualité sur l’IA
  • Contrôle des risques
  • Incident au hasard
  • S'inscrire
Fermer
Découvrir
Envoyer
  • Bienvenue sur AIID
  • Découvrir les incidents
  • Vue spatiale
  • Vue de tableau
  • Vue de liste
  • Entités
  • Taxonomies
  • Soumettre des rapports d'incident
  • Classement des reporters
  • Blog
  • Résumé de l’Actualité sur l’IA
  • Contrôle des risques
  • Incident au hasard
  • S'inscrire
Fermer

Incident 286: TikTok’s "For You" Allegedly Pushed Fatal “Blackout” Challenge Videos to Two Young Girls

Description: TikTok’s recommendation algorithm was alleged in a lawsuit to have intentionally and repeatedly pushed videos of the “blackout” challenge onto children’s feeds, incentivizing their participation which ultimately resulted in the death of two young girls.

Outils

Nouveau rapportNouveau rapportNouvelle RéponseNouvelle RéponseDécouvrirDécouvrirVoir l'historiqueVoir l'historique

Entités

Voir toutes les entités
Présumé : Un système d'IA développé et mis en œuvre par TikTok, a endommagé Lalani Erika Renee Walton , Arriani Jaileen Arroyo , Lalani Erika Renee Walton's family , Arriani Jaileen Arroyo's family , TikTok young users et TikTok users.

Statistiques d'incidents

ID
286
Nombre de rapports
3
Date de l'incident
2021-02-26
Editeurs
Khoa Lam
Applied Taxonomies
GMF, MIT

Classifications de taxonomie MIT

Machine-Classified
Détails de la taxonomie

Risk Subdomain

A further 23 subdomains create an accessible and understandable classification of hazards and harms associated with AI
 

1.2. Exposure to toxic content

Risk Domain

The Domain Taxonomy of AI Risks classifies risks into seven AI risk domains: (1) Discrimination & toxicity, (2) Privacy & security, (3) Misinformation, (4) Malicious actors & misuse, (5) Human-computer interaction, (6) Socioeconomic & environmental harms, and (7) AI system safety, failures & limitations.
 
  1. Discrimination and Toxicity

Entity

Which, if any, entity is presented as the main cause of the risk
 

AI

Timing

The stage in the AI lifecycle at which the risk is presented as occurring
 

Post-deployment

Intent

Whether the risk is presented as occurring as an expected or unexpected outcome from pursuing a goal
 

Unintentional

Rapports d'incidents

Chronologie du rapport

Incident Occurrence+1
Des familles poursuivent TikTok après la mort de filles alors qu’elles tentaient un « défi de panne d’électricité »
L'étude sur l'automutilation de TikTok révèle "le cauchemar de tous les parents"
Des familles poursuivent TikTok après la mort de filles alors qu’elles tentaient un « défi de panne d’électricité »

Des familles poursuivent TikTok après la mort de filles alors qu’elles tentaient un « défi de panne d’électricité »

theguardian.com

Les parents poursuivent TikTok, disant que des enfants sont morts après avoir visionné le "Blackout Challenge"

Les parents poursuivent TikTok, disant que des enfants sont morts après avoir visionné le "Blackout Challenge"

nytimes.com

L'étude sur l'automutilation de TikTok révèle "le cauchemar de tous les parents"

L'étude sur l'automutilation de TikTok révèle "le cauchemar de tous les parents"

theguardian.com

Des familles poursuivent TikTok après la mort de filles alors qu’elles tentaient un « défi de panne d’électricité »
theguardian.com · 2022
Traduit par IA

Les familles de deux jeunes filles qui seraient décédées à la suite d'un défi viral TikTok ont poursuivi la plate-forme de médias sociaux, affirmant que ses algorithmes "dangereux" sont à blâmer pour la mort de leurs enfants.

Les parents de…

Les parents poursuivent TikTok, disant que des enfants sont morts après avoir visionné le "Blackout Challenge"
nytimes.com · 2022
Traduit par IA

Les parents de deux filles qui ont déclaré que leurs enfants étaient décédés à la suite d'un "défi de panne d'électricité" sur TikTok poursuivent l'entreprise, affirmant que son algorithme a intentionnellement servi aux enfants un contenu d…

L'étude sur l'automutilation de TikTok révèle "le cauchemar de tous les parents"
theguardian.com · 2022
Traduit par IA

L’algorithme de recommandation de TikTok pousse le contenu sur l’automutilation et les troubles de l’alimentation aux adolescents quelques minutes après qu’ils ont exprimé leur intérêt pour les sujets, selon la recherche.

Le Center for Coun…

Variantes

Une "Variante" est un incident qui partage les mêmes facteurs de causalité, produit des dommages similaires et implique les mêmes systèmes intelligents qu'un incident d'IA connu. Plutôt que d'indexer les variantes comme des incidents entièrement distincts, nous listons les variations d'incidents sous le premier incident similaire soumis à la base de données. Contrairement aux autres types de soumission à la base de données des incidents, les variantes ne sont pas tenues d'avoir des rapports en preuve externes à la base de données des incidents. En savoir plus sur le document de recherche.

Incidents similaires

Par similarité textuelle

Did our AI mess up? Flag the unrelated incidents

Is Pokémon Go racist? How the app may be redlining communities of color

Is Pokémon Go racist? How the app may be redlining communities of color

Mar 2016 · 8 rapports
Google’s YouTube Kids App Presents Inappropriate Content

Google’s YouTube Kids App Criticized for ‘Inappropriate Content’

May 2015 · 14 rapports
Amazon Alexa Responding to Environmental Inputs

Top 5 AI Failures From 2017 Which Prove That ‘Perfect AI’ Is Still A Dream

Dec 2015 · 35 rapports
Incident précédentProchain incident

Incidents similaires

Par similarité textuelle

Did our AI mess up? Flag the unrelated incidents

Is Pokémon Go racist? How the app may be redlining communities of color

Is Pokémon Go racist? How the app may be redlining communities of color

Mar 2016 · 8 rapports
Google’s YouTube Kids App Presents Inappropriate Content

Google’s YouTube Kids App Criticized for ‘Inappropriate Content’

May 2015 · 14 rapports
Amazon Alexa Responding to Environmental Inputs

Top 5 AI Failures From 2017 Which Prove That ‘Perfect AI’ Is Still A Dream

Dec 2015 · 35 rapports

Recherche

  • Définition d'un « incident d'IA »
  • Définir une « réponse aux incidents d'IA »
  • Feuille de route de la base de données
  • Travaux connexes
  • Télécharger la base de données complète

Projet et communauté

  • À propos de
  • Contacter et suivre
  • Applications et résumés
  • Guide de l'éditeur

Incidents

  • Tous les incidents sous forme de liste
  • Incidents signalés
  • File d'attente de soumission
  • Affichage des classifications
  • Taxonomies

2023 - AI Incident Database

  • Conditions d'utilisation
  • Politique de confidentialité
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • f28fa7c