Skip to Content
logologo
AI Incident Database
Faire un don
Découvrir
Envoyer
  • Bienvenue sur AIID
  • Découvrir les incidents
  • Vue spatiale
  • Vue de tableau
  • Vue de liste
  • Entités
  • Taxonomies
  • Soumettre des rapports d'incident
  • Classement des reporters
  • Blog
  • Résumé de l’Actualité sur l’IA
  • Contrôle des risques
  • Incident au hasard
  • S'inscrire
Découvrir
Envoyer
  • Bienvenue sur AIID
  • Découvrir les incidents
  • Vue spatiale
  • Vue de tableau
  • Vue de liste
  • Entités
  • Taxonomies
  • Soumettre des rapports d'incident
  • Classement des reporters
  • Blog
  • Résumé de l’Actualité sur l’IA
  • Contrôle des risques
  • Incident au hasard
  • S'inscrire
Entités

Employees of Sama

Affecté par des incidents

Incident 4508 Rapports
Kenyan Data Annotators Reported Psychological Trauma from Labeling Graphic Text for ChatGPT Safety Systems

2021-11-01

Sama data annotators in Nairobi, Kenya, reported lasting psychological trauma after labeling graphic sexual and violent text for OpenAI's content-moderation classifiers used in ChatGPT. Workers alleged low pay and inadequate psychological support; Sama disputed aspects of those accounts. The contract ended early, and former workers later petitioned Kenya's Parliament for stronger protections.

Plus

Entités liées
Autres entités liées au même incident. Par exemple, si le développeur d'un incident est cette entité mais que le responsable de la mise en œuvre est une autre entité, ils sont marqués comme entités liées.
 

Entity

OpenAI

Incidents impliqués en tant que développeur et déployeur
  • Incident 450
    8 Report

    Kenyan Data Annotators Reported Psychological Trauma from Labeling Graphic Text for ChatGPT Safety Systems

Plus
Entity

Sama

Affecté par des incidents
  • Incident 450
    8 Report

    Kenyan Data Annotators Reported Psychological Trauma from Labeling Graphic Text for ChatGPT Safety Systems

Incidents involved as Deployer
  • Incident 450
    8 Report

    Kenyan Data Annotators Reported Psychological Trauma from Labeling Graphic Text for ChatGPT Safety Systems

Plus
Entity

Large language model developers

Incidents involved as Developer
  • Incident 450
    8 Report

    Kenyan Data Annotators Reported Psychological Trauma from Labeling Graphic Text for ChatGPT Safety Systems

Plus
Entity

Chatbot developers

Incidents involved as Developer
  • Incident 450
    8 Report

    Kenyan Data Annotators Reported Psychological Trauma from Labeling Graphic Text for ChatGPT Safety Systems

Plus
Entity

Data annotators

Affecté par des incidents
  • Incident 450
    8 Report

    Kenyan Data Annotators Reported Psychological Trauma from Labeling Graphic Text for ChatGPT Safety Systems

Plus
Entity

Sama data annotators in Kenya

Affecté par des incidents
  • Incident 450
    8 Report

    Kenyan Data Annotators Reported Psychological Trauma from Labeling Graphic Text for ChatGPT Safety Systems

Plus
Entity

OpenAI large language models

Incidents implicated systems
  • Incident 450
    8 Report

    Kenyan Data Annotators Reported Psychological Trauma from Labeling Graphic Text for ChatGPT Safety Systems

Plus
Entity

Large language models

Incidents implicated systems
  • Incident 450
    8 Report

    Kenyan Data Annotators Reported Psychological Trauma from Labeling Graphic Text for ChatGPT Safety Systems

Plus
Entity

ChatGPT

Incidents implicated systems
  • Incident 450
    8 Report

    Kenyan Data Annotators Reported Psychological Trauma from Labeling Graphic Text for ChatGPT Safety Systems

Plus
Entity

Content moderation systems

Incidents implicated systems
  • Incident 450
    8 Report

    Kenyan Data Annotators Reported Psychological Trauma from Labeling Graphic Text for ChatGPT Safety Systems

Plus
Entity

AI training data pipelines

Incidents implicated systems
  • Incident 450
    8 Report

    Kenyan Data Annotators Reported Psychological Trauma from Labeling Graphic Text for ChatGPT Safety Systems

Plus
Entity

OpenAI toxic-content classifiers

Incidents implicated systems
  • Incident 450
    8 Report

    Kenyan Data Annotators Reported Psychological Trauma from Labeling Graphic Text for ChatGPT Safety Systems

Plus

Recherche

  • Définition d'un « incident d'IA »
  • Définir une « réponse aux incidents d'IA »
  • Feuille de route de la base de données
  • Travaux connexes
  • Télécharger la base de données complète

Project and Community test

  • À propos de
  • Contacter et suivre
  • Applications et résumés
  • Guide de l'éditeur
  • RAIC AIID Taxonomy Policy

Incidents

  • Tous les incidents sous forme de liste
  • Incidents signalés
  • File d'attente de soumission
  • Affichage des classifications
  • Taxonomies

2023 - AI Incident Database

  • Conditions d'utilisation
  • Politique de confidentialité
  • 2a25224