Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
Découvrir
Envoyer
  • Bienvenue sur AIID
  • Découvrir les incidents
  • Vue spatiale
  • Vue de tableau
  • Vue de liste
  • Entités
  • Taxonomies
  • Soumettre des rapports d'incident
  • Classement des reporters
  • Blog
  • Résumé de l’Actualité sur l’IA
  • Contrôle des risques
  • Incident au hasard
  • S'inscrire
Fermer
Découvrir
Envoyer
  • Bienvenue sur AIID
  • Découvrir les incidents
  • Vue spatiale
  • Vue de tableau
  • Vue de liste
  • Entités
  • Taxonomies
  • Soumettre des rapports d'incident
  • Classement des reporters
  • Blog
  • Résumé de l’Actualité sur l’IA
  • Contrôle des risques
  • Incident au hasard
  • S'inscrire
Fermer

Incident 16: Images of Black People Labeled as Gorillas

Description: Google Photos image processing software mistakenly labelled a black couple as "gorillas."

Outils

Nouveau rapportNouveau rapportNouvelle RéponseNouvelle RéponseDécouvrirDécouvrirVoir l'historiqueVoir l'historique

Entités

Voir toutes les entités
Présumé : Un système d'IA développé et mis en œuvre par Google, a endommagé Black people.

Statistiques d'incidents

ID
16
Nombre de rapports
24
Date de l'incident
2015-06-03
Editeurs
Sean McGregor, Kevin Paeth
Applied Taxonomies
GMF, CSETv0, CSETv1, MIT

Classifications de taxonomie CSETv1

Détails de la taxonomie

Incident Number

The number of the incident in the AI Incident Database.
 

16

Notes (special interest intangible harm)

Input any notes that may help explain your answers.
 

The google image tagging feature of the Google Photos app mislabeled black people as gorillas.

Special Interest Intangible Harm

An assessment of whether a special interest intangible harm occurred. This assessment does not consider the context of the intangible harm, if an AI was involved, or if there is characterizable class or subgroup of harmed entities. It is also not assessing if an intangible harm occurred. It is only asking if a special interest intangible harm occurred.
 

yes

Date of Incident Year

The year in which the incident occurred. If there are multiple harms or occurrences of the incident, list the earliest. If a precise date is unavailable, but the available sources provide a basis for estimating the year, estimate. Otherwise, leave blank. Enter in the format of YYYY
 

2015

Date of Incident Month

The month in which the incident occurred. If there are multiple harms or occurrences of the incident, list the earliest. If a precise date is unavailable, but the available sources provide a basis for estimating the month, estimate. Otherwise, leave blank. Enter in the format of MM
 

06

Date of Incident Day

The day on which the incident occurred. If a precise date is unavailable, leave blank. Enter in the format of DD
 

29

Classifications de taxonomie GMF

Détails de la taxonomie

Known AI Goal Snippets

One or more snippets that justify the classification.
 

(Snippet Text: Google has been forced to apologise after its image recognition software mislabelled photographs of black people as gorillas.

, Related Classifications: Image Tagging)

Classifications de taxonomie CSETv0

Détails de la taxonomie

Problem Nature

Indicates which, if any, of the following types of AI failure describe the incident: "Specification," i.e. the system's behavior did not align with the true intentions of its designer, operator, etc; "Robustness," i.e. the system operated unsafely because of features or changes in its environment, or in the inputs the system received; "Assurance," i.e. the system could not be adequately monitored or controlled during operation.
 

Specification

Physical System

Where relevant, indicates whether the AI system(s) was embedded into or tightly associated with specific types of hardware.
 

Software only

Level of Autonomy

The degree to which the AI system(s) functions independently from human intervention. "High" means there is no human involved in the system action execution; "Medium" means the system generates a decision and a human oversees the resulting action; "low" means the system generates decision-support output and a human makes a decision and executes an action.
 

High

Nature of End User

"Expert" if users with special training or technical expertise were the ones meant to benefit from the AI system(s)’ operation; "Amateur" if the AI systems were primarily meant to benefit the general public or untrained users.
 

Amateur

Public Sector Deployment

"Yes" if the AI system(s) involved in the accident were being used by the public sector or for the administration of public goods (for example, public transportation). "No" if the system(s) were being used in the private sector or for commercial purposes (for example, a ride-sharing company), on the other.
 

No

Data Inputs

A brief description of the data that the AI system(s) used or were trained on.
 

photographs, images, multi-media content

Classifications de taxonomie MIT

Machine-Classified
Détails de la taxonomie

Risk Subdomain

A further 23 subdomains create an accessible and understandable classification of hazards and harms associated with AI
 

1.1. Unfair discrimination and misrepresentation

Risk Domain

The Domain Taxonomy of AI Risks classifies risks into seven AI risk domains: (1) Discrimination & toxicity, (2) Privacy & security, (3) Misinformation, (4) Malicious actors & misuse, (5) Human-computer interaction, (6) Socioeconomic & environmental harms, and (7) AI system safety, failures & limitations.
 
  1. Discrimination and Toxicity

Entity

Which, if any, entity is presented as the main cause of the risk
 

AI

Timing

The stage in the AI lifecycle at which the risk is presented as occurring
 

Post-deployment

Intent

Whether the risk is presented as occurring as an expected or unexpected outcome from pursuing a goal
 

Unintentional

Rapports d'incidents

Chronologie du rapport

+16
Google Photos qualifie les Noirs de "gorilles"
Pourquoi Google "pensait" que cette femme noire était un gorille+5
Quand il s'agit de gorilles, Google Photos reste aveugle
L'application photo de Google ne trouve toujours pas les gorilles. Et Apple non plus.
Google Photos qualifie les Noirs de "gorilles"

Google Photos qualifie les Noirs de "gorilles"

telegraph.co.uk

Google Photos identifie les Noirs comme des « gorilles » et place les photos dans un dossier spécial

Google Photos identifie les Noirs comme des « gorilles » et place les photos dans un dossier spécial

independent.co.uk

Google Photos a identifié deux Noirs comme des "gorilles"

Google Photos a identifié deux Noirs comme des "gorilles"

mashable.com

Google Photos a identifié les Noirs comme des "gorilles", mais les logiciels racistes ne sont pas nouveaux

Google Photos a identifié les Noirs comme des "gorilles", mais les logiciels racistes ne sont pas nouveaux

splinternews.com

Google s'excuse pour la bévue raciste de l'application Photos

Google s'excuse pour la bévue raciste de l'application Photos

bbc.com

Google s'excuse pour le marquage automatique raciste dans l'application photo

Google s'excuse pour le marquage automatique raciste dans l'application photo

theguardian.com

L'application Google Photos identifie Jacky Alcine noir et son ami comme des GORILLES

L'application Google Photos identifie Jacky Alcine noir et son ami comme des GORILLES

dailymail.co.uk

Google s'excuse après que l'application ait qualifié par erreur les Noirs de "gorilles"

Google s'excuse après que l'application ait qualifié par erreur les Noirs de "gorilles"

cbc.ca

Google s'excuse d'avoir mal étiqueté des photos d'Afro-Américains

Google s'excuse d'avoir mal étiqueté des photos d'Afro-Américains

cbsnews.com

Google identifie par erreur les Noirs comme des «gorilles», montrant les limites des algorithmes

Google identifie par erreur les Noirs comme des «gorilles», montrant les limites des algorithmes

blogs.wsj.com

Google Photos qualifie les Noirs de "gorilles"

Google Photos qualifie les Noirs de "gorilles"

usatoday.com

Google Photos identifie deux Afro-Américains comme des gorilles grâce à un logiciel de reconnaissance faciale

Google Photos identifie deux Afro-Américains comme des gorilles grâce à un logiciel de reconnaissance faciale

forbes.com

Google Photos qualifie par erreur les Noirs de « gorilles »

Google Photos qualifie par erreur les Noirs de « gorilles »

bits.blogs.nytimes.com

Google se précipite pour réparer un logiciel qui a servi d'insulte raciale

Google se précipite pour réparer un logiciel qui a servi d'insulte raciale

edition.cnn.com

Étiquettes d'application Google Photo Couple noir 'Gorilles'

Étiquettes d'application Google Photo Couple noir 'Gorilles'

news.sky.com

Google s'excuse d'avoir identifié des photos de personnes noires comme des "gorilles"

Google s'excuse d'avoir identifié des photos de personnes noires comme des "gorilles"

huffingtonpost.com

Pourquoi Google "pensait" que cette femme noire était un gorille

Pourquoi Google "pensait" que cette femme noire était un gorille

wnycstudios.org

Quand il s'agit de gorilles, Google Photos reste aveugle

Quand il s'agit de gorilles, Google Photos reste aveugle

wired.com

Google Photos a toujours un problème avec les gorilles

Google Photos a toujours un problème avec les gorilles

technologyreview.com

Google a supprimé les gorilles de la recherche pour corriger l'algorithme raciste

Google a supprimé les gorilles de la recherche pour corriger l'algorithme raciste

nymag.com

Deux ans plus tard, Google résout le problème de "l'algorithme raciste" en supprimant l'étiquette "gorille" du classificateur d'images

Deux ans plus tard, Google résout le problème de "l'algorithme raciste" en supprimant l'étiquette "gorille" du classificateur d'images

boingboing.net

La solution de Google au racisme algorithmique accidentel : bannir les gorilles

La solution de Google au racisme algorithmique accidentel : bannir les gorilles

theguardian.com

Google a « corrigé » son algorithme qui classait les gens dans la catégorie des « gorilles » avec une solution pas si élégante

Google a « corrigé » son algorithme qui classait les gens dans la catégorie des « gorilles » avec une solution pas si élégante

firstpost.com

L'application photo de Google ne trouve toujours pas les gorilles. Et Apple non plus.

L'application photo de Google ne trouve toujours pas les gorilles. Et Apple non plus.

nytimes.com

Google Photos qualifie les Noirs de "gorilles"
telegraph.co.uk · 2015
Traduit par IA

Google a supprimé la balise "gorille" de sa nouvelle application Photos, après qu'un utilisateur a remarqué qu'elle avait déposé un certain nombre de photos de lui et de son ami noir dans un album généré automatiquement nommé "gorilles".

L'…

Google Photos identifie les Noirs comme des « gorilles » et place les photos dans un dossier spécial
independent.co.uk · 2015
Traduit par IA

L'algorithme de reconnaissance d'images de Google étiquette les photos de personnes noires comme des gorilles et les place dans un album spécial.

Le logiciel de reconnaissance automatique est destiné à repérer les caractéristiques des photo…

Google Photos a identifié deux Noirs comme des "gorilles"
mashable.com · 2015
Traduit par IA

Google Photos utilise un logiciel sophistiqué de reconnaissance faciale pour identifier non seulement les individus, mais également des catégories spécifiques d'objets et de types de photos, comme la nourriture, les chats et les horizons.

C…

Google Photos a identifié les Noirs comme des "gorilles", mais les logiciels racistes ne sont pas nouveaux
splinternews.com · 2015
Traduit par IA

Google a récemment été critiqué pour un "pépin" objectivement raciste trouvé dans sa nouvelle application Photos pour iOS et Android qui identifie les Noirs comme des "gorilles".

En théorie, Photos est censé agir comme un assistant numériqu…

Google s'excuse pour la bévue raciste de l'application Photos
bbc.com · 2015
Traduit par IA

M. Alcine a tweeté Google sur le fait que son application avait mal classé sa photo

Google se dit "consterné" que sa nouvelle application Photos ait qualifié à tort un couple noir de "gorilles".

Son produit marque automatiquement les images…

Google s'excuse pour le marquage automatique raciste dans l'application photo
theguardian.com · 2015
Traduit par IA

Google s'est excusé après que sa nouvelle application photo ait qualifié deux Noirs de "gorilles".

Le service photo, lancé en mai, marque automatiquement les photos téléchargées à l'aide de son propre logiciel d'intelligence artificielle.

"…

L'application Google Photos identifie Jacky Alcine noir et son ami comme des GORILLES
dailymail.co.uk · 2015
Traduit par IA

Google a été contraint de s'excuser après que son logiciel de reconnaissance d'images ait mal étiqueté des photographies de personnes noires comme des gorilles.

La nouvelle application Google Photos du géant de l'Internet utilise une foncti…

Google s'excuse après que l'application ait qualifié par erreur les Noirs de "gorilles"
cbc.ca · 2015
Traduit par IA

Google a été critiqué après que la fonction de reconnaissance d'images de son application Photos ait identifié par erreur les personnes à la peau foncée comme des "gorilles".

Jacky Alciné de New York a tweeté dimanche une photo de lui et d'…

Google s'excuse d'avoir mal étiqueté des photos d'Afro-Américains
cbsnews.com · 2015
Traduit par IA

Google n'a pas tardé à répondre au cours du week-end à un utilisateur après avoir tweeté que la nouvelle application Google Photos avait mal classé une photo de lui et de son ami de manière malheureuse et offensante.

Jacky Alciné, un progra…

Google identifie par erreur les Noirs comme des «gorilles», montrant les limites des algorithmes
blogs.wsj.com · 2015
Traduit par IA

Google est un leader de l'intelligence artificielle et de l'apprentissage automatique. Mais les ordinateurs de l'entreprise ont encore beaucoup à apprendre, à en juger par une erreur majeure de son application Photos cette semaine.

L'applic…

Google Photos qualifie les Noirs de "gorilles"
usatoday.com · 2015
Traduit par IA

Google a lancé son application Photos lors de Google I/O en mai. Ici, les membres du personnel attendent pour enregistrer les participants à la conférence au Moscone Center de San Francisco. (Photo : Jeff Chiu, Associated Press)

SAN FRANCIS…

Google Photos identifie deux Afro-Américains comme des gorilles grâce à un logiciel de reconnaissance faciale
forbes.com · 2015
Traduit par IA

Lorsque Jacky Alcine, originaire de Brooklyn, s'est connecté à Google Photos dimanche soir, il a été choqué de trouver un album intitulé "Gorilles", dans lequel le logiciel de reconnaissance faciale le catégorisait, lui et son ami, comme de…

Google Photos qualifie par erreur les Noirs de « gorilles »
bits.blogs.nytimes.com · 2015
Traduit par IA

Google a continué de s'excuser mercredi pour une faille dans Google Photos, qui a été publiée en grande pompe en mai, qui a conduit la nouvelle application à étiqueter par erreur des photos de personnes noires comme "gorilles".

La société a…

Google se précipite pour réparer un logiciel qui a servi d'insulte raciale
edition.cnn.com · 2015
Traduit par IA

Faits saillants de l'histoire Google Photos a marqué les photos d'un homme afro-américain de lui et d'un ami comme "Gorilles"

Il a souligné le problème sur Twitter, attirant l'attention d'un ingénieur de Google

(CNN) Lorsque Jacky Alcine a …

Étiquettes d'application Google Photo Couple noir 'Gorilles'
news.sky.com · 2015
Traduit par IA

Google s'est dit "vraiment désolé" après que son logiciel de reconnaissance d'images ait qualifié les photographies d'un couple noir de "gorilles".

L'application Google Photos, lancée en mai, utilise un outil de marquage automatique pour ai…

Google s'excuse d'avoir identifié des photos de personnes noires comme des "gorilles"
huffingtonpost.com · 2015
Traduit par IA

Lorsque Jacky Alciné a vérifié son application Google Photos plus tôt cette semaine, il a remarqué qu'elle étiquetait des photos de lui et d'un ami, tous deux noirs, comme des "gorilles".

Le programmeur de Brooklyn a posté ses captures d'éc…

Pourquoi Google "pensait" que cette femme noire était un gorille
wnycstudios.org · 2015
Traduit par IA

Partagez ceci sur Twitter (Ouvre dans une nouvelle fenêtre)

Partagez ceci sur Facebook (Ouvre dans une nouvelle fenêtre)

Partagez ceci sur Twitter (Ouvre dans une nouvelle fenêtre)

Partagez ceci sur Facebook (Ouvre dans une nouvelle fenêtre…

Quand il s'agit de gorilles, Google Photos reste aveugle
wired.com · 2018
Traduit par IA

En 2015, un développeur de logiciels noir a embarrassé Google en tweetant que le service Photos de l'entreprise avait qualifié les photos de lui avec un ami noir de "gorilles". Google s'est déclaré "consterné et sincèrement désolé". Un ingé…

Google Photos a toujours un problème avec les gorilles
technologyreview.com · 2018
Traduit par IA

En 2015, Google a suscité des critiques lorsque son système de reconnaissance d'images Photos a qualifié à tort une femme noire de gorille, mais deux ans plus tard, le problème n'est toujours pas correctement résolu. Au lieu de cela, Google…

Google a supprimé les gorilles de la recherche pour corriger l'algorithme raciste
nymag.com · 2018
Traduit par IA

Cela fait plus de deux ans que l'ingénieur Jacky Alciné a appelé Google Photos pour marquer automatiquement les Noirs sur ses photos en tant que "gorilles". Après avoir été appelé, Google s'est rapidement et abondamment excusé, promettant d…

Deux ans plus tard, Google résout le problème de "l'algorithme raciste" en supprimant l'étiquette "gorille" du classificateur d'images
boingboing.net · 2018
Traduit par IA

Deux ans plus tard, Google résout le problème de "l'algorithme raciste" en supprimant l'étiquette "gorille" du classificateur d'images

En 2015, un développeur de logiciels noir nommé Jacky Alciné a révélé que le classificateur d'images util…

La solution de Google au racisme algorithmique accidentel : bannir les gorilles
theguardian.com · 2018
Traduit par IA

L'"action immédiate" de Google sur l'étiquetage par l'IA des Noirs en tant que gorilles consistait simplement à bloquer le mot, ainsi que le chimpanzé et le singe, selon des rapports

Cet article date de plus d'un an

Cet article date de plus…

Google a « corrigé » son algorithme qui classait les gens dans la catégorie des « gorilles » avec une solution pas si élégante
firstpost.com · 2018
Traduit par IA

tech2 Nouvelles Personnel

Vous souvenez-vous du moment où l'algorithme de reconnaissance d'images de Google a créé une controverse majeure après avoir classé un couple noir dans la catégorie "Gorilles" ?

Si vous ne le faites pas, nous ne vo…

L'application photo de Google ne trouve toujours pas les gorilles. Et Apple non plus.
nytimes.com · 2023
Traduit par IA

Huit ans après une controverse sur les Noirs étiquetés à tort comme des gorilles par un logiciel d'analyse d'images – et malgré de grandes avancées dans la vision par ordinateur – les géants de la technologie craignent toujours de répéter l…

Variantes

Une "Variante" est un incident qui partage les mêmes facteurs de causalité, produit des dommages similaires et implique les mêmes systèmes intelligents qu'un incident d'IA connu. Plutôt que d'indexer les variantes comme des incidents entièrement distincts, nous listons les variations d'incidents sous le premier incident similaire soumis à la base de données. Contrairement aux autres types de soumission à la base de données des incidents, les variantes ne sont pas tenues d'avoir des rapports en preuve externes à la base de données des incidents. En savoir plus sur le document de recherche.

Incidents similaires

Par similarité textuelle

Did our AI mess up? Flag the unrelated incidents

Biased Google Image Results

'Black teenagers' vs. 'white teenagers': Why Google's algorithm displays racist results

Mar 2016 · 18 rapports
FaceApp Racial Filters

FaceApp deletes new black, white and Asian filters after racism storm

Apr 2017 · 23 rapports
Security Robot Drowns Itself in a Fountain

DC security robot quits job by drowning itself in a fountain

Jul 2017 · 30 rapports
Incident précédentProchain incident

Incidents similaires

Par similarité textuelle

Did our AI mess up? Flag the unrelated incidents

Biased Google Image Results

'Black teenagers' vs. 'white teenagers': Why Google's algorithm displays racist results

Mar 2016 · 18 rapports
FaceApp Racial Filters

FaceApp deletes new black, white and Asian filters after racism storm

Apr 2017 · 23 rapports
Security Robot Drowns Itself in a Fountain

DC security robot quits job by drowning itself in a fountain

Jul 2017 · 30 rapports

Recherche

  • Définition d'un « incident d'IA »
  • Définir une « réponse aux incidents d'IA »
  • Feuille de route de la base de données
  • Travaux connexes
  • Télécharger la base de données complète

Projet et communauté

  • À propos de
  • Contacter et suivre
  • Applications et résumés
  • Guide de l'éditeur

Incidents

  • Tous les incidents sous forme de liste
  • Incidents signalés
  • File d'attente de soumission
  • Affichage des classifications
  • Taxonomies

2023 - AI Incident Database

  • Conditions d'utilisation
  • Politique de confidentialité
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • 5fc5e5b