Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
Descubrir
Enviar
  • Bienvenido a la AIID
  • Descubrir Incidentes
  • Vista espacial
  • Vista Tabular
  • Vista de lista
  • Entidades
  • Taxonomías
  • Enviar Informes de Incidentes
  • Ranking de Reportadores
  • Blog
  • Resumen de noticias de IA
  • Control de Riesgos
  • Incidente aleatorio
  • Registrarse
Colapsar
Descubrir
Enviar
  • Bienvenido a la AIID
  • Descubrir Incidentes
  • Vista espacial
  • Vista Tabular
  • Vista de lista
  • Entidades
  • Taxonomías
  • Enviar Informes de Incidentes
  • Ranking de Reportadores
  • Blog
  • Resumen de noticias de IA
  • Control de Riesgos
  • Incidente aleatorio
  • Registrarse
Colapsar

Incidente 16: Images of Black People Labeled as Gorillas

Descripción: Google Photos image processing software mistakenly labelled a black couple as "gorillas."

Herramientas

Nuevo InformeNuevo InformeNueva RespuestaNueva RespuestaDescubrirDescubrirVer HistorialVer Historial

Entidades

Ver todas las entidades
Presunto: un sistema de IA desarrollado e implementado por Google, perjudicó a Black people.

Estadísticas de incidentes

ID
16
Cantidad de informes
24
Fecha del Incidente
2015-06-03
Editores
Sean McGregor, Kevin Paeth
Applied Taxonomies
GMF, CSETv0, CSETv1, MIT

Clasificaciones de la Taxonomía CSETv1

Detalles de la Taxonomía

Incident Number

The number of the incident in the AI Incident Database.
 

16

Notes (special interest intangible harm)

Input any notes that may help explain your answers.
 

The google image tagging feature of the Google Photos app mislabeled black people as gorillas.

Special Interest Intangible Harm

An assessment of whether a special interest intangible harm occurred. This assessment does not consider the context of the intangible harm, if an AI was involved, or if there is characterizable class or subgroup of harmed entities. It is also not assessing if an intangible harm occurred. It is only asking if a special interest intangible harm occurred.
 

yes

Date of Incident Year

The year in which the incident occurred. If there are multiple harms or occurrences of the incident, list the earliest. If a precise date is unavailable, but the available sources provide a basis for estimating the year, estimate. Otherwise, leave blank. Enter in the format of YYYY
 

2015

Date of Incident Month

The month in which the incident occurred. If there are multiple harms or occurrences of the incident, list the earliest. If a precise date is unavailable, but the available sources provide a basis for estimating the month, estimate. Otherwise, leave blank. Enter in the format of MM
 

06

Date of Incident Day

The day on which the incident occurred. If a precise date is unavailable, leave blank. Enter in the format of DD
 

29

Clasificaciones de la Taxonomía GMF

Detalles de la Taxonomía

Known AI Goal Snippets

One or more snippets that justify the classification.
 

(Snippet Text: Google has been forced to apologise after its image recognition software mislabelled photographs of black people as gorillas.

, Related Classifications: Image Tagging)

Clasificaciones de la Taxonomía CSETv0

Detalles de la Taxonomía

Problem Nature

Indicates which, if any, of the following types of AI failure describe the incident: "Specification," i.e. the system's behavior did not align with the true intentions of its designer, operator, etc; "Robustness," i.e. the system operated unsafely because of features or changes in its environment, or in the inputs the system received; "Assurance," i.e. the system could not be adequately monitored or controlled during operation.
 

Specification

Physical System

Where relevant, indicates whether the AI system(s) was embedded into or tightly associated with specific types of hardware.
 

Software only

Level of Autonomy

The degree to which the AI system(s) functions independently from human intervention. "High" means there is no human involved in the system action execution; "Medium" means the system generates a decision and a human oversees the resulting action; "low" means the system generates decision-support output and a human makes a decision and executes an action.
 

High

Nature of End User

"Expert" if users with special training or technical expertise were the ones meant to benefit from the AI system(s)’ operation; "Amateur" if the AI systems were primarily meant to benefit the general public or untrained users.
 

Amateur

Public Sector Deployment

"Yes" if the AI system(s) involved in the accident were being used by the public sector or for the administration of public goods (for example, public transportation). "No" if the system(s) were being used in the private sector or for commercial purposes (for example, a ride-sharing company), on the other.
 

No

Data Inputs

A brief description of the data that the AI system(s) used or were trained on.
 

photographs, images, multi-media content

Clasificaciones de la Taxonomía MIT

Machine-Classified
Detalles de la Taxonomía

Risk Subdomain

A further 23 subdomains create an accessible and understandable classification of hazards and harms associated with AI
 

1.1. Unfair discrimination and misrepresentation

Risk Domain

The Domain Taxonomy of AI Risks classifies risks into seven AI risk domains: (1) Discrimination & toxicity, (2) Privacy & security, (3) Misinformation, (4) Malicious actors & misuse, (5) Human-computer interaction, (6) Socioeconomic & environmental harms, and (7) AI system safety, failures & limitations.
 
  1. Discrimination and Toxicity

Entity

Which, if any, entity is presented as the main cause of the risk
 

AI

Timing

The stage in the AI lifecycle at which the risk is presented as occurring
 

Post-deployment

Intent

Whether the risk is presented as occurring as an expected or unexpected outcome from pursuing a goal
 

Unintentional

Informes del Incidente

Cronología de Informes

+16
Google Fotos etiqueta a los negros como 'gorilas'
Por qué Google 'pensó' que esta mujer negra era un gorila+5
Cuando se trata de gorilas, Google Fotos permanece ciego
La aplicación de fotos de Google aún no puede encontrar gorilas. Y tampoco los de Apple.
Google Fotos etiqueta a los negros como 'gorilas'

Google Fotos etiqueta a los negros como 'gorilas'

telegraph.co.uk

Google Photos etiqueta a las personas negras como 'gorilas' y pone las fotos en una carpeta especial

Google Photos etiqueta a las personas negras como 'gorilas' y pone las fotos en una carpeta especial

independent.co.uk

Google Fotos identificó a dos negros como 'gorilas'

Google Fotos identificó a dos negros como 'gorilas'

mashable.com

Google Photos identificó a los negros como 'gorilas', pero el software racista no es nuevo

Google Photos identificó a los negros como 'gorilas', pero el software racista no es nuevo

splinternews.com

Google se disculpa por el error racista de la aplicación Fotos

Google se disculpa por el error racista de la aplicación Fotos

bbc.com

Google pide disculpas por la etiqueta automática racista en la aplicación de fotos

Google pide disculpas por la etiqueta automática racista en la aplicación de fotos

theguardian.com

La aplicación Google Photos etiqueta al negro Jacky Alcine y a un amigo como GORILAS

La aplicación Google Photos etiqueta al negro Jacky Alcine y a un amigo como GORILAS

dailymail.co.uk

Google se disculpa después de que la aplicación etiquetara erróneamente a los negros como 'gorilas'

Google se disculpa después de que la aplicación etiquetara erróneamente a los negros como 'gorilas'

cbc.ca

Google se disculpa por etiquetar mal fotos de afroamericanos

Google se disculpa por etiquetar mal fotos de afroamericanos

cbsnews.com

Google etiqueta erróneamente a las personas negras como "gorilas", mostrando los límites de los algoritmos

Google etiqueta erróneamente a las personas negras como "gorilas", mostrando los límites de los algoritmos

blogs.wsj.com

Google Photos etiquetó a los negros como 'gorilas'

Google Photos etiquetó a los negros como 'gorilas'

usatoday.com

Google Photos etiqueta a dos afroamericanos como gorilas a través de un software de reconocimiento facial

Google Photos etiqueta a dos afroamericanos como gorilas a través de un software de reconocimiento facial

forbes.com

Google Photos etiqueta erróneamente a las personas negras como 'gorilas'

Google Photos etiqueta erróneamente a las personas negras como 'gorilas'

bits.blogs.nytimes.com

Google se apresura a arreglar el software que presentaba insultos raciales

Google se apresura a arreglar el software que presentaba insultos raciales

edition.cnn.com

La aplicación Google Photo etiqueta a una pareja negra como 'gorilas'

La aplicación Google Photo etiqueta a una pareja negra como 'gorilas'

news.sky.com

Google se disculpa por etiquetar fotos de personas negras como 'gorilas'

Google se disculpa por etiquetar fotos de personas negras como 'gorilas'

huffingtonpost.com

Por qué Google 'pensó' que esta mujer negra era un gorila

Por qué Google 'pensó' que esta mujer negra era un gorila

wnycstudios.org

Cuando se trata de gorilas, Google Fotos permanece ciego

Cuando se trata de gorilas, Google Fotos permanece ciego

wired.com

Google Photos todavía tiene un problema con los gorilas

Google Photos todavía tiene un problema con los gorilas

technologyreview.com

Google eliminó a los gorilas de la búsqueda para corregir el algoritmo racista

Google eliminó a los gorilas de la búsqueda para corregir el algoritmo racista

nymag.com

Dos años después, Google resuelve el problema del 'algoritmo racista' al eliminar la etiqueta 'gorila' del clasificador de imágenes

Dos años después, Google resuelve el problema del 'algoritmo racista' al eliminar la etiqueta 'gorila' del clasificador de imágenes

boingboing.net

La solución de Google al racismo algorítmico accidental: prohibir a los gorilas

La solución de Google al racismo algorítmico accidental: prohibir a los gorilas

theguardian.com

Google ha 'arreglado' su algoritmo que categorizaba a las personas como 'gorilas' con una solución no tan elegante

Google ha 'arreglado' su algoritmo que categorizaba a las personas como 'gorilas' con una solución no tan elegante

firstpost.com

La aplicación de fotos de Google aún no puede encontrar gorilas. Y tampoco los de Apple.

La aplicación de fotos de Google aún no puede encontrar gorilas. Y tampoco los de Apple.

nytimes.com

Google Fotos etiqueta a los negros como 'gorilas'
telegraph.co.uk · 2015
Traducido por IA

Google eliminó la etiqueta 'gorila' de su nueva aplicación Fotos, luego de que un usuario notó que había archivado varias fotos de él y su amigo negro en un álbum generado automáticamente llamado 'gorilas'.

El usuario afectado, el programad…

Google Photos etiqueta a las personas negras como 'gorilas' y pone las fotos en una carpeta especial
independent.co.uk · 2015
Traducido por IA

El algoritmo de reconocimiento de imágenes de Google está etiquetando fotos de personas negras como gorilas y colocándolas en un álbum especial.

El software de reconocimiento automático tiene como objetivo detectar las características de la…

Google Fotos identificó a dos negros como 'gorilas'
mashable.com · 2015
Traducido por IA

Google Photos utiliza un sofisticado software de reconocimiento facial para identificar no solo a las personas, sino también a categorías específicas de objetos y tipos de fotografías, como comida, gatos y horizontes.

Sin embargo, los progr…

Google Photos identificó a los negros como 'gorilas', pero el software racista no es nuevo
splinternews.com · 2015
Traducido por IA

Google ha sido criticado recientemente por un "fallo" objetivamente racista encontrado en su nueva aplicación Fotos para iOS y Android que identifica a las personas negras como "gorilas".

En teoría, se supone que Fotos actúa como un asisten…

Google se disculpa por el error racista de la aplicación Fotos
bbc.com · 2015
Traducido por IA

Derechos de autor de la imagen Twitter Image caption Alcine tuiteó a Google sobre el hecho de que su aplicación había clasificado erróneamente su foto.

Google dice que está "horrorizado" de que su nueva aplicación Fotos haya etiquetado erró…

Google pide disculpas por la etiqueta automática racista en la aplicación de fotos
theguardian.com · 2015
Traducido por IA

Google se disculpó después de que su nueva aplicación de fotos etiquetara a dos personas negras como "gorilas".

El servicio de fotografías, lanzado en mayo, etiqueta automáticamente las imágenes cargadas utilizando su propio software de int…

La aplicación Google Photos etiqueta al negro Jacky Alcine y a un amigo como GORILAS
dailymail.co.uk · 2015
Traducido por IA

Google se ha visto obligado a disculparse después de que su software de reconocimiento de imágenes etiquetara erróneamente fotografías de personas negras como gorilas.

La nueva aplicación Google Photos del gigante de Internet utiliza una fu…

Google se disculpa después de que la aplicación etiquetara erróneamente a los negros como 'gorilas'
cbc.ca · 2015
Traducido por IA

Google ha sido objeto de críticas después de que la función de reconocimiento de imágenes en su aplicación Fotos identificara erróneamente a las personas con piel oscura como "gorilas".

Jacky Alciné, de la ciudad de Nueva York, tuiteó una f…

Google se disculpa por etiquetar mal fotos de afroamericanos
cbsnews.com · 2015
Traducido por IA

Google respondió rápidamente durante el fin de semana a un usuario después de que tuiteó que la nueva aplicación Google Photos había clasificado incorrectamente una foto de él y su amigo de una manera desafortunada y ofensiva.

Jacky Alciné,…

Google etiqueta erróneamente a las personas negras como "gorilas", mostrando los límites de los algoritmos
blogs.wsj.com · 2015
Traducido por IA

Google es líder en inteligencia artificial y aprendizaje automático. Pero las computadoras de la compañía aún tienen mucho que aprender, a juzgar por un gran error de su aplicación Fotos esta semana.

La aplicación etiquetó a dos personas ne…

Google Photos etiquetó a los negros como 'gorilas'
usatoday.com · 2015
Traducido por IA

Google lanzó su aplicación Fotos en Google I/O en mayo. Aquí, los empleados esperan para registrar a los asistentes a la conferencia en el Moscone Center en San Francisco. (Foto: Jeff Chiu, Prensa Asociada)

SAN FRANCISCO — Google se disculp…

Google Photos etiqueta a dos afroamericanos como gorilas a través de un software de reconocimiento facial
forbes.com · 2015
Traducido por IA

Cuando Jacky Alcine, nativo de Brooklyn, inició sesión en Google Photos el domingo por la noche, se sorprendió al encontrar un álbum titulado "Gorillas", en el que el software de reconocimiento facial los clasificaba a él y a su amigo como …

Google Photos etiqueta erróneamente a las personas negras como 'gorilas'
bits.blogs.nytimes.com · 2015
Traducido por IA

Google continuó disculpándose el miércoles por una falla en Google Fotos, que se lanzó con gran fanfarria en mayo, que llevó a la nueva aplicación a etiquetar erróneamente las fotos de personas negras como "gorilas".

La compañía dijo que ha…

Google se apresura a arreglar el software que presentaba insultos raciales
edition.cnn.com · 2015
Traducido por IA

Historia destaca Google Fotos etiquetó las fotos de un hombre afroamericano de él y un amigo como "gorilas"

Destacó el problema en Twitter, llamando la atención de un ingeniero de Google

(CNN) — Cuando Jacky Alcine miró su aplicación Google…

La aplicación Google Photo etiqueta a una pareja negra como 'gorilas'
news.sky.com · 2015
Traducido por IA

Google ha dicho que "realmente lo siente" después de que su software de reconocimiento de imágenes etiquetara las fotografías de una pareja negra como "gorilas".

La aplicación Google Photos, lanzada en mayo, utiliza una herramienta de etiqu…

Google se disculpa por etiquetar fotos de personas negras como 'gorilas'
huffingtonpost.com · 2015
Traducido por IA

Cuando Jacky Alciné revisó su aplicación Google Photos a principios de esta semana, notó que etiquetaba fotos de él y un amigo, ambos negros, como "gorilas".

El programador de Brooklyn publicó sus capturas de pantalla en Twitter para denunc…

Por qué Google 'pensó' que esta mujer negra era un gorila
wnycstudios.org · 2015
Traducido por IA

Comparte esto en Twitter (Se abre en una ventana nueva)

Comparte esto en Facebook (Se abre en una ventana nueva)

Comparte esto en Twitter (Se abre en una ventana nueva)

Comparte esto en Facebook (Se abre en una nueva ventana)

Google tuvo un…

Cuando se trata de gorilas, Google Fotos permanece ciego
wired.com · 2018
Traducido por IA

En 2015, un desarrollador de software negro avergonzó a Google al twittear que el servicio de fotos de la compañía había etiquetado fotos de él con un amigo negro como "gorilas". Google se declaró "consternado y sinceramente arrepentido". U…

Google Photos todavía tiene un problema con los gorilas
technologyreview.com · 2018
Traducido por IA

En 2015, Google fue criticado cuando su sistema de reconocimiento de imágenes Photos etiquetó erróneamente a una mujer negra como un gorila, pero dos años después, el problema aún no se ha solucionado correctamente. En cambio, Google ha cen…

Google eliminó a los gorilas de la búsqueda para corregir el algoritmo racista
nymag.com · 2018
Traducido por IA

Han pasado más de dos años desde que el ingeniero Jacky Alciné llamó a Google Photos por etiquetar automáticamente a las personas negras en sus fotos como "gorilas". Después de ser llamado, Google se disculpó rápida y profusamente, prometie…

Dos años después, Google resuelve el problema del 'algoritmo racista' al eliminar la etiqueta 'gorila' del clasificador de imágenes
boingboing.net · 2018
Traducido por IA

Dos años después, Google resuelve el problema del 'algoritmo racista' al eliminar la etiqueta 'gorila' del clasificador de imágenes

En 2015, un desarrollador de software negro llamado Jacky Alciné reveló que el clasificador de imágenes util…

La solución de Google al racismo algorítmico accidental: prohibir a los gorilas
theguardian.com · 2018
Traducido por IA

La "acción inmediata" de Google sobre el etiquetado de personas negras como gorilas por parte de la IA fue simplemente bloquear la palabra, junto con chimpancé y mono, según sugieren los informes.

Este artículo tiene más de 1 año.

Este artí…

Google ha 'arreglado' su algoritmo que categorizaba a las personas como 'gorilas' con una solución no tan elegante
firstpost.com · 2018
Traducido por IA

Personal de noticias de tech2

¿Recuerdas el momento en que el algoritmo de reconocimiento de imágenes de Google creó una gran controversia después de que categorizara a una pareja negra como “gorilas”?

Si no lo hace, no lo culpamos, ya que …

La aplicación de fotos de Google aún no puede encontrar gorilas. Y tampoco los de Apple.
nytimes.com · 2023
Traducido por IA

Ocho años después de una controversia sobre los negros que fueron etiquetados erróneamente como gorilas por un software de análisis de imágenes, y a pesar de los grandes avances en la visión por computadora, los gigantes tecnológicos aún te…

Variantes

Una "Variante" es un incidente que comparte los mismos factores causales, produce daños similares e involucra los mismos sistemas inteligentes que un incidente de IA conocido. En lugar de indexar las variantes como incidentes completamente separados, enumeramos las variaciones de los incidentes bajo el primer incidente similar enviado a la base de datos. A diferencia de otros tipos de envío a la base de datos de incidentes, no se requiere que las variantes tengan informes como evidencia externa a la base de datos de incidentes. Obtenga más información del trabajo de investigación.

Incidentes Similares

Por similitud de texto

Did our AI mess up? Flag the unrelated incidents

Biased Google Image Results

'Black teenagers' vs. 'white teenagers': Why Google's algorithm displays racist results

Mar 2016 · 18 informes
FaceApp Racial Filters

FaceApp deletes new black, white and Asian filters after racism storm

Apr 2017 · 23 informes
Security Robot Drowns Itself in a Fountain

DC security robot quits job by drowning itself in a fountain

Jul 2017 · 30 informes
Incidente AnteriorSiguiente Incidente

Incidentes Similares

Por similitud de texto

Did our AI mess up? Flag the unrelated incidents

Biased Google Image Results

'Black teenagers' vs. 'white teenagers': Why Google's algorithm displays racist results

Mar 2016 · 18 informes
FaceApp Racial Filters

FaceApp deletes new black, white and Asian filters after racism storm

Apr 2017 · 23 informes
Security Robot Drowns Itself in a Fountain

DC security robot quits job by drowning itself in a fountain

Jul 2017 · 30 informes

Investigación

  • Definición de un “Incidente de IA”
  • Definición de una “Respuesta a incidentes de IA”
  • Hoja de ruta de la base de datos
  • Trabajo relacionado
  • Descargar Base de Datos Completa

Proyecto y Comunidad

  • Acerca de
  • Contactar y Seguir
  • Aplicaciones y resúmenes
  • Guía del editor

Incidencias

  • Todos los incidentes en forma de lista
  • Incidentes marcados
  • Cola de envío
  • Vista de clasificaciones
  • Taxonomías

2023 - AI Incident Database

  • Condiciones de uso
  • Política de privacidad
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • 8b8f151