Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
Descubrir
Enviar
  • Bienvenido a la AIID
  • Descubrir Incidentes
  • Vista espacial
  • Vista Tabular
  • Vista de lista
  • Entidades
  • Taxonomías
  • Enviar Informes de Incidentes
  • Ranking de Reportadores
  • Blog
  • Resumen de noticias de IA
  • Control de Riesgos
  • Incidente aleatorio
  • Registrarse
Colapsar
Descubrir
Enviar
  • Bienvenido a la AIID
  • Descubrir Incidentes
  • Vista espacial
  • Vista Tabular
  • Vista de lista
  • Entidades
  • Taxonomías
  • Enviar Informes de Incidentes
  • Ranking de Reportadores
  • Blog
  • Resumen de noticias de IA
  • Control de Riesgos
  • Incidente aleatorio
  • Registrarse
Colapsar

Incidente 53: Biased Google Image Results

Descripción: On June 6, 2016, Google image searches of "three black teenagers" resulted in mostly mugshot images whereas Google image searchers of "three white teenagers" consisted of mostly stock images, suggesting a racial bias in Google's algorithm.

Herramientas

Nuevo InformeNuevo InformeNueva RespuestaNueva RespuestaDescubrirDescubrirVer HistorialVer Historial

Entidades

Ver todas las entidades
Presunto: un sistema de IA desarrollado e implementado por Google, perjudicó a Minority Groups.

Estadísticas de incidentes

ID
53
Cantidad de informes
18
Fecha del Incidente
2016-03-31
Editores
Sean McGregor
Applied Taxonomies
CSETv0, CSETv1, GMF, MIT

Clasificaciones de la Taxonomía CSETv1

Detalles de la Taxonomía

Incident Number

The number of the incident in the AI Incident Database.
 

53

Notes (special interest intangible harm)

Input any notes that may help explain your answers.
 

Propagation of systemic racial bias by Google search

Special Interest Intangible Harm

An assessment of whether a special interest intangible harm occurred. This assessment does not consider the context of the intangible harm, if an AI was involved, or if there is characterizable class or subgroup of harmed entities. It is also not assessing if an intangible harm occurred. It is only asking if a special interest intangible harm occurred.
 

yes

Date of Incident Year

The year in which the incident occurred. If there are multiple harms or occurrences of the incident, list the earliest. If a precise date is unavailable, but the available sources provide a basis for estimating the year, estimate. Otherwise, leave blank. Enter in the format of YYYY
 

2012

Date of Incident Month

The month in which the incident occurred. If there are multiple harms or occurrences of the incident, list the earliest. If a precise date is unavailable, but the available sources provide a basis for estimating the month, estimate. Otherwise, leave blank. Enter in the format of MM
 

04

Estimated Date

“Yes” if the data was estimated. “No” otherwise.
 

Yes

Clasificaciones de la Taxonomía CSETv0

Detalles de la Taxonomía

Problem Nature

Indicates which, if any, of the following types of AI failure describe the incident: "Specification," i.e. the system's behavior did not align with the true intentions of its designer, operator, etc; "Robustness," i.e. the system operated unsafely because of features or changes in its environment, or in the inputs the system received; "Assurance," i.e. the system could not be adequately monitored or controlled during operation.
 

Robustness, Assurance

Physical System

Where relevant, indicates whether the AI system(s) was embedded into or tightly associated with specific types of hardware.
 

Software only

Level of Autonomy

The degree to which the AI system(s) functions independently from human intervention. "High" means there is no human involved in the system action execution; "Medium" means the system generates a decision and a human oversees the resulting action; "low" means the system generates decision-support output and a human makes a decision and executes an action.
 

High

Nature of End User

"Expert" if users with special training or technical expertise were the ones meant to benefit from the AI system(s)’ operation; "Amateur" if the AI systems were primarily meant to benefit the general public or untrained users.
 

Amateur

Public Sector Deployment

"Yes" if the AI system(s) involved in the accident were being used by the public sector or for the administration of public goods (for example, public transportation). "No" if the system(s) were being used in the private sector or for commercial purposes (for example, a ride-sharing company), on the other.
 

No

Data Inputs

A brief description of the data that the AI system(s) used or were trained on.
 

user input, images

Clasificaciones de la Taxonomía MIT

Machine-Classified
Detalles de la Taxonomía

Risk Subdomain

A further 23 subdomains create an accessible and understandable classification of hazards and harms associated with AI
 

1.1. Unfair discrimination and misrepresentation

Risk Domain

The Domain Taxonomy of AI Risks classifies risks into seven AI risk domains: (1) Discrimination & toxicity, (2) Privacy & security, (3) Misinformation, (4) Malicious actors & misuse, (5) Human-computer interaction, (6) Socioeconomic & environmental harms, and (7) AI system safety, failures & limitations.
 
  1. Discrimination and Toxicity

Entity

Which, if any, entity is presented as the main cause of the risk
 

AI

Timing

The stage in the AI lifecycle at which the risk is presented as occurring
 

Post-deployment

Intent

Whether the risk is presented as occurring as an expected or unexpected outcome from pursuing a goal
 

Unintentional

Informes del Incidente

Cronología de Informes

Conexiones perdidas: lo que dicen los motores de búsqueda sobre las mujeres+1
¿Google es racista? Buscar 'Tres adolescentes negros' Vs 'Tres adolescentes blancos' y las imágenes pueden sorprenderte: ¿verdadero o falso?
+12
Google "Tres adolescentes negros" frente a "Tres adolescentes blancos": ¿ve el problema?
Taburete deportivoEl sesgo ya existe en los resultados de los motores de búsqueda y solo empeoraráCuando los supremacistas blancos apuntan a los ancianos negros
Conexiones perdidas: lo que dicen los motores de búsqueda sobre las mujeres

Conexiones perdidas: lo que dicen los motores de búsqueda sobre las mujeres

safiyaunoble.files.wordpress.com

¿Google es racista? Buscar 'Tres adolescentes negros' Vs 'Tres adolescentes blancos' y las imágenes pueden sorprenderte: ¿verdadero o falso?

¿Google es racista? Buscar 'Tres adolescentes negros' Vs 'Tres adolescentes blancos' y las imágenes pueden sorprenderte: ¿verdadero o falso?

antoinespeaks.co.uk

Google "Tres adolescentes negros" frente a "Tres adolescentes blancos": ¿ve el problema?

Google "Tres adolescentes negros" frente a "Tres adolescentes blancos": ¿ve el problema?

ca.news.yahoo.com

Google "Tres adolescentes negros" frente a "Tres adolescentes blancos": ¿ve el problema?

Google "Tres adolescentes negros" frente a "Tres adolescentes blancos": ¿ve el problema?

mic.com

Buscar en Google "Tres adolescentes negros" frente a "Tres adolescentes blancos"

Buscar en Google "Tres adolescentes negros" frente a "Tres adolescentes blancos"

ebaumsworld.com

Hombre compara búsquedas en Google de 'adolescentes negros' y 'adolescentes blancos'

Hombre compara búsquedas en Google de 'adolescentes negros' y 'adolescentes blancos'

metro.co.uk

La búsqueda en Google de 'Tres adolescentes negros' desata filas en Twitter

La búsqueda en Google de 'Tres adolescentes negros' desata filas en Twitter

bbc.com

La búsqueda de imágenes de Google de 'Tres adolescentes negros' frente a 'Tres adolescentes blancos' es escandalosamente ofensiva

La búsqueda de imágenes de Google de 'Tres adolescentes negros' frente a 'Tres adolescentes blancos' es escandalosamente ofensiva

sickchirpse.com

Tres adolescentes negros vs. Tres adolescentes blancos: Google Images muestra fotos policiales malvadas y fotos felices

Tres adolescentes negros vs. Tres adolescentes blancos: Google Images muestra fotos policiales malvadas y fotos felices

inquisitr.com

La búsqueda de imágenes de Google de 'tres adolescentes negros' frente a 'tres adolescentes blancos' causa indignación

La búsqueda de imágenes de Google de 'tres adolescentes negros' frente a 'tres adolescentes blancos' causa indignación

dailymail.co.uk

La búsqueda de 'tres adolescentes negros' muestra que es la sociedad, no Google, la que es racista

La búsqueda de 'tres adolescentes negros' muestra que es la sociedad, no Google, la que es racista

theguardian.com

Busca 'tres adolescentes negros' en Google y esto es lo que ves

Busca 'tres adolescentes negros' en Google y esto es lo que ves

washingtonpost.com

La búsqueda de imágenes de Google 'Tres adolescentes negros' desata una fila de racismo

La búsqueda de imágenes de Google 'Tres adolescentes negros' desata una fila de racismo

sbs.com.au

'Adolescentes negros' vs. 'adolescentes blancos': por qué el algoritmo de Google muestra resultados racistas

'Adolescentes negros' vs. 'adolescentes blancos': por qué el algoritmo de Google muestra resultados racistas

splinternews.com

Google criticado por sesgo racial en los resultados de búsqueda de imágenes para adolescentes negros

Google criticado por sesgo racial en los resultados de búsqueda de imágenes para adolescentes negros

washingtonpost.com

Taburete deportivo

Taburete deportivo

barstoolsports.com

El sesgo ya existe en los resultados de los motores de búsqueda y solo empeorará

El sesgo ya existe en los resultados de los motores de búsqueda y solo empeorará

technologyreview.com

Cuando los supremacistas blancos apuntan a los ancianos negros

Cuando los supremacistas blancos apuntan a los ancianos negros

nymag.com

Conexiones perdidas: lo que dicen los motores de búsqueda sobre las mujeres
safiyaunoble.files.wordpress.com · 2012
Traducido por IA

En ocasiones, les pido a mis estudiantes universitarios que me sigan a través de un día en la vida de una tía, madre, mentora o amiga afroamericana que está tratando de ayudar a las mujeres jóvenes a aprender a usar Internet. En este ejerci…

¿Google es racista? Buscar 'Tres adolescentes negros' Vs 'Tres adolescentes blancos' y las imágenes pueden sorprenderte: ¿verdadero o falso?
antoinespeaks.co.uk · 2016
Traducido por IA

¿Cuál es la diferencia entre los resultados de búsqueda de imágenes cuando una persona escribe "Tres adolescentes negros" en Google y luego escribe "Tres adolescentes blancos"?

Algunas personas encontraron los resultados inquietantes y algu…

Google "Tres adolescentes negros" frente a "Tres adolescentes blancos": ¿ve el problema?
ca.news.yahoo.com · 2016
Traducido por IA

El lunes, el usuario de Twitter @iBeKabir se enteró de que buscar la frase "tres adolescentes negros" en las imágenes de Google produce casi exclusivamente fotos policiales de adolescentes negros.

Curioso, @iBeKabir dice: "Cambiemos el colo…

Google "Tres adolescentes negros" frente a "Tres adolescentes blancos": ¿ve el problema?
mic.com · 2016
Traducido por IA

El lunes, el usuario de Twitter @iBeKabir se enteró de que buscar la frase "tres adolescentes negros" en las imágenes de Google produce casi exclusivamente fotos policiales de adolescentes negros.

Curioso, @iBeKabir dice: "Cambiemos el colo…

Buscar en Google "Tres adolescentes negros" frente a "Tres adolescentes blancos"
ebaumsworld.com · 2016
Traducido por IA

Un video muestra resultados de búsqueda de imágenes donde la única diferencia en la búsqueda es "blanco" versus "negro". En el primer caso, se devuelven fotografías de archivo, mientras que en el segundo, se devuelven fotografías policiales…

Hombre compara búsquedas en Google de 'adolescentes negros' y 'adolescentes blancos'
metro.co.uk · 2016
Traducido por IA

Para ver este video, habilite JavaScript y considere actualizar a un navegador web que admita video HTML5

Un hombre comparó los resultados de buscar en Google "Tres adolescentes negros" y "Tres adolescentes blancos", y los resultados han en…

La búsqueda en Google de 'Tres adolescentes negros' desata filas en Twitter
bbc.com · 2016
Traducido por IA

Derechos de autor de la imagen Imágenes de Google

¿Qué sucede cuando escribes: "Tres adolescentes negros" en una búsqueda de imágenes de Google?

El usuario de Twitter @ibekabir volvió a publicar un video que mostraba a alguien haciendo exac…

La búsqueda de imágenes de Google de 'Tres adolescentes negros' frente a 'Tres adolescentes blancos' es escandalosamente ofensiva
sickchirpse.com · 2016
Traducido por IA

Una búsqueda de imágenes de Google se está volviendo viral en Twitter, ya que se dice que resalta la omnipresencia de los prejuicios raciales y los perfiles de los medios.

Un tipo llamado Kabir Alli publicó este clip en Twitter de sí mismo …

Tres adolescentes negros vs. Tres adolescentes blancos: Google Images muestra fotos policiales malvadas y fotos felices
inquisitr.com · 2016
Traducido por IA

Cuando uno busca “tres adolescentes negros” en un sitio web de fotos de stock como Shutterstock, aparecen fotos como la de arriba de tres lindos adolescentes negros por un fotógrafo llamado “Logo Boom”. Quizás Google Images debería tomar no…

La búsqueda de imágenes de Google de 'tres adolescentes negros' frente a 'tres adolescentes blancos' causa indignación
dailymail.co.uk · 2016
Traducido por IA

Búsqueda de imágenes de Google 'tres adolescentes negros' y luego 'tres adolescentes blancos'.

Un video de Twitter de un hombre escribiendo en esta búsqueda supuestamente sin complicaciones se ha vuelto enormemente viral desde que se subió …

La búsqueda de 'tres adolescentes negros' muestra que es la sociedad, no Google, la que es racista
theguardian.com · 2016
Traducido por IA

Esta semana, el usuario de Twitter Kabir Alli publicó un video de él realizando dos búsquedas específicas en Google. La búsqueda de "tres adolescentes blancos" produjo imágenes genéricas sonrientes y felices de adolescentes blancos, mientra…

Busca 'tres adolescentes negros' en Google y esto es lo que ves
washingtonpost.com · 2016
Traducido por IA

Lo que necesita saber sobre AMI, la compañía que Jeff Bezos dice que intentó chantajearlo

La búsqueda de imágenes de Google 'Tres adolescentes negros' desata una fila de racismo
sbs.com.au · 2016
Traducido por IA

Una búsqueda de imágenes de Google que revela resultados marcadamente diferentes para 'tres adolescentes negros' y 'tres adolescentes blancos' ha desatado la ira en las redes sociales.

'Tres adolescentes negros' fue tendencia en Twitter est…

'Adolescentes negros' vs. 'adolescentes blancos': por qué el algoritmo de Google muestra resultados racistas
splinternews.com · 2016
Traducido por IA

La respuesta corta a por qué el algoritmo de Google arroja resultados racistas es que la sociedad es racista. Pero empecemos con una pequeña historia.

El 6 de junio (que es lunes, para aquellos de ustedes que hacen un seguimiento en casa), …

Google criticado por sesgo racial en los resultados de búsqueda de imágenes para adolescentes negros
washingtonpost.com · 2016
Traducido por IA

Si buscó "tres adolescentes blancos" en Google Imágenes a principios de este mes, el resultado mostró personas brillantes y felices en masa: un R.E.M. Canción en formato JPG. Las imágenes, en su mayoría fotos de archivo, mostraban a hombres…

Taburete deportivo
barstoolsports.com · 2016
Traducido por IA

Y solo para asegurarnos de que no es una especie de búsqueda algorítmica de Google que solo este tipo está viendo:

Captura de pantalla 2016-06-08 a las 11:00:47 a. m.

Captura de pantalla 2016-06-08 a las 11.01.15 a. m.

De acuerdo, lo siento…

El sesgo ya existe en los resultados de los motores de búsqueda y solo empeorará
technologyreview.com · 2018
Traducido por IA

Internet puede parecer un campo de juego nivelado, pero no lo es. Safiya Umoja Noble se encontró cara a cara con ese hecho un día cuando usó el motor de búsqueda de Google para buscar temas que sus sobrinas pudieran encontrar interesantes. …

Cuando los supremacistas blancos apuntan a los ancianos negros
nymag.com · 2018
Traducido por IA

Gregory Bush es procesado por dos cargos de asesinato y 10 cargos de poner en peligro sin sentido el jueves 25 de octubre de 2018 en Louisville, Ky. Bush disparó fatalmente a dos clientes afroamericanos en una tienda de comestibles Kroger e…

Variantes

Una "Variante" es un incidente que comparte los mismos factores causales, produce daños similares e involucra los mismos sistemas inteligentes que un incidente de IA conocido. En lugar de indexar las variantes como incidentes completamente separados, enumeramos las variaciones de los incidentes bajo el primer incidente similar enviado a la base de datos. A diferencia de otros tipos de envío a la base de datos de incidentes, no se requiere que las variantes tengan informes como evidencia externa a la base de datos de incidentes. Obtenga más información del trabajo de investigación.

Incidentes Similares

Por similitud de texto

Did our AI mess up? Flag the unrelated incidents

Images of Black People Labeled as Gorillas

When It Comes to Gorillas, Google Photos Remains Blind

Jun 2015 · 24 informes
FaceApp Racial Filters

FaceApp deletes new black, white and Asian filters after racism storm

Apr 2017 · 23 informes
Sexist and Racist Google Adsense Advertisements

Discrimination in Online Ad Delivery

Jan 2013 · 27 informes
Incidente AnteriorSiguiente Incidente

Incidentes Similares

Por similitud de texto

Did our AI mess up? Flag the unrelated incidents

Images of Black People Labeled as Gorillas

When It Comes to Gorillas, Google Photos Remains Blind

Jun 2015 · 24 informes
FaceApp Racial Filters

FaceApp deletes new black, white and Asian filters after racism storm

Apr 2017 · 23 informes
Sexist and Racist Google Adsense Advertisements

Discrimination in Online Ad Delivery

Jan 2013 · 27 informes

Investigación

  • Definición de un “Incidente de IA”
  • Definición de una “Respuesta a incidentes de IA”
  • Hoja de ruta de la base de datos
  • Trabajo relacionado
  • Descargar Base de Datos Completa

Proyecto y Comunidad

  • Acerca de
  • Contactar y Seguir
  • Aplicaciones y resúmenes
  • Guía del editor

Incidencias

  • Todos los incidentes en forma de lista
  • Incidentes marcados
  • Cola de envío
  • Vista de clasificaciones
  • Taxonomías

2023 - AI Incident Database

  • Condiciones de uso
  • Política de privacidad
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • 5fc5e5b