Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
Descubrir
Enviar
  • Bienvenido a la AIID
  • Descubrir Incidentes
  • Vista espacial
  • Vista Tabular
  • Vista de lista
  • Entidades
  • Taxonomías
  • Enviar Informes de Incidentes
  • Ranking de Reportadores
  • Blog
  • Resumen de noticias de IA
  • Control de Riesgos
  • Incidente aleatorio
  • Registrarse
Colapsar
Descubrir
Enviar
  • Bienvenido a la AIID
  • Descubrir Incidentes
  • Vista espacial
  • Vista Tabular
  • Vista de lista
  • Entidades
  • Taxonomías
  • Enviar Informes de Incidentes
  • Ranking de Reportadores
  • Blog
  • Resumen de noticias de IA
  • Control de Riesgos
  • Incidente aleatorio
  • Registrarse
Colapsar

Incidente 48: Passport checker Detects Asian man's Eyes as Closed

Descripción: New Zealand passport robot reader rejects the application of an applicant with Asian descent and says his eyes are closed.

Herramientas

Nuevo InformeNuevo InformeNueva RespuestaNueva RespuestaDescubrirDescubrirVer HistorialVer Historial

Entidades

Ver todas las entidades
Presunto: un sistema de IA desarrollado e implementado por New Zealand, perjudicó a Asian People.

Estadísticas de incidentes

ID
48
Cantidad de informes
22
Fecha del Incidente
2016-12-07
Editores
Sean McGregor
Applied Taxonomies
CSETv0, CSETv1, GMF, MIT

Clasificaciones de la Taxonomía CSETv1

Detalles de la Taxonomía

Incident Number

The number of the incident in the AI Incident Database.
 

48

Special Interest Intangible Harm

An assessment of whether a special interest intangible harm occurred. This assessment does not consider the context of the intangible harm, if an AI was involved, or if there is characterizable class or subgroup of harmed entities. It is also not assessing if an intangible harm occurred. It is only asking if a special interest intangible harm occurred.
 

yes

Date of Incident Year

The year in which the incident occurred. If there are multiple harms or occurrences of the incident, list the earliest. If a precise date is unavailable, but the available sources provide a basis for estimating the year, estimate. Otherwise, leave blank. Enter in the format of YYYY
 

2016

Date of Incident Month

The month in which the incident occurred. If there are multiple harms or occurrences of the incident, list the earliest. If a precise date is unavailable, but the available sources provide a basis for estimating the month, estimate. Otherwise, leave blank. Enter in the format of MM
 

12

Estimated Date

“Yes” if the data was estimated. “No” otherwise.
 

No

Multiple AI Interaction

“Yes” if two or more independently operating AI systems were involved. “No” otherwise.
 

no

Clasificaciones de la Taxonomía CSETv0

Detalles de la Taxonomía

Problem Nature

Indicates which, if any, of the following types of AI failure describe the incident: "Specification," i.e. the system's behavior did not align with the true intentions of its designer, operator, etc; "Robustness," i.e. the system operated unsafely because of features or changes in its environment, or in the inputs the system received; "Assurance," i.e. the system could not be adequately monitored or controlled during operation.
 

Unknown/unclear

Physical System

Where relevant, indicates whether the AI system(s) was embedded into or tightly associated with specific types of hardware.
 

Software only

Level of Autonomy

The degree to which the AI system(s) functions independently from human intervention. "High" means there is no human involved in the system action execution; "Medium" means the system generates a decision and a human oversees the resulting action; "low" means the system generates decision-support output and a human makes a decision and executes an action.
 

Medium

Nature of End User

"Expert" if users with special training or technical expertise were the ones meant to benefit from the AI system(s)’ operation; "Amateur" if the AI systems were primarily meant to benefit the general public or untrained users.
 

Amateur

Public Sector Deployment

"Yes" if the AI system(s) involved in the accident were being used by the public sector or for the administration of public goods (for example, public transportation). "No" if the system(s) were being used in the private sector or for commercial purposes (for example, a ride-sharing company), on the other.
 

No

Data Inputs

A brief description of the data that the AI system(s) used or were trained on.
 

ID photos

Clasificaciones de la Taxonomía MIT

Machine-Classified
Detalles de la Taxonomía

Risk Subdomain

A further 23 subdomains create an accessible and understandable classification of hazards and harms associated with AI
 

1.3. Unequal performance across groups

Risk Domain

The Domain Taxonomy of AI Risks classifies risks into seven AI risk domains: (1) Discrimination & toxicity, (2) Privacy & security, (3) Misinformation, (4) Malicious actors & misuse, (5) Human-computer interaction, (6) Socioeconomic & environmental harms, and (7) AI system safety, failures & limitations.
 
  1. Discrimination and Toxicity

Entity

Which, if any, entity is presented as the main cause of the risk
 

AI

Timing

The stage in the AI lifecycle at which the risk is presented as occurring
 

Post-deployment

Intent

Whether the risk is presented as occurring as an expected or unexpected outcome from pursuing a goal
 

Unintentional

Informes del Incidente

Cronología de Informes

+20
Error de pasaporte ve foto rechazada por 'ojos cerrados'
El verificador de fotos del pasaporte de Nueva Zelanda rechaza la foto de un chico asiático, dice que tiene los ojos cerradosMáquina de pasaportes 'racista' acusa a hombre asiático de tener los ojos cerrados
Error de pasaporte ve foto rechazada por 'ojos cerrados'

Error de pasaporte ve foto rechazada por 'ojos cerrados'

newshub.co.nz

La foto de un hombre asiático es rechazada por el software de fotos de pasaporte de Nueva Zelanda porque sus "ojos estaban cerrados"

La foto de un hombre asiático es rechazada por el software de fotos de pasaporte de Nueva Zelanda porque sus "ojos estaban cerrados"

thesun.co.uk

El lector de pasaportes de Nueva Zelanda acusa a un asiático de tener "los ojos cerrados"

El lector de pasaportes de Nueva Zelanda acusa a un asiático de tener "los ojos cerrados"

theinquirer.net

El gobierno de Nueva Zelanda acusado de racismo después de que el software de renovación de pasaporte 'fallara' en la foto de un hombre asiático

El gobierno de Nueva Zelanda acusado de racismo después de que el software de renovación de pasaporte 'fallara' en la foto de un hombre asiático

news.com.au

Robot racista rechaza la foto del pasaporte de un hombre asiático, alegando que "los ojos están cerrados"

Robot racista rechaza la foto del pasaporte de un hombre asiático, alegando que "los ojos están cerrados"

nydailynews.com

Robot verificador de pasaportes rechaza foto de hombre asiático por tener los ojos cerrados

Robot verificador de pasaportes rechaza foto de hombre asiático por tener los ojos cerrados

telegraph.co.uk

El robot de pasaporte de Nueva Zelanda le dice al solicitante de ascendencia asiática que abra los ojos

El robot de pasaporte de Nueva Zelanda le dice al solicitante de ascendencia asiática que abra los ojos

reuters.com

El reconocimiento facial le dice a un hombre asiático que tiene los ojos cerrados

El reconocimiento facial le dice a un hombre asiático que tiene los ojos cerrados

digitaltrends.com

¿Robot racista? El sitio web del gobierno de Nueva Zelanda le dice a un hombre asiático que abra los ojos, rechaza el pasaporte

¿Robot racista? El sitio web del gobierno de Nueva Zelanda le dice a un hombre asiático que abra los ojos, rechaza el pasaporte

indiatoday.in

El software de reconocimiento facial rechaza la foto del pasaporte de un hombre asiático porque cree que tiene los ojos cerrados

El software de reconocimiento facial rechaza la foto del pasaporte de un hombre asiático porque cree que tiene los ojos cerrados

techspot.com

Un algoritmo rechazó la foto del pasaporte de un hombre asiático por tener "los ojos cerrados"

Un algoritmo rechazó la foto del pasaporte de un hombre asiático por tener "los ojos cerrados"

qz.com

Máquina racista de pasaportes rechaza foto porque "los ojos del sujeto están cerrados"

Máquina racista de pasaportes rechaza foto porque "los ojos del sujeto están cerrados"

elitereaders.com

Sitio web de pasaportes de Nueva Zelanda rechaza foto de hombre asiático por tener los ojos "cerrados"

Sitio web de pasaportes de Nueva Zelanda rechaza foto de hombre asiático por tener los ojos "cerrados"

gizmodo.com.au

Foto de pasaporte rechazada por robot de reconocimiento facial 'racista' en Nueva Zelanda

Foto de pasaporte rechazada por robot de reconocimiento facial 'racista' en Nueva Zelanda

dailystar.co.uk

Neozelandés dice que el rechazo de la foto del pasaporte "no es racista"

Neozelandés dice que el rechazo de la foto del pasaporte "no es racista"

bbc.com

Robot 'racista' rechaza foto de pasaporte con rostro asiático

Robot 'racista' rechaza foto de pasaporte con rostro asiático

rappler.com

Pasaporte robot se puso 'racista', le dice al solicitante de ascendencia asiática que abra los ojos

Pasaporte robot se puso 'racista', le dice al solicitante de ascendencia asiática que abra los ojos

tenplay.com.au

Hombre ve humor en software de reconocimiento facial 'racista'

Hombre ve humor en software de reconocimiento facial 'racista'

nzherald.co.nz

El robot del pasaporte de Nueva Zelanda cree que los ojos de este hombre asiático están cerrados

El robot del pasaporte de Nueva Zelanda cree que los ojos de este hombre asiático están cerrados

edition.cnn.com

Solicitud de pasaporte 'racista' irrita a ciudadano neozelandés de 10 años

Solicitud de pasaporte 'racista' irrita a ciudadano neozelandés de 10 años

stuff.co.nz

El verificador de fotos del pasaporte de Nueva Zelanda rechaza la foto de un chico asiático, dice que tiene los ojos cerrados

El verificador de fotos del pasaporte de Nueva Zelanda rechaza la foto de un chico asiático, dice que tiene los ojos cerrados

boredpanda.com

Máquina de pasaportes 'racista' acusa a hombre asiático de tener los ojos cerrados

Máquina de pasaportes 'racista' acusa a hombre asiático de tener los ojos cerrados

rt.com

Error de pasaporte ve foto rechazada por 'ojos cerrados'
newshub.co.nz · 2016
Traducido por IA

(Richard Lee / Facebook)

El Departamento de Asuntos Internos se ha visto envuelto en un pequeño error después de que un joven asiático que envió una foto para su pasaporte fue rechazada debido a "ojos cerrados".

Richard Lee es un kiwi que v…

La foto de un hombre asiático es rechazada por el software de fotos de pasaporte de Nueva Zelanda porque sus "ojos estaban cerrados"
thesun.co.uk · 2016
Traducido por IA

La foto del pasaporte de un hombre asiático fue rechazada por el gobierno de Nueva Zelanda después de que su software de reconocimiento facial afirmara que tenía los "ojos cerrados".

Richard Lee, originario de Taiwán, compartió una captura …

El lector de pasaportes de Nueva Zelanda acusa a un asiático de tener "los ojos cerrados"
theinquirer.net · 2016
Traducido por IA

MUÉVETE Príncipe Felipe, tus comentarios racistas sobre las expresiones faciales de los asiáticos no son nada comparados con el gesto de un robot de reconocimiento facial que verifica pasaportes.

Richard Lee, de 22 años, no pudo renovar su …

El gobierno de Nueva Zelanda acusado de racismo después de que el software de renovación de pasaporte 'fallara' en la foto de un hombre asiático
news.com.au · 2016
Traducido por IA

EL gobierno de NUEVA Zelanda fue acusado de ser racista después de que su software de renovación de pasaporte no reconociera la foto de un hombre asiático.

Richard Lee es de Taiwán pero creció en Nueva Zelanda. Desde entonces se mudó a Aust…

Robot racista rechaza la foto del pasaporte de un hombre asiático, alegando que "los ojos están cerrados"
nydailynews.com · 2016
Traducido por IA

Como mínimo, Lee tenía sentido del humor sobre la situación. Usando un filtro de Snapchat que exageraba ligeramente sus rasgos, tomó otra foto en la que sus ojos eran más amigables con los de un robot.

Robot verificador de pasaportes rechaza foto de hombre asiático por tener los ojos cerrados
telegraph.co.uk · 2016
Traducido por IA

A un hombre de ascendencia asiática en Nueva Zelanda se le rechazó la solicitud de pasaporte después de que el software que aprueba las fotos afirmara que tenía los ojos cerrados.

El sitio web de solicitudes del Departamento de Asuntos Inte…

El robot de pasaporte de Nueva Zelanda le dice al solicitante de ascendencia asiática que abra los ojos
reuters.com · 2016
Traducido por IA

Una captura de pantalla del aviso de rechazo de la foto del pasaporte del neozelandés Richard Lee, proporcionada a Reuters el 7 de diciembre de 2016. Richard Lee/Folleto a través de REUTERS

SYDNEY (Reuters) - A un neozelandés de ascendencia…

El reconocimiento facial le dice a un hombre asiático que tiene los ojos cerrados
digitaltrends.com · 2016
Traducido por IA

El reconocimiento facial es una tecnología genial, pero no es perfecta. Se usa en muchas aplicaciones y servicios para proporcionar un medio de verificación más fácil, como Windows Hello que usa la tecnología para desbloquear Windows 10 par…

¿Robot racista? El sitio web del gobierno de Nueva Zelanda le dice a un hombre asiático que abra los ojos, rechaza el pasaporte
indiatoday.in · 2016
Traducido por IA

A un hombre de ascendencia asiática de Nueva Zelanda se le rechazó la fotografía de su pasaporte cuando un software de reconocimiento facial registró por error que sus ojos estaban cerrados.

El intento de Richard Lee de renovar su pasaporte…

El software de reconocimiento facial rechaza la foto del pasaporte de un hombre asiático porque cree que tiene los ojos cerrados
techspot.com · 2016
Traducido por IA

¿Puede el software ser racista? No, aunque los humanos pueden, sin darse cuenta, diseñar programas que parezcan racialmente insensibles o, como fue el caso del chatbot Tay de Microsoft, convertir intencionalmente una IA en un incitador del …

Un algoritmo rechazó la foto del pasaporte de un hombre asiático por tener "los ojos cerrados"
qz.com · 2016
Traducido por IA

Otro golpe contra los robots.

A principios de esta semana, un neozelandés asiático publicó una captura de pantalla en Facebook que mostraba que su foto de pasaporte había sido rechazada por tener los ojos cerrados, a pesar de que estaban vi…

Máquina racista de pasaportes rechaza foto porque "los ojos del sujeto están cerrados"
elitereaders.com · 2016
Traducido por IA

A nadie le gusta su foto de pasaporte. No importa qué tan bien te vistas, te arregles el cabello o te maquilles, siempre te verás un poco incómodo con una cara de póquer, las orejas hacia afuera y mirando a la cámara de frente.

Bueno, un ho…

Sitio web de pasaportes de Nueva Zelanda rechaza foto de hombre asiático por tener los ojos "cerrados"
gizmodo.com.au · 2016
Traducido por IA

Cualquiera que haya lidiado con las complejidades de los requisitos de la foto del pasaporte probablemente aprovecharía la oportunidad de verificar sus fotos en línea, pero los sistemas automatizados pueden tener sus propias complicaciones,…

Foto de pasaporte rechazada por robot de reconocimiento facial 'racista' en Nueva Zelanda
dailystar.co.uk · 2016
Traducido por IA

RECHAZADO: Los robots no aceptaron esta fotografía

Richard Lee, de 22 años, envió una foto a un nuevo verificador de fotos de pasaportes en línea administrado por el gobierno de Nueva Zelanda.

Pero el sistema automatizado le dijo al furioso…

Neozelandés dice que el rechazo de la foto del pasaporte "no es racista"
bbc.com · 2016
Traducido por IA

Derechos de autor de la imagen Reuters/Richard Lee

Un neozelandés de ascendencia asiática se encogió de hombros ante el rechazo de una foto de solicitud de pasaporte por parte de un software debido a sus ojos.

El sistema envió un mensaje de…

Robot 'racista' rechaza foto de pasaporte con rostro asiático
rappler.com · 2016
Traducido por IA

Una respuesta generada por computadora dijo que la foto de un neozelandés de ascendencia asiática no cumplía con los criterios de Nueva Zelanda porque los "ojos están cerrados".

Publicado 9:24 AM, 08 de diciembre de 2016

WELLINGTON, Nueva Z…

Pasaporte robot se puso 'racista', le dice al solicitante de ascendencia asiática que abra los ojos
tenplay.com.au · 2016
Traducido por IA

A un hombre de ascendencia asiática de Nueva Zelanda se le rechazó la foto del pasaporte cuando el software de reconocimiento facial registró que sus ojos estaban cerrados.

Richard Lee estaba tratando de renovar su pasaporte para poder regr…

Hombre ve humor en software de reconocimiento facial 'racista'
nzherald.co.nz · 2016
Traducido por IA

Un sitio web del gobierno rechazó la foto del pasaporte de un hombre de ascendencia asiática de Nueva Zelanda cuando su software de reconocimiento facial registró que sus ojos estaban cerrados.

Richard Lee estaba tratando de renovar su pasa…

El robot del pasaporte de Nueva Zelanda cree que los ojos de este hombre asiático están cerrados
edition.cnn.com · 2016
Traducido por IA

(CNN) — Es una molestia común, estás completando un formulario en línea y recibes un error.

El neozelandés Richard Lee estaba solicitando un pasaporte en línea cuando el sistema se opuso a la imagen que cargó.

"La foto que quieres subir no …

Solicitud de pasaporte 'racista' irrita a ciudadano neozelandés de 10 años
stuff.co.nz · 2017
Traducido por IA

Una mujer de Palmerston North alega que un trabajador del centro de salud la perfiló racialmente porque dijo que no se parecía a un kiwi y pidió una prueba de pasaporte de su ciudadanía neozelandesa.

Pero el centro de salud dice que la situ…

El verificador de fotos del pasaporte de Nueva Zelanda rechaza la foto de un chico asiático, dice que tiene los ojos cerrados
boredpanda.com · 2017
Traducido por IA

Mira esta foto de Richard Lee, de 22 años. ¿Sus ojos parecen abiertos para ti? Por supuesto que lo hacen. Pero eso no impidió que un sistema automatizado en línea rechazara la renovación de su pasaporte porque, según el software de reconoci…

Máquina de pasaportes 'racista' acusa a hombre asiático de tener los ojos cerrados
rt.com · 2019
Traducido por IA

Un escáner de pasaportes de Nueva Zelanda cometió un error "racista" cuando rechazó la foto de un hombre de ascendencia asiática porque pensó que tenía los ojos cerrados.

A Richard Lee se le bloqueó la renovación de su pasaporte cuando envi…

Variantes

Una "Variante" es un incidente que comparte los mismos factores causales, produce daños similares e involucra los mismos sistemas inteligentes que un incidente de IA conocido. En lugar de indexar las variantes como incidentes completamente separados, enumeramos las variaciones de los incidentes bajo el primer incidente similar enviado a la base de datos. A diferencia de otros tipos de envío a la base de datos de incidentes, no se requiere que las variantes tengan informes como evidencia externa a la base de datos de incidentes. Obtenga más información del trabajo de investigación.

Incidentes Similares

Por similitud de texto

Did our AI mess up? Flag the unrelated incidents

Images of Black People Labeled as Gorillas

When It Comes to Gorillas, Google Photos Remains Blind

Jun 2015 · 24 informes
Defamation via AutoComplete

Algorithmic Defamation: The Case of the Shameless Autocomplete

Apr 2011 · 28 informes
Picture of Woman on Side of Bus Shamed for Jaywalking

Chinese AI caught out by face in bus ad

Nov 2018 · 24 informes
Incidente AnteriorSiguiente Incidente

Incidentes Similares

Por similitud de texto

Did our AI mess up? Flag the unrelated incidents

Images of Black People Labeled as Gorillas

When It Comes to Gorillas, Google Photos Remains Blind

Jun 2015 · 24 informes
Defamation via AutoComplete

Algorithmic Defamation: The Case of the Shameless Autocomplete

Apr 2011 · 28 informes
Picture of Woman on Side of Bus Shamed for Jaywalking

Chinese AI caught out by face in bus ad

Nov 2018 · 24 informes

Investigación

  • Definición de un “Incidente de IA”
  • Definición de una “Respuesta a incidentes de IA”
  • Hoja de ruta de la base de datos
  • Trabajo relacionado
  • Descargar Base de Datos Completa

Proyecto y Comunidad

  • Acerca de
  • Contactar y Seguir
  • Aplicaciones y resúmenes
  • Guía del editor

Incidencias

  • Todos los incidentes en forma de lista
  • Incidentes marcados
  • Cola de envío
  • Vista de clasificaciones
  • Taxonomías

2023 - AI Incident Database

  • Condiciones de uso
  • Política de privacidad
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • 30ebe76