Incidente 515: translated-es-Black Man Wrongfully Arrested by Louisiana Police Due to Face Mismatch
Descripción: translated-es-A black man was wrongfully arrested by the Jefferson Parish Sheriff’s Office due to facial recognition system developed by Clearview AI, although facial recognition use was not disclosed in the documents used to arrest him.
Editor Notes: See Incident 815 for a wider investigation.
Entidades
Ver todas las entidadesAlleged: Clearview AI developed an AI system deployed by Jefferson Parish Sheriff’s Office, which harmed Randal Quran Reid.
Estadísticas de incidentes
Risk Subdomain
A further 23 subdomains create an accessible and understandable classification of hazards and harms associated with AI
1.1. Unfair discrimination and misrepresentation
Risk Domain
The Domain Taxonomy of AI Risks classifies risks into seven AI risk domains: (1) Discrimination & toxicity, (2) Privacy & security, (3) Misinformation, (4) Malicious actors & misuse, (5) Human-computer interaction, (6) Socioeconomic & environmental harms, and (7) AI system safety, failures & limitations.
- Discrimination and Toxicity
Entity
Which, if any, entity is presented as the main cause of the risk
AI
Timing
The stage in the AI lifecycle at which the risk is presented as occurring
Post-deployment
Intent
Whether the risk is presented as occurring as an expected or unexpected outcome from pursuing a goal
Unintentional
Informes del Incidente
Cronología de Informes
El viernes por la tarde después del Día de Acción de Gracias, Randal Quran Reid conducía su Jeep blanco hacia la casa de su madre en las afueras de Atlanta cuando lo detuvieron en una carretera muy transitada. Un policía se acercó a su vehí…
Detenido el pasado 25 de noviembre, mientras conducía por los suburbios de Atlanta (Georgia), Randal Reid probablemente no anticipó el giro que iba a tomar este caso. Y por una buena razón, este afroamericano de 29 años fue arrestado y lueg…
Variantes
Una "Variante" es un incidente de IA similar a un caso conocido—tiene los mismos causantes, daños y sistema de IA. En lugar de enumerarlo por separado, lo agrupamos bajo el primer incidente informado. A diferencia de otros incidentes, las variantes no necesitan haber sido informadas fuera de la AIID. Obtenga más información del trabajo de investigación.
¿Has visto algo similar?