Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
Découvrir
Envoyer
  • Bienvenue sur AIID
  • Découvrir les incidents
  • Vue spatiale
  • Vue de tableau
  • Vue de liste
  • Entités
  • Taxonomies
  • Soumettre des rapports d'incident
  • Classement des reporters
  • Blog
  • Résumé de l’Actualité sur l’IA
  • Contrôle des risques
  • Incident au hasard
  • S'inscrire
Fermer
Découvrir
Envoyer
  • Bienvenue sur AIID
  • Découvrir les incidents
  • Vue spatiale
  • Vue de tableau
  • Vue de liste
  • Entités
  • Taxonomies
  • Soumettre des rapports d'incident
  • Classement des reporters
  • Blog
  • Résumé de l’Actualité sur l’IA
  • Contrôle des risques
  • Incident au hasard
  • S'inscrire
Fermer

Incident 54: Predictive Policing Biases of PredPol

Description: Predictive policing algorithms meant to aid law enforcement by predicting future crime show signs of biased output.

Outils

Nouveau rapportNouveau rapportNouvelle RéponseNouvelle RéponseDécouvrirDécouvrirVoir l'historiqueVoir l'historique

Entités

Voir toutes les entités
Alleged: PredPol developed an AI system deployed by PredPol et Oakland Police Department, which harmed Oakland Residents.

Statistiques d'incidents

ID
54
Nombre de rapports
17
Date de l'incident
2015-11-18
Editeurs
Sean McGregor
Applied Taxonomies
CSETv0, CSETv1, GMF, MIT

Classifications de taxonomie CSETv1

Détails de la taxonomie

Incident Number

The number of the incident in the AI Incident Database.
 

54

Classifications de taxonomie CSETv0

Détails de la taxonomie

Problem Nature

Indicates which, if any, of the following types of AI failure describe the incident: "Specification," i.e. the system's behavior did not align with the true intentions of its designer, operator, etc; "Robustness," i.e. the system operated unsafely because of features or changes in its environment, or in the inputs the system received; "Assurance," i.e. the system could not be adequately monitored or controlled during operation.
 

Robustness

Physical System

Where relevant, indicates whether the AI system(s) was embedded into or tightly associated with specific types of hardware.
 

Software only

Level of Autonomy

The degree to which the AI system(s) functions independently from human intervention. "High" means there is no human involved in the system action execution; "Medium" means the system generates a decision and a human oversees the resulting action; "low" means the system generates decision-support output and a human makes a decision and executes an action.
 

Unclear/unknown

Nature of End User

"Expert" if users with special training or technical expertise were the ones meant to benefit from the AI system(s)’ operation; "Amateur" if the AI systems were primarily meant to benefit the general public or untrained users.
 

Expert

Public Sector Deployment

"Yes" if the AI system(s) involved in the accident were being used by the public sector or for the administration of public goods (for example, public transportation). "No" if the system(s) were being used in the private sector or for commercial purposes (for example, a ride-sharing company), on the other.
 

Yes

Data Inputs

A brief description of the data that the AI system(s) used or were trained on.
 

Crime statistics

Classifications de taxonomie MIT

Machine-Classified
Détails de la taxonomie

Risk Subdomain

A further 23 subdomains create an accessible and understandable classification of hazards and harms associated with AI
 

1.1. Unfair discrimination and misrepresentation

Risk Domain

The Domain Taxonomy of AI Risks classifies risks into seven AI risk domains: (1) Discrimination & toxicity, (2) Privacy & security, (3) Misinformation, (4) Malicious actors & misuse, (5) Human-computer interaction, (6) Socioeconomic & environmental harms, and (7) AI system safety, failures & limitations.
 
  1. Discrimination and Toxicity

Entity

Which, if any, entity is presented as the main cause of the risk
 

AI

Timing

The stage in the AI lifecycle at which the risk is presented as occurring
 

Post-deployment

Intent

Whether the risk is presented as occurring as an expected or unexpected outcome from pursuing a goal
 

Unintentional

Rapports d'incidents

Chronologie du rapport

+1
Soyez prudent à propos de la police basée sur les données
+2
Police de l'avenir
Biais machine+3
La «police prédictive» se produit maintenant – et la police pourrait tirer une leçon de Minority Report.
+2
La police prédictive viole plus qu'elle ne protège : colonne
La vérité sur la police prédictive et la raceIBM a utilisé des images de surveillance NYPD pour développer une technologie qui permet à la police de rechercher par couleur de peau+1
Comment nous avons déterminé que les logiciels de police prédictive ciblaient de manière disproportionnée les quartiers à faible revenu, noirs et latinos
Utilisation de l'intelligence artificielle par la police : 2021 en revue
Soyez prudent à propos de la police basée sur les données

Soyez prudent à propos de la police basée sur les données

nytimes.com

Police de l'avenir

Police de l'avenir

themarshallproject.org

Les données de la police pourraient étiqueter des "suspects" pour des crimes qu'ils n'ont pas commis

Les données de la police pourraient étiqueter des "suspects" pour des crimes qu'ils n'ont pas commis

theguardian.com

Police prédictive : l'avenir de la lutte contre le crime ou l'avenir du profilage racial ?

Police prédictive : l'avenir de la lutte contre le crime ou l'avenir du profilage racial ?

splinternews.com

Biais machine

Biais machine

propublica.org

La «police prédictive» se produit maintenant – et la police pourrait tirer une leçon de Minority Report.

La «police prédictive» se produit maintenant – et la police pourrait tirer une leçon de Minority Report.

medium.com

Prévoir et servir ?

Prévoir et servir ?

rss.onlinelibrary.wiley.com

L'outil de prédiction de la criminalité pourrait renforcer la police discriminatoire

L'outil de prédiction de la criminalité pourrait renforcer la police discriminatoire

businessinsider.com

La police utilise un logiciel pour prédire la criminalité. Est-ce un « Saint Graal » ou un parti pris contre les minorités ?

La police utilise un logiciel pour prédire la criminalité. Est-ce un « Saint Graal » ou un parti pris contre les minorités ?

washingtonpost.com

La police prédictive viole plus qu'elle ne protège : colonne

La police prédictive viole plus qu'elle ne protège : colonne

usatoday.com

Pourquoi la police d'Oakland a refusé la police prédictive

Pourquoi la police d'Oakland a refusé la police prédictive

motherboard.vice.com

La police prédictive n'est pas aussi prédictive que vous le pensez

La police prédictive n'est pas aussi prédictive que vous le pensez

cfr.org

La vérité sur la police prédictive et la race

La vérité sur la police prédictive et la race

theappeal.org

IBM a utilisé des images de surveillance NYPD pour développer une technologie qui permet à la police de rechercher par couleur de peau

IBM a utilisé des images de surveillance NYPD pour développer une technologie qui permet à la police de rechercher par couleur de peau

theintercept.com

Comment nous avons déterminé que les logiciels de police prédictive ciblaient de manière disproportionnée les quartiers à faible revenu, noirs et latinos

Comment nous avons déterminé que les logiciels de police prédictive ciblaient de manière disproportionnée les quartiers à faible revenu, noirs et latinos

gizmodo.com

Un logiciel de prédiction de la criminalité promet d'être exempt de biais. De nouvelles données montrent qu'elles les perpétuent

Un logiciel de prédiction de la criminalité promet d'être exempt de biais. De nouvelles données montrent qu'elles les perpétuent

gizmodo.com

Utilisation de l'intelligence artificielle par la police : 2021 en revue

Utilisation de l'intelligence artificielle par la police : 2021 en revue

eff.org

Soyez prudent à propos de la police basée sur les données
nytimes.com · 2015
Traduit par IA

Faiza Patel est codirectrice du programme Liberté et sécurité nationale au Brennan Center for Justice de la faculté de droit de l'Université de New York. Elle est sur Twitter.

À chaque époque, les forces de police ont accès à de nouveaux ou…

Police de l'avenir
themarshallproject.org · 2016
Traduit par IA

Un peu plus d'un an après que la mort de Michael Brown soit devenue le point central d'un débat national sur la police et la race, Ferguson et la banlieue voisine de Saint-Louis sont revenues à ce qui ressemble, de l'extérieur, à une sorte …

Les données de la police pourraient étiqueter des "suspects" pour des crimes qu'ils n'ont pas commis
theguardian.com · 2016
Traduit par IA

Un policier se tient au coin d'une intersection achalandée, scrutant la foule avec sa caméra corporelle. Le flux est diffusé en direct dans le Real Time Crime Center au siège du département, où un logiciel spécialisé utilise la reconnaissan…

Police prédictive : l'avenir de la lutte contre le crime ou l'avenir du profilage racial ?
splinternews.com · 2016
Traduit par IA

Voici l'épisode 12 de Real Future, la série documentaire de Fusion sur la technologie et la société. Plus d'épisodes disponibles sur realfuture.tv.

Il existe un nouveau type de logiciel qui prétend aider les forces de l'ordre à réduire la c…

Biais machine
propublica.org · 2016
Traduit par IA

UN APRÈS-MIDI DE PRINTEMPS EN 2014, Brisha Borden était en retard pour aller chercher sa marraine à l'école lorsqu'elle a repéré un vélo bleu Huffy pour enfant non verrouillé et un scooter argenté Razor. Borden et un ami ont attrapé le vélo…

La «police prédictive» se produit maintenant – et la police pourrait tirer une leçon de Minority Report.
medium.com · 2016
Traduit par IA

La «police prédictive» se produit maintenant – et la police pourrait tirer une leçon de Minority Report.

David Robinson Bloqué Débloquer Suivre Suivre 31 août 2016

Dans le film Minority Report , des mutants dans une cuve regardent vers l'av…

Prévoir et servir ?
rss.onlinelibrary.wiley.com · 2016
Traduit par IA

Fin 2013, Robert McDaniel – un homme noir de 22 ans qui vit dans le quartier sud de Chicago – a reçu la visite inopinée d'un commandant du département de police de Chicago pour l'avertir de ne plus commettre d'autres crimes. La visite a pri…

L'outil de prédiction de la criminalité pourrait renforcer la police discriminatoire
businessinsider.com · 2016
Traduit par IA

Natalie Behring/Getty

Les algorithmes ont pris le dessus sur nos vies, que nous l'apprécions ou non.

Lorsque Facebook nous livre des théories sur les pièges à clics et le complot, c'est un algorithme qui décide de ce qui vous intéresse.

Lor…

La police utilise un logiciel pour prédire la criminalité. Est-ce un « Saint Graal » ou un parti pris contre les minorités ?
washingtonpost.com · 2016
Traduit par IA

Au cours d'un quart d'octobre, le sergent de la police de Los Angeles. Charles Coleman de la division Foothill s'entretient avec Clarance Dolberry, portant une casquette de baseball, et Veronica De Leon, portant un masque de Mardi Gras, à u…

La police prédictive viole plus qu'elle ne protège : colonne
usatoday.com · 2016
Traduit par IA

Le système destiné à alléger les ressources de la police cible de manière disproportionnée les communautés minoritaires et soulève des préoccupations concernant le quatrième amendement

Une voiture de patrouille de la police d'Oakland (Photo…

Pourquoi la police d'Oakland a refusé la police prédictive
motherboard.vice.com · 2016
Traduit par IA

Image : Gina Ferazzi/Getty

Tim Birch en était à six mois de son nouveau poste de chef de la recherche et de la planification pour le département de police d'Oakland lorsqu'il est entré dans son bureau et a trouvé un morceau de papier de che…

La police prédictive n'est pas aussi prédictive que vous le pensez
cfr.org · 2017
Traduit par IA

Le problème de la police a toujours été que c'est après coup. Si les agents chargés de l'application des lois pouvaient être au bon endroit au bon moment, le crime pourrait être prévenu, des vies pourraient être sauvées et la société serait…

La vérité sur la police prédictive et la race
theappeal.org · 2018
Traduit par IA

La vérité sur la police prédictive et la race

Dimanche, le New York Times a publié un éditorial bien intentionné sur les craintes de préjugés raciaux dans l'intelligence artificielle et les systèmes de police prédictive. L'auteur, Bärí A. W…

IBM a utilisé des images de surveillance NYPD pour développer une technologie qui permet à la police de rechercher par couleur de peau
theintercept.com · 2018
Traduit par IA

AU COURS DE LA DÉCENNIE qui a suivi les attentats du 11 septembre, le département de police de la ville de New York a décidé de mettre des millions de New-Yorkais sous surveillance constante. Avertissant des menaces terroristes, le départem…

Comment nous avons déterminé que les logiciels de police prédictive ciblaient de manière disproportionnée les quartiers à faible revenu, noirs et latinos
gizmodo.com · 2021
Traduit par IA
Introduction L'expansion de la tenue de dossiers numériques par les services de police à travers les États-Unis dans les années 1990 a inauguré l'ère des services de police axés sur les données. D'immenses métropoles comme New York ont ​​an…
Un logiciel de prédiction de la criminalité promet d'être exempt de biais. De nouvelles données montrent qu'elles les perpétuent
gizmodo.com · 2021
Traduit par IA

Entre 2018 et 2021, plus d'un résident américain sur 33 était potentiellement soumis à des décisions de patrouille de police dirigées par un logiciel de prédiction de la criminalité appelé PredPol. La société qui le fabrique a envoyé plus d…

Utilisation de l'intelligence artificielle par la police : 2021 en revue
eff.org · 2022
Traduit par IA

Il y a des décennies, en imaginant les utilisations pratiques de l'intelligence artificielle, les auteurs de science-fiction imaginaient des esprits numériques autonomes qui pourraient servir l'humanité. Bien sûr, parfois, un HAL 9000 ou un…

Variantes

Une "Variante" est un incident qui partage les mêmes facteurs de causalité, produit des dommages similaires et implique les mêmes systèmes intelligents qu'un incident d'IA connu. Plutôt que d'indexer les variantes comme des incidents entièrement distincts, nous listons les variations d'incidents sous le premier incident similaire soumis à la base de données. Contrairement aux autres types de soumission à la base de données des incidents, les variantes ne sont pas tenues d'avoir des rapports en preuve externes à la base de données des incidents. En savoir plus sur le document de recherche.

Incidents similaires

Par similarité textuelle

Did our AI mess up? Flag the unrelated incidents

Northpointe Risk Models

Machine Bias - ProPublica

May 2016 · 15 rapports
COMPAS Algorithm Performs Poorly in Crime Recidivism Prediction

A Popular Algorithm Is No Better at Predicting Crimes Than Random People

May 2016 · 22 rapports
Sexist and Racist Google Adsense Advertisements

Discrimination in Online Ad Delivery

Jan 2013 · 27 rapports
Incident précédentProchain incident

Incidents similaires

Par similarité textuelle

Did our AI mess up? Flag the unrelated incidents

Northpointe Risk Models

Machine Bias - ProPublica

May 2016 · 15 rapports
COMPAS Algorithm Performs Poorly in Crime Recidivism Prediction

A Popular Algorithm Is No Better at Predicting Crimes Than Random People

May 2016 · 22 rapports
Sexist and Racist Google Adsense Advertisements

Discrimination in Online Ad Delivery

Jan 2013 · 27 rapports

Recherche

  • Définition d'un « incident d'IA »
  • Définir une « réponse aux incidents d'IA »
  • Feuille de route de la base de données
  • Travaux connexes
  • Télécharger la base de données complète

Projet et communauté

  • À propos de
  • Contacter et suivre
  • Applications et résumés
  • Guide de l'éditeur

Incidents

  • Tous les incidents sous forme de liste
  • Incidents signalés
  • File d'attente de soumission
  • Affichage des classifications
  • Taxonomies

2023 - AI Incident Database

  • Conditions d'utilisation
  • Politique de confidentialité
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • 5fc5e5b