Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
Découvrir
Envoyer
  • Bienvenue sur AIID
  • Découvrir les incidents
  • Vue spatiale
  • Vue de tableau
  • Vue de liste
  • Entités
  • Taxonomies
  • Soumettre des rapports d'incident
  • Classement des reporters
  • Blog
  • Résumé de l’Actualité sur l’IA
  • Contrôle des risques
  • Incident au hasard
  • S'inscrire
Fermer
Découvrir
Envoyer
  • Bienvenue sur AIID
  • Découvrir les incidents
  • Vue spatiale
  • Vue de tableau
  • Vue de liste
  • Entités
  • Taxonomies
  • Soumettre des rapports d'incident
  • Classement des reporters
  • Blog
  • Résumé de l’Actualité sur l’IA
  • Contrôle des risques
  • Incident au hasard
  • S'inscrire
Fermer

Incident 71: Google admits its self driving car got it wrong: Bus crash was caused by software

Description: On February 14, 2016, a Google autonomous test vehicle partially responsible for a low-speed collision with a bus on El Camino Real in Google’s hometown of Mountain View, CA.

Outils

Nouveau rapportNouveau rapportNouvelle RéponseNouvelle RéponseDécouvrirDécouvrirVoir l'historiqueVoir l'historique

Entités

Voir toutes les entités
Présumé : Un système d'IA développé et mis en œuvre par Google, a endommagé Mountain View municipal bus passengers et Mountain View municipal bus.

Statistiques d'incidents

ID
71
Nombre de rapports
28
Date de l'incident
2016-09-26
Editeurs
Sean McGregor, Khoa Lam
Applied Taxonomies
CSETv0, CSETv1, GMF, MIT

Classifications de taxonomie CSETv1

Détails de la taxonomie

Incident Number

The number of the incident in the AI Incident Database.
 

71

AI Tangible Harm Level Notes

Notes about the AI tangible harm level assessment
 

A Google driverless car collided with a bus

Special Interest Intangible Harm

An assessment of whether a special interest intangible harm occurred. This assessment does not consider the context of the intangible harm, if an AI was involved, or if there is characterizable class or subgroup of harmed entities. It is also not assessing if an intangible harm occurred. It is only asking if a special interest intangible harm occurred.
 

no

Date of Incident Year

The year in which the incident occurred. If there are multiple harms or occurrences of the incident, list the earliest. If a precise date is unavailable, but the available sources provide a basis for estimating the year, estimate. Otherwise, leave blank. Enter in the format of YYYY
 

2014

Date of Incident Month

The month in which the incident occurred. If there are multiple harms or occurrences of the incident, list the earliest. If a precise date is unavailable, but the available sources provide a basis for estimating the month, estimate. Otherwise, leave blank. Enter in the format of MM
 

10

Date of Incident Day

The day on which the incident occurred. If a precise date is unavailable, leave blank. Enter in the format of DD
 

Classifications de taxonomie CSETv0

Détails de la taxonomie

Problem Nature

Indicates which, if any, of the following types of AI failure describe the incident: "Specification," i.e. the system's behavior did not align with the true intentions of its designer, operator, etc; "Robustness," i.e. the system operated unsafely because of features or changes in its environment, or in the inputs the system received; "Assurance," i.e. the system could not be adequately monitored or controlled during operation.
 

Robustness

Physical System

Where relevant, indicates whether the AI system(s) was embedded into or tightly associated with specific types of hardware.
 

Vehicle/mobile robot

Level of Autonomy

The degree to which the AI system(s) functions independently from human intervention. "High" means there is no human involved in the system action execution; "Medium" means the system generates a decision and a human oversees the resulting action; "low" means the system generates decision-support output and a human makes a decision and executes an action.
 

High

Nature of End User

"Expert" if users with special training or technical expertise were the ones meant to benefit from the AI system(s)’ operation; "Amateur" if the AI systems were primarily meant to benefit the general public or untrained users.
 

Amateur

Public Sector Deployment

"Yes" if the AI system(s) involved in the accident were being used by the public sector or for the administration of public goods (for example, public transportation). "No" if the system(s) were being used in the private sector or for commercial purposes (for example, a ride-sharing company), on the other.
 

No

Data Inputs

A brief description of the data that the AI system(s) used or were trained on.
 

traffic patterns, radar, LIDAR, video camera footage

Classifications de taxonomie MIT

Machine-Classified
Détails de la taxonomie

Risk Subdomain

A further 23 subdomains create an accessible and understandable classification of hazards and harms associated with AI
 

7.3. Lack of capability or robustness

Risk Domain

The Domain Taxonomy of AI Risks classifies risks into seven AI risk domains: (1) Discrimination & toxicity, (2) Privacy & security, (3) Misinformation, (4) Malicious actors & misuse, (5) Human-computer interaction, (6) Socioeconomic & environmental harms, and (7) AI system safety, failures & limitations.
 
  1. AI system safety, failures, and limitations

Entity

Which, if any, entity is presented as the main cause of the risk
 

AI

Timing

The stage in the AI lifecycle at which the risk is presented as occurring
 

Post-deployment

Intent

Whether the risk is presented as occurring as an expected or unexpected outcome from pursuing a goal
 

Unintentional

Rapports d'incidents

Chronologie du rapport

Apple Lexus RX 450h voiture d'essai autonome à l'arrière lors d'essais routiers dans la Silicon Valley+16
Une voiture autonome de Google percute un bus (mise à jour : déclaration)
+9
Qui est responsable lorsqu'une voiture autonome tombe en panne ?
Les humains étaient à blâmer dans l'accident de voiture autonome de Google, selon la police
Apple Lexus RX 450h voiture d'essai autonome à l'arrière lors d'essais routiers dans la Silicon Valley

Apple Lexus RX 450h voiture d'essai autonome à l'arrière lors d'essais routiers dans la Silicon Valley

abc.net.au

Une voiture autonome de Google percute un bus (mise à jour : déclaration)

Une voiture autonome de Google percute un bus (mise à jour : déclaration)

engadget.com

La voiture autonome de Google heurte un autre véhicule pour la première fois

La voiture autonome de Google heurte un autre véhicule pour la première fois

recode.net

Une voiture sans conducteur de Google percute un bus en Californie

Une voiture sans conducteur de Google percute un bus en Californie

telegraph.co.uk

La voiture autonome de Google a causé un accident, et maintenant ?

La voiture autonome de Google a causé un accident, et maintenant ?

cnbc.com

La voiture autonome de Google percute un bus

La voiture autonome de Google percute un bus

bbc.com

Une voiture de Google heurte un bus, première fois en faute

Une voiture de Google heurte un bus, première fois en faute

usatoday.com

La voiture autonome de Google a probablement causé son premier accident

La voiture autonome de Google a probablement causé son premier accident

technologyreview.com

Le projet de voiture sans conducteur de Google peut-il survivre à un accident mortel ?

Le projet de voiture sans conducteur de Google peut-il survivre à un accident mortel ?

theatlantic.com

Google accepte le blâme pour le crash de sa voiture autonome

Google accepte le blâme pour le crash de sa voiture autonome

newscientist.com

Une voiture autonome de Google s'écrase dans un bus et l'entreprise admet qu'elle est "partiellement" responsable

Une voiture autonome de Google s'écrase dans un bus et l'entreprise admet qu'elle est "partiellement" responsable

independent.co.uk

Une voiture autonome de Google heurte un bus public près du siège de Mountain View

Une voiture autonome de Google heurte un bus public près du siège de Mountain View

mercurynews.com

Une voiture autonome de Google percute un bus

Une voiture autonome de Google percute un bus

learningenglish.voanews.com

Google Driverless Car Sideswipes Bus, se fait prendre en vidéo

Google Driverless Car Sideswipes Bus, se fait prendre en vidéo

huffingtonpost.ca

Une voiture autonome de Google filmée en collision avec un bus

Une voiture autonome de Google filmée en collision avec un bus

theguardian.com

Regardez la Lexus autonome de Google entrer en collision avec un bus californien

Regardez la Lexus autonome de Google entrer en collision avec un bus californien

inverse.com

Une vidéo montre une voiture autonome de Google heurtant un bus

Une vidéo montre une voiture autonome de Google heurtant un bus

cbsnews.com

Google admet que sa voiture autonome s'est trompée : l'accident de bus a été causé par un logiciel

Google admet que sa voiture autonome s'est trompée : l'accident de bus a été causé par un logiciel

dailymail.co.uk

Qui est responsable lorsqu'une voiture autonome tombe en panne ?

Qui est responsable lorsqu'une voiture autonome tombe en panne ?

scientificamerican.com

La voiture autonome de Google gravement endommagée dans un accident mais n'était pas en faute

La voiture autonome de Google gravement endommagée dans un accident mais n'était pas en faute

autoblog.com

La voiture autonome de Google est victime d'un grave accident

La voiture autonome de Google est victime d'un grave accident

engadget.com

Accident de voiture autonome de Google aux États-Unis

Accident de voiture autonome de Google aux États-Unis

newshub.co.nz

La voiture autonome de Google impliquée dans un grave accident après qu'une camionnette ait sauté un feu rouge

La voiture autonome de Google impliquée dans un grave accident après qu'une camionnette ait sauté un feu rouge

telegraph.co.uk

La voiture autonome de Google subit son pire accident à ce jour

La voiture autonome de Google subit son pire accident à ce jour

digitaltrends.com

Un SUV autonome de Google impliqué dans un grave accident après qu'une camionnette a grillé un feu rouge à Mountain View

Un SUV autonome de Google impliqué dans un grave accident après qu'une camionnette a grillé un feu rouge à Mountain View

bizjournals.com

La voiture autonome de Google dans une collision latérale après qu'une autre voiture saute au feu rouge

La voiture autonome de Google dans une collision latérale après qu'une autre voiture saute au feu rouge

theguardian.com

La voiture autonome de Google a été impliquée dans son pire accident à ce jour

La voiture autonome de Google a été impliquée dans son pire accident à ce jour

thenextweb.com

Les humains étaient à blâmer dans l'accident de voiture autonome de Google, selon la police

Les humains étaient à blâmer dans l'accident de voiture autonome de Google, selon la police

fastcompany.com

Apple Lexus RX 450h voiture d'essai autonome à l'arrière lors d'essais routiers dans la Silicon Valley
abc.net.au · 2008
Traduit par IA

Apple Lexus RX 450h voiture d'essai autonome à l'arrière lors d'essais routiers dans la Silicon Valley

Actualisé

Une voiture autonome d'Apple Inc s'est retrouvée à l'arrière lors de la fusion sur une autoroute près du siège social de la soc…

Une voiture autonome de Google percute un bus (mise à jour : déclaration)
engadget.com · 2016
Traduit par IA

Il s'agissait d'un incident mineur et nous sommes heureux d'annoncer qu'il n'y a eu aucun blessé. Cependant, cela pourrait être le premier cas où l'une des voitures autonomes de Google a causé un accident. Si c'est le cas, l'équipe de Mount…

La voiture autonome de Google heurte un autre véhicule pour la première fois
recode.net · 2016
Traduit par IA

Depuis que les voitures robots de Google sont sur la route, elles ont été impliquées dans 17 accidents différents. Mais dans ces incidents, la voiture de Google n'était pas à blâmer - une autre voiture a heurté celle de Google ou le conduct…

Une voiture sans conducteur de Google percute un bus en Californie
telegraph.co.uk · 2016
Traduit par IA

Google a déclaré lundi qu'il portait "une certaine responsabilité" après qu'une de ses voitures autonomes ait heurté un bus dans un accident mineur au début du mois.

L'accident peut être le premier cas où l'une de ses voitures autonomes heu…

La voiture autonome de Google a causé un accident, et maintenant ?
cnbc.com · 2016
Traduit par IA

Le rapport d'accident que Google a déposé auprès du California Department of Motor Vehicles décrit l'accident comme suit : "Le pilote d'essai de Google AV a vu le bus s'approcher dans le rétroviseur gauche, mais a cru que le bus s'arrêterai…

La voiture autonome de Google percute un bus
bbc.com · 2016
Traduit par IA

Copyright de l'image AP Image caption Les voitures Google ont parcouru plus d'un million de kilomètres sur les routes publiques

L'une des voitures autonomes de Google a percuté un bus en Californie au début du mois. Il n'y a pas eu de bless…

Une voiture de Google heurte un bus, première fois en faute
usatoday.com · 2016
Traduit par IA

FERMER Un SUV Lexus autonome appartenant à la société mère de Google, Alphabet, a heurté un bus le 14 février alors qu'il effectuait des tests dans les rues de Mountain View, en Californie. Wochit

Un SUV Lexus appartenant à Google et doté d…

La voiture autonome de Google a probablement causé son premier accident
technologyreview.com · 2016
Traduit par IA

L'une des voitures autonomes de Google a percuté un bus, et s'il s'avère qu'il est fautif, ce qui semble probable, ce sera la première fois qu'un des véhicules autonomes de l'entreprise sera responsable d'un accident sur la route.

Selon cet…

Le projet de voiture sans conducteur de Google peut-il survivre à un accident mortel ?
theatlantic.com · 2016
Traduit par IA

Il y a encore quelque chose qui pourrait, cependant.

J'ai interviewé des dizaines d'informaticiens, de chercheurs en intelligence artificielle, d'ingénieurs et d'autres penseurs axés sur les voitures autonomes au cours des derniers mois, et…

Google accepte le blâme pour le crash de sa voiture autonome
newscientist.com · 2016
Traduit par IA

AP/Press Association Images/Tony Avelar

Le 14 février, l'IA en charge d'une des voitures de Google a percuté le flanc d'un bus. L'incident – que le Département des véhicules à moteur de Californie a documenté publiquement hier – est le prem…

Une voiture autonome de Google s'écrase dans un bus et l'entreprise admet qu'elle est "partiellement" responsable
independent.co.uk · 2016
Traduit par IA

Une voiture sans conducteur de Google a été impliquée dans un accident avec un bus et Google a déclaré qu'elle "porte une part de responsabilité" pour la première fois.

L'entreprise a admis qu'elle était en partie responsable de la collisio…

Une voiture autonome de Google heurte un bus public près du siège de Mountain View
mercurynews.com · 2016
Traduit par IA

MOUNTAIN VIEW - Une voiture autonome de Google a pour la première fois provoqué un accident, s'engageant dans la circulation et balayant latéralement un bus public.

Personne n'a été blessé dans la petite cintreuse, mais Google a ajusté le l…

Une voiture autonome de Google percute un bus
learningenglish.voanews.com · 2016
Traduit par IA

La voiture autonome de Google a heurté une petite bosse sur la route.

La voiture sans conducteur a eu un accident le 14 février en Californie. L'accident a été signalé au Department of Motor Vehicles de Californie le 23 février.

Selon WIRED…

Google Driverless Car Sideswipes Bus, se fait prendre en vidéo
huffingtonpost.ca · 2016
Traduit par IA

LOS ANGELES – Une vidéo récemment publiée montre le moment où une voiture autonome de Google a appris à la dure à ne pas se battre avec un bus public.

La collision s'est produite le jour de la Saint-Valentin, lorsqu'un véhicule Google a heu…

Une voiture autonome de Google filmée en collision avec un bus
theguardian.com · 2016
Traduit par IA

Une vidéo récemment publiée montre le moment où une voiture autonome de Google a appris à la dure à ne pas se battre avec un bus public.

La collision s'est produite le jour de la Saint-Valentin 2016, lorsqu'un véhicule Google a heurté le cô…

Regardez la Lexus autonome de Google entrer en collision avec un bus californien
inverse.com · 2016
Traduit par IA

Le jour de la Saint-Valentin, l'inévitable est arrivé à Google car l'une de ses Lexus autonomes a été impliquée dans un accident à basse vitesse avec un bus de la ville, et grâce à une vidéo obtenue via une demande de Freedom of Information…

Une vidéo montre une voiture autonome de Google heurtant un bus
cbsnews.com · 2016
Traduit par IA

LOS ANGELES – Une vidéo récemment publiée montre le moment où une voiture autonome de Google a appris à la dure à ne pas se battre avec un bus public.

La collision s'est produite le jour de la Saint-Valentin, lorsqu'un véhicule Google a heu…

Google admet que sa voiture autonome s'est trompée : l'accident de bus a été causé par un logiciel
dailymail.co.uk · 2016
Traduit par IA

Google a révélé que sa voiture autonome a heurté un bus parce qu'elle a fait une hypothèse erronée sur l'endroit où elle irait.

L'entreprise a admis que l'accident ne serait pas le dernier - alors que les humains étaient autorisés sur les r…

Qui est responsable lorsqu'une voiture autonome tombe en panne ?
scientificamerican.com · 2016
Traduit par IA

La Saint-Valentin a été une déception à Mountain View, en Californie. Pour la première fois, l'une des voitures autonomes de Google, un SUV Lexus modifié, a provoqué un accident. Détectant un tas de sacs de sable entourant un égout pluvial …

La voiture autonome de Google gravement endommagée dans un accident mais n'était pas en faute
autoblog.com · 2016
Traduit par IA

Un véhicule utilitaire sport hybride Lexus RX 450h autonome détenu et exploité par Google a été impliqué dans un accident à Mountain View, en Californie, vendredi après-midi. Personne n'a été blessé, même s'il y avait un occupant à l'intéri…

La voiture autonome de Google est victime d'un grave accident
engadget.com · 2016
Traduit par IA

Google fournira probablement tous les détails sur la collision dans son rapport sur les voitures autonomes prévu à la fin du mois. Cependant, cela ne fait aucun doute sur ce qui s'est passé dans une déclaration (voir ci-dessous). La Lexus n…

Accident de voiture autonome de Google aux États-Unis
newshub.co.nz · 2016
Traduit par IA

Une voiture autonome de Google a été filmée en train d'être remorquée après un accident avec un autre véhicule à Mountain View, en Californie, vendredi (heure locale).

Bien que la collision ait gravement endommagé un SUV Lexus, personne n'a…

La voiture autonome de Google impliquée dans un grave accident après qu'une camionnette ait sauté un feu rouge
telegraph.co.uk · 2016
Traduit par IA

L'une des voitures autonomes de Google a été impliquée dans l'accident le plus grave du projet à ce jour.

La voiture autonome Lexus a été retirée de la route après qu'une camionnette contrôlée par l'homme a traversé un feu rouge et est entr…

La voiture autonome de Google subit son pire accident à ce jour
digitaltrends.com · 2016
Traduit par IA

Alors que Google et d'autres font des progrès constants vers le perfectionnement de leurs technologies d'auto-conduite respectives, l'un des défis permanents est de savoir comment faire face aux actions imprudentes soudaines des conducteurs…

Un SUV autonome de Google impliqué dans un grave accident après qu'une camionnette a grillé un feu rouge à Mountain View
bizjournals.com · 2016
Traduit par IA

Un SUV Lexus doté de la technologie de conduite autonome de Google a été impliqué dans un grave accident vendredi après qu'un véhicule à conduite humaine a allumé un feu rouge à Mountain View.

La vidéo obtenue par 9to5Google montre le véhic…

La voiture autonome de Google dans une collision latérale après qu'une autre voiture saute au feu rouge
theguardian.com · 2016
Traduit par IA

Le SUV Lexus autonome n'a pas pu empêcher un accident qui s'est effondré dans les portes avant et arrière côté passager, déclenchant des airbags et le forçant à être remorqué

L'une des voitures autonomes de Google a été impliquée dans l'un …

La voiture autonome de Google a été impliquée dans son pire accident à ce jour
thenextweb.com · 2016
Traduit par IA

Google a confirmé que l'un de ses véhicules autonomes avait subi des dommages importants dans un accident de la circulation impliquant une camionnette commerciale le vendredi 23 septembre.

La collision a eu lieu au coin de W El Camino Real …

Les humains étaient à blâmer dans l'accident de voiture autonome de Google, selon la police
fastcompany.com · 2018
Traduit par IA

Une voiture autonome testée par Waymo, propriété de Google, a été impliquée dans une grave collision dans la banlieue de Phoenix, en Arizona, à Chandler, lorsqu'une voiture conduite par un humain a fait une embardée pour éviter une autre vo…

Variantes

Une "Variante" est un incident qui partage les mêmes facteurs de causalité, produit des dommages similaires et implique les mêmes systèmes intelligents qu'un incident d'IA connu. Plutôt que d'indexer les variantes comme des incidents entièrement distincts, nous listons les variations d'incidents sous le premier incident similaire soumis à la base de données. Contrairement aux autres types de soumission à la base de données des incidents, les variantes ne sont pas tenues d'avoir des rapports en preuve externes à la base de données des incidents. En savoir plus sur le document de recherche.

Incidents similaires

Par similarité textuelle

Did our AI mess up? Flag the unrelated incidents

A Collection of Tesla Autopilot-Involved Crashes

Tesla Model X in Autopilot Killed a Driver. Officials Aren’t Pleased With How Tesla Handled It.

Jun 2016 · 22 rapports
Uber Autonomous Cars Running Red Lights

Danger, danger! 10 alarming examples of AI gone wild

Aug 2014 · 10 rapports
Uber AV Killed Pedestrian in Arizona

Tempe police release report, audio, photo

Mar 2018 · 25 rapports
Incident précédentProchain incident

Incidents similaires

Par similarité textuelle

Did our AI mess up? Flag the unrelated incidents

A Collection of Tesla Autopilot-Involved Crashes

Tesla Model X in Autopilot Killed a Driver. Officials Aren’t Pleased With How Tesla Handled It.

Jun 2016 · 22 rapports
Uber Autonomous Cars Running Red Lights

Danger, danger! 10 alarming examples of AI gone wild

Aug 2014 · 10 rapports
Uber AV Killed Pedestrian in Arizona

Tempe police release report, audio, photo

Mar 2018 · 25 rapports

Recherche

  • Définition d'un « incident d'IA »
  • Définir une « réponse aux incidents d'IA »
  • Feuille de route de la base de données
  • Travaux connexes
  • Télécharger la base de données complète

Projet et communauté

  • À propos de
  • Contacter et suivre
  • Applications et résumés
  • Guide de l'éditeur

Incidents

  • Tous les incidents sous forme de liste
  • Incidents signalés
  • File d'attente de soumission
  • Affichage des classifications
  • Taxonomies

2023 - AI Incident Database

  • Conditions d'utilisation
  • Politique de confidentialité
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • 5fc5e5b