Incident 145: Le pilote automatique de Tesla a confondu la Lune avec un feu stop jaune
Entités
Voir toutes les entitésClassifications de taxonomie CSETv1
Détails de la taxonomieIncident Number
145
AI Tangible Harm Level Notes
Stopping incorrectly could cause accidents on the road.
Special Interest Intangible Harm
no
Date of Incident Year
2021
Date of Incident Month
07
Date of Incident Day
22
Risk Subdomain
7.3. Lack of capability or robustness
Risk Domain
- AI system safety, failures, and limitations
Entity
AI
Timing
Post-deployment
Intent
Unintentional
Rapports d'incidents
Chronologie du rapport
Hé @elonmusk, vous voudrez peut-être que votre équipe regarde dans la lune en trompant le système de pilote automatique. La voiture pense que la lune est un feu jaune et veut continuer à ralentir. 🤦🏼 @Teslarati @teslaownersSV @TeslaJoy
Un tweet viral montrait une Tesla confondant la lune avec un feu jaune.
La technologie Full Self-Driving de la société a déjà commis des erreurs similaires.
Les propriétaires disent que leurs voitures ont été trompées par les panneaux d'aff…
Washington, DC (CNN) Quand une douzaine de petits enfants ont traversé devant notre Tesla avec "l'auto-conduite complète", j'avais de bonnes raisons d'être nerveux.
Jusqu'à présent, j'avais passé ma matinée sur la banquette arrière du modèl…
Variantes
Incidents similaires
Did our AI mess up? Flag the unrelated incidents
Incidents similaires
Did our AI mess up? Flag the unrelated incidents