Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
Découvrir
Envoyer
  • Bienvenue sur AIID
  • Découvrir les incidents
  • Vue spatiale
  • Vue de tableau
  • Vue de liste
  • Entités
  • Taxonomies
  • Soumettre des rapports d'incident
  • Classement des reporters
  • Blog
  • Résumé de l’Actualité sur l’IA
  • Contrôle des risques
  • Incident au hasard
  • S'inscrire
Fermer
Découvrir
Envoyer
  • Bienvenue sur AIID
  • Découvrir les incidents
  • Vue spatiale
  • Vue de tableau
  • Vue de liste
  • Entités
  • Taxonomies
  • Soumettre des rapports d'incident
  • Classement des reporters
  • Blog
  • Résumé de l’Actualité sur l’IA
  • Contrôle des risques
  • Incident au hasard
  • S'inscrire
Fermer

Incident 51: Security Robot Rolls Over Child in Mall

Répondu
Description: On July 7, 2016, a Knightscope K5 autonomous security robot collided with a 16-month old boy while patrolling the Stanford Shopping Center in Palo Alto, CA.

Outils

Nouveau rapportNouveau rapportNouvelle RéponseNouvelle RéponseDécouvrirDécouvrirVoir l'historiqueVoir l'historique

Entités

Voir toutes les entités
Alleged: Knightscope developed an AI system deployed by Stanford Shopping Center, which harmed Child.

Statistiques d'incidents

ID
51
Nombre de rapports
27
Date de l'incident
2016-07-12
Editeurs
Sean McGregor
Applied Taxonomies
CSETv0, CSETv1, GMF, MIT

Classifications de taxonomie CSETv1

Détails de la taxonomie

Incident Number

The number of the incident in the AI Incident Database.
 

51

Classifications de taxonomie CSETv0

Détails de la taxonomie

Problem Nature

Indicates which, if any, of the following types of AI failure describe the incident: "Specification," i.e. the system's behavior did not align with the true intentions of its designer, operator, etc; "Robustness," i.e. the system operated unsafely because of features or changes in its environment, or in the inputs the system received; "Assurance," i.e. the system could not be adequately monitored or controlled during operation.
 

Robustness

Physical System

Where relevant, indicates whether the AI system(s) was embedded into or tightly associated with specific types of hardware.
 

Vehicle/mobile robot

Level of Autonomy

The degree to which the AI system(s) functions independently from human intervention. "High" means there is no human involved in the system action execution; "Medium" means the system generates a decision and a human oversees the resulting action; "low" means the system generates decision-support output and a human makes a decision and executes an action.
 

High

Nature of End User

"Expert" if users with special training or technical expertise were the ones meant to benefit from the AI system(s)’ operation; "Amateur" if the AI systems were primarily meant to benefit the general public or untrained users.
 

Amateur

Public Sector Deployment

"Yes" if the AI system(s) involved in the accident were being used by the public sector or for the administration of public goods (for example, public transportation). "No" if the system(s) were being used in the private sector or for commercial purposes (for example, a ride-sharing company), on the other.
 

No

Data Inputs

A brief description of the data that the AI system(s) used or were trained on.
 

LIDAR, sonar, video camera, vibration detection, thermal anomaly detection, automatic signal detection, audio

Classifications de taxonomie MIT

Machine-Classified
Détails de la taxonomie

Risk Subdomain

A further 23 subdomains create an accessible and understandable classification of hazards and harms associated with AI
 

7.3. Lack of capability or robustness

Risk Domain

The Domain Taxonomy of AI Risks classifies risks into seven AI risk domains: (1) Discrimination & toxicity, (2) Privacy & security, (3) Misinformation, (4) Malicious actors & misuse, (5) Human-computer interaction, (6) Socioeconomic & environmental harms, and (7) AI system safety, failures & limitations.
 
  1. AI system safety, failures, and limitations

Entity

Which, if any, entity is presented as the main cause of the risk
 

AI

Timing

The stage in the AI lifecycle at which the risk is presented as occurring
 

Post-deployment

Intent

Whether the risk is presented as occurring as an expected or unexpected outcome from pursuing a goal
 

Unintentional

Rapports d'incidents

Chronologie du rapport

Knightscope Problèmes Rapport d'incident sur le terrain - Réponse+25
Le robot de garde de sécurité du centre commercial de 300 livres devient un voyou, renverse un enfant et l'écrase
Ce robot de sécurité itinérant sur les trottoirs de 400 livres vient d'être licencié
Knightscope Problèmes Rapport d'incident sur le terrain

Knightscope Problèmes Rapport d'incident sur le terrain

businesswire.com

Le robot de garde de sécurité du centre commercial de 300 livres devient un voyou, renverse un enfant et l'écrase

Le robot de garde de sécurité du centre commercial de 300 livres devient un voyou, renverse un enfant et l'écrase

geekologie.com

Des parents bouleversés après que le robot de sécurité du centre commercial de Stanford ait blessé un enfant

Des parents bouleversés après que le robot de sécurité du centre commercial de Stanford ait blessé un enfant

abc7news.com

Un robot de sécurité dans un centre commercial blesse un enfant

Un robot de sécurité dans un centre commercial blesse un enfant

blog.angryasianman.com

Un flic robotique blessé un enfant en bas âge au centre commercial de Stanford

Un flic robotique blessé un enfant en bas âge au centre commercial de Stanford

thisisinsider.com

Un robocop de la vie réelle patrouillant dans la Silicon Valley aurait renversé un enfant dans un centre commercial

Un robocop de la vie réelle patrouillant dans la Silicon Valley aurait renversé un enfant dans un centre commercial

businessinsider.com.au

L'avenir est là : un robot de sécurité dans un centre commercial a peut-être renversé un enfant

L'avenir est là : un robot de sécurité dans un centre commercial a peut-être renversé un enfant

vocativ.com

Un robot de sécurité blesse un enfant de 16 mois dans un centre commercial de Californie

Un robot de sécurité blesse un enfant de 16 mois dans un centre commercial de Californie

dailydot.com

Un garde-robot renverse un enfant dans un centre commercial

Un garde-robot renverse un enfant dans un centre commercial

telegraph.co.uk

Un robot de sécurité de 300 livres se détraque et écrase un garçon d'un an dans un centre commercial de Californie

Un robot de sécurité de 300 livres se détraque et écrase un garçon d'un an dans un centre commercial de Californie

nydailynews.com

Le robot de sécurité K5 écrase un tout-petit au California Mall [Mise à jour]

Le robot de sécurité K5 écrase un tout-petit au California Mall [Mise à jour]

roboticsbusinessreview.com

Le garde de sécurité du robot du centre commercial écrase un tout-petit

Le garde de sécurité du robot du centre commercial écrase un tout-petit

popularmechanics.com

Centre commercial de Stanford : un centre commercial arrête des robots policiers après qu'un enfant a été touché

Centre commercial de Stanford : un centre commercial arrête des robots policiers après qu'un enfant a été touché

mercurynews.com

Le robot de sécurité du centre commercial aurait écrasé un tout-petit

Le robot de sécurité du centre commercial aurait écrasé un tout-petit

fortune.com

Un robot de sécurité du centre commercial renverse un tout-petit et enfreint la première loi de la robotique d'Asimov

Un robot de sécurité du centre commercial renverse un tout-petit et enfreint la première loi de la robotique d'Asimov

theverge.com

Un flic robotique du centre commercial a fait plus de mal que de bien

Un flic robotique du centre commercial a fait plus de mal que de bien

qz.com

Un robot de sécurité de 300 livres écrase un tout-petit dans un centre commercial de Californie

Un robot de sécurité de 300 livres écrase un tout-petit dans un centre commercial de Californie

huffingtonpost.com

Un robot anti-crime frappe et renverse un enfant dans un centre commercial de la Silicon Valley

Un robot anti-crime frappe et renverse un enfant dans un centre commercial de la Silicon Valley

latimes.com

Les parents regardent avec horreur le robot de sécurité écraser leur enfant

Les parents regardent avec horreur le robot de sécurité écraser leur enfant

digitaljournal.com

Le robot de sécurité Dalek roule sur la jambe d'un tout-petit

Le robot de sécurité Dalek roule sur la jambe d'un tout-petit

themarysue.com

Un robot écrase un enfant dans un centre commercial

Un robot écrase un enfant dans un centre commercial

bbc.com

Un robot de sécurité suspendu après une collision avec un tout-petit

Un robot de sécurité suspendu après une collision avec un tout-petit

wsj.com

Un robot de centre commercial de 300 livres écrase un tout-petit

Un robot de centre commercial de 300 livres écrase un tout-petit

money.cnn.com

Un centre commercial suspend un robot de sécurité après avoir frappé un tout-petit

Un centre commercial suspend un robot de sécurité après avoir frappé un tout-petit

gizmodo.com.au

Un robot de sécurité dans un centre commercial a renversé et écrasé un tout-petit dans la Silicon Valley

Un robot de sécurité dans un centre commercial a renversé et écrasé un tout-petit dans la Silicon Valley

sciencealert.com

Un agent de sécurité robot aurait attaqué un enfant dans un centre commercial

Un agent de sécurité robot aurait attaqué un enfant dans un centre commercial

fastcompany.com

Ce robot de sécurité itinérant sur les trottoirs de 400 livres vient d'être licencié

Ce robot de sécurité itinérant sur les trottoirs de 400 livres vient d'être licencié

mashable.com

Knightscope Problèmes Rapport d'incident sur le terrain
businesswire.com · 2016
Traduit par IA
Réponse post-incident de Knightscope

13 juillet 2016 17 h 30, heure avancée de l'Est

MOUNTAIN VIEW, Californie--(BUSINESS WIRE)--Knightscope, Inc., une société de technologie de sécurité physique avancée, publie son premier rapport d'incident concernant le fonctionnement de so…

Le robot de garde de sécurité du centre commercial de 300 livres devient un voyou, renverse un enfant et l'écrase
geekologie.com · 2016
Traduit par IA

Un robot de sécurité du centre commercial Stanford à Palo Alto, en Californie, est récemment devenu un voyou et a renversé un garçon de 16 mois avant de lui courir sur la jambe (liens vers un reportage vidéo si vous êtes intéressé). Wow, vi…

Des parents bouleversés après que le robot de sécurité du centre commercial de Stanford ait blessé un enfant
abc7news.com · 2016
Traduit par IA

16 mois a des blessures à la jambe, au pied après que le robot de sécurité @StanfordShop l'a renversé et l'a renversé. #paloalto pic.twitter.com/tJdDNeFJq1 — Lilian Kim (@liliankim7) 12 juillet 2016

Le robot de sécurité de 5 pieds de haut e…

Un robot de sécurité dans un centre commercial blesse un enfant
blog.angryasianman.com · 2016
Traduit par IA

16 mois a des blessures à la jambe, au pied après que le robot de sécurité @StanfordShop l'a renversé et l'a renversé. #paloalto pic.twitter.com/tJdDNeFJq1 — Lilian Kim (@liliankim7) 12 juillet 2016

La semaine dernière à Palo Alto, un jeune…

Un flic robotique blessé un enfant en bas âge au centre commercial de Stanford
thisisinsider.com · 2016
Traduit par IA

Écartez-vous, Paul Blart. Il y a un nouveau flic du centre commercial en ville.

Debout cinq pieds et pesant 300 livres, le robot de sécurité K5 erre sur les terrains des campus d'entreprise, des centres commerciaux et des centres de données…

Un robocop de la vie réelle patrouillant dans la Silicon Valley aurait renversé un enfant dans un centre commercial
businessinsider.com.au · 2016
Traduit par IA

Écartez-vous, Paul Blart. Il y a un nouveau flic du centre commercial en ville.

Debout cinq pieds et pesant 300 livres, le robot de sécurité K5 erre sur les terrains des campus d'entreprise, des centres commerciaux et des centres de données…

L'avenir est là : un robot de sécurité dans un centre commercial a peut-être renversé un enfant
vocativ.com · 2016
Traduit par IA

Lorsque le Mercury News a écrit en mai sur le nouveau robot de garde de sécurité du centre commercial de Stanford, il a déclaré que le Knightscope K5 de cinq pieds de haut et 300 livres "peut rester à l'affût des méchants tout en divertissa…

Un robot de sécurité blesse un enfant de 16 mois dans un centre commercial de Californie
dailydot.com · 2016
Traduit par IA

Les robots de sécurité oblongs qui sont à la fois effrayants et utiles avec juste un soupçon de Dalek apparaissent partout, des centres commerciaux aux campus des entreprises technologiques. Créés par Knightscope, les robots K5 de cinq pied…

Un garde-robot renverse un enfant dans un centre commercial
telegraph.co.uk · 2016
Traduit par IA

Un robot de sécurité employé pour garder un centre commercial en Californie a renversé un enfant en bas âge, le laissant contusionné avec un pied enflé et un mal de tête.

Le robot de 136 kg n'a pas remarqué qu'il a heurté l'enfant de 16 moi…

Un robot de sécurité de 300 livres se détraque et écrase un garçon d'un an dans un centre commercial de Californie
nydailynews.com · 2016
Traduit par IA

Le garde mécanique "K5" de 300 livres et 5 pieds de haut, construit par Knightscope, conçu pour alerter les agents de sécurité des perturbations et détecter les voleurs à l'étalage connus avec sa caméra, a bondi sur un enfant innocent d'un …

Le robot de sécurité K5 écrase un tout-petit au California Mall [Mise à jour]
roboticsbusinessreview.com · 2016
Traduit par IA

Harwin Cheng n'accueille pas nos nouveaux seigneurs robots. Le garçon de 16 mois aurait été renversé et écrasé par un robot de sécurité Knightscope K5 au centre commercial de Stanford, basé à Palo Alto, en Californie.

Le robot de sécurité K…

Le garde de sécurité du robot du centre commercial écrase un tout-petit
popularmechanics.com · 2016
Traduit par IA

Prouvant que l'avenir est trop proche ou très lointain, un robot de sécurité dans un centre commercial de Palo Alto, en Californie, aurait blessé un enfant en le renversant et en l'écrasant.

"Le robot a frappé la tête de mon fils et il est …

Centre commercial de Stanford : un centre commercial arrête des robots policiers après qu'un enfant a été touché
mercurynews.com · 2016
Traduit par IA

PALO ALTO – Le centre commercial de Stanford a temporairement amarré ses robots de sécurité futuristes après que l'un des gardes mécaniques de 5 pieds de haut et 300 livres aurait heurté et blessé un jeune enfant la semaine dernière.

"Nous …

Le robot de sécurité du centre commercial aurait écrasé un tout-petit
fortune.com · 2016
Traduit par IA

Cet article a été mis à jour pour refléter les commentaires de Knightscope.

Après qu'un robot de sécurité de 5 pieds de haut et 300 livres aurait renversé et renversé un enfant de 16 mois dans un centre commercial de Palo Alto, en Californi…

Un robot de sécurité du centre commercial renverse un tout-petit et enfreint la première loi de la robotique d'Asimov
theverge.com · 2016
Traduit par IA

Les robots sont peut-être moins chers à employer que les humains, mais il semble qu'ils doivent encore travailler sur leurs compétences relationnelles. La semaine dernière, un agent de sécurité robotisé du centre commercial de Stanford dans…

Un flic robotique du centre commercial a fait plus de mal que de bien
qz.com · 2016
Traduit par IA

Un robot de sécurité itinérant patrouille dans certaines parties de Palo Alto depuis l'année dernière, avec pour seul travail de protéger les personnes qui l'entourent. Le flic du centre commercial robo a récemment échoué sur ce front lorsq…

Un robot de sécurité de 300 livres écrase un tout-petit dans un centre commercial de Californie
huffingtonpost.com · 2016
Traduit par IA

Un jeune garçon a été renversé et écrasé par un robot de sécurité de 5 pieds de haut et 300 livres dans un centre commercial californien jeudi.

Harwin Cheng, 16 mois, a eu un pied enflé et plusieurs égratignures lors de la rencontre effraya…

Un robot anti-crime frappe et renverse un enfant dans un centre commercial de la Silicon Valley
latimes.com · 2016
Traduit par IA

Tiffany Teng a déclaré à KGO-TV qu'elle et sa famille visitaient le centre commercial de Stanford jeudi lorsque le robot, également connu sous le nom de machine de données autonome, a soudainement frappé la tête de son fils et l'a fait tomb…

Les parents regardent avec horreur le robot de sécurité écraser leur enfant
digitaljournal.com · 2016
Traduit par IA

Palo Alto - Un bambin de 16 mois en Californie va grandir dans la peur et peut-être dans le respect des robots et de ce qu'ils sont capables de faire après avoir été écrasé par un robot agent de sécurité dans un centre commercial local.

Les…

Le robot de sécurité Dalek roule sur la jambe d'un tout-petit
themarysue.com · 2016
Traduit par IA

Le but d'un robot de sécurité est de protéger les personnes et/ou les choses, ce qui rend un incident récent avec un dans le monde réel (au cas où vous n'auriez pas encore réalisé que nous avions encore atteint ce niveau de "futur") d'autan…

Un robot écrase un enfant dans un centre commercial
bbc.com · 2016
Traduit par IA

Copyright de l'image Knightscope Image caption Les robots Knightscope ont été retirés du service pendant l'enquête sur l'incident

Les robots de sécurité d'un centre commercial de la Silicon Valley ont été retirés de leur service après que l…

Un robot de sécurité suspendu après une collision avec un tout-petit
wsj.com · 2016
Traduit par IA

Un centre commercial de la Silicon Valley a suspendu cette semaine ses robots de sécurité après qu'une collision impliquant l'un d'entre eux ait provoqué une contusion à la jambe d'un enfant en bas âge - un renversement des enfants harcelan…

Un robot de centre commercial de 300 livres écrase un tout-petit
money.cnn.com · 2016
Traduit par IA

Pour les tout-petits de la Silicon Valley qui apprennent à marcher, il y a une nouvelle leçon : faites attention aux robots.

Une mère et un père ont vu avec horreur un robot de sécurité dans un centre commercial en Californie faire tomber l…

Un centre commercial suspend un robot de sécurité après avoir frappé un tout-petit
gizmodo.com.au · 2016
Traduit par IA

Le centre commercial de Stanford a suspendu ses robots de sécurité à la suite d'un incident la semaine dernière au cours duquel un garçon de 16 mois est entré en collision avec l'une de ses machines, entraînant une blessure mineure. Une uni…

Un robot de sécurité dans un centre commercial a renversé et écrasé un tout-petit dans la Silicon Valley
sciencealert.com · 2016
Traduit par IA

Un robot de sécurité du centre commercial appelé Knightscope K5 a récemment renversé un tout-petit de 16 mois lors d'une patrouille au centre commercial de Stanford dans la Silicon Valley.

Alors que le garçon, Harwin Cheng, n'a pas subi de …

Un agent de sécurité robot aurait attaqué un enfant dans un centre commercial
fastcompany.com · 2016
Traduit par IA

La semaine dernière, dans le centre commercial de Stanford à Palo Alto, en Californie, un robot garde de sécurité a renversé un enfant de 17 mois et lui a écrasé le pied droit. Le robot, qui pèse 300 livres et mesure cinq pieds de haut, est…

Ce robot de sécurité itinérant sur les trottoirs de 400 livres vient d'être licencié
mashable.com · 2017
Traduit par IA

Un robot de 5 pieds de haut et 400 livres avec quatre caméras de surveillance vient d'être licencié de son travail de sécurité. Juste avant Noël.

L'organisation à but non lucratif de protection des animaux de San Francisco, SF SPCA, a loué …

Variantes

Une "Variante" est un incident qui partage les mêmes facteurs de causalité, produit des dommages similaires et implique les mêmes systèmes intelligents qu'un incident d'IA connu. Plutôt que d'indexer les variantes comme des incidents entièrement distincts, nous listons les variations d'incidents sous le premier incident similaire soumis à la base de données. Contrairement aux autres types de soumission à la base de données des incidents, les variantes ne sont pas tenues d'avoir des rapports en preuve externes à la base de données des incidents. En savoir plus sur le document de recherche.

Incidents similaires

Par similarité textuelle

Did our AI mess up? Flag the unrelated incidents

Security Robot Drowns Itself in a Fountain

DC security robot quits job by drowning itself in a fountain

Jul 2017 · 30 rapports
Robot kills worker at German Volkswagen plant

Robot kills worker at Volkswagen plant in Germany

Jul 2014 · 27 rapports
A Collection of Tesla Autopilot-Involved Crashes

Tesla Model X in Autopilot Killed a Driver. Officials Aren’t Pleased With How Tesla Handled It.

Jun 2016 · 22 rapports
Incident précédentProchain incident

Incidents similaires

Par similarité textuelle

Did our AI mess up? Flag the unrelated incidents

Security Robot Drowns Itself in a Fountain

DC security robot quits job by drowning itself in a fountain

Jul 2017 · 30 rapports
Robot kills worker at German Volkswagen plant

Robot kills worker at Volkswagen plant in Germany

Jul 2014 · 27 rapports
A Collection of Tesla Autopilot-Involved Crashes

Tesla Model X in Autopilot Killed a Driver. Officials Aren’t Pleased With How Tesla Handled It.

Jun 2016 · 22 rapports

Recherche

  • Définition d'un « incident d'IA »
  • Définir une « réponse aux incidents d'IA »
  • Feuille de route de la base de données
  • Travaux connexes
  • Télécharger la base de données complète

Projet et communauté

  • À propos de
  • Contacter et suivre
  • Applications et résumés
  • Guide de l'éditeur

Incidents

  • Tous les incidents sous forme de liste
  • Incidents signalés
  • File d'attente de soumission
  • Affichage des classifications
  • Taxonomies

2023 - AI Incident Database

  • Conditions d'utilisation
  • Politique de confidentialité
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • 5fc5e5b