Incident 72: translated-fr-Facebook translates 'good morning' into 'attack them', leading to arrest
Entités
Voir toutes les entitésClassifications de taxonomie CSETv0
Détails de la taxonomieProblem Nature
Specification
Physical System
Software only
Level of Autonomy
High
Nature of End User
Amateur
Public Sector Deployment
No
Data Inputs
User posts/input
Classifications de taxonomie GMF
Détails de la taxonomieKnown AI Goal Snippets
(Snippet Text: The large number of dialects in use around the world means that Arabic is particularly difficult for machine translation services to handle, and mistakes are a regular occurrence., Related Classifications: Translation), (Snippet Text: Facebook’s translations are entirely powered by AI, and around 4.5 billion translations are made each day across the social network. , Related Classifications: Translation)
Known AI Goal Classification Discussion
Translation: Presumably the arabic dialect in the text is not represented adequately in the training data, hence the translation performance issues.
Classifications de taxonomie CSETv1
Détails de la taxonomieIncident Number
72
AI Tangible Harm Level Notes
A Palestinian man was arrested and questioned for several hours due to translation error on Facebook.
Special Interest Intangible Harm
yes
Date of Incident Year
2017
Date of Incident Month
10
Estimated Date
No
Risk Subdomain
7.3. Lack of capability or robustness
Risk Domain
- AI system safety, failures, and limitations
Entity
AI
Timing
Post-deployment
Intent
Unintentional
Rapports d'incidents
Chronologie du rapport
Une erreur dans le service de traduction automatique de Facebook a conduit à l'arrestation et à l'interrogatoire d'un Palestinien par la police israélienne. L'homme, un ouvrier du bâtiment en Cisjordanie, a posté une photo de lui appuyé con…

La police israélienne a arrêté par erreur un Palestinien qui avait posté en ligne « bonjour » en arabe, ce que Facebook a traduit à tort par « attaquez-les ».
L'homme a mis en ligne une photo de lui appuyé contre un bulldozer dans la coloni…

La police israélienne a arrêté par erreur un travailleur palestinien la semaine dernière parce qu'elle s'est appuyée sur un logiciel de traduction automatique pour traduire un message qu'il a écrit sur sa page Facebook. Le Palestinien a été…
Suite à une gaffe de Facebook, un Palestinien a été arrêté par la police israélienne pour avoir publié « Good Morning » sur le site de médias sociaux.
Selon des informations, l'homme, un ouvrier du bâtiment, a dit "Bonjour" en arabe dans un…

Un Palestinien qui avait posté « bonjour » en arabe sur Facebook a été arrêté après que la police israélienne ait traduit par erreur son message par « attaquez-les ».
L'homme, qui n'a pas été nommé, a posté une photo de lui travaillant sur …

Un Palestinien a été arrêté par la police israélienne la semaine dernière, après qu'un message qu'il a laissé sur Facebook disant "bonjour" en arabe ait été interprété comme signifiant "attaquez-les" en hébreu.
Une porte-parole du district …

Un Palestinien en Cisjordanie a été arrêté par la police israélienne après avoir écrit « bonjour » en arabe dans un message Facebook qui a été mal traduit par le logiciel de traduction automatique de l'entreprise. L'ouvrier du bâtiment Hala…

Le constructeur palestinien Halawim Halawi qui a posté « Bonjour » sur son compte Facebook, ce qui lui a valu quelques heures dans le cachot. Le logiciel de traduction automatique de Facebook qui a interprété le message comme signifiant "le…

Partager
La fonction de traduction automatique de Facebook permet aux utilisateurs de se connecter au-delà des barrières linguistiques, mais une traduction incorrecte d'un simple "bonjour" s'est avérée être un désastre pour un Palestinien. …
Hacker news discussion sur les excuses de Facebook.

Facebook dit qu'il traduit automatiquement environ 4,5 milliards de messages chaque jour. Avec de nouvelles recherches et avancées, la technologie ne cesse de s'améliorer, mais elle n'est pas parfaite et ses défauts peuvent avoir de graves …

Un Palestinien interrogé par la police israélienne après une erreur de traduction embarrassante de la légende sous la photo de lui appuyé contre un bulldozer
Facebook a présenté ses excuses après qu'une erreur dans son service de traduction…

Un ouvrier du bâtiment a été arrêté après avoir posté "Bonjour" sur Facebook, car la traduction automatique s'était trompée.
Le Palestinien avait posté une photo au travail avec une cigarette et un café, ajoutant un salut à ses abonnés en a…

Facebook a présenté ses excuses après qu'un Palestinien a été arrêté par la police israélienne pour un message disant « bonjour » que son service de traduction automatique a traduit par erreur « attaquez-les » en hébreu et « blessez-les » e…

Un ouvrier du bâtiment palestinien a été arrêté par la police israélienne après que Facebook ait mal traduit le texte de l'un de ses messages. Haaretz rapporte que l'homme a téléchargé une photo de son travail sur un chantier de constructio…
On dit qu'une image vaut mille mots, mais il n'en a fallu que deux pour qu'un Palestinien se retrouve arrêté après une erreur de traduction sur Facebook.
Un ouvrier du bâtiment de l'implantation cisjordanienne de Beitar Illit a pris une pho…

Digital Trends a rapporté que la fonction de traduction automatique de Facebook permet aux utilisateurs de se connecter au-delà des barrières linguistiques, mais une traduction incorrecte d'un simple "bonjour" s'est avérée un peu désastreus…
Aucun service de traduction n'est parfait, mais vous ne vous attendriez pas à ce qu'il vous fasse arrêter.
Facebook a admis qu'une erreur dans sa fonction de traduction automatique basée sur l'intelligence artificielle avait conduit à l'arr…
