Incident 278: Meta’s BlenderBot 3 Chatbot Demo Made Offensive Antisemitic Comments

Description: The publicly launched conversational AI demo BlenderBot 3 developed by Meta was reported by its users and acknowledged by its developers to have “occasionally” made offensive and inconsistent remarks such as invoking Jewish stereotypes.

Outils

Nouveau rapportNouveau rapportNouvelle RéponseNouvelle RéponseDécouvrirDécouvrirVoir l'historiqueVoir l'historique

Entités

Voir toutes les entités
Présumé : Un système d'IA développé et mis en œuvre par Meta, a endommagé Jewish people et BlenderBot 3 users.

Statistiques d'incidents

ID
278
Nombre de rapports
3
Date de l'incident
2022-08-07
Editeurs
Khoa Lam
Applied Taxonomies
GMF, MIT

Classifications de taxonomie MIT

Machine-Classified
Détails de la taxonomie

Risk Subdomain

1.2. Exposure to toxic content

Risk Domain

  1. Discrimination and Toxicity

Entity

AI

Timing

Post-deployment

Intent

Unintentional

Tweet : @JeffHorwitz
twitter.com · 2022
Traduit par IA

Bonjour à tous, en particulier aux chercheurs de Facebook Blender.ai qui vont devoir freiner leur chatbot qui déteste Facebook et nie les élections aujourd'hui

Il tente également d'orienter la conversation sur la façon dont Modi est le plus…

Meta a demandé aux utilisateurs de tester son A.I. chatbot. Il s'avère qu'il n'est pas sûr que Biden ait gagné en 2020 et traite des stéréotypes juifs
fortune.com · 2022
Traduit par IA

La nouvelle IA de Meta le chatbot a été lancé la semaine dernière au public, mais il a déjà montré des signes de sentiments antisémites et semble ne pas savoir si Joe Biden est le président des États-Unis.

Vendredi, Meta a lancé BlenderBot …

"Il est douloureux de voir certaines de ces réponses offensantes" - Meta défend son chatbot BlenderBot 3 parfois antisémite
fortune.com · 2022
Traduit par IA

Salut, David Meyer ici à Berlin, remplaçant Jeremy cette semaine.

Meta, la société mère de Facebook, a défendu sa décision de lancer une démonstration publique de son nouveau chatbot BlenderBot 3, qui est devenu offensant à peu près dès sa …

Variantes

Une "Variante" est un incident qui partage les mêmes facteurs de causalité, produit des dommages similaires et implique les mêmes systèmes intelligents qu'un incident d'IA connu. Plutôt que d'indexer les variantes comme des incidents entièrement distincts, nous listons les variations d'incidents sous le premier incident similaire soumis à la base de données. Contrairement aux autres types de soumission à la base de données des incidents, les variantes ne sont pas tenues d'avoir des rapports en preuve externes à la base de données des incidents. En savoir plus sur le document de recherche.

Incidents similaires

Par similarité textuelle

Did our AI mess up? Flag the unrelated incidents

TayBot

Danger, danger! 10 alarming examples of AI gone wild

· 28 rapports
High-Toxicity Assessed on Text Involving Women and Minority Groups

Google’s comment-ranking system will be a hit with the alt-right

· 9 rapports
Inappropriate Gmail Smart Reply Suggestions

Computer, respond to this email: Introducing Smart Reply in Inbox by Gmail

· 22 rapports
Incident précédentProchain incident