Description: Amazon’s AI-generated review summary allegedly misrepresented customer feedback on Mein Kampf by describing it as “a true work of art.” Google’s search algorithm then surfaced this misleading AI-generated text as a featured snippet, which in turn amplified the error. This incident arose from AI summarizing AI-generated content, in effect creating a self-reinforcing misinformation loop.
Entités
Voir toutes les entitésPrésumé : Un système d'IA développé et mis en œuvre par Amazon , Google , Google search algorithm , Google featured snippets , Amazon review summarizer , Amazon product review , Amazon content moderation systems et Google AI overview, a endommagé General public.
Systèmes d'IA présumés impliqués: Google search algorithm , Google featured snippets , Amazon review summarizer , Amazon product review , Amazon content moderation systems et Google AI overview
Statistiques d'incidents
ID
967
Nombre de rapports
1
Date de l'incident
2025-03-06
Editeurs
Rapports d'incidents
Chronologie du rapport

L'extrait de code de Google récupère un résumé d'Amazon AI du manifeste nazi Mein Kampf d'Adolf Hitler qui le qualifie de « véritable œuvre d'art » dans la dernière erreur liée à l'IA affectant les premiers résultats de recherche.
Au moment…
Variantes
Une "Variante" est un incident qui partage les mêmes facteurs de causalité, produit des dommages similaires et implique les mêmes systèmes intelligents qu'un incident d'IA connu. Plutôt que d'indexer les variantes comme des incidents entièrement distincts, nous listons les variations d'incidents sous le premier incident similaire soumis à la base de données. Contrairement aux autres types de soumission à la base de données des incidents, les variantes ne sont pas tenues d'avoir des rapports en preuve externes à la base de données des incidents. En savoir plus sur le document de recherche.
Incidents similaires
Did our AI mess up? Flag the unrelated incidents

Amazon Censors Gay Books
· 24 rapports
Discrimination in Online Ad Delivery
· 27 rapports
Incidents similaires
Did our AI mess up? Flag the unrelated incidents

Amazon Censors Gay Books
· 24 rapports
Discrimination in Online Ad Delivery
· 27 rapports