Incident 39: translated-fr-Deepfake Obama Introduction of Deepfakes
Entités
Voir toutes les entitésClassifications de taxonomie CSETv0
Détails de la taxonomieProblem Nature
Unknown/unclear
Physical System
Software only
Level of Autonomy
Unclear/unknown
Nature of End User
Amateur
Public Sector Deployment
No
Data Inputs
14 hours of footage from Obama's public statements and addresses (2017), Jordan Peele's voice and lip movements (2018)
Classifications de taxonomie GMF
Détails de la taxonomieKnown AI Goal Snippets
(Snippet Text: The researchers used 14 hours of Obama's weekly address videos to train a neural network. Once trained, their system was then able to take an audio clip from the former president, create mouth shapes that synced with the audio and then synthesize a realistic looking mouth that matched Obama's. , Related Classifications: Deepfake Video Generation)
Classifications de taxonomie CSETv1
Détails de la taxonomieIncident Number
39
Notes (special interest intangible harm)
4.4 - Technically, misinformation was involved because the deepfakes portrayed Barack Obama saying things he never actually said. However, it did not result in or cause harm.
Special Interest Intangible Harm
no
Risk Subdomain
3.1. False or misleading information
Risk Domain
- Misinformation
Entity
Human
Timing
Pre-deployment
Intent
Intentional
Rapports d'incidents
Chronologie du rapport

Photo : Université de Washington.
Un logiciel d'intelligence artificielle pourrait générer de fausses vidéos très réalistes de l'ancien président Barack Obama en utilisant des clips audio et vidéo existants de lui, selon une nouvelle étude …

Les chercheurs ont utilisé 14 heures de vidéos d'adresses hebdomadaires d'Obama pour former un réseau de neurones. Une fois formé, leur système a ensuite pu prendre un clip audio de l'ancien président, créer des formes de bouche synchronisé…

Dans un monde post-Photoshop, la plupart d'entre nous savent que les images ne sont pas toujours fiables. Maintenant, grâce à l'intelligence artificielle, il semble que la vidéo puisse aussi nous mentir.
Des chercheurs de l'Université de Wa…

Beaucoup d'entre nous ont dû tenir compte de l'avertissement "Ne mettez pas de mots dans ma bouche" à un moment donné au cours de notre vie, mais d'une manière générale, personne ne le pense réellement au sens littéral. Avec le temps, cepen…