Bienvenue dansla base de données des incidents d'IA
Incident 1093: Des vérificateurs de faits identifient une photo virale d'Ibrahim Traoré du Burkina Faso avec « femme et enfants » comme une composition générée par l'IA
“VÉRIFICATION DES FAITS : Une photo virale de la famille d'Ibrahim Traoré est manipulée”Dernier rapport
Allégation : Une photo de famille montre Ibrahim Traoré, le chef de la junte burkinabè, avec sa femme et ses trois enfants.
Source : Réseaux sociaux
Verdict : Contenu manipulé, faux
Recherches menées par Alfa Shaban
La popularité d’Ibrahim Traoré, le chef de la junte burkinabè, a suscité l’enthousiasme à travers l’Afrique suite à la diffusion virale d’informations faisant état d’une transformation positive du pays d’Afrique de l’Ouest.
Des vidéos de Traoré en tenue militaire habituelle, aux côtés de soldats en première ligne combattant les terroristes, des vidéos générées par AI où il parle anglais, des photos de ses échanges avec d’autres chefs de la junte et de ses rencontres avec d’autres dirigeants ont été largement partagées, notamment sur les réseaux sociaux.
GhanaFact a constaté qu’une prétendue photo de Traoré et de sa famille – sa femme et ses trois enfants – est devenue virale et a suscité de nombreuses réactions en ligne.
Nous avons constaté que l'image a été largement partagée sur X, Facebook, Instagram, TikTok et YouTube.
Ce rapport permettra de vérifier l'authenticité de l'image.
Vérification des faits
GhanaFact a utilisé Google Lens pour retrouver l'image originale de Traoré telle qu'elle apparaît dans le contenu viral.
Nous avons constaté les éléments suivants :
- L'image représentait Traoré participant au sommet Russie-Afrique en juillet 2023.
- Elle avait déjà été utilisée dans une publication de Jeune Afrique et une publication sur les réseaux sociaux de la chaîne allemande DW.
L'image a été publiée sur la plateforme IMAGO-IMAGES avec la légende suivante : « RUSSIE, SAINT-PÉTERSBOURG – 29 juillet 2023 : Le président de transition du Burkina Faso, Ibrahim Traoré (au centre), arrive au palais de Constantin pour une rencontre avec le président russe Vladimir Poutine (non représenté) lors du deuxième sommet Russie-Afrique. Mikhail Metzel/Agence photo TASS Host. »
Le portail d'information Jeune Afrique a également utilisé la même image pour une publication de mars 2024 sur Ibrahim Traoré (https://www.jeuneafrique.com/1549405/politique/au-burkina-faso-ibrahim-traore-sauveur-ou-dictateur/), avec une légende similaire mentionnant le même photographe et la même source : Mikhail Metzel et TASS. Une analyse d'image a également révélé que certaines personnes avec Ibrahim Traoré sur l'image originale avaient été rognées, tandis que Traoré a été fusionné avec d'autres personnages (sa femme et ses enfants supposés) dans l'image virale.
Un élément révélateur d'une possible manipulation de la photo originale est la main d'Ibrahim Traoré telle qu'elle apparaît sur la photo de famille. Caractéristique des images d'IA, certaines parties du corps apparaissent décalées. L'image originale ne montrait pas les doigts de Traoré, contrairement à l'image virale. De plus, la montre-bracelet qu'il portait en Russie est différente de celle capturée sur l'image virale.
Analyse du détecteur d'IA
Une analyse plus approfondie réalisée sur la plateforme wasitai.com a confirmé qu'il y avait une forte probabilité que l'image ait été générée par l'IA.
« Nous sommes convaincus que cette image, ou une partie importante de celle-ci, a été créée par l'IA », a déclaré la plateforme.
De plus, il n'existe aucune information crédible concernant la famille de Traoré depuis son accession à la célébrité.
Verdict
D'après ce qui précède, l'image est manipulée et falsifiée.
GhanaFact a contacté plusieurs comptes ayant partagé ces images et a publié ses conclusions. Nous mettrons régulièrement à jour ce script.
Incident 1094: Au moins 294 prétendues vidéos musicales générées par l'IA représentent des célébrités faisant l'éloge d'Ibrahim Traoré du Burkina Faso
“Des centaines de clips musicaux deepfake célèbrent le président du Burkina Faso… pourquoi ?”
Qu'ont en commun Beyoncé, Rihanna, R. Kelly, Selena Gomez et Eminem - outre le fait d'être des chanteurs de renommée mondiale ? Ils semblent également tous avoir enregistré une version d'un tube intitulé « God Protect Ibrahim Traoré » et l'avoir posté sur YouTube, Facebook et TikTok. C'est une ode à la gloire du président du Burkina Faso, arrivé au pouvoir par un coup d'État en septembre 2022.
Sur fond de gospel, le clip montre le président burkinabé réconfortant un blessé, acclamé par une foule d'enfants.
« Que Dieu protège Ibrahim Traoré, qu'il soit dans ta grâce, qu'il lui accorde la sagesse et la force de diriger ce lieu fragile », disent les paroles de la version censée faire intervenir le chanteur américain R. Kelly. On peut voir R. Kelly à moto tandis qu'une rafale de coups de feu éclate derrière lui. La chanson fait ensuite référence à l'insurrection islamiste qui touche le Burkina Faso et d'autres pays du Sahel :
Les tempêtes djihadistes ont trop longtemps sévi
Déplacer des cœurs et des foyers
Seigneur, nous avons besoin de ta justice maintenant
Dans ces zones souillées de sang.
Plus tard dans le clip, Rihanna apparaît, appelant à « cinq années supplémentaires de règne des soldats », affichant ainsi son soutien au maintien au pouvoir d'Ibrahim Traoré et de sa junte militaire.
Des centaines de commentaires en anglais apparaissent sous le clip, censé montrer R. Kelly et Rihanna. La plupart contiennent des messages élogieux de soutien à Traoré. Ces messages ont été rédigés par des utilisateurs des réseaux sociaux se disant originaires de pays africains anglophones, dont le Kenya, la Tanzanie, l'Afrique du Sud, le Nigéria, le Zimbabwe, l'Ouganda et le Malawi. Il est impossible de déterminer si ces messages ont été publiés par des utilisateurs des réseaux sociaux ou s'ils font partie de la campagne de désinformation.
Au total, notre équipe a recensé au moins quinze versions différentes de « God Protect Ibrahim Traoré » sur YouTube, toutes en anglais, et toutes mettant en scène des célébrités deepfakes chantant des odes au président du Burkina Faso.
**Vidéos musicales créées par IA **
Cependant, toutes les nombreuses versions de « God Protect Ibrahim Traoré » sont des deepfakes. Elles sont de mauvaise qualité et peu réalistes ; en fait, elles ressemblent toutes à des jeux vidéo. Par ailleurs, d'autres indices suggèrent qu'elles ont été générées par l'IA. Le visage d'un homme dans la foule est déformé. La bannière portant le nom de Traoré comporte des lettres illisibles ; l'IA peine encore à créer du texte lisible sur une photo.
Si vous regardez ces vidéos sur YouTube, elles sont en réalité décrites comme du « contenu modifié ou synthétique », c'est-à-dire généré par l'IA. Mais même si ces clips musicaux sont clairement faux, de nombreux influenceurs anglophones s'y sont laissés prendre et continuent de les partager.
Nancy Blaq, une influenceuse ghanéenne comptant 2,7 millions d'abonnés, a partagé la version « chantée » par Beyoncé sur Facebook.
Lors de son concert à guichets fermés au Madison Square Garden hier soir, la superstar mondiale a marqué une pause entre ses tubes pour délivrer un message qui a laissé le public bouche bée : "Que Dieu protège Ibrahim Traoré, que Dieu protège le Burkina Faso" », a écrit l'influenceuse dans une publication du 10 mai. La vidéo a également été partagée le 4 mai par une page Facebook qui serait celle de la chaîne de télévision russe Rossiya 1 Afrique (https://archive.ph/sAcRA).
Des contenus pro-Traoré ont également été partagés par des utilisateurs des réseaux sociaux qui soutiennent l'Alliance des États du Sahel (AES), qui regroupe le Mali, le Niger et le Burkina Faso.
« Vive Ibrahim Traoré, vive l'armée burkinabé, vive l'armée de l'AES », a écrit un utilisateur Facebook pro-AES (https://archive.ph/m6bRg) en français, accompagné du clip de Beyoncé.
294 faux clips musicaux partagés par 127 chaînes YouTube
Notre équipe a cherché à déterminer l'ampleur du partage de ces faux clips. Pour ce faire, nous avons utilisé un logiciel nous permettant d'identifier les faux clips pro-Traoré publiés sur YouTube et leur nombre de vues.
Si les premières versions de « God Protect Ibrahim Traoré » sont apparues sur YouTube en mars, la plupart ont été publiées début mai. Nous avons recensé au moins 294 faux clips musicaux publiés sur YouTube. Au total, ils ont totalisé plus de 8,6 millions de vues.
Ces vidéos ont été partagées sur au moins 127 chaînes YouTube. La plupart de ces chaînes ont été créées récemment et existent depuis six à deux mois. Un bon nombre d'entre elles ne contiennent que du contenu pro-Ibrahim Traoré, ce qui suggère qu'elles ont été spécifiquement créées pour soutenir le président burkinabé. L'IA a également été utilisée pour créer les graphismes de plusieurs de ces chaînes YouTube. Par exemple, le texte des bannières de certaines vidéos est incompréhensible, ce qui est souvent le cas avec les images générées par l'IA.
« Il est clair qu'il s'agit d'une campagne coordonnée »
« Il est clair qu'il s'agit d'une campagne coordonnée », déclare Samba Dialimpa Badji, chercheur en désinformation et en vérification des faits à l'Université d'Oslomet en Norvège. « Même si nous ne disposons pas d'éléments prouvant que le gouvernement burkinabé est derrière cette campagne de communication, il en tire certainement profit. »
Le gouvernement burkinabé n'a pas l'habitude d'utiliser l'IA pour créer massivement de fausses vidéos.
« Ce que nous avons observé jusqu'à présent, c'est qu'ils s'appuyaient principalement sur des influenceurs sur les réseaux sociaux – WhatsApp, Facebook, Twitter – qui publiaient des contenus glorifiant Ibrahim Traoré ou témoignant de leur soutien à la junte militaire au pouvoir au Burkina Faso. L'IA permet de créer du faux contenu très rapidement, facilement et en grande quantité », a ajouté Dialimpa Badji.
« Rien n'indique que de vraies personnes soient derrière ces publications », affirme le chercheur. « Il se pourrait que les comptes partageant ces contenus aient également été créés par l'IA. Une seule personne pourrait facilement le faire : créer différents comptes sur différentes plateformes de réseaux sociaux et créer du contenu de manière automatisée », a déclaré Dialimpa Badji.
Clips vidéo réalisés au Nigéria
Notre équipe a pu contacter la personne à l'origine de la chaîne YouTube où un clip intitulé « God Protect Ibrahim Traoré de R. Kelly » a été visionné plus de 1,9 million de fois. Cette personne prétend être le créateur de cette vidéo, ce qui confirme sa date de création. Le YouTubeur, basé au Nigéria, se présente comme un artiste spécialisé dans l'utilisation de l'IA pour la création de clips musicaux. Il facture environ 1 000 dollars (881 euros) par clip.
Il a expliqué que l'utilisation de l'IA pour réaliser des vidéos en hommage au président du Burkina Faso était au départ un projet personnel.
« Ma motivation était qu'Ibrahim Traoré fasse ce que beaucoup de dirigeants africains ne font pas », a-t-il déclaré. « Je l'admire beaucoup. »
« Quand les gens ont vu que ces vidéos devenaient virales sur ma chaîne, ils ont commencé à me demander de réaliser le même genre de vidéos pour eux », a-t-il expliqué. « C'est à ce moment-là que j'ai commencé à facturer la création et la promotion des clips. »
Le créateur a déclaré être à l'origine de la plupart des clips populaires célébrant Ibrahim Traoré sur YouTube et TikTok. Nous n'avons pas pu vérifier cette affirmation. Il n'a pas non plus répondu à nos questions sur l'identité de ses sponsors.
« Les personnes à l'origine de cette campagne recherchaient probablement des personnes possédant les compétences nécessaires pour créer du contenu généré par l'IA [comme au Nigeria], où l'on trouve facilement quelqu'un pour fournir ce service », a déclaré Dialimpa Badji.
La publication de ces clips musicaux a-t-elle été coordonnée avec le gouvernement burkinabé ?
Pourquoi y a-t-il eu une explosion soudaine de clips musicaux pro-Traoré en mai ?
Il est intéressant de noter que le gouvernement burkinabé a lancé une nouvelle campagne de communication pour valoriser le président au moment même où nombre de ces vidéos étaient mises en ligne. Le 27 avril, l'Agence burkinabè d'information a publié un communiqué affirmant avec audace que « le capitaine Ibrahim Traoré est vénéré dans le monde entier ». Pour preuve, l'agence de presse a cité un tweet du célèbre rappeur ghanéen Sarkodie, qui a posté le message « Dieu protège Ibrahim Traoré » sur X le 25 avril, soit exactement la même phrase que dans les clips. Quelques jours plus tard, le 30 avril, les autorités burkinabè ont déclaré une « Journée mondiale de soutien à Ibrahim Traoré »](https://www.youtube.com/watch?v=TqDIhilkzT0), appelant à manifester dans la rue, au Burkina Faso et à l'étranger.
La diffusion de ces faux clips musicaux semble coordonnée avec la campagne de communication visant à promouvoir l'image de Traoré, a déclaré Mathieu Pellerin, analyste spécialiste du Sahel à l'International Crisis Group : « Depuis son arrivée au pouvoir, le président Traoré utilise des références directes à Thomas Sankara, ce qui lui confère une certaine légitimité, compte tenu de l'adoration que lui voue la population burkinabè. »
Thomas Sankara était le président révolutionnaire du Burkina Faso, assassiné en 1987. Aujourd'hui encore, Sankara est une icône anticolonialiste et panafricaniste en Afrique.
Cela correspond parfaitement aux idées que Traoré souhaite incarner pour son pays et au-delà : le soulèvement populaire, la rupture avec le colonialisme et l’impérialisme au profit de la souveraineté, tant pour le Burkina Faso que dans un contexte panafricain. Ce sont également les messages véhiculés par cette campagne d’IA, qui amplifie son message hors du Burkina Faso.
Vidéos destinées au public anglophone
La plupart de ces faux clips musicaux faisant la promotion d’Ibrahim Traoré mettent en scène des chanteurs anglophones. Ce n’est pas un hasard. Selon la BBC, les utilisateurs publiant le plus de contenu sur X en soutien à Ibrahim Traoré sont originaires du monde anglophone, notamment du Nigeria, du Kenya, d’Afrique du Sud et des États-Unis.
« Nous avons constaté que ces publications sont particulièrement virales dans les pays anglophones. Je pense donc que ces pays ont été ciblés, probablement pour tenter de sortir du carcan francophone », explique Dialimpa Badji. « Ils en ont probablement conclu que dans le monde francophone, notamment en Afrique de l'Ouest, une partie du public connaît déjà Traoré. Et donc peut-être que les populations seront moins faciles à manipuler avec ce type de contenu, car elles connaissent déjà un peu la situation au Sahel, au Burkina Faso, au Niger… où règne déjà une forme de défiance envers le pouvoir. »
« Cette propagande vise probablement à masquer l'échec des politiques sécuritaires de Traoré et à promouvoir sa position politique tant au niveau national qu'international, afin de réduire le risque d'isolement diplomatique », conclut Pellerin. « Il a connu un succès indéniable avec ce dernier, compte tenu de sa popularité dans la région et à l'international. Mais je ne pense pas que ce soit tout à fait la même chose en interne. Même si le président dispose d'une base populaire, celle-ci semble s'éroder, compte tenu de l'incapacité du régime à rétablir la sécurité dans le pays. Sans compter les arrestations croissantes de civils. »
Ces dernières semaines, le Burkina Faso a subi plusieurs revers dans sa lutte contre les djihadistes du JNIM, un groupe terroriste lié à Al-Qaïda.
« Vu le succès de cette campagne, il ne serait pas surprenant que d'autres pays utilisent la même technique, comme le Mali, par exemple, où la désinformation est déjà omniprésente », a déclaré Dialimpa Badji.
Incident 1095: Une prétendue campagne de deepfake liée à la Russie attribue à tort des projets d'infrastructure au Burkina Faso Ibrahim Traoré
“La Russie utilise de fausses informations pour soutenir les régimes de junte africains”
Partout en Afrique de l'Ouest, il est devenu difficile d'échapper à la vague de vidéos virales, de mèmes et de publications sur les réseaux sociaux glorifiant les dirigeants militaires du Burkina Faso, du Mali et du Niger.
Les experts affirment qu'une campagne délibérée a été menée pour valoriser un homme en particulier : le capitaine Ibrahim Traoré, le plus jeune dirigeant du continent, qui a pris le pouvoir en renversant la précédente junte militaire du Burkina Faso en 2022.
« Je n'ai jamais rien vu de tel », a déclaré l'animatrice Martine Dennis dans l'épisode du 13 mai de son podcast Africa Here & Now. « Ibrahim Traoré semble être en ligne, partout, tout le temps. Dans la plupart des contenus, il est présenté comme le jeune roi d'Afrique, mais il y a clairement des mensonges. »
Le journaliste d'investigation David Hundeyin, rédacteur en chef de West Africa Weekly, a déclaré que la majeure partie de la campagne sur les réseaux sociaux autour de Traoré, 37 ans, est contrôlée par des tiers. Certains utilisent des vidéos bon marché et caricaturales générées par l'intelligence artificielle pour attribuer à tort progrès et développement au leadership de Traoré.
Dans une vidéo, un immense projet de logements sociaux à Tizi Ouzou, dans le nord de l'Algérie, est présenté comme un projet en construction au Burkina Faso. Une autre montre Traoré lors de l'inauguration d'une cimenterie, accompagné de fausses allégations selon lesquelles il aurait annoncé une baisse des prix du ciment.
« Ils exagèrent, et c'est pourquoi on trouve tant de vidéos générées par l'IA, avec des visuels incroyables, provenant du monde entier », a-t-il déclaré lors du podcast. « On prétend qu'il s'agit d'une révolution fantastique au Burkina Faso. Ces affirmations sont donc très faciles à réfuter et à discréditer. »
Depuis les coups d'État au Burkina Faso, au Mali et au Niger, les organisations extrémistes violentes soutenues par Al-Qaïda et le groupe État islamique ont considérablement étendu leurs opérations. Rien qu'au Burkina Faso, plus de 2 millions de personnes ont perdu leur abri, et le nombre de personnes tuées par des groupes terroristes a presque triplé depuis le deuxième coup d'État de 2022.
Le terrorisme sévit dans les trois pays en proie à des coups d'État qui ont rompu avec la CEDEAO pour former leur propre Alliance des États du Sahel. Selon les experts, la détérioration de la sécurité et l'instabilité de la gouvernance au Sahel préparent le terrain pour que la Russie déverse une vague de fausses informations.
« Dans les pays en proie à une forte instabilité, les juntes militaires limitent déjà la liberté d'expression et la dissidence, ouvrant la voie à l'essor du sentiment prorusse et de la rhétorique anti-impérialiste, renversant ainsi la tendance en faveur des activités du Kremlin dans certaines régions du Sahel », a écrit Vikram Kolli dans une analyse publiée le 7 mars dans la Harvard International Review.
La Russie a lancé son agence de presse « African Initiative » pour tirer parti des 300 millions d'Africains qui ont rejoint les réseaux sociaux au cours des sept dernières années et des 600 millions d'internautes sur le continent.
« L'insuffisance des infrastructures médiatiques, la distribution des journaux et la mauvaise qualité d'Internet ont engendré une pauvreté informationnelle sur tout le continent. Par conséquent, de nombreux Africains dépendent des réseaux sociaux pour la majeure partie de leurs informations, ce qui les rend vulnérables à la désinformation », a déclaré Kolli.
L'Initiative africaine diffuse principalement des fausses nouvelles et des informations erronées via des comptes de réseaux sociaux, des sites web comme afrinz.ru et VKontakte, et des chaînes Telegram comme « Smile and Wave ». Le contenu est produit par des « unités de propagande russes, puis transmis à ces influenceurs, par l'intermédiaire d'intermédiaires, pour publication sur les réseaux sociaux », a déclaré le journaliste nigérian Philip Obaji à l'Agence France-Presse (AFP).
Malik Samuel, chercheur principal au groupe de réflexion panafricain Good Governance Africa, a déclaré que la campagne de désinformation sur les réseaux sociaux s'était propagée jusqu'au Nigeria.
« Cette admiration croissante pour Traoré au Nigeria représente de graves risques pour la sécurité nationale et la stabilité démocratique », a-t-il déclaré à l'AFP. « Cela normalise l'intervention militaire comme solution politique viable et ouvre la voie à l'ingérence idéologique étrangère. »
Les experts ont souligné l'ironie de la Russie qui promeut une rhétorique anticoloniale dans les pays africains où elle a intégré des agents et des mercenaires au sein de l'armée et du gouvernement, contribuant ainsi à une campagne massive d'extraction de ressources naturelles. Selon les services de renseignement géopolitique, la Russie a « siphonné 2,5 milliards de dollars de revenus » depuis 2022, rien que grâce à l'exploitation de l'or.
Kolli a déclaré que les pays du Sahel sont engagés sur une voie dangereuse.
« Sans un engagement réel à privilégier la stabilité à long terme plutôt que la géopolitique à court terme, le cercle vicieux des ingérences extérieures et des troubles internes risque de se poursuivre, laissant le Sahel piégé dans une bataille qui compromet son avenir », a-t-il écrit.
Incident 1096: Une vidéo prétendument générée par l'IA montre Ibrahim Traoré du Burkina Faso prononçant un discours sur l'exploitation occidentale
“translated-fr-Deepfake Video Circulated Claiming to Show a Speech by Burkina Faso’s President Ibrahim Traoré”
translated-fr-Recently, a video has been circulated across various internet platforms, claiming to show a speech by Burkina Faso's military officer and President Ibrahim Traoré under the title: "Protesting Western Media's False Representation of Africa and the West's Economic Exploitation of Africa." test
See the posts circulated on Facebook making this claim here (archive), here (archive), here (archive), and here (archive).
See the video on YouTube making the same claim here (archive).
See the video on Instagram making the same claim here (archive).
Fact Check
The Rumor Scanner team's investigation reveals that the video of Burkina Faso's President Ibrahim Traoré delivering a speech is not real. In fact, the deepfake video claiming to show Ibrahim Traoré's speech was created with the help of artificial intelligence and is being circulated as authentic.
During the investigation, a video titled "Ibrahim Traoré EXPOSES Western Media: 'We're Recording Every Lie You Tell About Africa'" was found on the YouTube channel Univers Inspirant, published on May 25. The video being circulated under the claim closely resembles this one.
In the detailed description of this video, under the heading "IMPORTANT NOTICE," it is stated that the video is entirely based on fictional content and was created for entertainment purposes only. While the content is inspired by real-world events, all the scenarios, dialogues, and characters portrayed are entirely fictional. Although inspired by the life of Ibrahim Traoré, the depicted events and dialogues are not real and are part of an artistic creation. The video is not directly related to any real person or institution. The purpose of this video is not to deliver a political message but solely for entertainment and artistic expression. Viewers are advised to conduct their own research on the matter.
Additionally, the same description labels the content as "altered or synthetic content," indicating that its audio and visuals were significantly edited or digitally created.
Based on the above information, a 15-second clip from the circulated video was uploaded to the AI detection website Hive Moderation, which showed a 99% probability that the audio and 100% probability that the video were AI-generated.
Similarly, uploading the clip to the AI detection site Sensity indicated a 95% probability that the audio and a 98% probability that the video were generated using AI technology.
Therefore, the deepfake video falsely claiming to show a speech by Burkina Faso's President Ibrahim Traoré is being circulated as if it were real --- which is false.
Sources
- Univers Inspirant -- Ibrahim Traoré EXPOSES Western Media: 'We're Recording Every Lie You Tell About Africa'
- Hive Moderation -- Website
Incident 1091: De prétendus avatars de Synthesia utilisés dans une prétendue vidéo deepfake pro-junte soutenant Ibrahim Traoré au Burkina Faso
“Quelqu'un a créé des vidéos d'« Américains » soutenant un coup d'État militaire en Afrique de l'Ouest.”
D'étranges vidéos générées par l'IA, montrant des personnes exprimant leur soutien à la nouvelle junte militaire du Burkina Faso, sont apparues en ligne, ce qui pourrait être une tentative maladroite de diffusion de propagande pro-militaire.
L'auteur de ces vidéos n'est pas connu, mais il semble qu'elles soient partagées via WhatsApp.
L'une d'elles a été largement partagée sur Twitter cette semaine par Lauren Blanchard, spécialiste des affaires africaines au Congressional Research Service (CRS) aux États-Unis. Mme Blanchard a déclaré que la vidéo circulait sur WhatsApp, mais qu'elle ignorait son auteur.
« Bonjour au peuple africain et particulièrement au peuple burkinabé. Je m'appelle Alisha et je suis panafricaniste », déclare une personne dans la vidéo, dont VICE World News a confirmé qu'elle avait été créée par le générateur de vidéos Synthesia.
Synthesia a déclaré avoir banni l'utilisateur à l'origine des vidéos, mais a souhaité garder l'anonymat.
L'avatar généré par l'IA dans la vidéo poursuit : « J'en appelle à la solidarité du peuple burkinabé et du peuple burkinabé pour soutenir efficacement les autorités de la transition. »
« Resterons tous mobilisés aux côtés du peuple burkinabé dans ce combat. La patrie ou la mort. Nous vaincrons. »
La vidéo est apparue aux côtés d'un clip similaire, mettant en scène plusieurs avatars différents, mais lisant le même script, également créé avec Synthesia.
La deuxième vidéo a été publiée sur Facebook le 23 janvier par Ibrahima Maiga, qui se présente comme un politologue sahélien originaire du Burkina Faso. Maiga, qui a publié des messages de soutien au nouveau régime du pays, a déclaré à VICE World News via Facebook Messenger avoir trouvé la vidéo sur WhatsApp avant de la publier sur Facebook et qu'il ignorait qu'elle avait été créée avec l'IA.
Il semble avoir supprimé la vidéo peu après avoir été contacté par VICE World News.
Le Burkina Faso est actuellement dirigé par le président par intérim Ibrahim Traoré, qui a pris le pouvoir lors d'un coup d'État en septembre. L'armée dirige désormais ce pays d'Afrique de l'Ouest, après avoir affirmé que les gouvernements précédents n'avaient pas réussi à endiguer la propagation de la violence djihadiste.
Certains utilisateurs de Twitter ont attribué les vidéos au groupe Wagner, une entreprise militaire privée russe, sans preuve.
Wagner est l'un des groupes de mercenaires les plus secrets et les plus brutaux au monde (https://www.vice.com/en/article/xgdbpa/inside-russia-wagner-group-mercenaries) et a collaboré avec les gouvernements du Mali et de la République centrafricaine. Les autorités militaires du Burkina Faso ont précédemment nié les allégations selon lesquelles elles auraient engagé des mercenaires pour les aider à combattre une insurrection islamiste, mais cette semaine, la France a accédé à la demande de son ancienne colonie de retirer toutes ses troupes du pays.
Si la Russie est connue pour avoir déployé des deepfakes pendant la guerre en Ukraine, on ignore si Wagner a déjà utilisé l'IA pour générer de telles vidéos.
Tracy Harwood, professeure de culture numérique à l'université De Montfort au Royaume-Uni, a déclaré à VICE World News qu'elle serait surprise que quiconque se laisse prendre au piège des vidéos du Burkina Faso.
« Avec les preuves de l'influence russe dans la manipulation des résultats politiques, qui pourrait réellement faire confiance à un contenu en ligne soutenant une position politique ? Les personnes concernées par les enjeux politiques ont besoin de vérités concrètes, et non de vérités virtuelles », a-t-elle déclaré. « Ces vidéos ont tout l'air de guerriers du clavier agissant aussi loin que possible de l'action ! »
Une vidéo sur la création d'avatars d'IA sur le compte YouTube de Synthesia présente l'un des avatars vus dans les vidéos du Burkina Faso, et indique : « Une équipe de modérateurs de contenu veille à ce que personne n'enfreigne les règles, il est donc impossible de diffuser de fausses informations, de désinformation ou d'obscénité via les vidéos créées par Synthesia Studio. »
Le PDG de Synthesia, Victor Riparbelli, a refusé de révéler à VICE World News l'identité des auteurs des vidéos, mais a déclaré : « Nous avons des règles strictes concernant le type de contenu que nous autorisons à la création sur notre plateforme et nous condamnons fermement toute utilisation abusive. Les vidéos récemment publiées enfreignent nos Conditions d'utilisation et nous avons identifié et banni l'utilisateur concerné.
« En tant qu'entreprise, nous avons investi très tôt dans la modération des contenus afin de garantir à nos dizaines de milliers de clients une plateforme sécurisée. »
Il a ajouté : « Des cas comme celui-ci illustrent la difficulté de la modération. Les scripts en question n'utilisent pas de langage explicite et nécessitent une compréhension contextuelle approfondie du sujet. Aucun système ne sera jamais parfait, mais pour éviter que des situations similaires ne se reproduisent, nous poursuivrons nos efforts d'amélioration. »
Ajout rapide d'un nouveau rapport
A propos de la base de données
La base de données des incidents d'IA est dédiée à l'indexation de l'historique collectif des dommages ou les quasi-dommages réalisés dans le monde réel par le déploiement de systèmes d'intelligence artificielle. Comme des bases de données similaires dans l'aviation et la sécurité informatique, La base de données des incidents d'IA vise à apprendre de l'expérience afin que nous puissions prévenir ou atténuer les mauvais résultats.
Vous êtes invité à soumettre des rapports d'incident, après quoi les soumissions seront indexées et rendues visibles au monde entier. L'intelligence artificielle ne sera bénéfique pour les personnes et la société que si nous enregistrons et apprenons collectivement de ses échecs. (Plus d'informations)

Researching AI Incidents to Build a Safer Future: The Digital Safety Research Institute partners with the Responsible AI Collaborative
By TheCollab Board of Directors
2024-02-20
The Digital Safety Research Institute (DSRI) of UL Research Institutes is partnering with the Responsible AI Collaborative (TheCollab) to ad...
La base de données dans la presse
En savoir plus sur la base de données sur PAI Blog, Vice News, Venture Beat, Wired et arXiv entre autres points de vente.
Classement des rapporteurs d'incidents
Celles-ci sont les personnes et entités créditées pour la création et la soumission des rapports d'incident. Plus de détails sont disponibles sur la page des classements.
Le briefing sur les incidents d'IA

Create an account to subscribe to new incident notifications and other updates.
Incidents aléatoires
La collaboration IA responsable
La base de données d'incidents d'IA est un projet du Responsible AI Collaborative, une organisation autorisée à promouvoir la base de données d'incidents d'IA. La gouvernance de la Collaborative est structurée autour de la participation de sa programmation d'impact. Pour plus de détails, nous vous invitons à lire le rapport de la fondation et à en savoir plus sur notre and learn more on our.

Voir le formulaire 990 et la demande d'exonération fiscale de la Responsible AI Collaborative.
Commanditaire fondateur de l'organisation
Commanditaire fondateur de la base de données
