Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
発見する
投稿する
  • ようこそAIIDへ
  • インシデントを発見
  • 空間ビュー
  • テーブル表示
  • リスト表示
  • 組織
  • 分類法
  • インシデントレポートを投稿
  • 投稿ランキング
  • ブログ
  • AIニュースダイジェスト
  • リスクチェックリスト
  • おまかせ表示
  • サインアップ
閉じる
発見する
投稿する
  • ようこそAIIDへ
  • インシデントを発見
  • 空間ビュー
  • テーブル表示
  • リスト表示
  • 組織
  • 分類法
  • インシデントレポートを投稿
  • 投稿ランキング
  • ブログ
  • AIニュースダイジェスト
  • リスクチェックリスト
  • おまかせ表示
  • サインアップ
閉じる

AIインシデントデータベース
にようこそ

Loading...
ファクトチェック:イブラヒム��・トラオレの家族の写真は操作されている

インシデント 1093: ファクトチェッカーが、ブルキナファソのイブラヒム・トラオレと「妻と子供たち」の写真がAI合成だと特定

自動翻訳済み
“ファクトチェック:イブラヒム・トラオレの家族の写真は操作されている”最新のインシデントレポート
ghanafact.com2025-06-02

主張:家族写真にブルキナファソの軍事政権指導者イブラヒム・トラオレ氏と妻、そして3人の子供が写っている

情報源:ソーシャルメディア

判定:操作されたコンテンツ、偽造

調査:アルファ・シャバン

ブルキナファソの軍事政権指導者イブラヒム・トラオレ氏の人気は、彼が西アフリカの国をより良い方向へ変えたという報道が拡散したことで、アフリカ全土で感情を揺さぶっている。

トラオレ氏が普段通りの軍服を着て、最前線でテロリストと戦う兵士たちと共にいる動画、英語で話すトラオレ氏の動画[AI](https://ghanafact.com/fact-check/ai/ 「AIに関するさらなる検証」)、他の軍事政権指導者との交流の様子、そして他の指導者との会談の様子などが、特にソーシャルメディア上で広く共有されている。

GhanaFactは、トラオレ氏と妻と3人の子供が写っているとされる写真が拡散し、インターネット上で大きな反響を呼んでいることを確認した。

この画像は、X、Facebook、Instagram、TikTok、YouTubeで広く共有されていることを確認しました。

本稿では、画像の真正性について検証します。

ファクトチェック

GhanaFactはGoogleレンズを使用して、拡散されたコンテンツに含まれていたトラオレ氏のオリジナル画像を追跡しました。

以下のことが判明しました。

  1. 画像は、トラオレ氏が2023年7月に開催されたロシア・アフリカ首脳会談に参加する様子を撮影したものでした。
  2. この画像は以前、[Jeune Afrique]の出版物と、ドイツの放送局DWのソーシャルメディア投稿で使用されていました。

この写真はIMAGO-IMAGESプラットフォームに掲載され、キャプションには「ロシア、サンクトペテルブルク ― 2023年7月29日:ブルキナファソ暫定大統領イブラヒム・トラオレ氏(中央)が、第2回ロシア・アフリカ首脳会議でロシアのプーチン大統領(写真外)と会談するためコンスタンチン宮殿に到着。ミハイル・メッツェル撮影/TASSホスト写真提供」とありました。

ニュースポータル「Jeune Afrique」も、2024年3月のイブラヒム・トラオレに関する記事で同じ写真を使用し、同様のキャプションで、同じ写真家と情報源(ミハイル・メッツェル氏とTASS)をクレジットしました。

画像分析の結果、元の画像ではイブラヒム・トラオレと写っている人物の一部が切り取られており、トラオレは他の人物(妻と子供たちと思われる人物)と融合して、拡散された画像に写っていることが明らかになりました。

元の写真が加工されている可能性を示唆する特徴は、家族写真に写っているイブラヒム・トラオレの手です。AI画像の特徴として、特定の体の部位が切り取られている点が挙げられます。元の画像にはトラオレの指は写っていませんでしたが、拡散された画像には写っています。また、彼がロシアで着用していた腕時計も、拡散された画像に写っているものとは異なっています。

AI検出分析

wasitai.com プラットフォームを用いたさらなる分析により、この画像はAIによって生成された可能性が高いことが確認されました。

同プラットフォームの判定では、「この画像、あるいはその大部分はAIによって作成されたと確信しています」と述べられています。

さらに、トラオレ氏が著名になって以来、彼の家族に関する信頼できる情報も一切ありません。

判定

以上から、この画像は加工された偽物です。

ガーナファクトは、上記の画像を共有した複数のアカウントに連絡を取り、調査結果を伝えています。このスクリプトは継続的に更新していきます。

さらに読む
Loading...
何百ものディープフェイクミュージックビデオがブルキナファソの大統領を称賛している…なぜ?

インシデント 1094: 少なくとも294本のAI生成ミュージックビデオには、ブルキナファソのイブラヒム・トラオレを称賛する著名人が描かれている。

自動翻訳済み
“何百ものディープフェイクミュージックビデオがブルキナファソの大統領を称賛している…なぜ?”
observers.france24.com2025-06-02

ビヨンセ、リアーナ、R・ケリー、セレーナ・ゴメス、エミネムに共通点はあるでしょうか?世界的に有名な歌手であること以外に?彼らは全員、「God Protect Ibrahim Traoré」というヒット曲のバージョンを録音し、YouTube、Facebook、TikTokに投稿しているようです。これは、2022年9月のクーデターで権力を握ったブルキナファソ大統領の栄光を称える歌です。

ゴスペル音楽が流れる中、ミュージックビデオでは、ブルキナファソ大統領が負傷した男性を慰め、大勢の子供たちから歓声を浴びる様子が映し出されています。

「神よ、イブラヒム・トラオレを守り、あなたの恵みによって彼を支え、彼に知恵と力を与え、この脆弱な地を導く力を与えてください」と、アメリカの歌手R・ケリーがフィーチャーされていると思われるバージョンの歌詞が歌われています。R・ケリーがバイクに乗る姿が映し出され、彼の背後で銃声が轟きます。この曲は、ブルキナファソとサヘル地域の他の国々を揺るがすイスラム主義の反乱に言及しています。

ジハード主義者の嵐はあまりにも長く吹き荒れてきました

心と家を奪い去る

ああ、主よ、今こそあなたの正義が必要です

この血に染まった地で。

ミュージックビデオの後半では、リアーナが登場し、「あと5年間の軍人による統治」を訴え、イブラヒム・トラオレと彼の軍事政権の権力維持を支持する姿勢を示している。

R・ケリーとリアーナが映っているとされるミュージックビデオの下には、数百件の英語のコメントが表示され、そのほとんどがトラオレへの熱烈な支持メッセージとなっている。コメントは、ケニア、タンザニア、南アフリカ、ナイジェリア、ジンバブエ、ウガンダ、マラウイなど、英語圏のアフリカ諸国出身だとするソーシャルメディアユーザーによって投稿された。これらのメッセージがソーシャルメディアユーザーによって投稿されたものなのか、それとも偽情報キャンペーンの一環なのかは不明である。

私たちのチームは、YouTube上で「神はイブラヒム・トラオレを守護した」という動画を少なくとも15種類確認した。すべて英語で、ディープフェイクの有名人がブルキナファソ大統領への賛歌を歌っている。

AIが作成したミュージックビデオ

しかし、「God Protect Ibrahim Traoré」の多くのバージョンはすべてディープフェイクです。画質が悪く、リアルさに欠け、まるでビデオゲームのようです。それ以外にも、AIによって生成されたことを示す手がかりがいくつかあります。群衆の中の男性の顔が歪んでいたり、Traoréの名前が書かれた横断幕に判読不能な文字が書かれていたりします。AIは写真に判読可能な文字を作成するのに苦労しているのです。

YouTubeでこれらの動画を見ると、「改変または合成コンテンツ」と説明されており、これはAIによって生成されたことを意味します。しかし、これらのミュージックビデオが明らかに偽物であるにもかかわらず、多くの英語圏のインフルエンサーが騙され、共有し続けています。

270万人のフォロワーを持つガーナのインフルエンサー、ナンシー・ブラックは、ビヨンセが「歌った」バージョンをFacebookで共有しました。

「昨夜、マディソン・スクエア・ガーデンでソールドアウトとなったコンサート中、世界的スーパースターである彼女は、ヒットチャートを賑わせた曲の合間に、観客を驚嘆させるメッセージを伝えた。『神はイブラヒム・トラオレを、ブルキナファソを守護した』」と、このインフルエンサーは5月10日の投稿で綴った。この動画は5月4日、ロシアのテレビ局ロシア・ワン・アフリクとされるFacebookページでも共有された。

トラオレを支持するコンテンツは、マリ、ニジェール、ブルキナファソを含むサヘル諸国同盟(AES)を支持するソーシャルメディアユーザーによっても共有されている。

あるAES支持派のFacebookユーザーは、ビヨンセのミュージックビデオに添えて、「イブラヒム・トラオレ万歳、ブルキナファソ軍万歳、AES軍万歳」とフランス語で投稿した。

127のYouTubeチャンネルで294本の偽ミュージックビデオが共有

私たちのチームは、これらの偽クリップがどれほど広く共有されているかを調査しました。そのために、YouTubeに投稿されたトラオレ支持の偽ミュージックビデオとその再生回数を特定できるソフトウェアプログラムを使用しました。

「神はイブラヒム・トラオレを守護する」というタイトルの最初のバージョンは3月にYouTubeに登場しましたが、ほとんどは5月初旬に公開されました。YouTubeに投稿された偽ミュージックビデオは少なくとも294本あり、合計で860万回以上再生されています。

これらの動画は少なくとも127のYouTubeチャンネルで共有されていました。これらの動画チェーンのほとんどは最近作成され、6か月から2か月間存在していました。かなりの数の動画にはイブラヒム・トラオレ支持のコンテンツのみが含まれており、ブルキナファソ大統領を支援するために特別に作成されたことが示唆されています。また、これらのYouTubeチャンネルのいくつかでは、ページグラフィックの作成にAIが使用されていました。例えば、一部のバナーのテキストは意味不明ですが、これはAI生成画像ではよくあることです。

「これは組織的なキャンペーンであることは明らかです」

「これは組織的なキャンペーンであることは明らかです」と、ノルウェーのオスロメット大学で偽情報とファクトチェックを研究するサンバ・ディアリンパ・バジ氏は述べています。「ブルキナファソ政府がこのコミュニケーションキャンペーンの背後にいることを証明できる要素はないとしても、政府がこのキャンペーンから利益を得ていることは間違いありません。」

ブルキナファソ政府は、AIを用いて大量の偽動画を作成したことはありません。

「これまでの観察では、彼らは主にWhatsApp、Facebook、Twitterといったソーシャルメディア上のインフルエンサーを頼りにしており、彼らはイブラヒム・トラオレを称賛したり、ブルキナファソの軍事政権への支持を表明したりするコンテンツを投稿していました。AIは、偽コンテンツを非常に迅速かつ容易に、そして大量に作成することを可能にします」と、ディアリンパ・バジ氏は付け加えました。

「これらの投稿の背後に実在の人物がいるという兆候はありません」と研究者は述べています。「これらのコンテンツを共有しているアカウントもAIによって作成された可能性があります。一人の人間が、複数のソーシャルメディアプラットフォームに複数のアカウントを作成し、自動的にコンテンツを作成することは容易です」と、ディアリンパ・バジ氏は述べました。

ナイジェリアで制作されたミュージックビデオ

私たちのチームは、「R・ケリーによるイブラヒム・トラオレの神は守る」という動画が190万回以上再生されたYouTubeチャンネルの制作者と連絡を取ることができました。この人物はこの動画の制作者を名乗っており、動画の作成日も一致しています。ナイジェリアを拠点とするこのYouTuberは、AIを用いてミュージックビデオを制作することに特化したアーティストだと自称しています。ミュージックビデオ1本あたり約1,000ドル(881ユーロ)の料金を請求しているとのこと。

ブルキナファソ大統領を称えるビデオをAIで制作するという試みは、個人的なプロジェクトとして始まったとのことです。

「イブラヒム・トラオレは、多くのアフリカの指導者たちがやっていないことをやっている」と彼は語り、「彼をとても尊敬しています」と続けました。

「私のチャンネルでこれらのビデオが話題になっているのを見て、同じようなビデオを自分たちにも作ってほしいと依頼されるようになりました」と彼は語り、「そこで、ミュージックビデオの制作とプロモーションに料金を請求するようになりました」と続けました。

このクリエイターは、YouTubeやTikTokでイブラヒム・トラオレを称える人気ミュージックビデオのほとんどを実際に制作したと述べています。この主張を検証することはできませんでした。また、スポンサーの身元に関する質問にも回答しませんでした。 「このキャンペーンの背後にいる人々は、おそらくAI生成コンテンツを作成できるスキルを持つ人材を探していたのでしょう。ナイジェリアでは、このサービスを実行する人材は簡単に見つかりますから」と、ディアリンパ・バジ氏は述べた。

これらのミュージックビデオの公開は、ブルキナファソ政府と連携していたのでしょうか?

なぜ5月にトラオレ支持のミュージックビデオが急増したのでしょうか?

興味深いことに、ブルキナファソ政府は、これらのビデオの多くがオンラインに投稿されたのと同時期に、大統領の知名度を高めるための新たなコミュニケーションキャンペーンを開始した。 4月27日、ブルキナ情報局は「イブラヒム・トラオレ大尉は世界中で崇拝されている」と大胆に主張するニュース速報を公開した。その証拠として、同通信社は有名なガーナ人ラッパー、サルコディのツイートを引用した。サルコディは4月25日にXに「神はイブラヒム・トラオレを守護した」というメッセージを投稿したが、これはミュージックビデオと全く同じフレーズだった。数日後の4月30日、ブルキナファソ当局は「イブラヒム・トラオレを支援する世界デー」を宣言し(https://www.youtube.com/watch?v=TqDIhilkzT0)、ブルキナファソ国内外で抗議デモを行うよう人々に呼びかけました。

これらの偽ミュージックビデオの投稿は、トラオレ氏のイメージ向上を目的とした広報活動と連動しているようだと、国際危機グループのサヘル地域アナリスト、マチュー・ペルラン氏は述べました。「トラオレ大統領は就任以来、トーマス・サンカラ氏に直接言及しており、ブルキナファソ国民のサンカラ氏への崇拝を踏まえると、正当性を帯びた印象を与えている」

トーマス・サンカラ氏は、1987年に暗殺されたブルキナファソの革命的な大統領でした。サンカラ氏は今日でも、アフリカにおける反植民地主義、汎アフリカ主義の象徴です。

これは、トラオレ氏が祖国と世界のために訴えたい理念、すなわちブルキナファソと汎アフリカの両方において、植民地主義と帝国主義との決別と主権獲得のための民衆蜂起と完全に一致しています。これらは、ブルキナファソ国外でも彼のメッセージを広めているこのAIキャンペーンが伝えるメッセージでもあります。

英語圏の人々をターゲットにした動画

イブラヒム・トラオレを宣伝するこれらのフェイクミュージックビデオのほとんどには、英語圏の歌手が出演しています。これは偶然ではありません。BBCによると、Xでイブラヒム・トラオレを支持するコンテンツを投稿しているユーザーのほとんどは、ナイジェリア、ケニア、南アフリカ、そしてアメリカ合衆国を含む英語圏のユーザーです。

「これらの投稿が特に英語圏で拡散していることに気づいています。つまり、これらの国々が標的にされているということです。おそらく、フランス語圏という窮屈な環境から抜け出そうとしているのでしょう」とディアリンパ・バジ氏は語る。「フランス語圏、特に西アフリカでは、一定数の国民が既にトラオレの存在を知っているだろうと彼らは考えているのでしょう。サヘル、ブルキナファソ、ニジェールといった地域では、権力者に対するある種の反抗的な動きが既に見られるため、こうしたコンテンツで人々を操るのはそれほど容易ではないでしょう。」

「このプロパガンダは、トラオレの安全保障政策の失敗を隠蔽し、国内外で彼の政治的立場をアピールし、外交的に孤立する可能性を減らすためのものでしょう」とペレリン氏は言う。

「地域内および国際社会における彼の人気を考えれば、後者に関しては紛れもない成功を収めてきた。しかし、国内では必ずしもそうではないと思う。大統領は国民の支持基盤を有しているとはいえ、政権が国内の治安を回復できていないことを考えると、その支持基盤は弱まっているように思える。逮捕される民間人の数が増えていることは言うまでもない。」

ここ数週間、ブルキナファソはアルカイダとつながりのあるテロ組織JNIMとのジハード主義者との戦いにおいて、いくつかの挫折に見舞われている。

「この作戦の成功を考えると、例えば偽情報が既に蔓延しているマリのように、他の国々が同じ手法を使い始めても不思議ではない」とディアリンパ・バジ氏は述べた。

さらに読む
Loading...
ロシアはアフリカの軍事政権を支えるために偽情報を利用している

インシデント 1095: ロシアと関係があるとされるディープフェイクキャンペーンが、インフラプロジェクトをブルキナファソのイブラヒム・トラオレに誤って帰属させている

自動翻訳済み
“ロシアはアフリカの軍事政権を支えるために偽情報を利用している”
eurasiareview.com2025-06-02

西アフリカ全域で、ブルキナファソ、マリ、ニジェールの軍事政権を称賛する動画、ミーム、ソーシャルメディア投稿の猛攻を避けることは難しくなっている。

専門家によると、ある人物の地位を高めるための、綿密な計画的なキャンペーンが展開されているという。アフリカ大陸最年少の指導者であるイブラヒム・トラオレ大尉は、2022年にブルキナファソの旧軍事政権を打倒し権力を掌握した。

「こんなことは見たことがありません」と、司会者のマルティーヌ・デニスは5月13日放送のポッドキャスト「Africa Here & Now」で述べた。「イブラヒム・トラオレは、いつでもどこでもオンラインにいるようです。多くの場面で、彼はアフリカの若き王として称賛されていますが、明らかに偽りの要素が込められています。」

ウエスト・アフリカ・ウィークリーの編集者で調査ジャーナリストのデイビッド・フンデイン氏は、37歳のトラオレ氏をめぐるソーシャルメディアでのキャンペーンの大半は第三者によって操作されていると述べた。中には、人工知能(AI)が生成した安っぽい漫画のような動画を使い、トラオレ氏のリーダーシップによる進歩と発展を偽装する者もいる。

ある動画では、アルジェリア北部ティジ・ウズーにある大規模で低コストの高層住宅開発が、ブルキナファソで建設中であるかのように紹介されている。また別の動画では、トラオレ氏がセメント工場の開所式に出席する様子と、彼がセメント価格の引き下げを発表したという虚偽の主張が並んでいる。

「彼らは度を越しており、だからこそ世界各地の驚くべき映像を使ったAI生成動画が数多く存在するのです」と、フンデイン氏はポッドキャストで述べた。「人々はブルキナファソで素晴らしい革命が起こっていると主張しています。ですから、こうした主張は簡単に反証され、信用を失墜させられるのです。」

ブルキナファソ、マリ、ニジェールでのクーデター以降、アルカイダとイスラム国(IS)の支援を受ける暴力的過激派組織は、活動を劇的に拡大させています。ブルキナファソだけでも200万人以上が家を失い、テロ組織による殺害者数は2022年の2度目のクーデター以降、ほぼ3倍に増加しています。

クーデターに見舞われた3カ国は、ECOWAS(西アフリカ経済共同体)から離脱し、独自のサヘル諸国同盟を結成しましたが、これらの国々ではテロが蔓延しています。専門家は、サヘル地域の治安悪化と不安定な統治が、ロシアによる偽情報の氾濫を招いたと指摘しています。

「深刻な不安定化が進む国では、軍事政権が既に言論や反対意見を制限しており、親ロシア感情や反帝国主義的な言論が蔓延する土壌が出来上がり、サヘル地域におけるクレムリンの活動を支持する流れがさらに強まっている」と、ヴィクラム・コリ氏は3月7日付のハーバード・インターナショナル・レビュー誌の分析で述べている。

ロシアは、過去7年間でソーシャルメディアに参加した3億人のアフリカ人と、アフリカ大陸の6億人のインターネット利用者を活用するため、「アフリカ・イニシアチブ」通信社を設立した。

「不十分なメディアインフラ、新聞の発行部数、そしてインターネット環境の悪さが、アフリカ大陸全体に情報貧困を生み出している。その結果、多くのアフリカ人がニュースの大部分をソーシャルメディアに依存しており、これは誤情報に対する脆弱性となっている」とコリ氏は述べた。

アフリカン・イニシアチブは、主にソーシャルメディアアカウント、afrinz.ruやVKontakteなどのウェブサイト、そして「Smile and Wave」といったTelegramチャンネルを通じて、フェイクニュースや虚偽情報を拡散している。ナイジェリア人ジャーナリスト、フィリップ・オバジ氏はAFPに対し、「これらのコンテンツはロシアのプロパガンダ部隊によって制作され、仲介業者を通じてインフルエンサーに渡され、ソーシャルメディアに投稿されている」と語った。

汎アフリカ系シンクタンク「グッド・ガバナンス・アフリカ」の上級研究員、マリク・サミュエル氏は、この欺瞞的なソーシャルメディアキャンペーンはナイジェリアにまで広がっていると述べた。

「ナイジェリアにおけるトラオレへの称賛の高まりは、国家安全保障と民主主義の安定にとって深刻なリスクをもたらす」とサミュエル氏はAFPに語った。「これは軍事介入を実行可能な政治的解決策として常態化させ、外国によるイデオロギー干渉への扉を開くことになる。」

専門家たちは、ロシアがアフリカ諸国で反植民地主義的な言説を推進し、軍や政府に工作員や傭兵を潜入させ、天然資源採掘のための大規模な取り組みを後押ししているという皮肉を指摘している。地政学情報局(Geopolitical Intelligence Services)によると、ロシアは2022年以降、金鉱業だけで「25億ドルの利益を吸い上げた」という。

コリ氏は、サヘル諸国は危険な道を歩んでいると述べた。

「短期的な地政学よりも長期的な安定を優先するという真の決意がなければ、外部からの干渉と内部の混乱という悪循環が続く可能性が高く、サヘル地域は将来を危うくする戦いに巻き込まれることになるだろう」と彼は記した。

さらに読む
Loading...
translated-ja-Deepfake Video Circulated Claiming to Show a Speech by Burkina Faso’s President Ibrahim Traoré

インシデント 1096: AI生成とされる動画には、ブルキナファソのイブラヒム・トラオレが欧米の搾取について演説している様子が映っている。

自動翻訳済み
“translated-ja-Deepfake Video Circulated Claiming to Show a Speech by Burkina Faso’s President Ibrahim Traoré”
rumorscanner.com2025-06-02

translated-ja-Recently, a video has been circulated across various internet platforms, claiming to show a speech by Burkina Faso's military officer and President Ibrahim Traoré under the title: "Protesting Western Media's False Representation of Africa and the West's Economic Exploitation of Africa." test

See the posts circulated on Facebook making this claim here (archive), here (archive), here (archive), and here (archive).

See the video on YouTube making the same claim here (archive).

See the video on Instagram making the same claim here (archive).

Fact Check

The Rumor Scanner team's investigation reveals that the video of Burkina Faso's President Ibrahim Traoré delivering a speech is not real. In fact, the deepfake video claiming to show Ibrahim Traoré's speech was created with the help of artificial intelligence and is being circulated as authentic.

During the investigation, a video titled "Ibrahim Traoré EXPOSES Western Media: 'We're Recording Every Lie You Tell About Africa'" was found on the YouTube channel Univers Inspirant, published on May 25. The video being circulated under the claim closely resembles this one.

In the detailed description of this video, under the heading "IMPORTANT NOTICE," it is stated that the video is entirely based on fictional content and was created for entertainment purposes only. While the content is inspired by real-world events, all the scenarios, dialogues, and characters portrayed are entirely fictional. Although inspired by the life of Ibrahim Traoré, the depicted events and dialogues are not real and are part of an artistic creation. The video is not directly related to any real person or institution. The purpose of this video is not to deliver a political message but solely for entertainment and artistic expression. Viewers are advised to conduct their own research on the matter.

Additionally, the same description labels the content as "altered or synthetic content," indicating that its audio and visuals were significantly edited or digitally created.

Based on the above information, a 15-second clip from the circulated video was uploaded to the AI detection website Hive Moderation, which showed a 99% probability that the audio and 100% probability that the video were AI-generated.

Similarly, uploading the clip to the AI detection site Sensity indicated a 95% probability that the audio and a 98% probability that the video were generated using AI technology.

Therefore, the deepfake video falsely claiming to show a speech by Burkina Faso's President Ibrahim Traoré is being circulated as if it were real --- which is false.

Sources

  • Univers Inspirant -- Ibrahim Traoré EXPOSES Western Media: 'We're Recording Every Lie You Tell About Africa'
  • Hive Moderation -- Website
さらに読む
Loading...
西アフリカの軍事クーデターを支持する「アメリカ人」のAI動画が誰かによって作成された

インシデント 1091: ブルキナファソのイブラヒム・トラオレを支援する軍事政権支持疑惑のディープフェイク動画に合成アバターとされるものが使用される

自動翻訳済み
“西アフリカの軍事クーデターを支持する「アメリカ人」のAI動画が誰かによって作成された”
vice.com2025-06-01

ブルキナファソの新軍事政権への支持を表明する人々の奇妙なAI生成動画がオンライン上に登場しました。これは、親軍事プロパガンダを拡散するための不器用な試みである可能性があります。

動画の作成者は不明ですが、WhatsAppで共有されているようです。

動画の1つは、米国議会調査局のアフリカ問題専門家であるローレン・ブランチャード氏によって今週Twitterで共有され、広く拡散されました。ブランチャード氏によると、動画はWhatsAppで拡散されていたものの、作成者は不明とのことです。

「アフリカの人々、特にブルキナファソの人々へ、こんにちは。私の名前はアリーシャ。私は汎アフリカ主義者です」と、動画に登場する人物の一人が語りかけています。VICE World Newsは、この動画がAI動画生成ツール「Synthesia」によって作成されたことを確認しています。

Synthesiaは、動画を作成したユーザーをBanしたと発表しましたが、身元は明かしませんでした。

動画に登場するAI生成アバターは続けてこう述べています。「ブルキナファソの人々、そしてブルキナファソの人々の皆様に、政権移行当局への効果的な支援を強く求めます。」

「この闘いにおいて、ブルキナファソの人々と共に、共に歩み続けましょう。祖国か死か。私たちは必ず乗り越えます。」

この動画は、複数の異なるアバターが登場する、同じ台詞を読み上げる類似のクリップと並んで公開されています。こちらもSynthesiaを使用して作成されています。

2つ目の動画は、ブルキナファソ出身のサヘル地域の政治学者を自称するイブラヒマ・マイガ氏によって1月23日にFacebookに投稿されました。同国の新政権を支持する投稿をしているマイガ氏は、Facebookメッセンジャー経由でVICEワールドニュースに対し、Facebookに投稿する前にWhatsAppでこの動画を見つけたが、AIで作成されたとは知らなかったと語った。

マイガ氏は、VICEワールドニュースが連絡を取った直後に動画を削除したようだ。

ブルキナファソは現在、9月のクーデターで権力を掌握したイブラヒム・トラオレ暫定大統領によって統治されている。西アフリカのこの国は、歴代政権がジハード主義者の暴力の拡大を阻止できなかったと主張し、軍が現在運営している。

一部のTwitterユーザーは、証拠もなく、これらの動画はロシアの民間軍事会社ワグナー・グループによるものだと主張している。

ワグナーは世界で最も秘密主義的で残忍な傭兵グループの一つであり、マリや中央アフリカ共和国の政府と協力してきた。ブルキナファソ軍当局は、イスラム過激派の反乱勢力と戦うために傭兵を雇ったという疑惑をこれまで否定していたが、今週、フランスは旧植民地ブルキナファソからの国内全軍の撤退という要請に同意した。

ロシアはウクライナ戦争中にディープフェイクを展開したことが知られているが、ワーグナー氏がAIを使ってこのような動画を作成したことがあるかどうかは不明である。

英国デモンフォート大学のデジタル文化教授、トレイシー・ハーウッド氏は、VICE World Newsに対し、ブルキナファソの動画に本当に騙される人がいるとしたら驚きだと語った。

「ロシアが政治的結果を操作する上で影響力を持っているという証拠が浮上している今、政治的立場を支持するオンラインコンテンツを誰が本当に信じられるだろうか。政治問題に影響を受ける人々は、仮想の真実ではなく、現実の真実を求めている」とハーウッド氏は述べた。「これらの動画は、キーボード戦士が現実から可能な限り遠ざかろうとしているようにしか見えない!」

SynthesiaのYouTubeアカウントで公開されているAIアバターの作成方法に関する動画には、ブルキナファソの動画に登場したのと同じアバターが登場し、次のように説明している。「コンテンツモデレーターのチームがルール違反者を出さないよう監視しているため、Synthesia Studioが作成した動画を通じて誤情報、偽情報、わいせつな情報を拡散することは不可能です。」

SynthesiaのCEO、Victor Riparbelli氏は、VICE World Newsに対し、動画の作成者について明言を避けたものの、次のように述べた。「当社のプラットフォーム上で作成を許可するコンテンツの種類については厳格なガイドラインを設けており、いかなる不正使用も強く非難します。最近公開された動画は利用規約に違反しており、問題のユーザーを特定し、アカウントを停止しました。

当社は、数万人のお客様に安全なプラットフォームをご利用いただけるよう、早い段階からコンテンツモデレーションに投資してきました。」

さらに、「このような事例は、モデレーションの難しさを浮き彫りにしています。問題の動画は露骨な表現を使用しておらず、主題に関する深い文脈的理解が必要です。完璧なシステムなど存在しませんが、今後同様の事態が発生しないよう、システムの改善に引き続き取り組んでまいります。」と述べた。

さらに読む
新しいレポートのURLをすばやく追加

投稿されたリンクはレビューキューに追加され、新規または既存のインシデントレポートとして登録されます。詳細情報も合わせて投稿されたインシデントは、詳細情報のないURLだけの投稿よりも優先して処理されます
データベースについて

AIインシデントデータベースは人工知能システムによって現実世界が被った損失、もしくは被る可能性のあった損失の記録です。航空機事故やコンピューターセキュリティの分野にも同種のデータベースがありますが、それらと同様に、AIインシデントデータベースも過去から学び、不適切な結果にならないように考慮したり、発生したインシデントに対処できるようになることを目的としています。

インシデントレポートを投稿しましょう。投稿はすぐに登録され、世界中の人から閲覧可能になります。情報を集約し、失敗から学ぶことなしに、人工知能は人類や社会にとって有益なものになることはできません。(もっと読む)

post-image
Researching AI Incidents to Build a Safer Future: The Digital Safety Research Institute partners with the Responsible AI Collaborative

By TheCollab Board of Directors

2024-02-20

The Digital Safety Research Institute (DSRI) of UL Research Institutes is partnering with the Responsible AI Collaborative (TheCollab) to ad...

さらに読む
データベースの紹介

PAI Blog、Vice News、Venture Beat、Wired、arXivやその他の記事でこのデータベースが紹介されています。

Arxiv LogoVenture Beat LogoWired LogoVice logoVice logo
インシデントレポート投稿ランキング

インシデントレポートの作成や投稿に貢献した人や組織です。詳細についてはランキングページを参照してください。

新しいインシデントの投稿
  • 🥇

    Daniel Atherton

    481
  • 🥈

    Anonymous

    144
  • 🥉

    Khoa Lam

    93
既存のインシデントに追加されたレポート
  • 🥇

    Daniel Atherton

    559
  • 🥈

    Khoa Lam

    230
  • 🥉

    Anonymous

    204
レポートへの協力の総計
  • 🥇

    Daniel Atherton

    2364
  • 🥈

    Anonymous

    924
  • 🥉

    Khoa Lam

    456
AIインシデントブリーフィング
An envelope with a neural net diagram on its left

Create an account to subscribe to new incident notifications and other updates.

ランダムインシデント
Loading...
Predictive Policing Biases of PredPol
Predictive Policing Biases of PredPol
Loading...
Aledo High School Student Allegedly Generates and Distributes Deepfake Nudes of Seven Female Classmates
Aledo High School Student Allegedly Generates and Distributes Deepfake Nudes of Seven Female Classmates
Loading...
ChatGPT Introduces Errors in Critical Child Protection Court Report
ChatGPT Introduces Errors in Critical Child Protection Court Report
Loading...
Child Sexual Abuse Material Taints Image Generators
Child Sexual Abuse Material Taints Image Generators
Loading...
ChatGPT Reportedly Produced False Court Case Law Presented by Legal Counsel in Court
ChatGPT Reportedly Produced False Court Case Law Presented by Legal Counsel in Court
Responsible AI Collaborative

インシデントデータベースはAIインシデントデータベースの推進を目的として設立されたResponsible AI Collaborativeによるプロジェクトです。Collaborativeのガバナンスはこの重要なプログラムの参加者を中心に構成されています。詳細については設立レポートを読んでください。さらに詳しい情報はand learn more on ourにあります

Responsible AI CollaborativeのForm 990と免税申請をご覧。

組織協賛スポンサー
データベース協賛スポンサー
スポンサーと助成
協力スポンサー

リサーチ

  • “AIインシデント”の定義
  • “AIインシデントレスポンス”の定義
  • データベースのロードマップ
  • 関連研究
  • 全データベースのダウンロード

Project and Community test

  • AIIDについて
  • コンタクトとフォロー
  • アプリと要約
  • エディタのためのガイド
  • RAIC AIID Taxonomy Policy

インシデント

  • 全インシデントの一覧
  • フラグの立ったインシデント
  • 登録待ち一覧
  • クラスごとの表示
  • 分類法

2023 - AI Incident Database

  • 利用規約
  • プライバシーポリシー
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • 0495139