Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
発見する
投稿する
  • ようこそAIIDへ
  • インシデントを発見
  • 空間ビュー
  • テーブル表示
  • リスト表示
  • 組織
  • 分類法
  • インシデントレポートを投稿
  • 投稿ランキング
  • ブログ
  • AIニュースダイジェスト
  • リスクチェックリスト
  • おまかせ表示
  • サインアップ
閉じる
発見する
投稿する
  • ようこそAIIDへ
  • インシデントを発見
  • 空間ビュー
  • テーブル表示
  • リスト表示
  • 組織
  • 分類法
  • インシデントレポートを投稿
  • 投稿ランキング
  • ブログ
  • AIニュースダイジェスト
  • リスクチェックリスト
  • おまかせ表示
  • サインアップ
閉じる

インシデント 968: 'Pravda' Network, Successor to 'Portal Kombat,' Allegedly Seeding AI Models with Kremlin Disinformation

概要: A Moscow-based disinformation network, Pravda, allegedly infiltrated AI models by flooding the internet with pro-Kremlin falsehoods. A NewsGuard audit found that 10 major AI chatbots repeated these narratives 33% of the time, citing Pravda sources as legitimate. The tactic, called "LLM grooming," manipulates AI training data to embed Russian propaganda. Pravda is part of Portal Kombat, a larger Russian disinformation network identified by VIGINUM in February 2024, but in operation since February 2022.
Editor Notes: This incident ID represents an ongoing, highly complex disinformation campaign that has been leveraging AI since February 2022, around the time of Russia's full-scale invasion of Ukraine. France's VIGINUM reported on the "Portal Kombat" disinformation network in this February 12th, 2024 report: https://www.sgdsn.gouv.fr/files/files/20240212_NP_SGDSN_VIGINUM_PORTAL-KOMBAT-NETWORK_ENG_VF.pdf. Portal Kombat is the name for the wider network that "Pravda" is a part of. The first Pravda websites began appearing between April 3rd and December 17th, 2022, according to VIGINUM. On February 26th, 2025, the American Sunlight Project published more information on Pravda in an investigative report that can be accessed here: https://static1.squarespace.com/static/6612cbdfd9a9ce56ef931004/t/67bf1de6429a912e3cbe8c83/1740578284208/PK+Report.pdf. On March 6th, 2025, NewsGuard released more information on Pravda's "LLM grooming" tactics. Their report can be read here: https://www.newsguardrealitycheck.com/p/a-well-funded-moscow-based-global. The incident date of 02/24/2022 is in reference to VIGINUM's report summary citing February 2022 (p. 2). While a precise start date for Portal Kombat is unknown, aligning it with Russia's invasion of Ukraine is a reasonable approximation. Please also refer to incidents 701 and 734 in particular for closely related incidents.

ツール

新しいレポート新しいレポート新しいレスポンス新しいレスポンス発見する発見する履歴を表示履歴を表示

組織

すべての組織を表示
Alleged: You.com , xAI , Perplexity , OpenAI , Mistral , Microsoft , Meta , Inflection , Google と Anthropic developed an AI system deployed by TigerWeb , Storm-1516 , Russian state media , Pravda disinformation network , Portal Kombat , John Mark Dougan と Government of Russia, which harmed Truth , Policymakers , Media consumers , Journalists , Journalism , Governments , Government of Ukraine , General public of Ukraine , General public , Democracy と Chatbot users.
関与が疑われるAIシステム: You.com Smart Assistant , xAI Grok , Perplexity Answer Engine , Mistral le Chat , Meta AI , Inflection Pi , Gemini , Copilot , ChatGPT 4o , ChatGPT と Anthropic Claude

インシデントのステータス

インシデントID
968
レポート数
25
インシデント発生日
2022-02-24
エディタ

インシデントレポート

レポートタイムライン

Incident Occurrence+1
フランスの安全保障専門家がモスクワを拠点とする偽情報ネットワークを特定
ロシアの偽情報ネットワークであるプラウダは、阻止しようとする努力にもかかわらず、ヨーロッパで「拡大」している6月20日:オーバーロード作戦:「確認してください」 – 親ロシア派プロパガンダが報道機関を操作しようとする方法+20
ロシアのいわゆる「プラウダ」ネットワークが世界中に拡大
フランスの安全保障専門家がモスクワを拠点とする偽情報ネットワークを特定

フランスの安全保障専門家がモスクワを拠点とする偽情報ネットワークを特定

theguardian.com

外国のデジタル干渉 - ロシアのプロパガンダネットワーク「ポータル・コンバット」の調査結果(2024年2月15日)

外国のデジタル干渉 - ロシアのプロパガンダネットワーク「ポータル・コンバット」の調査結果(2024年2月15日)

diplomatie.gouv.fr

ロシアの偽情報ネットワークであるプラウダは、阻止しようとする努力にもかかわらず、ヨーロッパで「拡大」している

ロシアの偽情報ネットワークであるプラウダは、阻止しようとする努力にもかかわらず、ヨーロッパで「拡大」している

euronews.com

6月20日:オーバーロード作戦:「確認してください」 – 親ロシア派プロパガンダが報道機関を操作しようとする方法

6月20日:オーバーロード作戦:「確認してください」 – 親ロシア派プロパガンダが報道機関を操作しようとする方法

disinfo.eu

ロシアのいわゆる「プラウダ」ネットワークが世界中に拡大

ロシアのいわゆる「プラウダ」ネットワークが世界中に拡大

dfrlab.org

新レポート: ロシアのプロパガンダが AI モデルに溢れている可能性

新レポート: ロシアのプロパガンダが AI モデルに溢れている可能性

americansunlight.org

ロシアのプロパガンダがAIモデルに氾濫している可能性

ロシアのプロパガンダがAIモデルに氾濫している可能性

americansunlight.substack.com

資金力のあるモスクワを拠点とする世界的な「ニュース」ネットワークが、世界中の西側諸国の人工知能ツールをロシアのプロパガンダで汚染した。

資金力のあるモスクワを拠点とする世界的な「ニュース」ネットワークが、世界中の西側諸国の人工知能ツールをロシアのプロパガンダで汚染した。

newsguardrealitycheck.com

独占:ロシアの偽情報がAIチャットボットに溢れていると研究で判明

独占:ロシアの偽情報がAIチャットボットに溢れていると研究で判明

axios.com

ロシアのプロパガンダが人気のAIチャットボットを通じて拡散されている:レポート

ロシアのプロパガンダが人気のAIチャットボットを通じて拡散されている:レポート

abcnews4.com

ChatGPT-4-oを含む主要な西側AIチャットボットは、ウクライナ戦争に関するロシアのプロパガンダを反映する

ChatGPT-4-oを含む主要な西側AIチャットボットは、ウクライナ戦争に関するロシアのプロパガンダを反映する

cybernews.com

NewsGuard: ロシアの偽情報ネットワークが AI チャットボットを氾濫させる

NewsGuard: ロシアの偽情報ネットワークが AI チャットボットを氾濫させる

newsmax.com

ロシアの偽情報がすべての人気AIチャットボットに「感染」していると研究が指摘

ロシアの偽情報がすべての人気AIチャットボットに「感染」していると研究が指摘

mezha.media

ロシアはChatGPTやクロードのようなチャットボットに影響を与えるためにトレーニングデータを大量に流している

ロシアはChatGPTやクロードのようなチャットボットに影響を与えるためにトレーニングデータを大量に流している

meduza.io

ロシアの偽情報が AI システムに侵入 - https://eutoday.net

ロシアの偽情報が AI システムに侵入 - https://eutoday.net

eutoday.net

360万件の偽記事:ロシアのプロパガンダがOpenAIやMeta AなどのAIチャットボットの結果に及ぼす影響

360万件の偽記事:ロシアのプロパガンダがOpenAIやMeta AなどのAIチャットボットの結果に及ぼす影響

dev.ua

360万件の偽記事:ロシアのプロパガンダがOpenAIやMeta AなどのAIチャットボットの結果に及ぼす影響

360万件の偽記事:ロシアのプロパガンダがOpenAIやMeta AなどのAIチャットボットの結果に及ぼす影響

dev.ua

ロシアのフェイクニュースネットワークが西側のAIチャットボットに数百万のプロパガンダ記事を大量に送信

ロシアのフェイクニュースネットワークが西側のAIチャットボットに数百万のプロパガンダ記事を大量に送信

the-decoder.com

ロシアのプロパガンダが人気の AI チャットボットに氾濫し、偽情報を拡散 — NewsGuard レポート

ロシアのプロパガンダが人気の AI チャットボットに氾濫し、偽情報を拡散 — NewsGuard レポート

english.nv.ua

ロシアの偽情報が人気のAIチャットボットに「感染」

ロシアの偽情報が人気のAIチャットボットに「感染」

pcmag.com

ロシアの偽情報がAIチャットボットに「感染」していると研究者が警告

ロシアの偽情報がAIチャットボットに「感染」していると研究者が警告

france24.com

ロシアのプロパガンダが西側のAIチャットボットに感染 ― 新研究

ロシアのプロパガンダが西側のAIチャットボットに感染 ― 新研究

forbes.com

AIチャットボットがロシアのプロパガンダに「感染」:レポート

AIチャットボットがロシアのプロパガンダに「感染」:レポート

newsweek.com

ロシアがチャットボットをプロパガンダに「感染」 – AI がロシアの偽物語を 33% のケースで繰り返す

ロシアがチャットボットをプロパガンダに「感染」 – AI がロシアの偽物語を 33% のケースで繰り返す

mil.in.ua

ロシアのネットワークは、AIチャットボットを堕落させることを目的としたプロパガンダをインターネットに氾濫させている

ロシアのネットワークは、AIチャットボットを堕落させることを目的としたプロパガンダをインターネットに氾濫させている

thebulletin.org

フランスの安全保障専門家がモスクワを拠点とする偽情報ネットワークを特定
theguardian.com · 2024
自動翻訳済み

フランスの軍事およびサイバーセキュリティの専門家は、西ヨーロッパでプロパガンダと偽情報を拡散しているモスクワを拠点とするネットワークを特定したと述べている。

世論に影響を与えることを目的とした外国の組織によるデジタル干渉を検出するために2021年に設立されたフランスのViginum機関は、ロシアが今年の欧州選挙やその他の重要な投票に向けて、オンライン操作の新たな波への道を切り開いていると述べている。

同機関によると、「ポータル・コンバット」と名付けられたこのオンラインネットワ…

外国のデジタル干渉 - ロシアのプロパガンダネットワーク「ポータル・コンバット」の調査結果(2024年2月15日)
diplomatie.gouv.fr · 2024
自動翻訳済み

2月12日、ステファン・セジュルネ欧州・外務大臣は、VIGINUMの調査中に発見された「ポータル・コンバット」と呼ばれる親ロシア派プロパガンダ・ネットワークの存在を公表した。

セジュルネ大臣の発表は、欧州選挙を前にロシアの活動家が流布する偽情報の脅威について、予防措置としてフランス国民に警告することを目的としていた。

VIGINUMはこの計画の調査を続け、クリミアを拠点とするロシア企業タイガーウェブが「ポータル・コンバット」ネットワーク・サイトの作成と管理で果たした主要な役割…

ロシアの偽情報ネットワークであるプラウダ�は、阻止しようとする努力にもかかわらず、ヨーロッパで「拡大」している
euronews.com · 2024
自動翻訳済み

偽情報ネットワークであり、旧ソ連時代のロシア共産党の公式新聞であるプラウダは、EU での影響力を拡大している。

ロシアの偽情報ネットワークであるプラウダは、阻止しようとする試みにもかかわらず、EU での影響力を拡大している。

これは、独立したファクトチェック組織である欧州デジタルメディア監視機関の新しいレポートによるものである。

フランスの国防安全保障局 (SGDSN) が運営するヴィジヌム エージェンシーは、EU での広範なロシアの偽情報キャンペーンの一環として、2 月に初…

6月20日:オーバーロード作戦:「確認してください」 – 親ロシア派プロパガンダが報道機関を操作しようとする方法
disinfo.eu · 2024
自動翻訳済み

オーバーロード作戦は、世界中のファクトチェッカー、ニュースルーム、研究者を標的とし、彼らのリソースを枯渇させ、信頼できる情報エコシステムを悪用してクレムリンの政治的アジェンダを広めようとする協調的な取り組みを明らかにした。この作戦は、協調的なメール戦略、Telegramチャンネルのネットワーク、X(旧Twitter)の多数の偽アカウント、新たに発見されたプラウダネットワークを含むロシアと連携したウェブサイトのエコシステムを通じて行われている。作戦の戦術には、特にフランスとドイ…

ロシアのいわゆる「プラウダ」ネットワークが世界中に拡大
dfrlab.org · 2025
自動翻訳済み

DFRLabとフィンランドに拠点を置くCheckFirst社による調査で、「Pravda」として知られるロシアのウェブサイトエコシステムが2024年を通じてインフラを拡大していたことが判明した。以前は「Portal Kombat」と呼ばれていたこの作戦は、ヨーロッパ、アフリカ、アジアのより多くの国を網羅し、より多くの言語でコンテンツをロンダリングするように進化している。ウェブサイトのフォレンジック分析により、この作戦はクリミアを拠点とするIT企業TigerWebと、ロシアが支…

新レポート: ロシアのプロパガンダが AI モデルに溢れている可能性
americansunlight.org · 2025
自動翻訳済み

レポートを読むには、こちらをクリックしてください。

プレスリリースを読むには、こちらをクリックしてください。

データベースにアクセスするには、こちらをクリックしてください。

ドナルド・トランプ氏の2期目の大統領就任が引き起こしている混乱と不確実性を考えると、米国やその他の民主主義国におけるロシアの影響キャンペーンを単なる後付けと考えたくなるかもしれない。しかし、トランプ氏の再選、そして世界中でロシアに友好的な極右政党の影響力拡大により、これらのキャンペーンの重要性は増すばかり…

ロシアのプロパガンダがAIモデルに氾濫している可能性
americansunlight.substack.com · 2025
自動翻訳済み

ドナルド・トランプ氏の2期目の大統領就任が引き起こしている混乱と不確実性を考えると、米国やその他の民主主義国におけるロシアの影響キャンペーンを単なる後付けと考えたくなるかもしれない。しかし、トランプ氏の再選、そして世界中でロシアに友好的な極右政党の影響力拡大により、これらのキャンペーンの重要性は増すばかりだ。トランプ政権は、米国における外国の腐敗政治取引や偽情報に対する保護を積極的に解除しているが、トランプ率いる米国は明らかにウクライナのような民主主義国家に対して権威主義的な…

資金力のあるモスクワを拠点とする世界的な「ニュース」ネットワークが、世界中の西側諸国の人工知能ツールをロシアのプロパガンダで汚染した。
newsguardrealitycheck.com · 2025
自動翻訳済み

モスクワを拠点とする偽情報ネットワーク「プラウダ」(ロシア語で「真実」の意味)は、人工知能チャットボットから取得したデータを意図的に侵入し、虚偽の主張やプロパガンダを公開して、人間の読者をターゲットにするのではなく、ニュースのトピックに関するAIモデルの応答に影響を与えるという野心的な戦略を追求していると、ニュースガードは確認した。このネットワークは、検索結果やウェブクローラーにクレムリン寄りの虚偽を氾濫させることで、大規模な言語モデルがニュースや情報を処理し提示する方法を歪…

独占:ロシアの偽情報がAIチャットボットに溢れていると研究で判明
axios.com · 2025
自動翻訳済み

NewsGuard の新しい レポート によると、ウェブを虚偽の主張やプロパガンダで溢れさせたロシアの偽情報活動は、主要な AI チャットボットの出力に引き続き影響を及ぼしている。このレポートは Axios に最初に公開された。

重要な理由: この調査は、昨年の 初期調査結果 を拡張したもので、米国がロシアのサイバー活動に対抗するための 取り組みの一部を一時停止 しているという報道の中で発表された。

ニュースの原動力:NewsGuard によると、モスクワを拠点とする偽情報ネ…

ロシアのプロパガンダが人気のAIチャットボットを通じて拡散されている:レポート
abcnews4.com · 2025
自動翻訳済み

(TNND) --- 人気の人工知能チャットボットはロシアのプロパガンダで溢れており、その偽情報の多くは、AIシステムからの回答を求める無防備なアメリカ人に繰り返し伝えられていると、NewsGuardの新しいレポートは述べています。

オンライン偽情報の監視機関であるNewsGuardは、OpenAI、X、Microsoft、Google、Metaなどの10の主要な生成AIツールを監査しました。

NewsGuardによると、チャットボットは合計で3分の1の割合でロシアの偽情報の…

ChatGPT-4-oを含む主要な西側AIチャットボットは、ウクライナ戦争に関するロシアのプロパガンダを反映する
cybernews.com · 2025
自動翻訳済み

ChatGPT-4-o、Gemini、Claude、その他の主要な西側諸国のチャットボットが、ウクライナ戦争やロシアにとって関心の高いその他の話題に関するロシアのプロパガンダを広めていることが、ニュースおよび情報ウェブサイト評価プロバイダーの NewsGuard の調査で判明した。

ロシアの集約ネットワーク Pravda によって配信された偽情報は、チャットボットに到達する前に検索エンジンとウェブクローラーによって拾われる。

ChatGPT-4-o、Gemini、Copilo…

NewsGuard: ロシアの偽情報ネットワークが AI チャットボットを氾濫させる
newsmax.com · 2025
自動翻訳済み

NewsGuardのレポートによると、モスクワを拠点とする偽情報ネットワーク「Pravda」は、ウェブ上で偽情報を拡散し続けている。

ニュースウェブサイトを装い、人工知能を使用して大量のコンテンツを作成するこの偽情報は、昨年6月にEU議会選挙を前にヨーロッパ諸国を標的にしていた。

NewsGuardによると、このネットワークは2024年だけで、OpenAIのChatGPT-4o、You.comのSmart Assistant、xAIのGrok、InflectionのPi、Mi…

ロシアの偽情報がすべての人気AIチャットボットに「感染」していると研究が指摘
mezha.media · 2025
自動翻訳済み

NewsGuardの新しいレポートによると、ロシアの偽情報ネットワークはAIチャットボットを積極的に操作して、偽のニュースやプロパガンダをオンラインで拡散している。この調査では、親クレムリンの物語が人工知能の働きを歪め、世界中の何百万人ものユーザーに影響を与えていることがAxiosのレポートによると、

このキャンペーンの背後にある主力は、モスクワを拠点とする偽情報ネットワークであるPravdaであると特定されている。その目的は、人々を直接説得することではなく、検索エンジンやウ…

ロシアはChatGPTやクロードのようなチャットボットに影響を与えるためにトレーニングデータを大量に流している
meduza.io · 2025
自動翻訳済み

ロシアの偽情報ネットワーク「プラウダ」(「真実」)は、ボットのトレーニングデータに取り込まれた多数の記事を公開することで、主要なAIチャットボットの出力に影響を与えていることが、分析グループNewsGuardの新しいレポートで明らかになった。研究者によると、これはモスクワが偽の物語でウェブを氾濫させたことによる単なる副作用ではなく、この取り組みの主な目的だったという。この計画の仕組みは次の通り。

監視団体NewsGuardの新しいレポートによると、ロシアの「資金力のある」オン…

ロシアの偽情報が AI システムに侵入 - https://eutoday.net
eutoday.net · 2025
自動翻訳済み

モスクワを拠点とするプロパガンダ ネットワーク「Pravda」が世界中の人工知能 (AI) システムに組織的に侵入し、ロシアの偽情報を主要な生成 AI ツールに埋め込んでいることが、NewsGuard の監査で 明らかに されました。

監査の結果、AI チャットボットが親クレムリン派の Pravda ネットワークからの虚偽の主張を 33% の割合で繰り返していることがわかり、誤解を招くコンテンツをフィルタリングする AI モデルの能力に重大な脆弱性があることが示されました。

…
360万件�の偽記事:ロシアのプロパガンダがOpenAIやMeta AなどのAIチャットボットの結果に及ぼす影響
dev.ua · 2025
自動翻訳済み

アメリカの偽情報調査会社 NewsGuard は、クリミア出身のウェブ開発者が運営するモスクワを拠点とする Pravda ネットワークが、AI モデルの反応に影響を与えるために虚偽の声明を発表している証拠を発見した。

NewsGuard によると、Pravda は検索結果とウェブクローラーを親ロシアの嘘で溢れさせ、2024 年だけで 360 万件の虚偽の記事を公開した。

Viginum によると、Pravda ネットワークは、ロシア占領下のクリミアに拠点を置く IT 企業 T…

360万件の偽記事:ロシアのプロパガンダがOpenAIやMeta AなどのAIチャットボットの結果に及ぼす影響
dev.ua · 2025
自動翻訳済み

アメリカの偽情報調査会社ニュースガードは、クリミア出身のウェブ開発者が運営するモスクワを拠点とするプラウダ・ネットワークが、AIモデルの反応に影響を与えるために虚偽の声明を発表している証拠を発見した。

NewsGuardによると、プラウダは検索結果とウェブクローラーを親ロシア的な嘘で溢れさせ、2024年だけで360万件の虚偽記事を掲載した。

ヴィギヌムによれば、プラウダ・ネットワークはロシア占領下のクリミア半島に拠点を置くIT企業タイガーウェブによって管理されている。 Tig…

ロシアのフェイクニュースネットワークが西側のAIチャットボットに数百万のプロパガンダ記事を大量に送信
the-decoder.com · 2025
自動翻訳済み

モスクワを拠点とする偽情報作戦は、「プラウダ」(ロシア語で「真実」)と呼ばれる偽ニュースサイトの広大なネットワークを通じて、ロシアのプロパガンダを西側のAIシステムに組織的に送り込んでいる。

NewsGuardの最近の調査結果によると、主要なAIチャットボットは、モスクワを拠点とするプラウダネットワークからの偽の物語を33.5%の割合で受け入れた。48.2%のケースでは、システムはロシアのコンテンツを偽情報として正しく識別したが、誤解を招く情報源を引用することもあった。残りの…

ロシアのプロパガンダが人気の AI チャットボットに氾濫し、偽情報を拡散 — NewsGuard レポート
english.nv.ua · 2025
自動翻訳済み

ロシアの偽情報ネットワークが人気のAIチャットボットに侵入し、数百万人を誤解させる可能性のあるプロパガンダを広めていることが、3月6日にAxiosが報じたNewsGuardの調査で明らかになった。

この驚くべき発見は、米国がロシアのサイバー攻撃に対抗する取り組みを縮小していると報じられている中で起こった。チャットボットがますます主要な情報源になりつつある中、専門家はこの偽情報が危険な結果をもたらす可能性があると警告している。

このキャンペーンの中心にあるのはプラウダ・ネットワ…

ロシアの偽情報が人気のAIチャットボットに「感染」
pcmag.com · 2025
自動翻訳済み

NewsGuard の 新しいレポート によると、ロシアを拠点とする偽情報ネットワークが、世界で最も人気のある AI チャットボットの多くを親クレムリンの偽情報で「感染」させることに成功した。

このネットワークは、読者を直接プロパガンダでターゲットにするのではなく、さまざまな言語で何百万もの記事を公開し、その物語をウェブ全体に広め、OpenAI の ChatGPT や xAI の Grok などの大規模言語モデル (LLM) で使用されるトレーニング データとして組み込まれる…

ロシアの偽情報がAIチャットボットに「感染」していると研究者が警告
france24.com · 2025
自動翻訳済み

プラウダ・ネットワークは、資金力に恵まれたモスクワを拠点とし、親ロシア的な物語を世界中に広める活動を行っているが、大規模言語モデル(LLM)に親ロシア的な虚偽情報を大量に流し込むことで、チャットボットの出力を歪めていると言われている。

偽情報監視団体ニュースガードが10の主要AIチャットボットを調査したところ、これらのチャットボットはプラウダ・ネットワークの虚偽情報を33%以上繰り返し、親ロシア的なアジェンダを推進していることが判明した。

この調査結果は、脅威がウェブ上で流通…

ロシアのプロパガンダが西側のAIチャットボットに感染 ― 新研究
forbes.com · 2025
自動翻訳済み

先週公開されたNewsGuard監査により、西側諸国のAIチャットボットのほとんどが知らないうちにロシアのプロパガンダを広めているという憂慮すべき傾向が明らかになった。「真実」を意味するロシア語「プラウダ」として知られるモスクワを拠点とする偽情報ネットワークは、検索結果やウェブクローラーにクレムリン支持の虚偽を氾濫させ、AIシステムが誤解を招くような物語を吐き出している。2024年だけで360万件の記事を公開したプラウダネットワークは、人工知能を活用してモスクワの影響力を拡大…

AIチャットボットがロシアのプロパガンダに「感染」:レポート
newsweek.com · 2025
自動翻訳済み

新しいレポートによると、ロシアのニュースソースからの偽情報により、いくつかの主要な人工知能チャットボットの検索結果が損なわれている。

NewsGuardの調査により、ポータル・コンバットとしても知られるプラウダが運営する膨大なウェブサイトネットワークから発信された親ロシア的な物語が、主要なチャットボットに入力されるデータセットに意図的に挿入され、その情報が回答の作成に利用されていることが明らかになった。

_Newsweek_はロシア外務省に電子メールでコメントを求めた。

なぜ…

ロシアがチャットボットをプロパガンダに「感染」 – AI がロシアの偽物語を 33% のケースで繰り返す
mil.in.ua · 2025
自動翻訳済み

監査の結果、主要な生成AIツール10個が、ロシアのプラウダネットワークの偽の物語を33%のケースで繰り返していることが明らかになりました。

この発見は、NewsGuardによる特別レポートから得たもので、Militarnyiが簡潔な要約を提供しています。

監査中、NewsGuardは、OpenAIのChatGPT-4.0、You.comのSmart Assistant、xAIのGrok、InflectionのPi、Mistralのle Chat、MicrosoftのCopil…

ロシアのネットワークは、AIチャットボットを堕落させることを目的としたプロパガンダをインターネットに氾濫させている
thebulletin.org · 2025
自動翻訳済み

科学者、政策専門家、アーティストは、テクノロジーが容易に利用可能になる前から、人工知能の予期せぬ結果を懸念してきました。ほとんどの技術革新では、その発明が悪意を持って武器化される可能性があるかどうかを問うのが一般的であり、AIが偽情報を広めるために利用されていると警告する専門家は不足していません。 AI言語モデルが公開されてからわずか2年余りで、悪意のある行為者がこの技術を使用して、以前は実現不可能だった規模で有害で虚偽の物語を大量生産したというすでに文書化された事例がありま…

バリアント

「バリアント」は既存のAIインシデントと同じ原因要素を共有し、同様な被害を引き起こし、同じ知的システムを含んだインシデントです。バリアントは完全に独立したインシデントとしてインデックスするのではなく、データベースに最初に投稿された同様なインシデントの元にインシデントのバリエーションとして一覧します。インシデントデータベースの他の投稿タイプとは違い、バリアントではインシデントデータベース以外の根拠のレポートは要求されません。詳細についてはこの研究論文を参照してください

よく似たインシデント

Selected by our editors

Top 10 Generative AI Models Mimic Russian Disinformation Claims A Third of the Time, Citing Moscow-Created Fake Local News Sites as Authoritative Sources

Jun 2024 · 4 レポート
テキスト類似度による

Did our AI mess up? Flag the unrelated incidents

Wikipedia Vandalism Prevention Bot Loop

Danger, danger! 10 alarming examples of AI gone wild

Feb 2017 · 6 レポート
AI-Generated Profiles Used in Disinformation Campaign Targeting Ukrainians

Updates on Our Security Work in Ukraine

Feb 2022 · 4 レポート
Deepfake Obama Introduction of Deepfakes

Fake Obama created using AI tool to make phoney speeches

Jul 2017 · 29 レポート
前のインシデント次のインシデント

よく似たインシデント

Selected by our editors

Top 10 Generative AI Models Mimic Russian Disinformation Claims A Third of the Time, Citing Moscow-Created Fake Local News Sites as Authoritative Sources

Jun 2024 · 4 レポート
テキスト類似度による

Did our AI mess up? Flag the unrelated incidents

Wikipedia Vandalism Prevention Bot Loop

Danger, danger! 10 alarming examples of AI gone wild

Feb 2017 · 6 レポート
AI-Generated Profiles Used in Disinformation Campaign Targeting Ukrainians

Updates on Our Security Work in Ukraine

Feb 2022 · 4 レポート
Deepfake Obama Introduction of Deepfakes

Fake Obama created using AI tool to make phoney speeches

Jul 2017 · 29 レポート

リサーチ

  • “AIインシデント”の定義
  • “AIインシデントレスポンス”の定義
  • データベースのロードマップ
  • 関連研究
  • 全データベースのダウンロード

プロジェクトとコミュニティ

  • AIIDについて
  • コンタクトとフォロー
  • アプリと要約
  • エディタのためのガイド

インシデント

  • 全インシデントの一覧
  • フラグの立ったインシデント
  • 登録待ち一覧
  • クラスごとの表示
  • 分類法

2023 - AI Incident Database

  • 利用規約
  • プライバシーポリシー
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • 30ebe76