概要: 2025年6月中旬、正体不明の人物がAIによる音声複製とテキスト生成技術を用いて、マルコ・ルビオ米国務長官になりすましたと報じられています。このなりすまし犯は、Signalやテキストメッセージを通じて、外務大臣3名、州知事1名、連邦議会議員1名を含む少なくとも5名の高官に連絡を取ったとされています。これらの行為は、標的を操り、機密情報やアカウントへのアクセスを誘導することを目的としていたと報じられています。
Editor Notes: This incident is a specific variant of Incident 1077. See also Incident 1085. For another prominent but unrelated AI incident involving Marco Rubio, see Incident 974.
Alleged: Deepfake technology developers と Synthetic audio generation technology developers developed an AI system deployed by Unknown actors impersonating Marco Rubio と Unknown actors, which harmed United States Department of State , Officials targeted by impersonator of Marco Rubio , Marco Rubio , Government of the United States , Epistemic integrity と National security and intelligence stakeholders.
関与が疑われるAIシステム: Deepfake technology developers , Synthetic audio generation technology developers と Signal
インシデントのステータス
Risk Subdomain
A further 23 subdomains create an accessible and understandable classification of hazards and harms associated with AI
4.3. Fraud, scams, and targeted manipulation
Risk Domain
The Domain Taxonomy of AI Risks classifies risks into seven AI risk domains: (1) Discrimination & toxicity, (2) Privacy & security, (3) Misinformation, (4) Malicious actors & misuse, (5) Human-computer interaction, (6) Socioeconomic & environmental harms, and (7) AI system safety, failures & limitations.
- Malicious Actors & Misuse
Entity
Which, if any, entity is presented as the main cause of the risk
Human
Timing
The stage in the AI lifecycle at which the risk is presented as occurring
Post-deployment
Intent
Whether the risk is presented as occurring as an expected or unexpected outcome from pursuing a goal
Intentional
インシデントレポート
レポートタイムライン
Loading...
ワシントン・ポスト紙が入手した米国高官と国務省の機密文書によると、マルコ・ルビオ国務長官を装った人物が、人工知能(AI)搭載ソフトウェアを用いてルビオ氏の声と文体を模倣した音声メッセージとテキストメッセージを送信し、外務大臣、州知事、連邦議会議員に連絡を取った。
ルビオ氏の事務所から国務省職員に送られた機密文書によると、米国当局は一連のなりすまし行為の背後に誰がいるのか把握していないが、犯人は「情報や口座へのアクセスを目的として」政府高官を操ろうとしていた可能性が高いとみてい…
Loading...
シンシナティ発――本物の米国務長官マルコ・ルビオ氏は月曜日、ワシントンD.C.でイスラエル首相と会談した。
火曜日、国務省は人工知能(AI)を使った何者かが、ルビオ氏に似た声で外国大使館、米国上院議員、そして州知事に詐欺メッセージを送信していると発表した。
「一体どんなシステムがあるんだ?」と、シンシナティ都市圏の自宅での会話の中でサマー・クレンショー氏は疑問を呈した。
毎年恒例のイベント「シンシナティAIウィーク」の創設者であるクレンショー氏は、マルコ・ルビオ氏のディープフ…
Loading...
