概要: In February 2025, a Colorado woman was scammed by a voice-cloning fraud in which criminals used what sounded like her daughter’s voice to stage a fake kidnapping. Under duress and believing her daughter was in danger, she wired $2,000 to Mexico. The scammers exploited generative AI to simulate the daughter’s voice and manipulated the victim psychologically. Law enforcement could not trace the perpetrators or recover the funds.
Editor Notes: Incident date note: Reporting states that the scam occurred on "a Monday evening in February [2025]"; the incident date of 02/10/2025 is a placeholder until the more precise date might be ascertained.
Alleged: Unknown voice cloning technology developer developed an AI system deployed by scammers , Fraudsters , Unknown scammers operating in Mexico と Unknown scammers impersonating daughter of Linda Roan, which harmed Linda Roan , Daughter of Linda Roan と General public.
インシデントのステータス
インシデントID
1008
レポート数
1
イ ンシデント発生日
2025-02-10
エディタ
インシデントレポート
レポートタイムライン
2 月のある月曜日の夕方、リンダ・ローアンはスープを作っているときに携帯電話が鳴った。市内の番号からだったので、彼女は電話に出た。
「お母さん、私は大丈夫だけど、ひどいことが起きたの」と若い女性が泣きながら言った。「助けて」
ローアンはすぐにその声に気づいた。それは彼女の 3 人の成人した娘のうちの末っ子の声だった。
すると男性が電話に出た。彼はローアンの娘の名前を挙げ、これが彼女の母親かと尋ねた。男性は、娘が彼の麻薬取引を目撃したと言った。彼女は銃を見て叫び、買い手を怖がら…
バリアント
「バリアント」は既存のAIインシデントと同じ原因要素を共有し、同様な被害を引き起こし、同じ知的システムを含んだインシデントです。バリアントは完全に独立したインシデントとしてインデックスするのではなく、データベースに最初に投稿された同様なインシデントの元にインシデントのバリエーションとして一覧します。インシデントデータベースの他の投稿タイプとは違い、バリアントではインシデントデータベース以外の根拠のレポートは要求されません。詳細についてはこの研究論文を参照してください
よく似たインシデント
Did our AI mess up? Flag the unrelated incidents
よく似たインシデント
Did our AI mess up? Flag the unrelated incidents