Description: A deepfake video falsely depicted Singapore’s Prime Minister Lee Hsien Loong promoting a cryptocurrency investment scam. Scammers used AI-generated voice cloning and manipulated footage from official events to create a convincing but fraudulent video interview with China Global Television Network. Lee warned the public and urged reporting through the ScamShield Bot.
Editor Notes: Two significant AI incidents involving Lee Hsien Loong occurred several months apart from each other. This incident pertains to the December 2023 one. The other one, Incident 986, pertains to a June 2024 incident. This incident ID is retroactive; Lee was Prime Minister during the time of the incident, but the incident ID was created during his time as Senior Minister. See also Incident 988 for information pertaining to disinformation-related deepfakes of Lee that emerged in late June 2024.
Alleged: Unknown voice cloning technology developer と Unknown deepfake technology developer developed an AI system deployed by Scammers impersonating Lee Hsien Loong , scammers と Fraudsters, which harmed Lee Hsien Loong と General public of Singapore.
関与が疑われるAIシステム: Unknown voice cloning technology と Unknown deepfake apps
インシデントのステータス
インシデントID
985
レポート数
1
インシデント発生日
2023-12-29
エディタ
インシデントレポート
レポートタイムライン
シンガポール – 投資商品を宣伝する姿が描かれた最新のターゲットであるリー・シェンロン首相は、シンガポール国民は警戒を怠らず、ディープフェイク詐欺から自分や愛する人を守る方法を学ばなければならないと述べた。
リー首相は12月29日のフェイスブック投稿で、オンラインで出回っている最近のディープフェイク動画を掲載した。この動画では、北京を拠点とする報道機関、中国グローバルテレビネットワークとのインタビューで仮想通貨スキームを提唱しているように見える。
彼は次のように書いている。「…
バリアント
「バリアント」は既存のAIインシデントと同じ原因要素を共有し、同様な被害を引き起こし、同じ知的システムを含んだインシデントです。バリアントは完全に独立したインシデントとしてインデックスするのではなく、データベー スに最初に投稿された同様なインシデントの元にインシデントのバリエーションとして一覧します。インシデントデータベースの他の投稿タイプとは違い、バリアントではインシデントデータベース以外の根拠のレポートは要求されません。詳細についてはこの研究論文を参照してください
