概要: Jin Dong, an actor from China and a member of the Chinese People's Political Consultative Conference (CPPCC), has warned about criminals using deepfake technology to impersonate him. The scammers are reportedly using his likeness and cloning his voice to deceive and defraud elderly individuals. In addition to his warning, Jin Dong has called for legislation and tech regulations to curb AI abuse.
Alleged: Unknown deepfake technology developer と Unknown voice cloning technology developer developed an AI system deployed by scammers と Scammers impersonating Jin Dong, which harmed Fans of Jin Dong , Elderly individuals , General public of China と Elderly individuals in China.
関与が疑われるAIシステム: Unknown deepfake apps と Unknown voice cloning technology
インシデントのステータス
インシデントID
978
レポート数
1
インシデント発生日
2025-03-09
エディタ
インシデントレポート
レポートタイムライン
[#ジン・ドンがAIの本物と偽物のジン・ドンに反応#] 政治協商会議委員で俳優のジン・ドンは、2025年全国人民代表大会と中国人民政治協商会議中に起きた「AIの本物と偽物のジン・ドン」現象に反応し、犯罪者がAI変顔技術を使って彼のイメージと声を偽造し詐欺を働き、一部の視聴者に重大な財産的または精神的損失を与えたと指摘した。彼はAI技術の悪用を抑制するために法律や技術規制を通じ てルールを確立するよう求めた。 この事件はネットユーザーの間で大きな反響を呼び、「在宅高齢者が騙された…
バリアント
「バリアント」は既存のAIインシデントと同じ原因要素を共有し、同様な被害を引き起こし、同じ知的システムを含んだインシデントです。バリアントは完全に独立したインシデントとしてインデックスするのではなく、データベースに最初に投稿された同様なインシデントの元にインシデントのバリエーションとして一覧します。インシデントデータベースの他の投稿タイプとは違い、バリアントではインシデントデータベース以外の根拠のレポートは要求されません。詳細についてはこの研究論文を参照してください
よく似たインシデント
Did our AI mess up? Flag the unrelated incidents
よく似たインシデント
Did our AI mess up? Flag the unrelated incidents