概要: 2024年8月、サンフランシスコ市検事局は、生成AIを用いて未成年者を含む合意のないポルノディープフェイクを作成・配信したとして、16のウェブサイトに対し、初の訴訟を起こしました。これらのウェブサイトは、6ヶ月間で2億回以上のアクセスがあり、ユーザーに実際の画像をアップロードして露骨なフェイクを生成していました。2025年3月までに、対象となったウェブサイトのうち11は法的圧力を受けて閉鎖されました。
Editor Notes: Timeline notes: The San Francisco City Attorney's office announced its actions against the 16 operators of these sites on August 15, 2024 (the date for this incident ID). By March 2025, reporting on these actions stated that 11 of the sites had been taken down.
Alleged: Unknown deepfake technology developers developed an AI system deployed by Operators of 16 deepfake pornography websites, which harmed Women depicted in deepfake pornography と Minors depicted in deepfake pornography.
関与が疑われるAIシステム: Unknown deepfake apps と Unknown generative AI tools
インシデントのステータス
インシデントID
1004
レポート数
2
インシデント発生日
2024-08-15
エディタ
Dummy Dummy
インシデントレポート
レポートタイムライン
Loading...
AI が生成した実際の成人および未成年者の同意のない露骨な画像は計り知れない害を及ぼし、州法および連邦法に違反しています
サンフランシスコ (2024 年 8 月 15 日) --- サンフランシスコ市検事の David Chiu 氏は本日、AI が生成した同意のないポルノを作成および配布する世界最大級の Web サイトのいくつかに対して、初めての訴訟を起こすと発表しました。同意のないディープフェイク ポルノ画像の急増により、世界中の実際の女性や少女が搾取されています。女性や…
Loading...
サンフランシスコ市検事局は、ディープフェイクヌードを作成し拡散したとされるウェブサイトを標的にし、それらのサイトをオフラインにして明確なメッセージを送っています。
イボンヌ・メレ首席副検事は、NBCベイエリアに対し、彼女とデイビッド・チウ市検事局が6か月以上前に起こした人工知能に異議を唱えるユニークな訴訟により、ディープフェイクヌードを作成し拡散する12近くのウェブサイトが閉鎖されたと語った。
「私たちが標的にした俳優たちは今やそのビジネスから撤退しており、それはちょっとした…
バリアント
「バリアント」は既存のAIインシデントと同じ原因要素を共有し、同様な被害を引き起こし、同じ知的システムを含んだインシデントです。バリアントは完全に独立したインシデントとしてインデックスするのではなく、データベースに最初に投稿された同様なインシデントの元にインシデントのバリエーションとして一覧します。インシデントデータベースの他の投稿タイプとは違い、バリアントではインシデントデータベース以外の根拠のレポートは要求されません。詳細についてはこの研究論文を参照してください
似たようなものを見つけましたか？
よく似たインシデント
Did our AI mess up? Flag the unrelated incidents
よく似たインシデント
Did our AI mess up? Flag the unrelated incidents