インシデント 797: translated-ja-Teenager Makes Deepfake Pornography of 50 Girls at Bacchus Marsh Grammar School in Australia
概要: translated-ja-At Bacchus Marsh Grammar, a school in Victoria state in Australia, an adolescent male made deepfake pornography of 50 girls, ages 9 to 12. He then allegedly uploaded the pictures to Instagram, and others subsequently shared them on Snapchat.
Alleged: Unknown deepfake technology developer developed an AI system deployed by Unnamed adolescent male , Instagram users と Snapchat users, which harmed Bacchus Marsh Grammar students と Bacchus Marsh Grammar girls.
インシデントのステータス
Risk Subdomain
A further 23 subdomains create an accessible and understandable classification of hazards and harms associated with AI
4.3. Fraud, scams, and targeted manipulation
Risk Domain
The Domain Taxonomy of AI Risks classifies risks into seven AI risk domains: (1) Discrimination & toxicity, (2) Privacy & security, (3) Misinformation, (4) Malicious actors & misuse, (5) Human-computer interaction, (6) Socioeconomic & environmental harms, and (7) AI system safety, failures & limitations.
- Malicious Actors & Misuse
Entity
Which, if any, entity is presented as the main cause of the risk
Human
Timing
The stage in the AI lifecycle at which the risk is presented as occurring
Post-deployment
Intent
Whether the risk is presented as occurring as an expected or unexpected outcome from pursuing a goal
Intentional
インシデントレポート
レポートタイムライン
ビクトリア州の地方私立学校の女子生徒50人の偽のヌード画像がソーシャルメディアで共有された後、10代の男性が逮捕された。
バッカス・マーシュ・グラマー校の9年生から12年生の女 子生徒の顔が、人工知能によって生成されたヌード画像に使用され、インスタグラムに投稿され、その後、生徒たちがスナップチャットで共有したことを学校が確認した。
ケビン・リチャードソン校長代理は、学校は娘たちの偽のヌード画像が大量に作成されたと保護者から知らされ、その報告が警察に渡されたと述べた。
ビクトリア…