自動翻訳済み

インシデント 530: translated-ja-Telegram Channels Allowed Users to Make Non-Consensual Deepfake Porn as Paid Service

自動翻訳済み
概要:
自動翻訳済み
translated-ja-Seven channels were connected in a Telegram ecosystem centered around letting subscribers, as a paid service, generate non-consensual deepfake nudes using a bot from submitted photos of women, including underage girls and women who they know in real life.

ツール

新しいレポート新しいレポート新しいレスポンス新しいレスポンス発見する発見する履歴を表示履歴を表示

組織

すべての組織を表示
Alleged: Telegram channels と Alberto developed an AI system deployed by Telegram channels, which harmed Women , underage girls と female celebrities.

インシデントのステータス

インシデントID
530
レポート数
2
インシデント発生日
2019-07-11
エディタ
Dummy Dummy, Dummy Dummy
Applied Taxonomies
MIT

MIT 分類法のクラス

Machine-Classified
分類法の詳細

Risk Subdomain

4.3. Fraud, scams, and targeted manipulation

Risk Domain

  1. Malicious Actors & Misuse

Entity

Human

Timing

Post-deployment

Intent

Intentional

インシデントレポート

レポートタイムライン

Incident Occurrence+1
Deepfake bots on Telegram make the work of creating fake nudes dangerously easy
Loading...
Deepfake bots on Telegram make the work of creating fake nudes dangerously easy
theverge.com · 2020

Researchers have discovered a “deepfake ecosystem” on the messaging app Telegram centered around bots that generate fake nudes on request. Users interacting with these bots say they’re mainly creating nudes of women they know using images t…

Loading...
A deepfake bot is being used to “undress” underage girls
technologyreview.com · 2020

Within 24 hours, the Vice article had inspired such a backlash that the creators of the app quickly took it down. The DeepNude Twitter account announced that no other versions would be released, and no one else would get access to the techn…

バリアント

「バリアント」は既存のAIインシデントと同じ原因要素を共有し、同様な被害を引き起こし、同じ知的システムを含んだインシデントです。バリアントは完全に独立したインシデントとしてインデックスするのではなく、データベースに最初に投稿された同様なインシデントの元にインシデントのバリエーションとして一覧します。インシデントデータベースの他の投稿タイプとは違い、バリアントではインシデントデータベース以外の根拠のレポートは要求されません。詳細についてはこの研究論文を参照してください
似たようなものを見つけましたか？
レビュー前
インシデント発生日:
2023-08-03
インシデント状況の説明

Researchers have discovered a “deepfake ecosystem” on the messaging app Telegram centered around bots that generate fake nudes on

入力／出力

Raji

12345

Sekar

よく似たインシデント

Selected by our editors
Loading...
AI 'Nudify' Apps Used as Tools for Blackmail and Extortion

AI 'Nudify' Apps Used as Tools for Blackmail and Extortion

· 1 レポート
Loading...
FBI Reported Surge of Extortion Cases of AI Media Featuring Sexual Explicit Activities

FBI Reported Surge of Extortion Cases of AI Media Featuring Sexual Explicit Activities

· 2 レポート
Loading...
Child Predators Are Reportedly Generating Deepfake Nudes of Children to Extort Them

Child Predators Are Reportedly Generating Deepfake Nudes of Children to Extort Them

· 1 レポート
テキスト類似度による

Did our AI mess up? Flag the unrelated incidents

Loading...
Content Using Bestiality Thumbnails Allegedly Evaded YouTube’s Thumbnail Monitoring System

Content Using Bestiality Thumbnails Allegedly Evaded YouTube’s Thumbnail Monitoring System

· 2 レポート
Loading...
Bots Allegedly Made up Roughly Half of Twitter Accounts in Discussions Surrounding COVID-19 Related Issues

Bots Allegedly Made up Roughly Half of Twitter Accounts in Discussions Surrounding COVID-19 Related Issues

· 2 レポート
Loading...
Google’s YouTube Kids App Presents Inappropriate Content

Google’s YouTube Kids App Presents Inappropriate Content

· 14 レポート
前のインシデント次のインシデント