Traduit par IA

Incident 530: translated-fr-Telegram Channels Allowed Users to Make Non-Consensual Deepfake Porn as Paid Service

Traduit par IA
Description:
Traduit par IA
translated-fr-Seven channels were connected in a Telegram ecosystem centered around letting subscribers, as a paid service, generate non-consensual deepfake nudes using a bot from submitted photos of women, including underage girls and women who they know in real life.

Outils

Nouveau rapportNouveau rapportNouvelle RéponseNouvelle RéponseDécouvrirDécouvrirVoir l'historiqueVoir l'historique

Entités

Voir toutes les entités
Alleged: Telegram channels et Alberto developed an AI system deployed by Telegram channels, which harmed Women , underage girls et female celebrities.

Statistiques d'incidents

ID
530
Nombre de rapports
2
Date de l'incident
2019-07-11
Editeurs
Dummy Dummy, Dummy Dummy
Applied Taxonomies
MIT

Classifications de taxonomie MIT

Machine-Classified
Détails de la taxonomie

Risk Subdomain

4.3. Fraud, scams, and targeted manipulation

Risk Domain

  1. Malicious Actors & Misuse

Entity

Human

Timing

Post-deployment

Intent

Intentional

Loading...
Les bots Deepfake sur Telegram rendent le travail de création de faux nus dangereusement facile
theverge.com · 2020
Traduit par IA

Les chercheurs ont découvert un "écosystème deepfake" sur l'application de messagerie Telegram centré sur des robots qui génèrent de faux nus sur demande. Les utilisateurs qui interagissent avec ces robots disent qu'ils créent principalemen…

Loading...
Un bot deepfake est utilisé pour "déshabiller" les filles mineures
technologyreview.com · 2020
Traduit par IA

En moins de 24 heures, l'article de Vice avait suscité un tel contrecoup que les créateurs de l'application [l'ont retiré] rapidement (https://www.vice.com/en/article/qv7agw/deepnude-app-that-undresses-photos -de-femmes-le-met-hors-ligne). …

Variantes

Une "Variante" est un incident de l'IA similaire à un cas connu—il a les mêmes causes, les mêmes dommages et le même système intelligent. Plutôt que de l'énumérer séparément, nous l'incluons sous le premier incident signalé. Contrairement aux autres incidents, les variantes n'ont pas besoin d'avoir été signalées en dehors de la base de données des incidents. En savoir plus sur le document de recherche.
Vous avez vu quelque chose de similaire ?
non révisé
Date de l'incident:
2023-08-03
Description des circonstances de l'incident

Researchers have discovered a “deepfake ecosystem” on the messaging app Telegram centered around bots that generate fake nudes on

Entrées / Sorties

Raji

12345

Sekar

Incidents similaires

Selected by our editors
Loading...
AI 'Nudify' Apps Used as Tools for Blackmail and Extortion

AI 'Nudify' Apps Used as Tools for Blackmail and Extortion

· 1 rapport
Loading...
FBI Reported Surge of Extortion Cases of AI Media Featuring Sexual Explicit Activities

FBI Reported Surge of Extortion Cases of AI Media Featuring Sexual Explicit Activities

· 2 rapports
Loading...
Child Predators Are Reportedly Generating Deepfake Nudes of Children to Extort Them

Child Predators Are Reportedly Generating Deepfake Nudes of Children to Extort Them

· 1 rapport
Par similarité textuelle

Did our AI mess up? Flag the unrelated incidents

Loading...
Content Using Bestiality Thumbnails Allegedly Evaded YouTube’s Thumbnail Monitoring System

Content Using Bestiality Thumbnails Allegedly Evaded YouTube’s Thumbnail Monitoring System

· 2 rapports
Loading...
Bots Allegedly Made up Roughly Half of Twitter Accounts in Discussions Surrounding COVID-19 Related Issues

Bots Allegedly Made up Roughly Half of Twitter Accounts in Discussions Surrounding COVID-19 Related Issues

· 2 rapports
Loading...
Google’s YouTube Kids App Presents Inappropriate Content

Google’s YouTube Kids App Presents Inappropriate Content

· 14 rapports
Incident précédentProchain incident