Description: A new deepfake video falsely showed Prime Minister Lee Hsien Loong endorsing an investment product with guaranteed returns. Scammers synchronized fake audio with real footage from his 2023 National Day speech, making it appear as though he had made the endorsement. Lee called this “extremely worrying” and warned that deepfake scams are becoming more sophisticated. He urged the public to report such scams through the government’s ScamShield Bot.
Editor Notes: Two significant AI incidents involving Lee Hsien Loong occurred several months apart from each other. This incident pertains to the June 2024 one. The other one, Incident 985, pertains to a December 2023 incident while he was Prime Minister. See also Incident 988 for information pertaining to disinformation-related deepfakes of Lee that emerged in late June 2024.
Entités
Voir toutes les entitésAlleged: Unknown voice cloning technology developer et Unknown deepfake technology developer developed an AI system deployed by Scammers impersonating Lee Hsien Loong , scammers et Fraudsters, which harmed Lee Hsien Loong et General public of Singapore.
Systèmes d'IA présumés impliqués: Unknown voice cloning technology et Unknown deepfake apps
Statistiques d'incidents
ID
986
Nombre de rapports
1
Date de l'incident
2024-06-02
Editeurs
Rapports d'incidents
Chronologie du rapport
SINGAPOUR - Les Singapouriens doivent rester vigilants afin de se protéger et de protéger leur entourage contre les arnaques deepfake, a déclaré le ministre d'État Lee Hsien Loong, de nouveau représenté en train de promouvoir des produits d…
Variantes
Une "Variante" est un incident qui partage les mêmes facteurs de causalité, produit des dommages similaires et implique les mêmes systèmes intelligents qu'un incident d'IA connu. Plutôt que d'indexer les variantes comme des incidents entièrement distincts, nous listons les variations d'incidents sous le premier incident similaire soumis à la base de données. Contrairement aux autres types de soumission à la base de données des incidents, les variantes ne sont pas tenues d'avoir des rapports en preuve externes à la base de données des incidents. En savoir plus sur le document de recherche.
