Description: La plateforme d'IA générative Lovable, utilisée pour la création d'applications web, aurait été jailbreakée pour créer et héberger des campagnes d'hameçonnage complètes. Ces campagnes incluraient des pages de connexion collectant des identifiants, des techniques d'évasion et une exfiltration en temps réel via des services comme Telegram et Firebase. Le système d'IA aurait été utilisé pour générer le contenu d'hameçonnage, puis le déployer en direct sur une URL hébergée sous son propre sous-domaine.
Entités
Voir toutes les entitésAlleged: Loveable AI developed an AI system deployed by Unknown actors , Cyber criminals et Cyber criminal networks, which harmed General public , Users targeted by phishing attacks , Impersonated organizations et Microsoft.
Systèmes d'IA présumés impliqués: Lovable AI , Firebase , RequestBin , JSONBin , Twilio , Telegram , Office.com et Microsoft login systems
Statistiques d'incidents
ID
1016
Nombre de rapports
2
Date de l'incident
2025-04-09
Editeurs
Rapports d'incidents
Chronologie du rapport

Lovable, une plateforme d'intelligence artificielle générative (IA) permettant de créer Les applications web full stack utilisant des invites textuelles se sont révélées les plus vulnérables aux attaques de jailbreak, permettant aux cyberc…
Avec l'essor de l'IA générative, même les débutants peuvent désormais lancer des escroqueries par hameçonnage sophistiquées, sans aucune compétence en codage. Quelques instructions et quelques minutes suffisent. Pour contrer ces menaces, Gu…
Variantes
Une "Variante" est un incident qui partage les mêmes facteurs de causalité, produit des dommages similaires et implique les mêmes systèmes intelligents qu'un incident d'IA connu. Plutôt que d'indexer les variantes comme des incidents entièrement distincts, nous listons les variations d'incidents sous le premier incident similaire soumis à la base de données. Contrairement aux autres types de soumission à la base de données des incidents, les variantes ne sont pas tenues d'avoir des rapports en preuve externes à la base de données des incidents. En savoir plus sur le document de recherche.
Incidents similaires
Did our AI mess up? Flag the unrelated incidents

6 goof-ups that show AI is still in its diapers
· 11 rapports

Danger, danger! 10 alarming examples of AI gone wild
· 6 rapports
Incidents similaires
Did our AI mess up? Flag the unrelated incidents

6 goof-ups that show AI is still in its diapers
· 11 rapports

Danger, danger! 10 alarming examples of AI gone wild
· 6 rapports