Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
Découvrir
Envoyer
  • Bienvenue sur AIID
  • Découvrir les incidents
  • Vue spatiale
  • Vue de tableau
  • Vue de liste
  • Entités
  • Taxonomies
  • Soumettre des rapports d'incident
  • Classement des reporters
  • Blog
  • Résumé de l’Actualité sur l’IA
  • Contrôle des risques
  • Incident au hasard
  • S'inscrire
Fermer
Découvrir
Envoyer
  • Bienvenue sur AIID
  • Découvrir les incidents
  • Vue spatiale
  • Vue de tableau
  • Vue de liste
  • Entités
  • Taxonomies
  • Soumettre des rapports d'incident
  • Classement des reporters
  • Blog
  • Résumé de l’Actualité sur l’IA
  • Contrôle des risques
  • Incident au hasard
  • S'inscrire
Fermer
Traduit par IA

Incident 1016: Une Lovable IA et jailbreakée serait utilisée pour générer et héberger des pages de phishing, voler des identifiants et contourner la sécurité

Description:
Traduit par IA
La plateforme d'IA générative Lovable, utilisée pour la création d'applications web, aurait été jailbreakée pour créer et héberger des campagnes d'hameçonnage complètes. Ces campagnes incluraient des pages de connexion collectant des identifiants, des techniques d'évasion et une exfiltration en temps réel via des services comme Telegram et Firebase. Le système d'IA aurait été utilisé pour générer le contenu d'hameçonnage, puis le déployer en direct sur une URL hébergée sous son propre sous-domaine.
Editor Notes: editor notes v3

Outils

Nouveau rapportNouveau rapportNouvelle RéponseNouvelle RéponseDécouvrirDécouvrirVoir l'historiqueVoir l'historique

Entités

Voir toutes les entités
Alleged: Loveable AI developed an AI system deployed by Unknown actors , Cyber criminals et Cyber criminal networks, which harmed Users targeted by phishing attacks , Microsoft , Impersonated organizations et General public.
Systèmes d'IA présumés impliqués: Twilio , Telegram , RequestBin , Office.com , Microsoft login systems , Lovable AI , JSONBin et Firebase

Statistiques d'incidents

ID
1016
Nombre de rapports
2
Date de l'incident
2025-04-09
Editeurs
Pablo Costa

Rapports d'incidents

Chronologie du rapport

+2
L'IA adorable est la plus vulnérable aux arnaques VibeScamming — permettant à quiconque de créer des pages d'arnaque en direct
L'IA adorable est la plus vulnérable aux arnaques VibeScamming — permettant à quiconque de créer des pages d'arnaque en direct

L'IA adorable est la plus vulnérable aux arnaques VibeScamming — permettant à quiconque de créer des pages d'arnaque en direct

thehackernews.com

VibeScamming — De l'incitation à l'hameçonnage : analyse comparative de la résistance des agents d'IA populaires au côté obscur

VibeScamming — De l'incitation à l'hameçonnage : analyse comparative de la résistance des agents d'IA populaires au côté obscur

labs.guard.io

L'IA adorable est la plus vulnérable aux arnaques VibeScamming — permettant à quiconque de créer des pages d'arnaque en direct
thehackernews.com · 2025
Traduit par IA

Lovable, une plateforme d'intelligence artificielle générative (IA) permettant de créer Les applications web full stack utilisant des invites textuelles se sont révélées les plus vulnérables aux attaques de jailbreak, permettant aux cyberc…

VibeScamming — De l'incitation à l'hameçonnage : analyse comparative de la résistance des agents d'IA populaires au côté obscur
labs.guard.io · 2025
Traduit par IA

Avec l'essor de l'IA générative, même les débutants peuvent désormais lancer des escroqueries par hameçonnage sophistiquées, sans aucune compétence en codage. Quelques instructions et quelques minutes suffisent. Pour contrer ces menaces, Gu…

Variantes

Une "Variante" est un incident qui partage les mêmes facteurs de causalité, produit des dommages similaires et implique les mêmes systèmes intelligents qu'un incident d'IA connu. Plutôt que d'indexer les variantes comme des incidents entièrement distincts, nous listons les variations d'incidents sous le premier incident similaire soumis à la base de données. Contrairement aux autres types de soumission à la base de données des incidents, les variantes ne sont pas tenues d'avoir des rapports en preuve externes à la base de données des incidents. En savoir plus sur le document de recherche.

Incidents similaires

Par similarité textuelle

Did our AI mess up? Flag the unrelated incidents

Game AI System Produces Imbalanced Game

6 goof-ups that show AI is still in its diapers

Jun 2016 · 11 rapports
Wikipedia Vandalism Prevention Bot Loop

Danger, danger! 10 alarming examples of AI gone wild

Feb 2017 · 6 rapports
Biased Sentiment Analysis

Google's sentiment analysis API is just as biased as humans

Oct 2017 · 7 rapports
Incident précédentProchain incident

Incidents similaires

Par similarité textuelle

Did our AI mess up? Flag the unrelated incidents

Game AI System Produces Imbalanced Game

6 goof-ups that show AI is still in its diapers

Jun 2016 · 11 rapports
Wikipedia Vandalism Prevention Bot Loop

Danger, danger! 10 alarming examples of AI gone wild

Feb 2017 · 6 rapports
Biased Sentiment Analysis

Google's sentiment analysis API is just as biased as humans

Oct 2017 · 7 rapports

Recherche

  • Définition d'un « incident d'IA »
  • Définir une « réponse aux incidents d'IA »
  • Feuille de route de la base de données
  • Travaux connexes
  • Télécharger la base de données complète

Projet et communauté

  • À propos de
  • Contacter et suivre
  • Applications et résumés
  • Guide de l'éditeur

Incidents

  • Tous les incidents sous forme de liste
  • Incidents signalés
  • File d'attente de soumission
  • Affichage des classifications
  • Taxonomies

2023 - AI Incident Database

  • Conditions d'utilisation
  • Politique de confidentialité
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • f28fa7c