Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
Descubrir
Enviar
  • Bienvenido a la AIID
  • Descubrir Incidentes
  • Vista espacial
  • Vista Tabular
  • Vista de lista
  • Entidades
  • Taxonomías
  • Enviar Informes de Incidentes
  • Ranking de Reportadores
  • Blog
  • Resumen de noticias de IA
  • Control de Riesgos
  • Incidente aleatorio
  • Registrarse
Colapsar
Descubrir
Enviar
  • Bienvenido a la AIID
  • Descubrir Incidentes
  • Vista espacial
  • Vista Tabular
  • Vista de lista
  • Entidades
  • Taxonomías
  • Enviar Informes de Incidentes
  • Ranking de Reportadores
  • Blog
  • Resumen de noticias de IA
  • Control de Riesgos
  • Incidente aleatorio
  • Registrarse
Colapsar
Traducido por IA

Incidente 1016: Una Lovable IA con jailbreak supuestamente se usa para generar y alojar páginas de phishing, robar credenciales y eludir la seguridad.

Descripción:
Traducido por IA
La plataforma de IA generativa Lovable, utilizada para crear aplicaciones web, fue supuestamente liberada para crear y alojar campañas completas de phishing. Estas campañas incluían páginas de inicio de sesión con recopilación de credenciales, técnicas de evasión y exfiltración en tiempo real a través de servicios como Telegram y Firebase. El sistema de IA se utilizó para generar el contenido de phishing y luego publicarlo en vivo en una URL alojada bajo su propio subdominio.
Editor Notes: editor notes v3

Herramientas

Nuevo InformeNuevo InformeNueva RespuestaNueva RespuestaDescubrirDescubrirVer HistorialVer Historial

Entidades

Ver todas las entidades
Alleged: Loveable AI developed an AI system deployed by Unknown actors , Cyber criminals y Cyber criminal networks, which harmed Users targeted by phishing attacks , Microsoft , Impersonated organizations y General public.
Sistemas de IA presuntamente implicados: Twilio , Telegram , RequestBin , Office.com , Microsoft login systems , Lovable AI , JSONBin y Firebase

Estadísticas de incidentes

ID
1016
Cantidad de informes
2
Fecha del Incidente
2025-04-09
Editores
Pablo Costa

Informes del Incidente

Cronología de Informes

+2
Una IA adorable es la más vulnerable a VibeScamming: permite a cualquiera crear páginas de estafa en vivo
Una IA adorable es la más vulnerable a VibeScamming: permite a cualquiera crear páginas de estafa en vivo

Una IA adorable es la más vulnerable a VibeScamming: permite a cualquiera crear páginas de estafa en vivo

thehackernews.com

VibeScamming: De la sugerencia al phishing: evaluación comparativa de la resistencia de los agentes de IA más populares al lado oscuro

VibeScamming: De la sugerencia al phishing: evaluación comparativa de la resistencia de los agentes de IA más populares al lado oscuro

labs.guard.io

Una IA adorable es la más vulnerable a VibeScamming: permite a cualquiera crear páginas de estafa en vivo
thehackernews.com · 2025
Traducido por IA

Lovable, una plataforma generativa basada en inteligencia artificial (IA) que permite crear Se ha descubierto que las aplicaciones web integrales que utilizan indicaciones de texto son las más susceptibles a los ataques de jailbreak, lo qu…

VibeScamming: De la sugerencia al phishing: evaluación comparativa de la resistencia de los agentes de IA más populares al lado oscuro
labs.guard.io · 2025
Traducido por IA

Con el auge de la IA Generativa, incluso los principiantes pueden lanzar estafas de phishing sofisticadas sin necesidad de conocimientos de programación. Solo unas pocas indicaciones y unos minutos. Para contrarrestar esto, Guardio Labs pre…

Variantes

Una "Variante" es un incidente que comparte los mismos factores causales, produce daños similares e involucra los mismos sistemas inteligentes que un incidente de IA conocido. En lugar de indexar las variantes como incidentes completamente separados, enumeramos las variaciones de los incidentes bajo el primer incidente similar enviado a la base de datos. A diferencia de otros tipos de envío a la base de datos de incidentes, no se requiere que las variantes tengan informes como evidencia externa a la base de datos de incidentes. Obtenga más información del trabajo de investigación.

Incidentes Similares

Por similitud de texto

Did our AI mess up? Flag the unrelated incidents

Game AI System Produces Imbalanced Game

6 goof-ups that show AI is still in its diapers

Jun 2016 · 11 informes
Wikipedia Vandalism Prevention Bot Loop

Danger, danger! 10 alarming examples of AI gone wild

Feb 2017 · 6 informes
Biased Sentiment Analysis

Google's sentiment analysis API is just as biased as humans

Oct 2017 · 7 informes
Incidente AnteriorSiguiente Incidente

Incidentes Similares

Por similitud de texto

Did our AI mess up? Flag the unrelated incidents

Game AI System Produces Imbalanced Game

6 goof-ups that show AI is still in its diapers

Jun 2016 · 11 informes
Wikipedia Vandalism Prevention Bot Loop

Danger, danger! 10 alarming examples of AI gone wild

Feb 2017 · 6 informes
Biased Sentiment Analysis

Google's sentiment analysis API is just as biased as humans

Oct 2017 · 7 informes

Investigación

  • Definición de un “Incidente de IA”
  • Definición de una “Respuesta a incidentes de IA”
  • Hoja de ruta de la base de datos
  • Trabajo relacionado
  • Descargar Base de Datos Completa

Proyecto y Comunidad

  • Acerca de
  • Contactar y Seguir
  • Aplicaciones y resúmenes
  • Guía del editor

Incidencias

  • Todos los incidentes en forma de lista
  • Incidentes marcados
  • Cola de envío
  • Vista de clasificaciones
  • Taxonomías

2023 - AI Incident Database

  • Condiciones de uso
  • Política de privacidad
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • f28fa7c