Bienvenido a
la base de datos de incidentes de IA

Una IA adorable es la más vulnerable a VibeScamming: permite a cualquiera crear páginas de estafa en vivo

Incidente 1016: Una Lovable IA con jailbreak supuestamente se usa para generar y alojar páginas de phishing, robar credenciales y eludir la seguridad.

Traducido por IA
“Una IA adorable es la más vulnerable a VibeScamming: permite a cualquiera crear páginas de estafa en vivo”Último informe
thehackernews.com2025-04-09

Lovable, una plataforma generativa basada en inteligencia artificial (IA) que permite crear Se ha descubierto que las aplicaciones web integrales que utilizan indicaciones de texto son las más susceptibles a los ataques de jailbreak, lo qu…

Leer Más
Seis arrestados por estafas de inversión impulsadas por IA que robaron $20 millones

Incidente 1017: Una supuesta estafa de inversión deepfake en España defrauda a 208 víctimas por 19 millones de euros (20,9 millones de dólares)

Traducido por IA
“Seis arrestados por estafas de inversión impulsadas por IA que robaron $20 millones”
bleepingcomputer.com2025-04-09

La policía española arrestó a seis personas responsables de una estafa de inversión en criptomonedas a gran escala que utilizaba herramientas de inteligencia artificial para generar anuncios deepfake con figuras públicas populares para atra…

Leer Más
El nuevo generador de imágenes de OpenAI es increíble para crear documentos fraudulentos

Incidente 1018: El modelo 4o de OpenAI supuestamente permite la generación fraudulenta de documentos

Traducido por IA
“El nuevo generador de imágenes de OpenAI es increíble para crear documentos fraudulentos”
futurism.com2025-04-09

El último modelo 4o de generación de imágenes de OpenAI es sorprendentemente bueno generando texto dentro de imágenes, una hazaña que había resultado particularmente difícil para sus muchos predecesores.

Y eso lo convierte en una herramient…

Leer Más
Xanthorox AI: Una nueva amenaza de IA maliciosa llega a la Darknet

Incidente 1015: Reported Darknet Launch of Xanthorox AI Introduces Autonomous Cyberattack Platform

“Xanthorox AI: Una nueva amenaza de IA maliciosa llega a la Darknet”
esecurityplanet.com2025-04-08

Una nueva y peligrosa herramienta de hacking impulsada por IA está causando sensación en el mundo del cibercrimen, y los expertos afirman que podría cambiar la forma en que se lanzan los ataques digitales.

Llamada Xanthorox AI, la herramien…

Leer Más
El Gobierno advierte sobre una estafa de inteligencia artificial en las redes sociales

Incidente 1011: Deepfake of Bermuda Premier David Burt Promotes Investment Scam Using Royal Gazette Branding

“El Gobierno advierte sobre una estafa de inteligencia artificial en las redes sociales”
royalgazette.com2025-04-06

El Gobierno ha advertido al público sobre un video falso generado por IA que circula en redes sociales.

El video, visto en Facebook, incluía una imagen que sugería falsamente estar relacionada con un informe de The Royal Gazette e incluía i…

Leer Más
Enviar URL Rapidamente

Los enlaces enviados se agregan a una cola de revisión para que se resuelvan en un registro de incidente nuevo o existente. Los incidentes enviados con detalles completos se procesan antes que las URL que no poseen los detalles completos.
Acerca de la Base de Datos

La base de datos de incidentes de IA está dedicada a indexar el historial colectivo de daños o casi daños realizados en el mundo real por el despliegue de sistemas de inteligencia artificial. Al igual que bases de datos similares en aviación y seguridad informática, la base de datos de incidentes de IA tiene como objetivo aprender de la experiencia para que podamos prevenir o mitigar los malos resultados.

Estás invitado a enviar informes de incidentes, después de lo cual los envíos se indexarán y se harán visibles para el mundo. La inteligencia artificial solo será un beneficio para las personas y la sociedad si registramos colectivamente y aprendemos de sus fallas. (Más información)

post-image
Researching AI Incidents to Build a Safer Future: The Digital Safety Research Institute partners with the Responsible AI Collaborative

By TheCollab Board of Directors

2024-02-20

The Digital Safety Research Institute (DSRI) of UL Research Institutes is partnering with the Responsible AI Collaborative (TheCollab) to ad...

Leer Más
La Base de Datos en la Prensa

Lea acerca de la base de datos en PAI Blog, Vice News, Venture Beat, Wired y arXiv entre otros puntos de venta.

Arxiv LogoVenture Beat LogoWired LogoVice logoVice logo
El Informe de Incidentes de IA
An envelope with a neural net diagram on its left

Create an account to subscribe to new incident notifications and other updates.

Incidentes Aleatorios
Predictive Policing Biases of PredPol
Predictive Policing Biases of PredPol
Aledo High School Student Allegedly Generates and Distributes Deepfake Nudes of Seven Female Classmates
Aledo High School Student Allegedly Generates and Distributes Deepfake Nudes of Seven Female Classmates
ChatGPT Introduces Errors in Critical Child Protection Court Report
ChatGPT Introduces Errors in Critical Child Protection Court Report
Child Sexual Abuse Material Taints Image Generators
Child Sexual Abuse Material Taints Image Generators
ChatGPT Reportedly Produced False Court Case Law Presented by Legal Counsel in Court
ChatGPT Reportedly Produced False Court Case Law Presented by Legal Counsel in Court
El Colaborativo de IA Responsable

La base de datos de incidentes de IA es un proyecto de Responsible AI Collaborative, una organización autorizada para promover la base de datos de incidentes de IA. La gobernanza de la Colaborativa se estructura en torno a la participación en su programación de impacto. Para obtener más detalles, lo invitamos a leer el informe de fundación y obtener más información sobre nuestro and learn more on our.

Vea el Formulario 990 de la Colaborativa de IA Responsable y la solicitud de exención de impuestos.

Patrocinador fundador de la organización
Patrocinador fundador de la base de datos
Patrocinadores y subvenciones
Patrocinadores similares