Descripción: El nuevo generador de imágenes de OpenAI, 4o, se utilizó, según se informa, para generar documentos fraudulentos realistas, incluyendo recibos de restaurantes falsos, recetas de sustancias controladas y, posiblemente, otros documentos de identidad o financieros. Los usuarios demostraron cómo se podía inducir al modelo a eludir las restricciones de seguridad para su uso indebido en fraudes de gastos, falsificación médica y otras formas de falsificación de documentos.
Entidades
Ver todas las entidadesAlleged: OpenAI developed an AI system deployed by scammers y Fraudsters, which harmed Expense management platforms , healthcare providers , Pharmacists , Regulatory agencies , Law enforcement , Employers y General public.
Sistemas de IA presuntamente implicados: OpenAI 4o image generator , Document verification systems , Expense reporting systems y Prescription validation systems
Estadísticas de incidentes
ID
1018
Cantidad de informes
1
Fecha del Incidente
2025-03-31
Editores
Informes del Incidente
Cronología de Informes
El último modelo 4o de generación de imágenes de OpenAI es sorprendentemente bueno generando texto dentro de imágenes, una hazaña que había resultado particularmente difícil para sus muchos predecesores.
Y eso lo convierte en una herramient…
Variantes
Una "Variante" es un incidente que comparte los mismos factores causales, produce daños similares e involucra los mismos sistemas inteligentes que un incidente de IA conocido. En lugar de indexar las variantes como incidentes completamente separados, enumeramos las variaciones de los incidentes bajo el primer incidente similar enviado a la base de datos. A diferencia de otros tipos de envío a la base de datos de incidentes, no se requiere que las variantes tengan informes como evidencia externa a la base de datos de incidentes. Obtenga más información del trabajo de investigación.
Incidentes Similares
Did our AI mess up? Flag the unrelated incidents
Incidentes Similares
Did our AI mess up? Flag the unrelated incidents