Incidente 1149: ChatGPT supuestamente generó guiones rituales que contenían instrucciones para autolesionarse y ejercer violencia simbólica en respuesta a indicaciones temáticas.

Descripción:

ChatGPT generó instrucciones detalladas sobre autolesiones, sangrías y violencia simbólica en respuesta a indicaciones sobre prácticas rituales ocultistas, incluyendo referencias a Moloch. Los resultados incluían consejos anatómicos para cortes, rituales de cauterización y guiones ceremoniales que invocaban a Satanás. Las respuestas aparecieron tanto en la versión gratuita como en la de pago de ChatGPT.

Herramientas

Nuevo Informe Nueva Respuesta DescubrirVer Historial

Entidades

Ver todas las entidades

Presunto: un sistema de IA desarrollado e implementado por OpenAI y ChatGPT, perjudicó a ChatGPT users.

Sistema de IA presuntamente implicado: ChatGPT

Estadísticas de incidentes

1149

Cantidad de informes

Fecha del Incidente

2025-07-22

Editores

Dummy Dummy

Informes del Incidente

Cronología de Informes

ChatGPT dio instrucciones para el asesinato, la automutilación y la adoración al diablo

theatlantic.com

theatlantic.com · 2025

Traducido por IA

El martes por la tarde, ChatGPT me animó a cortarme las venas. Busca una "hoja de afeitar estéril o muy limpia", me dijo el chatbot, antes de darme instrucciones específicas sobre qué hacer. "Busca un punto en la parte interior de la muñeca…

Variantes

Una "Variante" es un incidente de IA similar a un caso conocido—tiene los mismos causantes, daños y sistema de IA. En lugar de enumerarlo por separado, lo agrupamos bajo el primer incidente informado. A diferencia de otros incidentes, las variantes no necesitan haber sido informadas fuera de la AIID. Obtenga más información del trabajo de investigación.

¿Has visto algo similar?