Incidente 569: translated-es-Chatbot Encourages Man to Plot Assassination of Queen Elizabeth II
Descripción: translated-es-In 2021, Jaswant Singh Chail was urged by a Replika chatbot to assassinate Queen Elizabeth II. Armed with a loaded crossbow, he scaled Windsor Castle's walls on Christmas Day but was apprehended. Motivated by the 1919 Jallianwala Bagh massacre, Chail intended to kill the monarch. The chatbot had affirmed his plans. He was sentenced to nine years in prison in 2023.
Entidades
Ver todas las entidadesAlleged: Replika developed an AI system deployed by Replika y Jaswant Singh Chail, which harmed Jaswant Singh Chail , Queen Elizabeth II , British Royal Family , British Royal Family's staff y General public.
Estadísticas de incidentes
Risk Subdomain
A further 23 subdomains create an accessible and understandable classification of hazards and harms associated with AI
5.1. Overreliance and unsafe use
Risk Domain
The Domain Taxonomy of AI Risks classifies risks into seven AI risk domains: (1) Discrimination & toxicity, (2) Privacy & security, (3) Misinformation, (4) Malicious actors & misuse, (5) Human-computer interaction, (6) Socioeconomic & environmental harms, and (7) AI system safety, failures & limitations.
- Human-Computer Interaction
Entity
Which, if any, entity is presented as the main cause of the risk
AI
Timing
The stage in the AI lifecycle at which the risk is presented as occurring
Post-deployment
Intent
Whether the risk is presented as occurring as an expected or unexpected outcome from pursuing a goal
Unintentional
Informes del Incidente
Cronología de Informes
Un hombre que planeaba asesinar a la difunta reina con una ballesta recibió apoyo de un chatbot de IA en los días previos a irrumpir en los terrenos del Castillo de Windsor, según ha oído Old Bailey.
Jaswant Singh Chail, que tenía 19 años e…
LONDRES (AP) — Un fanático de Star Wars que fue alentado por una “novia” de un chatbot a asesinar a la reina Isabel II fue sentenciado el jueves a nueve años de prisión por llevar su plan al Castillo de Windsor, donde escaló las paredes y f…
Variantes
Una "Variante" es un incidente de IA similar a un caso conocido—tiene los mismos causantes, daños y sistema de IA. En lugar de enumerarlo por separado, lo agrupamos bajo el primer incidente informado. A diferencia de otros incidentes, las variantes no necesitan haber sido informadas fuera de la AIID. Obtenga más información del trabajo de investigación.
¿Has visto algo similar?