Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
Descubrir
Enviar
  • Bienvenido a la AIID
  • Descubrir Incidentes
  • Vista espacial
  • Vista Tabular
  • Vista de lista
  • Entidades
  • Taxonomías
  • Enviar Informes de Incidentes
  • Ranking de Reportadores
  • Blog
  • Resumen de noticias de IA
  • Control de Riesgos
  • Incidente aleatorio
  • Registrarse
Colapsar
Descubrir
Enviar
  • Bienvenido a la AIID
  • Descubrir Incidentes
  • Vista espacial
  • Vista Tabular
  • Vista de lista
  • Entidades
  • Taxonomías
  • Enviar Informes de Incidentes
  • Ranking de Reportadores
  • Blog
  • Resumen de noticias de IA
  • Control de Riesgos
  • Incidente aleatorio
  • Registrarse
Colapsar

Incidente 186: Algorithm Assessing Risk Faced by Victims of Gender Violence Misclassified Low-Risk Cases, Allegedly Leading to Homicide of Women and Children in Spain

Descripción: In Spain, the algorithm that assesses recidivism risk in gender violence, VioGén, have critically underestimated the level of risk in a series of cases that ended in homicide of women and children since its first deployment.

Herramientas

Nuevo InformeNuevo InformeNueva RespuestaNueva RespuestaDescubrirDescubrirVer HistorialVer Historial

Entidades

Ver todas las entidades
Alleged: Spanish Ministry of Interior y Spanish Secretary of State for Security developed an AI system deployed by Spanish Ministry of Interior, which harmed Spanish victims of gender violence.

Estadísticas de incidentes

ID
186
Cantidad de informes
7
Fecha del Incidente
2007-07-26
Editores
Sean McGregor, Khoa Lam
Applied Taxonomies
GMF, MIT

Clasificaciones de la Taxonomía MIT

Machine-Classified
Detalles de la Taxonomía

Risk Subdomain

A further 23 subdomains create an accessible and understandable classification of hazards and harms associated with AI
 

7.3. Lack of capability or robustness

Risk Domain

The Domain Taxonomy of AI Risks classifies risks into seven AI risk domains: (1) Discrimination & toxicity, (2) Privacy & security, (3) Misinformation, (4) Malicious actors & misuse, (5) Human-computer interaction, (6) Socioeconomic & environmental harms, and (7) AI system safety, failures & limitations.
 
  1. AI system safety, failures, and limitations

Entity

Which, if any, entity is presented as the main cause of the risk
 

AI

Timing

The stage in the AI lifecycle at which the risk is presented as occurring
 

Post-deployment

Intent

Whether the risk is presented as occurring as an expected or unexpected outcome from pursuing a goal
 

Unintentional

Informes del Incidente

Cronología de Informes

Incident OccurrenceLas asesinadas que denunciaron se valoraron como 'riesgo bajo o nulo'+1
Nuevo protocolo para valorar riesgo de víctimas de género
En España, el algoritmo VioGén intenta pronosticar la violencia de género+2
La Auditoría Externa del Sistema VioGen
Las asesinadas que denunciaron se valoraron como 'riesgo bajo o nulo'

Las asesinadas que denunciaron se valoraron como 'riesgo bajo o nulo'

elmundo.es

Nuevo protocolo para valorar riesgo de víctimas de género

Nuevo protocolo para valorar riesgo de víctimas de género

rtve.es

Validación y Calibración del Sistema de Evaluación de Riesgos de Violencia de Pareja de la Policía Española (VioGén)

Validación y Calibración del Sistema de Evaluación de Riesgos de Violencia de Pareja de la Policía Española (VioGén)

link.springer.com

En España, el algoritmo VioGén intenta pronosticar la violencia de género

En España, el algoritmo VioGén intenta pronosticar la violencia de género

algorithmwatch.org

La Auditoría Externa del Sistema VioGen

La Auditoría Externa del Sistema VioGen

eticasfoundation.org

Las víctimas denuncian fallos en VioGén, el algoritmo contra la violencia de género

Las víctimas denuncian fallos en VioGén, el algoritmo contra la violencia de género

eldiario.es

AI: Decodificado: el algoritmo defectuoso de abuso doméstico de España - Se calienta el debate sobre la prohibición - Hacer que la policía rinda cuentas

AI: Decodificado: el algoritmo defectuoso de abuso doméstico de España - Se calienta el debate sobre la prohibición - Hacer que la policía rinda cuentas

politico.eu

Las asesinadas que denunciaron se valoraron como 'riesgo bajo o nulo'
elmundo.es · 2014

Catorce de las 15 asesinadas en 2014 que habían denunciado a su agresor por violencia machista tenían una valoración policial de riesgo «no apreciado» o «bajo», según el último informe del Observatorio de Violencia Doméstica y de Género del…

Nuevo protocolo para valorar riesgo de víctimas de género
rtve.es · 2019

La Policía empezará a aplicar este miércoles el nuevo protocolo para la valoración del nivel de riesgo de las víctimas de violencia de género, después de que la Secretaría de Estado de Seguridad haya notificado de manera oficial la instrucc…

Validación y Calibración del Sistema de Evaluación de Riesgos de Violencia de Pareja de la Policía Española (VioGén)
link.springer.com · 2019
Traducido por IA

Este estudio describe la justificación, desarrollo y validación de los formularios de evaluación del riesgo policial de violencia de pareja (VPI) del Sistema VioGén del Ministerio del Interior de España (VPR4.0 y VPER4.0), que promueven una…

En España, el algoritmo VioGén intenta pronosticar la violencia de género
algorithmwatch.org · 2020
Traducido por IA

Como parte de un programa para frenar los feminicidios, España construyó VioGén, un algoritmo que evalúa el riesgo al que se enfrentan las víctimas de violencia de género. Sigue siendo un trabajo en progreso.

En la madrugada del 24 de febre…

La Auditoría Externa del Sistema VioGen
eticasfoundation.org · 2022
Traducido por IA

Presentamos los resultados de 7 meses de trabajo de Eticas y Fundación Ana Bella con los datos disponibles y las mujeres afectadas y otros stakeholders. Como se mencionó anteriormente, es parte de un proyecto de auditoría externa más amplio…

Las víctimas denuncian fallos en VioGén, el algoritmo contra la violencia de género
eldiario.es · 2022

Falta de transparencia, infravaloración de la violencia psicológica, preguntas “rígidas” que no permiten explicaciones o evaluaciones que tienen en cuenta los recursos policiales disponibles a la hora de asignar un nivel de riesgo a la víct…

AI: Decodificado: el algoritmo defectuoso de abuso doméstico de España - Se calienta el debate sobre la prohibición - Hacer que la policía rinda cuentas
politico.eu · 2022
Traducido por IA

Algoritmo español deja indiferentes a las víctimas de violencia doméstica: Durante los últimos 15 años, España ha estado utilizando un sistema algorítmico llamado VioGén para ayudar a la policía a evaluar el riesgo que enfrentan las mujeres…

Variantes

Una "Variante" es un incidente que comparte los mismos factores causales, produce daños similares e involucra los mismos sistemas inteligentes que un incidente de IA conocido. En lugar de indexar las variantes como incidentes completamente separados, enumeramos las variaciones de los incidentes bajo el primer incidente similar enviado a la base de datos. A diferencia de otros tipos de envío a la base de datos de incidentes, no se requiere que las variantes tengan informes como evidencia externa a la base de datos de incidentes. Obtenga más información del trabajo de investigación.
Incidente AnteriorSiguiente Incidente

Investigación

  • Definición de un “Incidente de IA”
  • Definición de una “Respuesta a incidentes de IA”
  • Hoja de ruta de la base de datos
  • Trabajo relacionado
  • Descargar Base de Datos Completa

Proyecto y Comunidad

  • Acerca de
  • Contactar y Seguir
  • Aplicaciones y resúmenes
  • Guía del editor

Incidencias

  • Todos los incidentes en forma de lista
  • Incidentes marcados
  • Cola de envío
  • Vista de clasificaciones
  • Taxonomías

2023 - AI Incident Database

  • Condiciones de uso
  • Política de privacidad
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • 30ebe76