Política de Taxonomía de RAIC AIID

Traducido por IA
Ver Original

Política de Taxonomía de RAIC AIID
Fecha: 30 de mayo de 2025

Los siguientes principios guían las decisiones de inclusión de nuevas taxonomías en la Base de Datos de Incidentes de IA (AIID, por sus siglas en inglés). Estos criterios aseguran que cualquier sistema de clasificación incorporado mejore nuestra capacidad para categorizar, analizar y aprender con precisión de los incidentes relacionados con la inteligencia artificial, manteniendo al mismo tiempo la integridad, objetividad y utilidad de la AIID. Cada taxonomía propuesta será evaluada en función de todos los principios, prestando especial atención a cómo promueve nuestra misión de fomentar la seguridad en IA mediante una documentación y análisis exhaustivos de los incidentes. Las taxonomías que cumplan con estos estándares fortalecerán el valor de la base de datos como recurso para investigadores, profesionales y responsables de políticas que trabajan para comprender y mitigar los riesgos de la IA.

Si tienes preguntas sobre estos principios o sobre cómo podrías ser invitado a participar en los procesos de decisión de la AIID debido a un compromiso continuo con la clasificación de datos de incidentes, por favor escríbenos a: info@incidentdatabase.ai

Principios

1. Relevancia y alineación con el alcance

  • La taxonomía debe abordar directamente fallos, peligros o incidentes de sistemas de IA/ML incluidos en la AIID.
  • Las categorías deben relacionarse de forma significativa con incidentes o riesgos existentes en la AIID.
  • La taxonomía no debe ser sustancialmente duplicativa de taxonomías ya existentes.
  • Debe facilitar el análisis de incidentes o peligros relacionados con IA.

2. Rigor científico y credibilidad

  • Las personas u organizaciones que clasifican deben tener experiencia comprobada en seguridad, ética, incidentes, confiabilidad o riesgos de IA.
  • La taxonomía debe estar basada en investigaciones o en una experiencia significativa en la industria.
  • Se prefiere firmemente la validación académica o revisión por pares.
  • Debe proporcionarse documentación de la metodología utilizada para desarrollar y definir las categorías.

3. Aplicabilidad práctica

  • Las categorías deben ser lo suficientemente específicas como para aplicarse claramente a los datos de la AIID.
  • Las definiciones deben ser claras para resolver disputas de clasificación.
  • Se recomienda encarecidamente la documentación con orientación o ejemplos para una categorización adecuada.
  • Debe haber un número razonable de categorías (ni tan granular como para ser inmanejable, ni tan pocas como para limitar su utilidad).

4. Neutralidad y objetividad

  • Evitar taxonomías con sesgo político o ideológico.
  • Las categorías deben describir los incidentes objetivamente, sin culpar a las partes implicadas.
  • Debe ser neutral respecto a proveedores (no promover soluciones o plataformas específicas).

5. Mantenimiento, actualizaciones y escalabilidad

  • Se prefieren organizaciones fuente que tengan la intención de realizar mantenimiento continuo (por ejemplo, aclarar elementos cuando surjan ambigüedades).
  • Se prefieren organizaciones fuente que continúen aplicando la taxonomía a nuevos incidentes.
  • Se prefieren taxonomías que ya hayan sido aplicadas en incidentes relevantes.

6. Compatibilidad legal y de licencias

  • La asignación debe estar bajo la licencia Creative Commons de la AIID.
  • No debe haber reclamos de propiedad intelectual en conflicto.

7. Estándares de interoperabilidad

  • Debe estar disponible en formato legible por máquina (JSON, XML, RDF, etc.).
  • Debe seguir estándares de metadatos establecidos cuando corresponda.
  • Debe incluir identificadores únicos para las categorías a fin de evitar confusiones.
  • Idealmente, debe ser mapeable a otras taxonomías principales de incidentes de IA.