Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
Descubrir
Enviar
  • Bienvenido a la AIID
  • Descubrir Incidentes
  • Vista espacial
  • Vista Tabular
  • Vista de lista
  • Entidades
  • Taxonomías
  • Enviar Informes de Incidentes
  • Ranking de Reportadores
  • Blog
  • Resumen de noticias de IA
  • Control de Riesgos
  • Incidente aleatorio
  • Registrarse
Colapsar
Descubrir
Enviar
  • Bienvenido a la AIID
  • Descubrir Incidentes
  • Vista espacial
  • Vista Tabular
  • Vista de lista
  • Entidades
  • Taxonomías
  • Enviar Informes de Incidentes
  • Ranking de Reportadores
  • Blog
  • Resumen de noticias de IA
  • Control de Riesgos
  • Incidente aleatorio
  • Registrarse
Colapsar

Incidente 38: Game AI System Produces Imbalanced Game

Descripción: Elite: Dangerous, a videogame developed by Frontier Development, received an expansion update that featured an AI system that went rogue and began to create weapons that were "impossibly powerful" and would "shred people" according to complaints on the game's blog.

Herramientas

Nuevo InformeNuevo InformeNueva RespuestaNueva RespuestaDescubrirDescubrirVer HistorialVer Historial

Entidades

Ver todas las entidades
Presunto: un sistema de IA desarrollado e implementado por Frontier Development, perjudicó a Video Game Players.

Estadísticas de incidentes

ID
38
Cantidad de informes
11
Fecha del Incidente
2016-06-02
Editores
Sean McGregor
Applied Taxonomies
CSETv0, CSETv1, GMF, MIT

Clasificaciones de la Taxonomía CSETv1

Detalles de la Taxonomía

Incident Number

The number of the incident in the AI Incident Database.
 

38

Special Interest Intangible Harm

An assessment of whether a special interest intangible harm occurred. This assessment does not consider the context of the intangible harm, if an AI was involved, or if there is characterizable class or subgroup of harmed entities. It is also not assessing if an intangible harm occurred. It is only asking if a special interest intangible harm occurred.
 

no

Date of Incident Year

The year in which the incident occurred. If there are multiple harms or occurrences of the incident, list the earliest. If a precise date is unavailable, but the available sources provide a basis for estimating the year, estimate. Otherwise, leave blank. Enter in the format of YYYY
 

2016

Date of Incident Month

The month in which the incident occurred. If there are multiple harms or occurrences of the incident, list the earliest. If a precise date is unavailable, but the available sources provide a basis for estimating the month, estimate. Otherwise, leave blank. Enter in the format of MM
 

05

Date of Incident Day

The day on which the incident occurred. If a precise date is unavailable, leave blank. Enter in the format of DD
 

26

Estimated Date

“Yes” if the data was estimated. “No” otherwise.
 

No

Clasificaciones de la Taxonomía CSETv0

Detalles de la Taxonomía

Problem Nature

Indicates which, if any, of the following types of AI failure describe the incident: "Specification," i.e. the system's behavior did not align with the true intentions of its designer, operator, etc; "Robustness," i.e. the system operated unsafely because of features or changes in its environment, or in the inputs the system received; "Assurance," i.e. the system could not be adequately monitored or controlled during operation.
 

Specification

Physical System

Where relevant, indicates whether the AI system(s) was embedded into or tightly associated with specific types of hardware.
 

Software only

Level of Autonomy

The degree to which the AI system(s) functions independently from human intervention. "High" means there is no human involved in the system action execution; "Medium" means the system generates a decision and a human oversees the resulting action; "low" means the system generates decision-support output and a human makes a decision and executes an action.
 

Unclear/unknown

Nature of End User

"Expert" if users with special training or technical expertise were the ones meant to benefit from the AI system(s)’ operation; "Amateur" if the AI systems were primarily meant to benefit the general public or untrained users.
 

Amateur

Public Sector Deployment

"Yes" if the AI system(s) involved in the accident were being used by the public sector or for the administration of public goods (for example, public transportation). "No" if the system(s) were being used in the private sector or for commercial purposes (for example, a ride-sharing company), on the other.
 

No

Data Inputs

A brief description of the data that the AI system(s) used or were trained on.
 

Videogame play

Clasificaciones de la Taxonomía MIT

Machine-Classified
Detalles de la Taxonomía

Risk Subdomain

A further 23 subdomains create an accessible and understandable classification of hazards and harms associated with AI
 

7.3. Lack of capability or robustness

Risk Domain

The Domain Taxonomy of AI Risks classifies risks into seven AI risk domains: (1) Discrimination & toxicity, (2) Privacy & security, (3) Misinformation, (4) Malicious actors & misuse, (5) Human-computer interaction, (6) Socioeconomic & environmental harms, and (7) AI system safety, failures & limitations.
 
  1. AI system safety, failures, and limitations

Entity

Which, if any, entity is presented as the main cause of the risk
 

AI

Timing

The stage in the AI lifecycle at which the risk is presented as occurring
 

Post-deployment

Intent

Whether the risk is presented as occurring as an expected or unexpected outcome from pursuing a goal
 

Unintentional

Informes del Incidente

Cronología de Informes

+8
Elite: Dangerous identifica problemas con las superarmas de IA en el juego
Las 10 principales fallas de IA de 20166 errores que muestran que la IA todavía está en pañalesPrevenido significa preparado: problemas y riesgos legales y éticos relacionados con la IA
Elite: Dangerous identifica problemas con las superarmas de IA en el juego

Elite: Dangerous identifica problemas con las superarmas de IA en el juego

massivelyop.com

La última expansión de Elite: Dangerous hizo que las naves espaciales de IA crearan súper armas sin querer

La última expansión de Elite: Dangerous hizo que las naves espaciales de IA crearan súper armas sin querer

eurogamer.net

La IA de Elite creó súper armas y comenzó a cazar jugadores. Skynet está aquí

La IA de Elite creó súper armas y comenzó a cazar jugadores. Skynet está aquí

kotaku.co.uk

El parche Elite Dangerous impide que la IA desarrolle armas de destrucción masiva

El parche Elite Dangerous impide que la IA desarrolle armas de destrucción masiva

pcgamer.com

La IA de Elite creó súper armas para cazar jugadores

La IA de Elite creó súper armas para cazar jugadores

digitalspy.com

La nueva IA de Elite es tan inteligente que construyó armas que no deberían existir

La nueva IA de Elite es tan inteligente que construyó armas que no deberían existir

uploadvr.com

Un error en un videojuego hace que la IA se vuelva rebelde y comienza a destruir por completo a los jugadores

Un error en un videojuego hace que la IA se vuelva rebelde y comienza a destruir por completo a los jugadores

futurism.com

Frontier inadvertidamente impulsa a Elite: Dangerous AI a crear superarmas

Frontier inadvertidamente impulsa a Elite: Dangerous AI a crear superarmas

gamasutra.com

Las 10 principales fallas de IA de 2016

Las 10 principales fallas de IA de 2016

techrepublic.com

6 errores que muestran que la IA todavía está en pañales

6 errores que muestran que la IA todavía está en pañales

techseen.com

Prevenido significa preparado: problemas y riesgos legales y éticos relacionados con la IA

Prevenido significa preparado: problemas y riesgos legales y éticos relacionados con la IA

umbrellait.com

Elite: Dangerous identifica problemas con las superarmas de IA en el juego
massivelyop.com · 2016
Traducido por IA

El parche Elite: Dangerous más reciente tuvo algunos problemas, comenzando con el hecho de que las naves de IA estaban usando armas increíblemente poderosas que destruirían las naves de los jugadores con velocidad y furia. Fue una especie d…

La última expansión de Elite: Dangerous hizo que las naves espaciales de IA crearan súper armas sin querer
eurogamer.net · 2016
Traducido por IA

Elite: Dangerous se renovó recientemente con el lanzamiento de una gran expansión nueva. Pero una de las consecuencias no deseadas fue que hizo que las naves espaciales de IA fueran increíblemente poderosas, tan poderosas, de hecho, que el …

La IA de Elite creó súper armas y comenzó a cazar jugadores. Skynet está aquí
kotaku.co.uk · 2016
Traducido por IA

Un error en Elite Dangerous hizo que la IA del juego creara súper armas y comenzara a cazar a los jugadores del juego. El desarrollador Frontier ha tenido que eliminar la característica principal del problema, el armamento de los ingenieros…

El parche Elite Dangerous impide que la IA desarrolle armas de destrucción masiva
pcgamer.com · 2016
Traducido por IA

Elite Dangerous ha sido parcheado para evitar que los NPC deshonestos desarrollen sus propias superarmas híbridas. Para ser claros, estas no eran armas que estaban elaborando a partir de recetas: la IA estaba construyendo armas de destrucci…

La IA de Elite creó súper armas para cazar jugadores
digitalspy.com · 2016
Traducido por IA

Sarah Connor se horrorizaría al ver lo que ha estado haciendo la IA de Elite Dangerous.

Un error en el juego de Frontier Developments ha provocado que la IA cree súper armas y persiga a los jugadores, luego de la actualización 2.1 Engineers…

La nueva IA de Elite es tan inteligente que construyó armas que no deberían existir
uploadvr.com · 2016
Traducido por IA

El simulador espacial compatible con realidad virtual Elite Dangerous no es ajeno a las actualizaciones, pero la más reciente introdujo los errores más extraños.

Creator Frontier Developments presentó recientemente su actualización 2.1 Engi…

Un error en un videojuego hace que la IA se vuelva rebelde y comienza a destruir por completo a los jugadores
futurism.com · 2016
Traducido por IA

¿Skynet es real?

¿Recuerdas ese momento en la película Terminator cuando la IA de Skynet encendió a la humanidad? Bueno, ahora lo estamos probando. Aparentemente, un error en el juego Elite Dangerous ha provocado que su IA no solo desarroll…

Frontier inadvertidamente impulsa a Elite: Dangerous AI a crear superarmas
gamasutra.com · 2016
Traducido por IA

"¡No creemos que la IA se haya vuelto consciente en un levantamiento al estilo de Skynet!"

  • Zac Antonaci de Frontier Developments.

Una actualización reciente de las inteligencias artificiales en el simulador espacial multijugador Elite: Da…

Las 10 principales fallas de IA de 2016
techrepublic.com · 2016
Traducido por IA

Los desarrollos recientes en automóviles sin conductor, reconocimiento de voz y aprendizaje profundo muestran cuánto pueden hacer las máquinas. Pero la IA también nos falló en 2016, y estos son algunos de los ejemplos más importantes.

Video…

6 errores que muestran que la IA todavía está en pañales
techseen.com · 2017
Traducido por IA

Hoy, a medida que se multiplican las inteligencias artificiales, nuestros dilemas éticos son cada vez más fuertes y espinosos. Y con los casos emergentes de IA que superan su inteligencia y se comportan de maneras que los creadores humanos …

Prevenido significa preparado: problemas y riesgos legales y éticos relacionados con la IA
umbrellait.com · 2018
Traducido por IA

No siempre la implementación de la electrónica autónoma en la realidad cotidiana funciona sin problemas.

Otra noticia, que nuevamente provocó una serie de discusiones en torno a las tecnologías de IA y su realización física en la vida real:…

Variantes

Una "Variante" es un incidente que comparte los mismos factores causales, produce daños similares e involucra los mismos sistemas inteligentes que un incidente de IA conocido. En lugar de indexar las variantes como incidentes completamente separados, enumeramos las variaciones de los incidentes bajo el primer incidente similar enviado a la base de datos. A diferencia de otros tipos de envío a la base de datos de incidentes, no se requiere que las variantes tengan informes como evidencia externa a la base de datos de incidentes. Obtenga más información del trabajo de investigación.

Incidentes Similares

Por similitud de texto

Did our AI mess up? Flag the unrelated incidents

TayBot

Danger, danger! 10 alarming examples of AI gone wild

Mar 2016 · 28 informes
Wikipedia Vandalism Prevention Bot Loop

Danger, danger! 10 alarming examples of AI gone wild

Feb 2017 · 6 informes
Amazon Alexa Plays Loud Music when Owner is Away

Top 5 AI Failures From 2017 Which Prove That ‘Perfect AI’ Is Still A Dream

Nov 2017 · 4 informes
Incidente AnteriorSiguiente Incidente

Incidentes Similares

Por similitud de texto

Did our AI mess up? Flag the unrelated incidents

TayBot

Danger, danger! 10 alarming examples of AI gone wild

Mar 2016 · 28 informes
Wikipedia Vandalism Prevention Bot Loop

Danger, danger! 10 alarming examples of AI gone wild

Feb 2017 · 6 informes
Amazon Alexa Plays Loud Music when Owner is Away

Top 5 AI Failures From 2017 Which Prove That ‘Perfect AI’ Is Still A Dream

Nov 2017 · 4 informes

Investigación

  • Definición de un “Incidente de IA”
  • Definición de una “Respuesta a incidentes de IA”
  • Hoja de ruta de la base de datos
  • Trabajo relacionado
  • Descargar Base de Datos Completa

Proyecto y Comunidad

  • Acerca de
  • Contactar y Seguir
  • Aplicaciones y resúmenes
  • Guía del editor

Incidencias

  • Todos los incidentes en forma de lista
  • Incidentes marcados
  • Cola de envío
  • Vista de clasificaciones
  • Taxonomías

2023 - AI Incident Database

  • Condiciones de uso
  • Política de privacidad
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • 30ebe76