Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
Descubrir
Enviar
  • Bienvenido a la AIID
  • Descubrir Incidentes
  • Vista espacial
  • Vista Tabular
  • Vista de lista
  • Entidades
  • Taxonomías
  • Enviar Informes de Incidentes
  • Ranking de Reportadores
  • Blog
  • Resumen de noticias de IA
  • Control de Riesgos
  • Incidente aleatorio
  • Registrarse
Colapsar
Descubrir
Enviar
  • Bienvenido a la AIID
  • Descubrir Incidentes
  • Vista espacial
  • Vista Tabular
  • Vista de lista
  • Entidades
  • Taxonomías
  • Enviar Informes de Incidentes
  • Ranking de Reportadores
  • Blog
  • Resumen de noticias de IA
  • Control de Riesgos
  • Incidente aleatorio
  • Registrarse
Colapsar

Incidente 41: All Image Captions Produced are Violent

Descripción: MIT Media Lab researchers create AI-powered "psychopath" named Norman by training a model on "dark corners" of Reddit.

Herramientas

Nuevo InformeNuevo InformeNueva RespuestaNueva RespuestaDescubrirDescubrirVer HistorialVer Historial

Entidades

Ver todas las entidades
Presunto: un sistema de IA desarrollado e implementado por MIT Media Lab, perjudicó a unknown.

Estadísticas de incidentes

ID
41
Cantidad de informes
28
Fecha del Incidente
2018-04-02
Editores
Sean McGregor
Applied Taxonomies
CSETv0, CSETv1, GMF, MIT

Clasificaciones de la Taxonomía CSETv1

Detalles de la Taxonomía

Incident Number

The number of the incident in the AI Incident Database.
 

41

Clasificaciones de la Taxonomía CSETv0

Detalles de la Taxonomía

Problem Nature

Indicates which, if any, of the following types of AI failure describe the incident: "Specification," i.e. the system's behavior did not align with the true intentions of its designer, operator, etc; "Robustness," i.e. the system operated unsafely because of features or changes in its environment, or in the inputs the system received; "Assurance," i.e. the system could not be adequately monitored or controlled during operation.
 

Unknown/unclear

Physical System

Where relevant, indicates whether the AI system(s) was embedded into or tightly associated with specific types of hardware.
 

Software only

Level of Autonomy

The degree to which the AI system(s) functions independently from human intervention. "High" means there is no human involved in the system action execution; "Medium" means the system generates a decision and a human oversees the resulting action; "low" means the system generates decision-support output and a human makes a decision and executes an action.
 

High

Nature of End User

"Expert" if users with special training or technical expertise were the ones meant to benefit from the AI system(s)’ operation; "Amateur" if the AI systems were primarily meant to benefit the general public or untrained users.
 

Expert

Public Sector Deployment

"Yes" if the AI system(s) involved in the accident were being used by the public sector or for the administration of public goods (for example, public transportation). "No" if the system(s) were being used in the private sector or for commercial purposes (for example, a ride-sharing company), on the other.
 

No

Data Inputs

A brief description of the data that the AI system(s) used or were trained on.
 

Violent content from Reddit for the Norman algorithm, MSCOCO dataset for the control algorithm.

Clasificaciones de la Taxonomía MIT

Machine-Classified
Detalles de la Taxonomía

Risk Subdomain

A further 23 subdomains create an accessible and understandable classification of hazards and harms associated with AI
 

7.3. Lack of capability or robustness

Risk Domain

The Domain Taxonomy of AI Risks classifies risks into seven AI risk domains: (1) Discrimination & toxicity, (2) Privacy & security, (3) Misinformation, (4) Malicious actors & misuse, (5) Human-computer interaction, (6) Socioeconomic & environmental harms, and (7) AI system safety, failures & limitations.
 
  1. AI system safety, failures, and limitations

Entity

Which, if any, entity is presented as the main cause of the risk
 

Human

Timing

The stage in the AI lifecycle at which the risk is presented as occurring
 

Pre-deployment

Intent

Whether the risk is presented as occurring as an expected or unexpected outcome from pursuing a goal
 

Intentional

Informes del Incidente

Cronología de Informes

+1
Conoce a 'Norman', la IA más oscura y perturbada que el mundo haya visto jamás
¿Ya tienes miedo? Conoce a Norman, la IA psicópata+18
Científicos del MIT crean a Norman, la primera IA "psicópata" del mundo
+4
Los científicos han creado una IA 'psicópata' obsesionada con el asesinato llamada Norman, y aprendió todo lo que sabe de Reddit
"Norman" es la nueva IA psicopática del MITEsta es la razón por la que debes saber sobre Norman, el psicópata de la IA
Conoce a 'Norman', la IA más oscura y perturbada que el mundo haya visto jamás

Conoce a 'Norman', la IA más oscura y perturbada que el mundo haya visto jamás

livescience.com

¿Ya tienes miedo? Conoce a Norman, la IA psicópata

¿Ya tienes miedo? Conoce a Norman, la IA psicópata

bbc.co.uk

Científicos del MIT crean a Norman, la primera IA "psicópata" del mundo

Científicos del MIT crean a Norman, la primera IA "psicópata" del mundo

iflscience.com

El MIT crea un psicópata de IA porque alguien tuvo que hacerlo eventualmente

El MIT crea un psicópata de IA porque alguien tuvo que hacerlo eventualmente

geek.com

Norman, la IA psicópata, advierte sobre datos sesgados

Norman, la IA psicópata, advierte sobre datos sesgados

internetofbusiness.com

El MIT crea un psicópata alimentado por IA llamado 'Norman'

El MIT crea un psicópata alimentado por IA llamado 'Norman'

extremetech.com

Norman Bates, una IA 'psicópata' creada por el MIT, fue entrenada estudiando publicaciones de reddit de "muertes espantosas".

Norman Bates, una IA 'psicópata' creada por el MIT, fue entrenada estudiando publicaciones de reddit de "muertes espantosas".

reddit.com

MIT crea una IA psicópata llamada Norman, porque ¿por qué no?

MIT crea una IA psicópata llamada Norman, porque ¿por qué no?

analyticsindiamag.com

El MIT entrena al robot psicópata 'Norman' usando solo horribles imágenes de Reddit

El MIT entrena al robot psicópata 'Norman' usando solo horribles imágenes de Reddit

newsweek.com

Conoce a Norman, la primera IA 'psicópata' del mundo

Conoce a Norman, la primera IA 'psicópata' del mundo

zdnet.com

Científicos del MIT crean una IA "psicópata" llamada Norman

Científicos del MIT crean una IA "psicópata" llamada Norman

fortune.com

Investigadores del MIT usan Reddit para crear la primera "IA psicópata"

Investigadores del MIT usan Reddit para crear la primera "IA psicópata"

cnet.com

Científicos del MIT crearon un 'psicópata' impulsado por IA llamado Norman

Científicos del MIT crearon un 'psicópata' impulsado por IA llamado Norman

money.cnn.com

MIT alimentó datos de IA de Reddit, y ahora solo piensa en asesinatos

MIT alimentó datos de IA de Reddit, y ahora solo piensa en asesinatos

theverge.com

La 'IA psicópata' ofrece una advertencia para los tecnólogos

La 'IA psicópata' ofrece una advertencia para los tecnólogos

blogs.discovermagazine.com

Psycho Norman AI del MIT demuestra que Reddit puede volverte loco

Psycho Norman AI del MIT demuestra que Reddit puede volverte loco

hothardware.com

Los científicos del MIT crearon una IA "psicópata" alimentándola con contenido violento de Reddit

Los científicos del MIT crearon una IA "psicópata" alimentándola con contenido violento de Reddit

news.avclub.com

Científicos del MIT presentan la primera IA psicópata, 'Norman'

Científicos del MIT presentan la primera IA psicópata, 'Norman'

rollingstone.com

El MIT entrenó a un I.A. Con Reddit, y se convirtió en un psicópata

El MIT entrenó a un I.A. Con Reddit, y se convirtió en un psicópata

digitaltrends.com

Preguntamos a los investigadores del MIT por qué crearon una 'IA psicótica' que solo ve la muerte

Preguntamos a los investigadores del MIT por qué crearon una 'IA psicótica' que solo ve la muerte

motherboard.vice.com

Conoce a Norman, la 'IA psicópata' que está aquí para enseñarnos una lección

Conoce a Norman, la 'IA psicópata' que está aquí para enseñarnos una lección

independent.co.uk

Los científicos han creado una IA 'psicópata' obsesionada con el asesinato llamada Norman, y aprendió todo lo que sabe de Reddit

Los científicos han creado una IA 'psicópata' obsesionada con el asesinato llamada Norman, y aprendió todo lo que sabe de Reddit

businessinsider.com.au

Los científicos crearon una IA psicopática basada en Reddit

Los científicos crearon una IA psicopática basada en Reddit

popularmechanics.com

Conoce a Norman, la primera IA psicópata del mundo

Conoce a Norman, la primera IA psicópata del mundo

livemint.com

'Norman', cuando la inteligencia artificial se vuelve psicópata

'Norman', cuando la inteligencia artificial se vuelve psicópata

phys.org

Conoce a Norman: la primera 'inteligencia artificial psicopática' del mundo presentada por el MIT

Conoce a Norman: la primera 'inteligencia artificial psicopática' del mundo presentada por el MIT

news.sky.com

"Norman" es la nueva IA psicopática del MIT

"Norman" es la nueva IA psicopática del MIT

curiosity.com

Esta es la razón por la que debes saber sobre Norman, el psicópata de la IA

Esta es la razón por la que debes saber sobre Norman, el psicópata de la IA

inc.com

Conoce a 'Norman', la IA más oscura y perturbada que el mundo haya visto jamás
livescience.com · 2018
Traducido por IA

Una red neuronal llamada "Norman" es inquietantemente diferente de otros tipos de inteligencia artificial (IA).

Ubicado en MIT Media Lab, un laboratorio de investigación que investiga la IA y el aprendizaje automático, el cerebro informátic…

¿Ya tienes miedo? Conoce a Norman, la IA psicópata
bbc.co.uk · 2018
Traducido por IA

Derechos de autor de la imagen MIT Image caption Norman lleva el nombre de Norman Bates de Alfred Hitchcock en su clásica película de terror Psycho.

Norman es un algoritmo entrenado para comprender imágenes pero, como su homónimo Norman Bat…

Científicos del MIT crean a Norman, la primera IA "psicópata" del mundo
iflscience.com · 2018
Traducido por IA

Un equipo de científicos del Instituto Tecnológico de Massachusetts (MIT) ha construido una IA psicópata utilizando leyendas de imágenes extraídas de Reddit. Ah, y lo llamaron Norman en honor al Norman Bates de Alfred Hitchcock. Así es como…

El MIT crea un psicópata de IA porque alguien tuvo que hacerlo eventualmente
geek.com · 2018
Traducido por IA

En uno de los grandes números musicales de The Life Of Brian, Eric Idle nos recuerda que “siempre miremos el lado positivo de la vida”. Norman, un nuevo proyecto de inteligencia artificial del MIT, no sabe cómo hacerlo.

Eso es porque Norman…

Norman, la IA psicópata, advierte sobre datos sesgados
internetofbusiness.com · 2018
Traducido por IA

Mucha gente está preocupada por el aumento potencial de la IA maligna, y los periódicos del Reino Unido, en particular, están preocupados por el escenario 'Terminator' de máquinas que son hostiles a la humanidad.

Los investigadores del MIT …

El MIT crea un psicópata alimentado por IA llamado 'Norman'
extremetech.com · 2018
Traducido por IA

Los investigadores de inteligencia artificial hasta ahora han intentado crear algoritmos completos que puedan ser útiles para la humanidad. Sin embargo, un equipo del MIT ha emprendido un proyecto para hacer exactamente lo contrario. Invest…

Norman Bates, una IA 'psicópata' creada por el MIT, fue entrenada estudiando publicaciones de reddit de "muertes espantosas".
reddit.com · 2018
Traducido por IA

Aprecio lo que el MIT ha hecho aquí. Sin embargo, el trabajo descrito en el artículo es inútil, engañoso o ambos. Todos los métodos de entrenamiento que he encontrado en la literatura no mantienen ningún tipo de medida de la información mut…

MIT crea una IA psicópata llamada Norman, porque ¿por qué no?
analyticsindiamag.com · 2018
Traducido por IA

El sitio web del Instituto de Tecnología de Massachusets para Norman, la primera IA psicópata del mundo, es extrañamente alegre y optimista. Una espeluznante combinación de Norman Bates (de la película Psicópata de Alfred Hitchcock de 1960)…

El MIT entrena al robot psicópata 'Norman' usando solo horribles imágenes de Reddit
newsweek.com · 2018
Traducido por IA

Científicos del Instituto Tecnológico de Massachusetts (MIT) entrenaron un algoritmo de inteligencia artificial llamado "Norman" para convertirse en un psicópata solo exponiéndolo a macabras imágenes de muertes y violencia espantosas en Red…

Conoce a Norman, la primera IA 'psicópata' del mundo
zdnet.com · 2018
Traducido por IA

Norman: la inteligencia artificial del MIT con rasgos psicópatas El experimento se basa en la prueba de Rorschach de 1921, que identifica los rasgos psicópatas en función de la percepción de las manchas de tinta por parte de los usuarios.

I…

Científicos del MIT crean una IA "psicópata" llamada Norman
fortune.com · 2018
Traducido por IA

El nuevo algoritmo de inteligencia artificial de los científicos del MIT dio a luz a un "psicópata" llamado Norman.

Los científicos, Pinar Yanardag, Manuel Cebrian e Iyad Rahwan, expusieron a AI Norman, llamado así por el personaje de Antho…

Investigadores del MIT usan Reddit para crear la primera "IA psicópata"
cnet.com · 2018
Traducido por IA

Laboratorio de medios del MIT

Conoce a Norman.

Él no es tu IA de todos los días. Sus algoritmos no ayudarán a filtrar tu feed de Facebook ni te recomendarán nuevas canciones para escuchar en Spotify.

No. Norman es una "IA psicópata", creada…

Científicos del MIT crearon un 'psicópata' impulsado por IA llamado Norman
money.cnn.com · 2018
Traducido por IA

Norman siempre ve lo peor de las cosas.

Eso es porque Norman es un "psicópata" impulsado por inteligencia artificial y desarrollado por el MIT Media Lab.

Norman es un algoritmo destinado a mostrar cómo los datos detrás de la IA son muy impo…

MIT alimentó datos de IA de Reddit, y ahora solo piensa en asesinatos
theverge.com · 2018
Traducido por IA

Para algunos, la frase "inteligencia artificial" evoca visiones de pesadilla, algo sacado de la película de Will Smith de 2004 I, Robot, tal vez, o el final de Ex Machina, como una bota que atraviesa el cristal de la pantalla de una computa…

La 'IA psicópata' ofrece una advertencia para los tecnólogos
blogs.discovermagazine.com · 2018
Traducido por IA

Investigadores del MIT han creado un psicópata. Lo llaman normando. Él es una computadora. En realidad, eso no es realmente correcto. Aunque el equipo llama a Norman un psicópata (y el escalofriante gráfico principal en su página de inicio …

Psycho Norman AI del MIT demuestra que Reddit puede volverte loco
hothardware.com · 2018
Traducido por IA

El MIT ha creado una nueva IA que esperamos sinceramente que nunca escape a la naturaleza, porque así ES como obtienes Skynet. Esta IA se llama Norman y es un psicópata. ¿Cómo se convirtió Norman en un psicópata? Todos los datos de imágenes…

Los científicos del MIT crearon una IA "psicópata" alimentándola con contenido violento de Reddit
news.avclub.com · 2018
Traducido por IA

Foto: Matt Cardy (imágenes falsas)

Todos hemos visto máquinas malvadas en Terminator o Matrix, pero ¿cómo se vuelve malvada una máquina? ¿Es como el Proyecto Satán de Futurama, donde los científicos combinaron partes de varios autos malvado…

Científicos del MIT presentan la primera IA psicópata, 'Norman'
rollingstone.com · 2018
Traducido por IA

Científicos del Instituto Tecnológico de Massachusetts dieron a conocer el primer algoritmo de inteligencia artificial entrenado para ser un psicópata. La IA fue apodada apropiadamente "Norman" en honor a Norman Bates, el notorio asesino en…

El MIT entrenó a un I.A. Con Reddit, y se convirtió en un psicópata
digitaltrends.com · 2018
Traducido por IA

Cuota

La ciencia ficción nos ha dado muchas I.A. malévolas e icónicas. caracteres. Sin embargo, a menudo se trata de figuras como Terminator's T-800 o Alien's Ash que cometen asesinatos sin emociones para perseguir un objetivo final. Aquell…

Preguntamos a los investigadores del MIT por qué crearon una 'IA psicótica' que solo ve la muerte
motherboard.vice.com · 2018
Traducido por IA

Los investigadores del MIT crearon una inteligencia artificial a la que llaman "psicopática" para mostrar los sesgos que son inherentes a la investigación de la IA. Cuando se le pide que mire las manchas de la prueba de Rorschach, "Norman" …

Conoce a Norman, la 'IA psicópata' que está aquí para enseñarnos una lección
independent.co.uk · 2018
Traducido por IA

El desarrollo de la inteligencia artificial, advirtió una vez Stephen Hawking, será "o lo mejor o lo peor que le haya pasado a la humanidad". Un nuevo algoritmo de IA expuesto a los rincones más macabros de Internet demuestra cómo podríamos…

Los científicos han creado una IA 'psicópata' obsesionada con el asesinato llamada Norman, y aprendió todo lo que sabe de Reddit
businessinsider.com.au · 2018
Traducido por IA

Investigadores del MIT han programado una IA utilizando exclusivamente contenido violento y espantoso de Reddit.

Lo llamaron "Norman".

Como resultado, Norman solo ve la muerte en todo.

Esta no es la primera vez que Internet oscurece una IA;…

Los científicos crearon una IA psicopática basada en Reddit
popularmechanics.com · 2018
Traducido por IA

Científicos del MIT han creado un psicópata de IA entrenado con imágenes de un hilo particularmente inquietante en Reddit. Norman está diseñado para ilustrar que los datos utilizados para el aprendizaje automático pueden afectar significati…

Conoce a Norman, la primera IA psicópata del mundo
livemint.com · 2018
Traducido por IA

La Inteligencia Artificial (IA) está resolviendo muchos problemas para los humanos. Pero, como dijo el CEO de Google, Sundar Pichai, en el manifiesto de la compañía para la IA, una tecnología tan poderosa "plantea preguntas igualmente poder…

'Norman', cuando la inteligencia artificial se vuelve psicópata
phys.org · 2018
Traducido por IA

Investigadores del MIT han creado 'Norman', la primera inteligencia artificial psicópata para explicar cómo se fabrican los algoritmos y concienciar a las personas sobre los peligros potenciales de la IA

No, no es una nueva película de terr…

Conoce a Norman: la primera 'inteligencia artificial psicopática' del mundo presentada por el MIT
news.sky.com · 2018
Traducido por IA

Conoce a Norman: la primera 'inteligencia artificial psicopática' del mundo presentada por el MIT

Conoce a Norman: la primera 'inteligencia artificial psicopática' del mundo presentada por el MIT

Comparte su nombre con el asesino que empuña…

"Norman" es la nueva IA psicopática del MIT
curiosity.com · 2018
Traducido por IA

Este experimento con Norman muestra que no importa cuán riguroso sea el algoritmo real si está sobreexpuesto a contenido dañino. Los algoritmos como pymetrics en realidad tienen un efecto beneficioso, pero es vital que sean revisados por un…

Esta es la razón por la que debes saber sobre Norman, el psicópata de la IA
inc.com · 2018
Traducido por IA

Puedes aprender mucho de un psicópata, y ni siquiera tienes que ver "Mindhunter" de Netflix para hacerlo. Solo necesita estudiar a Norman, el psicópata de inteligencia artificial llamado acertadamente por la figura fundamental en "Psicosis"…

Variantes

Una "Variante" es un incidente que comparte los mismos factores causales, produce daños similares e involucra los mismos sistemas inteligentes que un incidente de IA conocido. En lugar de indexar las variantes como incidentes completamente separados, enumeramos las variaciones de los incidentes bajo el primer incidente similar enviado a la base de datos. A diferencia de otros tipos de envío a la base de datos de incidentes, no se requiere que las variantes tengan informes como evidencia externa a la base de datos de incidentes. Obtenga más información del trabajo de investigación.

Incidentes Similares

Por similitud de texto

Did our AI mess up? Flag the unrelated incidents

Deepfake Obama Introduction of Deepfakes

Fake Obama created using AI tool to make phoney speeches

Jul 2017 · 29 informes
TayBot

Danger, danger! 10 alarming examples of AI gone wild

Mar 2016 · 28 informes
AI Beauty Judge Did Not Like Dark Skin

A beauty contest was judged by AI and the robots didn't like dark skin

Sep 2016 · 10 informes
Incidente AnteriorSiguiente Incidente

Incidentes Similares

Por similitud de texto

Did our AI mess up? Flag the unrelated incidents

Deepfake Obama Introduction of Deepfakes

Fake Obama created using AI tool to make phoney speeches

Jul 2017 · 29 informes
TayBot

Danger, danger! 10 alarming examples of AI gone wild

Mar 2016 · 28 informes
AI Beauty Judge Did Not Like Dark Skin

A beauty contest was judged by AI and the robots didn't like dark skin

Sep 2016 · 10 informes

Investigación

  • Definición de un “Incidente de IA”
  • Definición de una “Respuesta a incidentes de IA”
  • Hoja de ruta de la base de datos
  • Trabajo relacionado
  • Descargar Base de Datos Completa

Proyecto y Comunidad

  • Acerca de
  • Contactar y Seguir
  • Aplicaciones y resúmenes
  • Guía del editor

Incidencias

  • Todos los incidentes en forma de lista
  • Incidentes marcados
  • Cola de envío
  • Vista de clasificaciones
  • Taxonomías

2023 - AI Incident Database

  • Condiciones de uso
  • Política de privacidad
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • 30ebe76