Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
Descubrir
Enviar
  • Bienvenido a la AIID
  • Descubrir Incidentes
  • Vista espacial
  • Vista Tabular
  • Vista de lista
  • Entidades
  • Taxonomías
  • Enviar Informes de Incidentes
  • Ranking de Reportadores
  • Blog
  • Resumen de noticias de IA
  • Control de Riesgos
  • Incidente aleatorio
  • Registrarse
Colapsar
Descubrir
Enviar
  • Bienvenido a la AIID
  • Descubrir Incidentes
  • Vista espacial
  • Vista Tabular
  • Vista de lista
  • Entidades
  • Taxonomías
  • Enviar Informes de Incidentes
  • Ranking de Reportadores
  • Blog
  • Resumen de noticias de IA
  • Control de Riesgos
  • Incidente aleatorio
  • Registrarse
Colapsar

Incidente 39: Deepfake Obama Introduction of Deepfakes

Descripción: University of Washington researchers made a deepfake of Obama, followed by Jordan Peele

Herramientas

Nuevo InformeNuevo InformeNueva RespuestaNueva RespuestaDescubrirDescubrirVer HistorialVer Historial

Entidades

Ver todas las entidades
Presunto: un sistema de IA desarrollado e implementado por University of Washington y FakeApp, perjudicó a Barack Obama.

Estadísticas de incidentes

ID
39
Cantidad de informes
29
Fecha del Incidente
2017-07-01
Editores
Sean McGregor
Applied Taxonomies
GMF, CSETv0, CSETv1, MIT

Clasificaciones de la Taxonomía CSETv1

Detalles de la Taxonomía

Incident Number

The number of the incident in the AI Incident Database.
 

39

Notes (special interest intangible harm)

Input any notes that may help explain your answers.
 

4.4 - Technically, misinformation was involved because the deepfakes portrayed Barack Obama saying things he never actually said. However, it did not result in or cause harm.

Special Interest Intangible Harm

An assessment of whether a special interest intangible harm occurred. This assessment does not consider the context of the intangible harm, if an AI was involved, or if there is characterizable class or subgroup of harmed entities. It is also not assessing if an intangible harm occurred. It is only asking if a special interest intangible harm occurred.
 

no

Clasificaciones de la Taxonomía GMF

Detalles de la Taxonomía

Known AI Goal Snippets

One or more snippets that justify the classification.
 

(Snippet Text: The researchers used 14 hours of Obama's weekly address videos to train a neural network. Once trained, their system was then able to take an audio clip from the former president, create mouth shapes that synced with the audio and then synthesize a realistic looking mouth that matched Obama's. , Related Classifications: Deepfake Video Generation)

Clasificaciones de la Taxonomía CSETv0

Detalles de la Taxonomía

Problem Nature

Indicates which, if any, of the following types of AI failure describe the incident: "Specification," i.e. the system's behavior did not align with the true intentions of its designer, operator, etc; "Robustness," i.e. the system operated unsafely because of features or changes in its environment, or in the inputs the system received; "Assurance," i.e. the system could not be adequately monitored or controlled during operation.
 

Unknown/unclear

Physical System

Where relevant, indicates whether the AI system(s) was embedded into or tightly associated with specific types of hardware.
 

Software only

Level of Autonomy

The degree to which the AI system(s) functions independently from human intervention. "High" means there is no human involved in the system action execution; "Medium" means the system generates a decision and a human oversees the resulting action; "low" means the system generates decision-support output and a human makes a decision and executes an action.
 

Unclear/unknown

Nature of End User

"Expert" if users with special training or technical expertise were the ones meant to benefit from the AI system(s)’ operation; "Amateur" if the AI systems were primarily meant to benefit the general public or untrained users.
 

Amateur

Public Sector Deployment

"Yes" if the AI system(s) involved in the accident were being used by the public sector or for the administration of public goods (for example, public transportation). "No" if the system(s) were being used in the private sector or for commercial purposes (for example, a ride-sharing company), on the other.
 

No

Data Inputs

A brief description of the data that the AI system(s) used or were trained on.
 

14 hours of footage from Obama's public statements and addresses (2017), Jordan Peele's voice and lip movements (2018)

Clasificaciones de la Taxonomía MIT

Machine-Classified
Detalles de la Taxonomía

Risk Subdomain

A further 23 subdomains create an accessible and understandable classification of hazards and harms associated with AI
 

3.1. False or misleading information

Risk Domain

The Domain Taxonomy of AI Risks classifies risks into seven AI risk domains: (1) Discrimination & toxicity, (2) Privacy & security, (3) Misinformation, (4) Malicious actors & misuse, (5) Human-computer interaction, (6) Socioeconomic & environmental harms, and (7) AI system safety, failures & limitations.
 
  1. Misinformation

Entity

Which, if any, entity is presented as the main cause of the risk
 

Human

Timing

The stage in the AI lifecycle at which the risk is presented as occurring
 

Pre-deployment

Intent

Whether the risk is presented as occurring as an expected or unexpected outcome from pursuing a goal
 

Intentional

Informes del Incidente

Cronología de Informes

+6
AI crea un falso Obama
+5
Falso Obama creado usando herramienta de inteligencia artificial para hacer discursos falsos
Cómo sintetizar un video falso de Obama con redes neuronales artificiales'Deep fakes': cómo saber qué es verdad en la era de los videos falsos de Obama+2
Jordan Peele utiliza IA para crear anuncios de servicio público de noticias falsas con Obama
+6
Este video de IA de Barack Obama es el inquietante futuro de las noticias falsas
Barack Obama sobre cómo la IA afectará los empleosAsesor tecnológico de Obama: Se acabó la diversión para el video 'Deep Fake' impulsado por IALas IA crearon nuestra distopía de video falso, pero ahora podrían ayudar a solucionarloLa nueva tecnología de IA llama la atención en la manipulación de videoCómo las 'falsificaciones profundas' se volvieron fáciles y por qué dan tanto miedo
AI crea un falso Obama

AI crea un falso Obama

spectrum.ieee.org

Investigadores hacen un video artificial sorprendentemente fluido de Obama

Investigadores hacen un video artificial sorprendentemente fluido de Obama

engadget.com

La sincronización de labios impulsada por IA crea al maestro de marionetas de Obama iniciando una nueva era en videos de noticias falsas

La sincronización de labios impulsada por IA crea al maestro de marionetas de Obama iniciando una nueva era en videos de noticias falsas

hothardware.com

La IA de edición de video crea videos falsos de Obama que parecen reales

La IA de edición de video crea videos falsos de Obama que parecen reales

siliconangle.com

Un loco video de falsificación realista de Barack Obama fue generado por una IA de sincronización de labios

Un loco video de falsificación realista de Barack Obama fue generado por una IA de sincronización de labios

digitaltrends.com

Software de video de IA aterradoramente realista pone palabras en la boca de Obama

Software de video de IA aterradoramente realista pone palabras en la boca de Obama

sciencealert.com

Falso Obama creado usando herramienta de inteligencia artificial para hacer discursos falsos

Falso Obama creado usando herramienta de inteligencia artificial para hacer discursos falsos

bbc.com

Los investigadores han descubierto cómo falsificar videos de noticias con IA

Los investigadores han descubierto cómo falsificar videos de noticias con IA

qz.com

Falso discurso de Obama creado con inteligencia artificial

Falso discurso de Obama creado con inteligencia artificial

stuff.co.nz

Esta IA puede crear un video de Barack Obama diciendo cualquier cosa

Esta IA puede crear un video de Barack Obama diciendo cualquier cosa

weforum.org

Herramienta de inteligencia artificial genera discursos falsos del presidente Obama

Herramienta de inteligencia artificial genera discursos falsos del presidente Obama

thedrum.com

El futuro de las fake news: no creas todo lo que lees, ves o escuchas

El futuro de las fake news: no creas todo lo que lees, ves o escuchas

theguardian.com

Cómo sintetizar un video falso de Obama con redes neuronales artificiales

Cómo sintetizar un video falso de Obama con redes neuronales artificiales

thenewstack.io

'Deep fakes': cómo saber qué es verdad en la era de los videos falsos de Obama

'Deep fakes': cómo saber qué es verdad en la era de los videos falsos de Obama

abc.net.au

Jordan Peele utiliza IA para crear anuncios de servicio público de noticias falsas con Obama

Jordan Peele utiliza IA para crear anuncios de servicio público de noticias falsas con Obama

dailydot.com

Jordan Peele convierte a Obama en un PSA malhablado de noticias falsas

Jordan Peele convierte a Obama en un PSA malhablado de noticias falsas

cnet.com

Mira a Jordan Peele usar IA para hacer que Barack Obama entregue un anuncio de servicio público sobre noticias falsas

Mira a Jordan Peele usar IA para hacer que Barack Obama entregue un anuncio de servicio público sobre noticias falsas

theverge.com

Este video de IA de Barack Obama es el inquietante futuro de las noticias falsas

Este video de IA de Barack Obama es el inquietante futuro de las noticias falsas

notebookcheck.net

El video de noticias falsas de Barack Obama destaca los peligros de la IA

El video de noticias falsas de Barack Obama destaca los peligros de la IA

washingtontimes.com

Mira a Jordan Peele usar IA para hacer que Obama hable sobre noticias falsas

Mira a Jordan Peele usar IA para hacer que Obama hable sobre noticias falsas

siliconrepublic.com

El espeluznante video de "Barack Obama" muestra lo fácil que es manipular lo que dice la gente [video]

El espeluznante video de "Barack Obama" muestra lo fácil que es manipular lo que dice la gente [video]

thesouthafrican.com

Jordan Peele hizo un video falso de Obama para demostrar cuán fácilmente nos engañan

Jordan Peele hizo un video falso de Obama para demostrar cuán fácilmente nos engañan

gq.com

Jordan Peele advierte sobre la "distopía jodida" que usa IA para hacer un video falso de Obama

Jordan Peele advierte sobre la "distopía jodida" que usa IA para hacer un video falso de Obama

geek.com

AI. Video que muestra a Barack Obama muestra los peligros de las noticias falsas

AI. Video que muestra a Barack Obama muestra los peligros de las noticias falsas

blackenterprise.com

Barack Obama sobre cómo la IA afectará los empleos

Barack Obama sobre cómo la IA afectará los empleos

etftrends.com

Asesor tecnológico de Obama: Se acabó la diversión para el video 'Deep Fake' impulsado por IA

Asesor tecnológico de Obama: Se acabó la diversión para el video 'Deep Fake' impulsado por IA

computerworld.com.au

Las IA crearon nuestra distopía de video falso, pero ahora podrían ayudar a solucionarlo

Las IA crearon nuestra distopía de video falso, pero ahora podrían ayudar a solucionarlo

wired.co.uk

La nueva tecnología de IA llama la atención en la manipulación de video

La nueva tecnología de IA llama la atención en la manipulación de video

singularityhub.com

Cómo las 'falsificaciones profundas' se volvieron fáciles y por qué dan tanto miedo

Cómo las 'falsificaciones profundas' se volvieron fáciles y por qué dan tanto miedo

fortune.com

AI crea un falso Obama
spectrum.ieee.org · 2017
Traducido por IA

Foto: Universidad de Washington.

El software de inteligencia artificial podría generar videos falsos altamente realistas del expresidente Barack Obama utilizando clips de audio y video existentes de él, según encuentra un nuevo estudio [PDF…

Investigadores hacen un video artificial sorprendentemente fluido de Obama
engadget.com · 2017
Traducido por IA

Los investigadores utilizaron 14 horas de videos de discursos semanales de Obama para entrenar una red neuronal. Una vez entrenado, su sistema pudo tomar un clip de audio del ex presidente, crear formas de boca que se sincronizaron con el a…

La sincronización de labios impulsada por IA crea al maestro de marionetas de Obama iniciando una nueva era en videos de noticias falsas
hothardware.com · 2017
Traducido por IA

Muchos de nosotros hemos tenido que prestar atención a la advertencia de "No pongas palabras en mi boca" en algún momento de nuestras vidas, pero en general, nadie lo dice en un sentido literal. Sin embargo, con el tiempo, gracias al aprend…

La IA de edición de video crea videos falsos de Obama que parecen reales
siliconangle.com · 2017
Traducido por IA

En un mundo posterior a Photoshop, la mayoría de nosotros sabemos que no siempre se puede confiar en las imágenes. Ahora, gracias a la inteligencia artificial, parece que el video también podría mentirnos.

Investigadores de la Universidad d…

Un loco video de falsificación realista de Barack Obama fue generado por una IA de sincronización de labios
digitaltrends.com · 2017
Traducido por IA

Bueno, ¡sentimos decirte que las cosas están a punto de empeorar mucho, mucho!

Al menos, eso se basa en una demostración francamente loca de inteligencia artificial realizada por científicos informáticos de la Universidad de Washington. Usa…

Software de video de IA aterradoramente realista pone palabras en la boca de Obama
sciencealert.com · 2017
Traducido por IA

Los investigadores han desarrollado una nueva herramienta, impulsada por inteligencia artificial, que puede crear videos de discursos de aspecto realista a partir de cualquier clip de audio, y han demostrado la tecnología sintetizando cuatr…

Falso Obama creado usando herramienta de inteligencia artificial para hacer discursos falsos
bbc.com · 2017
Traducido por IA

Investigadores de la Universidad de Washington han producido un expresidente estadounidense Barack Obama fotorrealista.

Se utilizó inteligencia artificial para modelar con precisión cómo Obama mueve la boca cuando habla.

Su técnica les perm…

Los investigadores han descubierto cómo falsificar videos de noticias con IA
qz.com · 2017
Traducido por IA

Si pensabas que la difusión desenfrenada de noticias falsas basadas en texto era tan mala como podía ser, piénsalo de nuevo. Generar videos de noticias falsas que no se pueden distinguir de los reales es cada vez más fácil.

Un equipo de cie…

Falso discurso de Obama creado con inteligencia artificial
stuff.co.nz · 2017
Traducido por IA

Se ha creado un programa de computadora que puede editar videos de personas hablando para que parezca que han dicho algo cuando no es así.

Investigadores de la Universidad de Washington produjeron un video realista del expresidente estadoun…

Esta IA puede crear un video de Barack Obama diciendo cualquier cosa
weforum.org · 2017
Traducido por IA

En una noticia que ha hecho que los bromistas de todo el mundo presten atención, ahora hay un programa de computadora que puede crear un video simulado realista de alguien hablando.

Investigadores de la Universidad de Washington demostraron…

Herramienta de inteligencia artificial genera discursos falsos del presidente Obama
thedrum.com · 2017
Traducido por IA

Puede que ya no sea presidente de la Casa Blanca pero el expresidente estadounidense Barack Obama sigue dando algunos discursos presidenciales, aunque no todo es lo que parece.

A pesar de verse y sonar exactamente igual que el verdadero, el…

El futuro de las fake news: no creas todo lo que lees, ves o escuchas
theguardian.com · 2017
Traducido por IA

Una nueva generación de herramientas de manipulación de video y audio permite la creación de imágenes de noticias de aspecto realista, como el ahora infame discurso falso de Obama.

En una era de Photoshop, filtros y redes sociales, muchos d…

Cómo sintetizar un video falso de Obama con redes neuronales artificiales
thenewstack.io · 2017
Traducido por IA

Parece que hoy en día, no pasa un día sin que alguien proclame "noticias falsas", esa frase ahora infame que saltó a la fama durante las últimas elecciones estadounidenses y ahora se está difundiendo hasta la saciedad.

Pero como sabe cualqu…

'Deep fakes': cómo saber qué es verdad en la era de los videos falsos de Obama
abc.net.au · 2018
Traducido por IA

Una red neuronal entrenada con horas de metraje para producir este video del presidente Barack Obama sincronizando los labios.

Siempre comienza con la pornografía.

¿Qué reveló por primera vez el poder de Internet para distribuir información…

Jordan Peele utiliza IA para crear anuncios de servicio público de noticias falsas con Obama
dailydot.com · 2018
Traducido por IA

Las noticias falsas vienen en todas las formas y tamaños y, lamentablemente, cada vez es más difícil detectarlas a medida que avanza la tecnología. Cortesía del director de BuzzFeed y Get Out, Jordan Peele, ahora tenemos una idea apropiadam…

Jordan Peele convierte a Obama en un PSA malhablado de noticias falsas
cnet.com · 2018
Traducido por IA

Comienza con un título clickbait: "¡No creerás lo que dice Obama en este video!" - y luego cumple esa promesa.

Buzzfeed publicó un video el martes que al principio parece mostrar al expresidente de Estados Unidos, Barack Obama, dando una ad…

Mira a Jordan Peele usar IA para hacer que Barack Obama entregue un anuncio de servicio público sobre noticias falsas
theverge.com · 2018
Traducido por IA

¿Cómo es el futuro de las noticias falsas? Nadie lo sabe realmente, pero aquí hay una pequeña muestra de Jordan Peele y BuzzFeed, quienes se unieron para hacer el anuncio de servicio público anterior. Usando algunas de las últimas técnicas …

Este video de IA de Barack Obama es el inquietante futuro de las noticias falsas
notebookcheck.net · 2018
Traducido por IA

Un ejercicio de creación de un video falso humorístico de Barack Obama es en realidad un anticipo inquietante de cómo se puede usar la IA para manipular a la gente común. Irónicamente, resulta que la IA también podría ser nuestro salvador d…

El video de noticias falsas de Barack Obama destaca los peligros de la IA
washingtontimes.com · 2018
Traducido por IA

ANÁLISIS/OPINIÓN:

Noticias falsas, conozca la inteligencia artificial.

Un video creado por el cineasta ganador del Oscar Jordan Peele y publicado por BuzzFeed parece mostrar a Barack Obama haciendo referencia a la película “Black Panther”, …

Mira a Jordan Peele usar IA para hacer que Obama hable sobre noticias falsas
siliconrepublic.com · 2018
Traducido por IA

La tecnología ha asombrado y asustado a la gente en igual medida, pero un nuevo video destaca cuán influyente se ha vuelto la IA en los informes de noticias.

No hace mucho, y aún hoy, la autenticidad de una noticia se basaba en proporcionar…

El espeluznante video de "Barack Obama" muestra lo fácil que es manipular lo que dice la gente [video]
thesouthafrican.com · 2018
Traducido por IA

Vivimos tiempos locos, donde las #FakeNews y la recopilación de datos están moldeando cada vez más el discurso.

Las revelaciones de Cambridge Analytica han arrojado algo de luz sobre cuán profundo es el agujero del conejo.

Según el New York…

Jordan Peele hizo un video falso de Obama para demostrar cuán fácilmente nos engañan
gq.com · 2018
Traducido por IA

Si tú, como yo, crees que eres un consumidor escrupuloso de noticias, lleno de sano escepticismo y demasiado inteligente para esas tonterías de noticias falsas, Jordan Peele tiene una taza grande y rígida de despertador para tú. Ayer, Peele…

Jordan Peele advierte sobre la "distopía jodida" que usa IA para hacer un video falso de Obama
geek.com · 2018
Traducido por IA

El problema con la realidad es que discernir lo que realmente es puede requerir una enorme cantidad de trabajo. Tome la ciencia, por ejemplo. En realidad, hay datos bastante consistentes sobre qué tipo de alimentos debería comer la mayoría,…

AI. Video que muestra a Barack Obama muestra los peligros de las noticias falsas
blackenterprise.com · 2018
Traducido por IA

Hay un video que circula en línea en el que el expresidente Barack Obama respalda los esfuerzos de Erik Killmonger en Black Panther, ofrece una opinión controvertida sobre el secretario de HUD, Ben Carson, y califica al presidente Donald Tr…

Barack Obama sobre cómo la IA afectará los empleos
etftrends.com · 2018
Traducido por IA

¿Cómo afectará la inteligencia artificial a los puestos de trabajo?

Escuchemos a Barack Obama sobre el futuro del mundo.

Para obtener más información, consulte: 10 datos clave sobre robótica que necesita saber y 10 formas en que la robótica…

Asesor tecnológico de Obama: Se acabó la diversión para el video 'Deep Fake' impulsado por IA
computerworld.com.au · 2018
Traducido por IA

“Todo esto es diversión, comedia nocturna y videojuegos, hasta que deja de serlo”, dice el exasesor principal de la Casa Blanca, David Edelman.

David Edelman, exasesor especial de los presidentes Bush y Obama en tecnología y seguridad ciber…

Las IA crearon nuestra distopía de video falso, pero ahora podrían ayudar a solucionarlo
wired.co.uk · 2018
Traducido por IA

rami niemi

“El presidente Trump es un idiota completo y total”. Así lo anunció Barack Obama, en un video difundido en YouTube a principios de este año. Atípico, ciertamente, pero parecía muy real. Sin embargo, era un video falsificado hecho…

La nueva tecnología de IA llama la atención en la manipulación de video
singularityhub.com · 2018
Traducido por IA

Una nueva técnica que usa inteligencia artificial para manipular contenido de video le da un nuevo significado a la expresión "cabeza parlante".

Un equipo internacional de investigadores mostró el último avance en la síntesis de expresiones…

Cómo las 'falsificaciones profundas' se volvieron fáciles y por qué dan tanto miedo
fortune.com · 2018
Traducido por IA

Un video de un minuto de duración de Barack Obama ha sido visto más de 4,8 millones de veces desde abril. Muestra al expresidente estadounidense sentado, con la bandera estadounidense de fondo, hablando directamente al espectador y utilizan…

Variantes

Una "Variante" es un incidente que comparte los mismos factores causales, produce daños similares e involucra los mismos sistemas inteligentes que un incidente de IA conocido. En lugar de indexar las variantes como incidentes completamente separados, enumeramos las variaciones de los incidentes bajo el primer incidente similar enviado a la base de datos. A diferencia de otros tipos de envío a la base de datos de incidentes, no se requiere que las variantes tengan informes como evidencia externa a la base de datos de incidentes. Obtenga más información del trabajo de investigación.

Incidentes Similares

Por similitud de texto

Did our AI mess up? Flag the unrelated incidents

All Image Captions Produced are Violent

Are you scared yet? Meet Norman, the psychopathic AI

Apr 2018 · 28 informes
TayBot

Danger, danger! 10 alarming examples of AI gone wild

Mar 2016 · 28 informes
AI Beauty Judge Did Not Like Dark Skin

A beauty contest was judged by AI and the robots didn't like dark skin

Sep 2016 · 10 informes
Incidente AnteriorSiguiente Incidente

Incidentes Similares

Por similitud de texto

Did our AI mess up? Flag the unrelated incidents

All Image Captions Produced are Violent

Are you scared yet? Meet Norman, the psychopathic AI

Apr 2018 · 28 informes
TayBot

Danger, danger! 10 alarming examples of AI gone wild

Mar 2016 · 28 informes
AI Beauty Judge Did Not Like Dark Skin

A beauty contest was judged by AI and the robots didn't like dark skin

Sep 2016 · 10 informes

Investigación

  • Definición de un “Incidente de IA”
  • Definición de una “Respuesta a incidentes de IA”
  • Hoja de ruta de la base de datos
  • Trabajo relacionado
  • Descargar Base de Datos Completa

Proyecto y Comunidad

  • Acerca de
  • Contactar y Seguir
  • Aplicaciones y resúmenes
  • Guía del editor

Incidencias

  • Todos los incidentes en forma de lista
  • Incidentes marcados
  • Cola de envío
  • Vista de clasificaciones
  • Taxonomías

2023 - AI Incident Database

  • Condiciones de uso
  • Política de privacidad
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • 1ce4c40