Incidente 285: translated-es-Google Lens’s Camera-Based Translation Feature Provided an Offensive Mistranslation of a Book Title in Korean

Descripción:

translated-es-A book title by Korea’s first minister of culture was mistranslated into an offensive phrase by Google Lens’s camera-based translation feature allegedly due to its training on internet communications and a lack of context.

Herramientas

Nuevo Informe Nueva Respuesta DescubrirVer Historial

Entidades

Ver todas las entidades

Presunto: un sistema de IA desarrollado e implementado por Google, perjudicó a Google Lens users.

Estadísticas de incidentes

285

Cantidad de informes

Fecha del Incidente

2022-07-18

Editores

Dummy Dummy, Dummy Dummy

Applied Taxonomies

GMF, MIT

Clasificaciones de la Taxonomía MIT

Machine-Classified

Detalles de la Taxonomía

Risk Subdomain

7.3. Lack of capability or robustness

Risk Domain

AI system safety, failures, and limitations

Entity

Timing

Post-deployment

Intent

Unintentional

Informes del Incidente

Cronología de Informes

Informes de incidentes multilingües

incidentdatabase.ai

incidentdatabase.ai · 2022

Traducido por IA

La investigación y el desarrollo tienen un problema importante sin resolver en los sistemas de inteligencia artificial de última generación: hacer que los sistemas funcionen mucho más allá del entorno para el que fueron diseñados. Si bien e…

Variantes

Una "Variante" es un incidente de IA similar a un caso conocido—tiene los mismos causantes, daños y sistema de IA. En lugar de enumerarlo por separado, lo agrupamos bajo el primer incidente informado. A diferencia de otros incidentes, las variantes no necesitan haber sido informadas fuera de la AIID. Obtenga más información del trabajo de investigación.

¿Has visto algo similar?