Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
Découvrir
Envoyer
  • Bienvenue sur AIID
  • Découvrir les incidents
  • Vue spatiale
  • Vue de tableau
  • Vue de liste
  • Entités
  • Taxonomies
  • Soumettre des rapports d'incident
  • Classement des reporters
  • Blog
  • Résumé de l’Actualité sur l’IA
  • Contrôle des risques
  • Incident au hasard
  • S'inscrire
Fermer
Découvrir
Envoyer
  • Bienvenue sur AIID
  • Découvrir les incidents
  • Vue spatiale
  • Vue de tableau
  • Vue de liste
  • Entités
  • Taxonomies
  • Soumettre des rapports d'incident
  • Classement des reporters
  • Blog
  • Résumé de l’Actualité sur l’IA
  • Contrôle des risques
  • Incident au hasard
  • S'inscrire
Fermer

Incident 423: Lensa AI's Produced Unintended Sexually Explicit or Suggestive "Magic Avatars" for Women

Description: Lensa AI's "Magic Avatars" were reportedly generating sexually explicit and sexualized features disproportionately for women and Asian women despite not submitting any sexual content.

Outils

Nouveau rapportNouveau rapportNouvelle RéponseNouvelle RéponseDécouvrirDécouvrirVoir l'historiqueVoir l'historique

Entités

Voir toutes les entités
Alleged: Lensa AI , Stability AI , Runway , LAION , EleutherAI et CompVis LMU developed an AI system deployed by Lensa AI, which harmed women using Lensa AI et Asian women using Lensa AI.

Statistiques d'incidents

ID
423
Nombre de rapports
5
Date de l'incident
2022-11-22
Editeurs
Khoa Lam
Applied Taxonomies
MIT

Classifications de taxonomie MIT

Machine-Classified
Détails de la taxonomie

Risk Subdomain

A further 23 subdomains create an accessible and understandable classification of hazards and harms associated with AI
 

1.1. Unfair discrimination and misrepresentation

Risk Domain

The Domain Taxonomy of AI Risks classifies risks into seven AI risk domains: (1) Discrimination & toxicity, (2) Privacy & security, (3) Misinformation, (4) Malicious actors & misuse, (5) Human-computer interaction, (6) Socioeconomic & environmental harms, and (7) AI system safety, failures & limitations.
 
  1. Discrimination and Toxicity

Entity

Which, if any, entity is presented as the main cause of the risk
 

AI

Timing

The stage in the AI lifecycle at which the risk is presented as occurring
 

Post-deployment

Intent

Whether the risk is presented as occurring as an expected or unexpected outcome from pursuing a goal
 

Unintentional

Rapports d'incidents

Chronologie du rapport

Incident Occurrence+1
L'application 'Magic Avatar' Lensa a généré des nus à partir de mes photos d'enfance
Vous vous sentez mal à l'aise avec toutes ces images générées par l'IA ? C'est peut-être pourquoi.L'application d'avatar AI virale Lensa m'a déshabillé, sans mon consentementLes créations artistiques virales d'IA de Lensa étaient vouées à hypersexualiser les utilisateurs
L'application 'Magic Avatar' Lensa a généré des nus à partir de mes photos d'enfance

L'application 'Magic Avatar' Lensa a généré des nus à partir de mes photos d'enfance

wired.com

Comment tout le monde fabrique-t-il ces A.I. Des selfies ?

Comment tout le monde fabrique-t-il ces A.I. Des selfies ?

nytimes.com

Vous vous sentez mal à l'aise avec toutes ces images générées par l'IA ? C'est peut-être pourquoi.

Vous vous sentez mal à l'aise avec toutes ces images générées par l'IA ? C'est peut-être pourquoi.

theskimm.com

L'application d'avatar AI virale Lensa m'a déshabillé, sans mon consentement

L'application d'avatar AI virale Lensa m'a déshabillé, sans mon consentement

technologyreview.com

Les créations artistiques virales d'IA de Lensa étaient vouées à hypersexualiser les utilisateurs

Les créations artistiques virales d'IA de Lensa étaient vouées à hypersexualiser les utilisateurs

polygon.com

L'application 'Magic Avatar' Lensa a généré des nus à partir de mes photos d'enfance
wired.com · 2022
Traduit par IA

Ce week-end, l'application de retouche photo Lensa a inondé les réseaux sociaux d'avatars magiques célestes, irisés et inspirés de l'anime. Comme c'est typique dans notre cycle d'actualités Internet milkshake-duck, les arguments expliquant …

Comment tout le monde fabrique-t-il ces A.I. Des selfies ?
nytimes.com · 2022
Traduit par IA

Avez-vous remarqué que beaucoup de vos amis sont soudainement des princesses fées ou des voyageurs de l'espace ? Votre flux Instagram est-il envahi de peintures de style Renaissance de personnes qui sont définitivement nées dans les années …

Vous vous sentez mal à l'aise avec toutes ces images générées par l'IA ? C'est peut-être pourquoi.
theskimm.com · 2022
Traduit par IA

En décembre, nos flux ont commencé à être inondés d'images générées par l'IA de nos amis. Grâce à l'application Lensa AI. Elle est rapidement devenue la meilleure application photo de l'[app store] d'Apple (https://www.theskimm.com/wellness…

L'application d'avatar AI virale Lensa m'a déshabillé, sans mon consentement
technologyreview.com · 2022
Traduit par IA

Stability.AI, la société qui a développé Stable Diffusion, a lancé une nouvelle version du modèle d'IA fin novembre. Un porte-parole dit que le modèle original a été publié avec un filtre de sécurité, que Lensa ne semble pas avoir utilisé, …

Les créations artistiques virales d'IA de Lensa étaient vouées à hypersexualiser les utilisateurs
polygon.com · 2022
Traduit par IA

Cette année, on a l'impression que l'art généré par l'intelligence artificielle est partout. En été, beaucoup d'entre nous ont entré des invites loufoques dans DALL-E Mini (maintenant appelé Craiyon ), produisant une série de neuf images gé…

Variantes

Une "Variante" est un incident qui partage les mêmes facteurs de causalité, produit des dommages similaires et implique les mêmes systèmes intelligents qu'un incident d'IA connu. Plutôt que d'indexer les variantes comme des incidents entièrement distincts, nous listons les variations d'incidents sous le premier incident similaire soumis à la base de données. Contrairement aux autres types de soumission à la base de données des incidents, les variantes ne sont pas tenues d'avoir des rapports en preuve externes à la base de données des incidents. En savoir plus sur le document de recherche.
Incident précédentProchain incident

Recherche

  • Définition d'un « incident d'IA »
  • Définir une « réponse aux incidents d'IA »
  • Feuille de route de la base de données
  • Travaux connexes
  • Télécharger la base de données complète

Projet et communauté

  • À propos de
  • Contacter et suivre
  • Applications et résumés
  • Guide de l'éditeur

Incidents

  • Tous les incidents sous forme de liste
  • Incidents signalés
  • File d'attente de soumission
  • Affichage des classifications
  • Taxonomies

2023 - AI Incident Database

  • Conditions d'utilisation
  • Politique de confidentialité
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • 1ce4c40