Description: FaceApp’s algorithm was reported by a user to have predicted different genders for two mostly identical facial photos with only a slight difference in eyebrow thickness.
Entités
Voir toutes les entitésAlleged: FaceApp developed and deployed an AI system, which harmed FaceApp non-binary presenting users , FaceApp transgender users et FaceApp users.
Classifications de taxonomie CSETv1
Détails de la taxonomieIncident Number
The number of the incident in the AI Incident Database.
273
Special Interest Intangible Harm
An assessment of whether a special interest intangible harm occurred. This assessment does not consider the context of the intangible harm, if an AI was involved, or if there is characterizable class or subgroup of harmed entities. It is also not assessing if an intangible harm occurred. It is only asking if a special interest intangible harm occurred.
yes
Rapports d'incidents
Chronologie du rapport
twitter.com · 2020
- Afficher le rapport d'origine à sa source
- Voir le rapport sur l'Archive d'Internet
J'aimerais parler un peu des algorithmes, de la dysphorie et de la dysmorphie.
J'ai eu du mal avec les algorithmes. Je prends souvent une photo et je la fais passer par FaceApp pour être sexuée.
J'ai récemment remarqué que lorsque mes sourc…
Variantes
Une "Variante" est un incident qui partage les mêmes facteurs de causalité, produit des dommages similaires et implique les mêmes systèmes intelligents qu'un incident d'IA connu. Plutôt que d'indexer les variantes comme des incidents entièrement distincts, nous listons les variations d'incidents sous le premier incident similaire soumis à la base de données. Contrairement aux autres types de soumission à la base de données des incidents, les variantes ne sont pas tenues d'avoir des rapports en preuve externes à la base de données des incidents. En savoir plus sur le document de recherche.
Incidents similaires
Did our AI mess up? Flag the unrelated incidents
Incidents similaires
Did our AI mess up? Flag the unrelated incidents