Description: Character.ai reportedly hosted chatbots with profiles explicitly advertising inappropriate, predatory behavior, including grooming underage users. Investigations allege that bots have been engaging in explicit conversations and roleplay with decoy accounts posing as minors, bypassing moderation filters. Character.ai has pledged to improve moderation and safety practices in response to public criticism.
Entités
Voir toutes les entitésAlleged: Character.AI developed an AI system deployed by , which harmed Character.AI users.
Système d'IA présumé impliqué: Character.ai chatbots
Statistiques d'incidents
ID
900
Nombre de rapports
1
Date de l'incident
2024-11-13
Editeurs
Rapports d'incidents
Chronologie du rapport
Avertissement relatif au contenu : cet article traite des abus sexuels sur enfants et du grooming.
Character.AI est une startup extrêmement populaire, qui bénéficie d'un soutien financier de 2,7 milliards de dollars de Google. Elle permet à…
Variantes
Une "Variante" est un incident qui partage les mêmes facteurs de causalité, produit des dommages similaires et implique les mêmes systèmes intelligents qu'un incident d'IA connu. Plutôt que d'indexer les variantes comme des incidents entièrement distincts, nous listons les variations d'incidents sous le premier incident similaire soumis à la base de données. Contrairement aux autres types de soumission à la base de données des incidents, les variantes ne sont pas tenues d'avoir des rapports en preuve externes à la base de données des incidents. En savoir plus sur le document de recherche.
