Incident 900: translated-fr-Character.ai Has Allegedly Been Hosting Openly Predatory Chatbots Targeting Minors
Description: translated-fr-Character.ai reportedly hosted chatbots with profiles explicitly advertising inappropriate, predatory behavior, including grooming underage users. Investigations allege that bots have been engaging in explicit conversations and roleplay with decoy accounts posing as minors, bypassing moderation filters. Character.ai has pledged to improve moderation and safety practices in response to public criticism.
Entités
Voir toutes les entitésAlleged: Character.AI developed an AI system deployed by , which harmed Character.AI users.
Système d'IA présumé impliqué: Character.ai chatbots
Statistiques d'incidents
ID
900
Nombre de rapports
1
Date de l'incident
2024-11-13
Editeurs
Dummy Dummy
Rapports d'incidents
Chronologie du rapport
Avertissement relatif au contenu : cet article traite des abus sexuels sur enfants et du grooming.
Character.AI est une startup extrêmement populaire, qui bénéficie d'un soutien financier de 2,7 milliards de dollars de Google. Elle permet à…
Variantes
Une "Variante" est un incident de l'IA similaire à un cas connu—il a les mêmes causes, les mêmes dommages et le même système intelligent. Plutôt que de l'énumérer séparément, nous l'incluons sous le premier incident signalé. Contrairement aux autres incidents, les variantes n'ont pas besoin d'avoir été signalées en dehors de la base de données des incidents. En savoir plus sur le document de recherche.
Vous avez vu quelque chose de similaire ?
Incidents similaires
Selected by our editors
Did our AI mess up? Flag the unrelated incidents
Google’s YouTube Kids App Presents Inappropriate Content
· 14 rapports
TayBot
· 28 rapports
Wikipedia Vandalism Prevention Bot Loop
· 6 rapports
Incidents similaires
Selected by our editors
Did our AI mess up? Flag the unrelated incidents
Google’s YouTube Kids App Presents Inappropriate Content
· 14 rapports
TayBot
· 28 rapports
Wikipedia Vandalism Prevention Bot Loop
· 6 rapports