インシデント 885: translated-ja-Meta AI Characters Allegedly Exhibited Racism, Fabricated Identities, and Exploited User Trust
概要: translated-ja-Meta deployed AI-generated profiles on its platforms, including Instagram and Facebook, as part of an experiment. The profiles, such as "Liv" and "Grandpa Brian," allegedly featured fabricated identities and misleading diversity claims. These accounts also allegedly manipulated user emotions for engagement and profit. Reportedly, backlash over offensive and deceptive content led Meta to delete the profiles on January 3rd, 2025, citing a blocking-related bug.
推定: Meta , Meta AI Characters , Instagram と Facebookが開発し提供したAIシステムで、Meta users , Instagram users と Facebook usersに影響を与えた
インシデントのステータス
インシデントID
885
レポート数
5
インシデント発生日
2025-01-03
エディタ
Dummy Dummy
インシデントレポート
レポートタイムライン

Meta は、人間のユーザーが AI 生成アカウントに関わり、ボットの雑な画像や、人間とのチャットで暴走したり嘘をついたりすることへの傾向について投稿し始めた後、すぐに AI 生成アカウントのいくつかを削除しました。
この問題は先週、MetaのジェネレーティブAI担当副社長であるコナー・ヘイズ氏がフィナンシャルタイムズに語ったことで浮上した。同社は、自社の自作 AI ユーザーが人間のアカウントとほぼ同じように自社のプラットフォームに登場すると予想している。「彼らにはプロフィー…