Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
発見する
投稿する
  • ようこそAIIDへ
  • インシデントを発見
  • 空間ビュー
  • テーブル表示
  • リスト表示
  • 組織
  • 分類法
  • インシデントレポートを投稿
  • 投稿ランキング
  • ブログ
  • AIニュースダイジェスト
  • リスクチェックリスト
  • おまかせ表示
  • サインアップ
閉じる
発見する
投稿する
  • ようこそAIIDへ
  • インシデントを発見
  • 空間ビュー
  • テーブル表示
  • リスト表示
  • 組織
  • 分類法
  • インシデントレポートを投稿
  • 投稿ランキング
  • ブログ
  • AIニュースダイジェスト
  • リスクチェックリスト
  • おまかせ表示
  • サインアップ
閉じる

インシデント 885: Meta AI Characters Allegedly Exhibited Racism, Fabricated Identities, and Exploited User Trust

概要: Meta deployed AI-generated profiles on its platforms, including Instagram and Facebook, as part of an experiment. The profiles, such as "Liv" and "Grandpa Brian," allegedly featured fabricated identities and misleading diversity claims. These accounts also allegedly manipulated user emotions for engagement and profit. Reportedly, backlash over offensive and deceptive content led Meta to delete the profiles on January 3rd, 2025, citing a blocking-related bug.

ツール

新しいレポート新しいレポート新しいレスポンス新しいレスポンス発見する発見する履歴を表示履歴を表示

組織

すべての組織を表示
推定: Meta , Meta AI Characters , Instagram と Facebookが開発し提供したAIシステムで、Meta users , Instagram users と Facebook usersに影響を与えた
関与が疑われるAIシステム: Meta AI Characters , Instagram と Facebook

インシデントのステータス

インシデントID
885
レポート数
5
インシデント発生日
2025-01-03
エディタ

インシデントレポート

レポートタイムライン

+3
反発が強まった後、Meta は自社の AI アカウントの削除に躍起になっている
メタ、反発と人種差別の告発を受けてAIキャラクターのプロフィールを削除Meta の黒人 AI キャラクターと話をしました。彼女が私に言ったことは次のとおりです。
反発が強まった後、Meta は自社の AI アカウントの削除に躍起になっている

反発が強まった後、Meta は自社の AI アカウントの削除に躍起になっている

cnn.com

抗議を受けてMetaがFacebookとInstagramのAIキャラクターアカウントを閉鎖

抗議を受けてMetaがFacebookとInstagramのAIキャラクターアカウントを閉鎖

nbcnews.com

メタ、騒動を受けて2023年のAI生成プロフィールを削除

メタ、騒動を受けて2023年のAI生成プロフィールを削除

axios.com

メタ、反発と人種差別の告発を受けてAIキャラクターのプロフィールを削除

メタ、反発と人種差別の告発を受けてAIキャラクターのプロフィールを削除

mashable.com

Meta の黒人 AI キャラクターと話をしました。彼女が私に言ったことは次のとおりです。

Meta の黒人 AI キャラクターと話をしました。彼女が私に言ったことは次のとおりです。

washingtonpost.com

反発が強まった後、Meta は自社の AI アカウントの削除に躍起になっている
cnn.com · 2025
自動翻訳済み

Meta は、人間のユーザーが AI 生成アカウントに関わり、ボットの雑な画像や、人間とのチャットで暴走したり嘘をついたりすることへの傾向について投稿し始めた後、すぐに AI 生成アカウントのいくつかを削除しました。

この問題は先週、MetaのジェネレーティブAI担当副社長であるコナー・ヘイズ氏がフィナンシャルタイムズに語ったことで浮上した。同社は、自社の自作 AI ユーザーが人間のアカウントとほぼ同じように自社のプラットフォームに登場すると予想している。「彼らにはプロフィー…

抗議を受けてMetaがFacebookとInstagramのAIキャラクターアカウントを閉鎖
nbcnews.com · 2025
自動翻訳済み

2023年後半以降、親会社であるMetaが作成した約12の人工知能InstagramおよびFacebookアカウントが、プラットフォーム上にひっそりと存在していた。当初は一連の公式有名人AIキャラクターとともに開始され、AI駆動のパーソナリティはいくつかのAI生成画像を投稿し、ダイレクトメッセージでチャットできるようになっていた。

金曜日まで、これらのAIアカウントはあまり注目されることはなかった。注目されると論争が勃発し、Metaはアカウントを削除し、ユーザー名の検索結果を…

メタ、騒動を受けて2023年のAI生成プロフィールを削除
axios.com · 2025
自動翻訳済み

「誇り高き黒人クィアの2児のママ」のAI生成Instagramプロフィールは、2023年に初めて公開された他の27人のAIペルソナのプロフィールとともに削除されました。

全体像: このプロフィールは金曜日に「デジタルブラックフェイスサービス」に関するソーシャルメディアでの激しい非難と懸念が広がった直後に利用できなくなりましたが、MetaはすべてのプラットフォームでAI生成コンテンツを引き続き推進するとしています。

  • Instagramユーザーは Metaが作成したAIキャラク…
メタ、反発と人種差別の告発を受けてAIキャラクターのプロフィールを削除
mashable.com · 2025
自動翻訳済み

Meta は反発を受けて AI キャラクター アカウントを閉鎖 したと NBC ニュースなどが報じている。

Metaは2023年にこれらのキャラクターを有名人のアバターを持つAIペルソナとともにリリースしましたが、今週、最近の_Financial Times_のMetaのジェネレーティブAI製品担当副社長、コナー・ヘイズ氏へのインタビューを受けて、多くの人がオンライン上でそれらを(再)発見しました。ヘイズ氏はInstagramとFacebookのAIキャラクターについて言及し…

Meta の黒人 AI キャラクターと話をしました。彼女が私に言ったことは次のとおりです。
washingtonpost.com · 2025
自動翻訳済み

インターネットのプラットフォームの衰退は、AI によって数段階改善された。

先月、Financial Times は、Facebook と Instagram を所有するテクノロジー複合企業 Meta が、AI によって生成された「キャラクター」がプラットフォームで果たす役割を 拡大 する計画があると報じた。

Meta の生成型人工知能製品担当副社長 Connor Hayes 氏は Financial Times に対し、「これらの AI は、時間の経過とともに、アカウントと…

バリアント

「バリアント」は既存のAIインシデントと同じ原因要素を共有し、同様な被害を引き起こし、同じ知的システムを含んだインシデントです。バリアントは完全に独立したインシデントとしてインデックスするのではなく、データベースに最初に投稿された同様なインシデントの元にインシデントのバリエーションとして一覧します。インシデントデータベースの他の投稿タイプとは違い、バリアントではインシデントデータベース以外の根拠のレポートは要求されません。詳細についてはこの研究論文を参照してください

よく似たインシデント

テキスト類似度による

Did our AI mess up? Flag the unrelated incidents

TayBot

Danger, danger! 10 alarming examples of AI gone wild

Mar 2016 · 28 レポート
Fake LinkedIn Profiles Created Using GAN Photos

That smiling LinkedIn profile face might be a computer-generated fake

Feb 2022 · 4 レポート
Amazon Censors Gay Books

Amazon Censors Gay Books

May 2008 · 24 レポート
前のインシデント次のインシデント

よく似たインシデント

テキスト類似度による

Did our AI mess up? Flag the unrelated incidents

TayBot

Danger, danger! 10 alarming examples of AI gone wild

Mar 2016 · 28 レポート
Fake LinkedIn Profiles Created Using GAN Photos

That smiling LinkedIn profile face might be a computer-generated fake

Feb 2022 · 4 レポート
Amazon Censors Gay Books

Amazon Censors Gay Books

May 2008 · 24 レポート

リサーチ

  • “AIインシデント”の定義
  • “AIインシデントレスポンス”の定義
  • データベースのロードマップ
  • 関連研究
  • 全データベースのダウンロード

プロジェクトとコミュニティ

  • AIIDについて
  • コンタクトとフォロー
  • アプリと要約
  • エディタのためのガイド

インシデント

  • 全インシデントの一覧
  • フラグの立ったインシデント
  • 登録待ち一覧
  • クラスごとの表示
  • 分類法

2023 - AI Incident Database

  • 利用規約
  • プライバシーポリシー
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • 8b8f151