Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
発見する
投稿する
  • ようこそAIIDへ
  • インシデントを発見
  • 空間ビュー
  • テーブル表示
  • リスト表示
  • 組織
  • 分類法
  • インシデントレポートを投稿
  • 投稿ランキング
  • ブログ
  • AIニュースダイジェスト
  • リスクチェックリスト
  • おまかせ表示
  • サインアップ
閉じる
発見する
投稿する
  • ようこそAIIDへ
  • インシデントを発見
  • 空間ビュー
  • テーブル表示
  • リスト表示
  • 組織
  • 分類法
  • インシデントレポートを投稿
  • 投稿ランキング
  • ブログ
  • AIニュースダイジェスト
  • リスクチェックリスト
  • おまかせ表示
  • サインアップ
閉じる
組織

TikTok users

影響を受けたインシデント

インシデント 8697 Report
TikTok Algorithms Allegedly Linked to Minors' Exposure to Harmful Content

2024-11-04

Seven French families are suing TikTok, alleging its algorithm exposed minors to harmful content promoting self-harm, eating disorders, and suicide. Two teenagers reportedly died by suicide after viewing such content, while others allegedly attempted suicide or developed mental health issues. The case seeks to establish TikTok's legal liability for failing to protect minors from harmful algorithmic content.

もっと

インシデント 4816 Report
Deepfake TikTok Video Featured Joe Rogan Endorsing Supplement Brand

2023-02-12

A deepfake video featuring podcast host Joe Rogan advertising to his listeners about a "libido-boosting" supplement was circulating on TikTok and other platforms before being removed by TikTok along with the account which posted it.

もっと

インシデント 9765 Report
AI-Generated OB-GYN Health Influencers on TikTok Used Fake Medical Credentials to Promote Dubious Advice

2025-03-08

AI-generated avatars posing as OB-GYNs on TikTok, part of the so-called, crudely termed "Coochie Doctor" trend, have been falsely claiming years of experience while promoting dubious health advice. Many, including an avatar named "Violet," were created using the Captions app, which generates scripted AI influencers.

もっと

インシデント 1174 Report
TikTok's "Suggested Accounts" Algorithm Allegedly Reinforced Racial Bias through Feedback Loops

2020-02-24

TikTok's "Suggested Accounts" recommendations allegedly reinforced racial bias despite not basing recommendations on race or creators' profile photo.

もっと

Incidents involved as Deployer

インシデント 5682 Report
AI-Generated Voices Amplify Conspiracy Theories on TikTok

2023-06-01

NewsGuard has identified 17 TikTok accounts that have been using AI-generated voices to advance and amplify conspiracy theories and false claims beginning in June 2023. By September 25, 2023, these accounts had amassed over 336 million views and over 14.5 million likes. Videos include baseless claims involving public figures such as Barack Obama, Oprah Winfrey, and Jamie Foxx.

もっと

インシデント 6771 Report
ChatGPT and Perplexity Reportedly Manipulated into Breaking Content Policies in AI Boyfriend Scenarios

2024-04-29

The "Dan" ("Do Anything Now") AI boyfriend is a trend on TikTok in which users appear to regularly manipulate ChatGPT to adopt boyfriend personas, breaching content policies. ChatGPT 3.5 is reported to regularly produce explicitly sexual content, directly violating its intended safety protocols. GPT-4 and Perplexity AI were subjected to similar manipulations, and although they exhibited more resistance to breaches, some prompts were reported to break its guidelines.

もっと

関連団体
同じインシデントに関連するその他のエンティティ。たとえば、インシデントの開発者がこのエンティティで、デプロイヤーが別のエンティティである場合、それらは関連エンティティとしてマークされます。
 

Entity

TikTok

開発者と提供者の両方の立場で関わったインシデント
  • インシデント 869
    7 レポート

    TikTok Algorithms Allegedly Linked to Minors' Exposure to Harmful Content

  • インシデント 117
    4 レポート

    TikTok's "Suggested Accounts" Algorithm Allegedly Reinforced Racial Bias through Feedback Loops

影響を受けたインシデント
  • インシデント 300
    2 レポート

    TikTok's "For You" Algorithm Allegedly Abused by Online Personality to Promote Anti-Women Hate

  • インシデント 568
    2 レポート

    AI-Generated Voices Amplify Conspiracy Theories on TikTok

Incidents implicated systems
  • インシデント 976
    5 レポート

    AI-Generated OB-GYN Health Influencers on TikTok Used Fake Medical Credentials to Promote Dubious Advice

もっと
Entity

TikTok users under 18 years old

影響を受けたインシデント
  • インシデント 132
    1 レポート

    TikTok’s Content Moderation Allegedly Failed to Adequately Take down Videos Promoting Eating Disorders

もっと
Entity

TikTok content creators

影響を受けたインシデント
  • インシデント 117
    4 レポート

    TikTok's "Suggested Accounts" Algorithm Allegedly Reinforced Racial Bias through Feedback Loops

もっと
Entity

TikTok new users

影響を受けたインシデント
  • インシデント 185
    4 レポート

    TikTok's "For You" Algorithm Directed New Users towards Disinformation about the War in Ukraine

もっと
Entity

TikTok male teenager users

影響を受けたインシデント
  • インシデント 300
    2 レポート

    TikTok's "For You" Algorithm Allegedly Abused by Online Personality to Promote Anti-Women Hate

もっと
Entity

TikTok male users

影響を受けたインシデント
  • インシデント 300
    2 レポート

    TikTok's "For You" Algorithm Allegedly Abused by Online Personality to Promote Anti-Women Hate

もっと
Entity

TikTok teenage users

影響を受けたインシデント
  • インシデント 300
    2 レポート

    TikTok's "For You" Algorithm Allegedly Abused by Online Personality to Promote Anti-Women Hate

もっと
Entity

Lalani Erika Renee Walton

影響を受けたインシデント
  • インシデント 286
    3 レポート

    TikTok’s "For You" Allegedly Pushed Fatal “Blackout” Challenge Videos to Two Young Girls

もっと
Entity

Arriani Jaileen Arroyo

影響を受けたインシデント
  • インシデント 286
    3 レポート

    TikTok’s "For You" Allegedly Pushed Fatal “Blackout” Challenge Videos to Two Young Girls

もっと
Entity

Lalani Erika Renee Walton's family

影響を受けたインシデント
  • インシデント 286
    3 レポート

    TikTok’s "For You" Allegedly Pushed Fatal “Blackout” Challenge Videos to Two Young Girls

もっと
Entity

Arriani Jaileen Arroyo's family

影響を受けたインシデント
  • インシデント 286
    3 レポート

    TikTok’s "For You" Allegedly Pushed Fatal “Blackout” Challenge Videos to Two Young Girls

もっと
Entity

TikTok young users

影響を受けたインシデント
  • インシデント 286
    3 レポート

    TikTok’s "For You" Allegedly Pushed Fatal “Blackout” Challenge Videos to Two Young Girls

  • インシデント 279
    3 レポート

    TikTok’s “For You” Algorithm Exposed Young Users to Pro-Eating Disorder Content

もっと
Entity

young TikTok users

影響を受けたインシデント
  • インシデント 397
    2 レポート

    Misinformation Reported in TikTok's Search Results Despite Moderation by AI and Human

もっと
Entity

Gen Z TikTok users

影響を受けたインシデント
  • インシデント 397
    2 レポート

    Misinformation Reported in TikTok's Search Results Despite Moderation by AI and Human

もっと
Entity

unknown

開発者と提供者の両方の立場で関わったインシデント
  • インシデント 493
    1 レポート

    TikTok User Videos Impersonated Andrew Tate Using AI Voice, Prompting Ban

Incidents involved as Developer
  • インシデント 481
    6 レポート

    Deepfake TikTok Video Featured Joe Rogan Endorsing Supplement Brand

もっと
Entity

TikTok user @e.news.tv

Incidents involved as Deployer
  • インシデント 568
    2 レポート

    AI-Generated Voices Amplify Conspiracy Theories on TikTok

もっと
Entity

TikTok user @d.news.tv

Incidents involved as Deployer
  • インシデント 568
    2 レポート

    AI-Generated Voices Amplify Conspiracy Theories on TikTok

もっと
Entity

TikTok user @drphilshowtv

Incidents involved as Deployer
  • インシデント 568
    2 レポート

    AI-Generated Voices Amplify Conspiracy Theories on TikTok

もっと
Entity

TikTok user @ynewstv2023

Incidents involved as Deployer
  • インシデント 568
    2 レポート

    AI-Generated Voices Amplify Conspiracy Theories on TikTok

もっと
Entity

ElevenLabs

Incidents involved as Developer
  • インシデント 568
    2 レポート

    AI-Generated Voices Amplify Conspiracy Theories on TikTok

もっと
Entity

Barack Obama

影響を受けたインシデント
  • インシデント 568
    2 レポート

    AI-Generated Voices Amplify Conspiracy Theories on TikTok

もっと
Entity

Oprah Winfrey

影響を受けたインシデント
  • インシデント 568
    2 レポート

    AI-Generated Voices Amplify Conspiracy Theories on TikTok

もっと
Entity

Jamie Foxx

影響を受けたインシデント
  • インシデント 568
    2 レポート

    AI-Generated Voices Amplify Conspiracy Theories on TikTok

もっと
Entity

Joan Rivers

影響を受けたインシデント
  • インシデント 568
    2 レポート

    AI-Generated Voices Amplify Conspiracy Theories on TikTok

もっと
Entity

Phil McGraw

影響を受けたインシデント
  • インシデント 568
    2 レポート

    AI-Generated Voices Amplify Conspiracy Theories on TikTok

もっと
Entity

Yahoo! News

影響を受けたインシデント
  • インシデント 568
    2 レポート

    AI-Generated Voices Amplify Conspiracy Theories on TikTok

もっと
Entity

E! News

影響を受けたインシデント
  • インシデント 568
    2 レポート

    AI-Generated Voices Amplify Conspiracy Theories on TikTok

もっと
Entity

General public

影響を受けたインシデント
  • インシデント 790
    2 レポート

    Unrestricted AI Avatar Tool Accidentally Released by TikTok Permits Recitation of Hitler Quotes and Other Harmful Speech

  • インシデント 568
    2 レポート

    AI-Generated Voices Amplify Conspiracy Theories on TikTok

もっと
Entity

Julia Munslow

Incidents involved as Deployer
  • インシデント 677
    1 レポート

    ChatGPT and Perplexity Reportedly Manipulated into Breaking Content Policies in AI Boyfriend Scenarios

もっと
Entity

ChatGPT

Incidents involved as Deployer
  • インシデント 677
    1 レポート

    ChatGPT and Perplexity Reportedly Manipulated into Breaking Content Policies in AI Boyfriend Scenarios

もっと
Entity

GPT-3.5

Incidents involved as Deployer
  • インシデント 677
    1 レポート

    ChatGPT and Perplexity Reportedly Manipulated into Breaking Content Policies in AI Boyfriend Scenarios

もっと
Entity

GPT-4

Incidents involved as Deployer
  • インシデント 677
    1 レポート

    ChatGPT and Perplexity Reportedly Manipulated into Breaking Content Policies in AI Boyfriend Scenarios

もっと
Entity

Perplexity AI

影響を受けたインシデント
  • インシデント 677
    1 レポート

    ChatGPT and Perplexity Reportedly Manipulated into Breaking Content Policies in AI Boyfriend Scenarios

Incidents involved as Deployer
  • インシデント 677
    1 レポート

    ChatGPT and Perplexity Reportedly Manipulated into Breaking Content Policies in AI Boyfriend Scenarios

もっと
Entity

OpenAI

影響を受けたインシデント
  • インシデント 677
    1 レポート

    ChatGPT and Perplexity Reportedly Manipulated into Breaking Content Policies in AI Boyfriend Scenarios

Incidents involved as Developer
  • インシデント 677
    1 レポート

    ChatGPT and Perplexity Reportedly Manipulated into Breaking Content Policies in AI Boyfriend Scenarios

もっと
Entity

Perplexity.ai

Incidents involved as Developer
  • インシデント 677
    1 レポート

    ChatGPT and Perplexity Reportedly Manipulated into Breaking Content Policies in AI Boyfriend Scenarios

もっと
Entity

@mikesmithtrainer

Incidents involved as Deployer
  • インシデント 481
    6 レポート

    Deepfake TikTok Video Featured Joe Rogan Endorsing Supplement Brand

もっと
Entity

Joe Rogan

影響を受けたインシデント
  • インシデント 481
    6 レポート

    Deepfake TikTok Video Featured Joe Rogan Endorsing Supplement Brand

もっと
Entity

Joe Rogan fans

影響を受けたインシデント
  • インシデント 481
    6 レポート

    Deepfake TikTok Video Featured Joe Rogan Endorsing Supplement Brand

もっと
Entity

Unknown deepfake creator

Incidents involved as Deployer
  • インシデント 802
    1 レポート

    AI Deepfake of Brian May Exploited in Scam Offering Fake Queen Backstage Tickets

もっと
Entity

Unknown scammers

Incidents involved as Deployer
  • インシデント 802
    1 レポート

    AI Deepfake of Brian May Exploited in Scam Offering Fake Queen Backstage Tickets

もっと
Entity

Unknown deepfake technology developer

Incidents involved as Developer
  • インシデント 802
    1 レポート

    AI Deepfake of Brian May Exploited in Scam Offering Fake Queen Backstage Tickets

もっと
Entity

Queen (band) fans

影響を受けたインシデント
  • インシデント 802
    1 レポート

    AI Deepfake of Brian May Exploited in Scam Offering Fake Queen Backstage Tickets

もっと
Entity

Brian May fans

影響を受けたインシデント
  • インシデント 802
    1 レポート

    AI Deepfake of Brian May Exploited in Scam Offering Fake Queen Backstage Tickets

もっと
Entity

Unknown deepfake creators

Incidents involved as Deployer
  • インシデント 809
    1 レポート

    TikTok Hosts AI-Generated English-Language Hitler Speeches with Millions of Views

もっと
Entity

Unknown deepfake technology developers

Incidents involved as Developer
  • インシデント 809
    1 レポート

    TikTok Hosts AI-Generated English-Language Hitler Speeches with Millions of Views

もっと
Entity

Unknown TikTok users

Incidents involved as Deployer
  • インシデント 976
    5 レポート

    AI-Generated OB-GYN Health Influencers on TikTok Used Fake Medical Credentials to Promote Dubious Advice

もっと
Entity

Captions

Incidents involved as Developer
  • インシデント 976
    5 レポート

    AI-Generated OB-GYN Health Influencers on TikTok Used Fake Medical Credentials to Promote Dubious Advice

もっと
Entity

Captions AI

Incidents implicated systems
  • インシデント 976
    5 レポート

    AI-Generated OB-GYN Health Influencers on TikTok Used Fake Medical Credentials to Promote Dubious Advice

もっと
Entity

Unknown AI developers

Incidents involved as Deployer
  • インシデント 810
    1 レポート

    TikTok Network Amplifies AI-Generated Nazi Propaganda and Hate Speech

もっと
Entity

Pro-Nazi TikTok accounts

Incidents involved as Developer
  • インシデント 810
    1 レポート

    TikTok Network Amplifies AI-Generated Nazi Propaganda and Hate Speech

もっと
Entity

Seven French families

影響を受けたインシデント
  • インシデント 869
    7 レポート

    TikTok Algorithms Allegedly Linked to Minors' Exposure to Harmful Content

もっと
Entity

Minors using TikTok

影響を受けたインシデント
  • インシデント 869
    7 レポート

    TikTok Algorithms Allegedly Linked to Minors' Exposure to Harmful Content

もっと
Entity

TikTok recommendation algorithms

Incidents implicated systems
  • インシデント 869
    7 レポート

    TikTok Algorithms Allegedly Linked to Minors' Exposure to Harmful Content

もっと

リサーチ

  • “AIインシデント”の定義
  • “AIインシデントレスポンス”の定義
  • データベースのロードマップ
  • 関連研究
  • 全データベースのダウンロード

プロジェクトとコミュニティ

  • AIIDについて
  • コンタクトとフォロー
  • アプリと要約
  • エディタのためのガイド

インシデント

  • 全インシデントの一覧
  • フラグの立ったインシデント
  • 登録待ち一覧
  • クラスごとの表示
  • 分類法

2023 - AI Incident Database

  • 利用規約
  • プライバシーポリシー
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • 8b8f151