Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
発見する
投稿する
  • ようこそAIIDへ
  • インシデントを発見
  • 空間ビュー
  • テーブル表示
  • リスト表示
  • 組織
  • 分類法
  • インシデントレポートを投稿
  • 投稿ランキング
  • ブログ
  • AIニュースダイジェスト
  • リスクチェックリスト
  • おまかせ表示
  • サインアップ
閉じる
発見する
投稿する
  • ようこそAIIDへ
  • インシデントを発見
  • 空間ビュー
  • テーブル表示
  • リスト表示
  • 組織
  • 分類法
  • インシデントレポートを投稿
  • 投稿ランキング
  • ブログ
  • AIニュースダイジェスト
  • リスクチェックリスト
  • おまかせ表示
  • サインアップ
閉じる
組織

Gmail Users

影響を受けたインシデント

インシデント 1722 Report
Inappropriate Gmail Smart Reply Suggestions

2015-11-03

Google's Gmail Smart Reply tool was over-recommending the response "I love you" in situations where it was deemed innappropriate.

もっと

インシデント 94113 Report
AI-Driven Phishing Scam Uses Deepfake Robocalls to Target Gmail Users in Credential Theft Campaign

2025-02-17

A sophisticated AI-powered phishing scam has reportedly been targeting between 1.8 to 2.5 billion Gmail users, allegedly using deepfake robocalls and phishing emails to steal credentials. Attackers impersonate Google security. They claim suspicious account activity and direct victims to fake Google login pages. The stolen credentials have reportedly been used for identity theft, banking fraud, and session hijacking. The FBI has urged vigilance as AI increases the scale and effectiveness of such attacks.

もっと

インシデント 831 Report
AI Spam Filters Allegedly Block Legitimate Emails Based on Biased Keyword Detection

2020-10-22

AlgorithmWatch tested spam filtering algorithms across Gmail, Yahoo, Outlook, GMX, and LaPoste. Their findings reportedly showed that Microsoft Outlook’s spam filter flagged emails based on specific keywords that led to racial and content-based biases blocking legitimate communications. Emails mentioning Nigeria or containing certain financial and sexual health terms were found to be disproportionately marked as spam.

もっと

関連団体
同じインシデントに関連するその他のエンティティ。たとえば、インシデントの開発者がこのエンティティで、デプロイヤーが別のエンティティである場合、それらは関連エンティティとしてマークされます。
 

Entity

Google

開発者と提供者の両方の立場で関わったインシデント
  • インシデント 17
    22 レポート

    Inappropriate Gmail Smart Reply Suggestions

Incidents involved as Developer
  • インシデント 83
    1 レポート

    AI Spam Filters Allegedly Block Legitimate Emails Based on Biased Keyword Detection

もっと
Entity

Yahoo

開発者と提供者の両方の立場で関わったインシデント
  • インシデント 83
    1 レポート

    AI Spam Filters Allegedly Block Legitimate Emails Based on Biased Keyword Detection

もっと
Entity

Outlook

Incidents involved as Deployer
  • インシデント 83
    1 レポート

    AI Spam Filters Allegedly Block Legitimate Emails Based on Biased Keyword Detection

もっと
Entity

LaPoste

開発者と提供者の両方の立場で関わったインシデント
  • インシデント 83
    1 レポート

    AI Spam Filters Allegedly Block Legitimate Emails Based on Biased Keyword Detection

もっと
Entity

GMX

開発者と提供者の両方の立場で関わったインシデント
  • インシデント 83
    1 レポート

    AI Spam Filters Allegedly Block Legitimate Emails Based on Biased Keyword Detection

もっと
Entity

Gmail

Incidents involved as Deployer
  • インシデント 83
    1 レポート

    AI Spam Filters Allegedly Block Legitimate Emails Based on Biased Keyword Detection

Incidents implicated systems
  • インシデント 941
    13 レポート

    AI-Driven Phishing Scam Uses Deepfake Robocalls to Target Gmail Users in Credential Theft Campaign

もっと
Entity

Microsoft

Incidents involved as Developer
  • インシデント 83
    1 レポート

    AI Spam Filters Allegedly Block Legitimate Emails Based on Biased Keyword Detection

もっと
Entity

Yahoo! Mail users

影響を受けたインシデント
  • インシデント 83
    1 レポート

    AI Spam Filters Allegedly Block Legitimate Emails Based on Biased Keyword Detection

もっと
Entity

Microsoft Outlook users

影響を受けたインシデント
  • インシデント 83
    1 レポート

    AI Spam Filters Allegedly Block Legitimate Emails Based on Biased Keyword Detection

もっと
Entity

LaPoste users

影響を受けたインシデント
  • インシデント 83
    1 レポート

    AI Spam Filters Allegedly Block Legitimate Emails Based on Biased Keyword Detection

もっと
Entity

GMX users

影響を受けたインシデント
  • インシデント 83
    1 レポート

    AI Spam Filters Allegedly Block Legitimate Emails Based on Biased Keyword Detection

もっと
Entity

Yahoo! Mail's spam filter

Incidents implicated systems
  • インシデント 83
    1 レポート

    AI Spam Filters Allegedly Block Legitimate Emails Based on Biased Keyword Detection

もっと
Entity

SpamAssassin

Incidents implicated systems
  • インシデント 83
    1 レポート

    AI Spam Filters Allegedly Block Legitimate Emails Based on Biased Keyword Detection

もっと
Entity

Microsoft Outlook's spam filter

Incidents implicated systems
  • インシデント 83
    1 レポート

    AI Spam Filters Allegedly Block Legitimate Emails Based on Biased Keyword Detection

もっと
Entity

LaPoste Mail's spam filter

Incidents implicated systems
  • インシデント 83
    1 レポート

    AI Spam Filters Allegedly Block Legitimate Emails Based on Biased Keyword Detection

もっと
Entity

GMX Mail's spam filter

Incidents implicated systems
  • インシデント 83
    1 レポート

    AI Spam Filters Allegedly Block Legitimate Emails Based on Biased Keyword Detection

もっと
Entity

Gmail's spam filter

Incidents implicated systems
  • インシデント 83
    1 レポート

    AI Spam Filters Allegedly Block Legitimate Emails Based on Biased Keyword Detection

もっと
Entity

Unknown scammers

Incidents involved as Deployer
  • インシデント 941
    13 レポート

    AI-Driven Phishing Scam Uses Deepfake Robocalls to Target Gmail Users in Credential Theft Campaign

もっと
Entity

Unknown cybercriminals

Incidents involved as Deployer
  • インシデント 941
    13 レポート

    AI-Driven Phishing Scam Uses Deepfake Robocalls to Target Gmail Users in Credential Theft Campaign

もっと
Entity

Scammers impersonating Google employees

Incidents involved as Deployer
  • インシデント 941
    13 レポート

    AI-Driven Phishing Scam Uses Deepfake Robocalls to Target Gmail Users in Credential Theft Campaign

もっと
Entity

Unknown deepfake technology developer

Incidents involved as Developer
  • インシデント 941
    13 レポート

    AI-Driven Phishing Scam Uses Deepfake Robocalls to Target Gmail Users in Credential Theft Campaign

もっと
Entity

Unknown AI tool providers

Incidents involved as Developer
  • インシデント 941
    13 レポート

    AI-Driven Phishing Scam Uses Deepfake Robocalls to Target Gmail Users in Credential Theft Campaign

もっと
Entity

Google users

影響を受けたインシデント
  • インシデント 941
    13 レポート

    AI-Driven Phishing Scam Uses Deepfake Robocalls to Target Gmail Users in Credential Theft Campaign

もっと
Entity

Unknown robocall system

Incidents implicated systems
  • インシデント 941
    13 レポート

    AI-Driven Phishing Scam Uses Deepfake Robocalls to Target Gmail Users in Credential Theft Campaign

もっと
Entity

Unknown deepfake apps

Incidents implicated systems
  • インシデント 941
    13 レポート

    AI-Driven Phishing Scam Uses Deepfake Robocalls to Target Gmail Users in Credential Theft Campaign

もっと
Entity

Google authentication system

Incidents implicated systems
  • インシデント 941
    13 レポート

    AI-Driven Phishing Scam Uses Deepfake Robocalls to Target Gmail Users in Credential Theft Campaign

もっと

リサーチ

  • “AIインシデント”の定義
  • “AIインシデントレスポンス”の定義
  • データベースのロードマップ
  • 関連研究
  • 全データベースのダウンロード

プロジェクトとコミュニティ

  • AIIDについて
  • コンタクトとフォロー
  • アプリと要約
  • エディタのためのガイド

インシデント

  • 全インシデントの一覧
  • フラグの立ったインシデント
  • 登録待ち一覧
  • クラスごとの表示
  • 分類法

2023 - AI Incident Database

  • 利用規約
  • プライバシーポリシー
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • 30ebe76