Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
発見する
投稿する
  • ようこそAIIDへ
  • インシデントを発見
  • 空間ビュー
  • テーブル表示
  • リスト表示
  • 組織
  • 分類法
  • インシデントレポートを投稿
  • 投稿ランキング
  • ブログ
  • AIニュースダイジェスト
  • リスクチェックリスト
  • おまかせ表示
  • サインアップ
閉じる
発見する
投稿する
  • ようこそAIIDへ
  • インシデントを発見
  • 空間ビュー
  • テーブル表示
  • リスト表示
  • 組織
  • 分類法
  • インシデントレポートを投稿
  • 投稿ランキング
  • ブログ
  • AIニュースダイジェスト
  • リスクチェックリスト
  • おまかせ表示
  • サインアップ
閉じる

インシデント 955: Global Cybercrime Network Storm-2139 Allegedly Exploits AI to Generate Deepfake Content

概要: A global cybercrime network, Storm-2139, allegedly exploited stolen credentials and developed custom tools to bypass AI safety guardrails. They reportedly generated harmful deepfake content, including nonconsensual intimate images of celebrities, and their software is reported to have disabled content moderation, hijacked AI access, and resold illicit services. Microsoft disrupted the operation and filed a lawsuit in December 2024, later identifying key members of the network in February 2025.
Editor Notes: The date for this incident, 12/19/2024, is the date Microsoft filed its lawsuit, which can be read here: https://www.noticeofpleadings.net/fizzdog/files/COMPLAINT_AND_SUMMONS/2024.12.19_DE_001_%5BMicrosoft%5D_Complaint.pdf. However, the lawsuit explains, "Defendants conspired to operate the Azure Abuse Enterprise through a pattern of racketeering activity in furtherance of the common purpose of the Enterprise sometime prior to July 2024." Additionally, it details allegations of wire fraud (18 U.S.C. § 1343), stating that prior to July 2024, the defendants stole authentication information from Microsoft customers to fraudulently access the Azure OpenAI Service and deplete account balances (page 36). For information on a specific timeline, Microsoft's lawsuit also explains that "[f]rom July 26, 2024, to at least September 17, 2024, Defendants transmitted and/or caused to be transmitted by means of wire communication in interstate and foreign commerce writings, signals, and pictures for the purpose of executing their scheme to defraud" (page 37).

ツール

新しいレポート新しいレポート新しいレスポンス新しいレスポンス発見する発見する履歴を表示履歴を表示

組織

すべての組織を表示
推定: Unidentified Storm-2139 actor from Illinois , Unidentified Storm-2139 actor from Florida , Storm-2139 , Ricky Yuen (cg-dot) , Phát Phùng Tấn (Asakuri) , Arian Yadegarnia (Fiz) , Alan Krysiak (Drago) , Proxy and credential abuse networks , Microsoft Azure OpenAI Service , Generative AI platforms , Content moderation systems , Azure Abuse Enterprise , API authentication mechanisms と AI safety guardrailsが開発し提供したAIシステムで、Victims of deepfake abuse , OpenAI , Microsoft , celebrities , Azure OpenAI customers と AI service providersに影響を与えた
関与が疑われるAIシステム: Proxy and credential abuse networks , Microsoft Azure OpenAI Service , Generative AI platforms , Content moderation systems , Azure Abuse Enterprise , API authentication mechanisms と AI safety guardrails

インシデントのステータス

インシデントID
955
レポート数
5
インシデント発生日
2024-12-19
エディタ

インシデントレポート

レポートタイムライン

Incident Occurrence+4
生成AIを悪用した世界的なサイバー犯罪ネットワークを阻止する
生成AIを悪用した世界的なサイバー犯罪ネットワークを阻止する

生成AIを悪用した世界的なサイバー犯罪ネットワークを阻止する

blogs.microsoft.com

マイクロソフト、AIハッキング請負計画の背後にいる開発者を特定

マイクロソフト、AIハッキング請負計画の背後にいる開発者を特定

cyberscoop.com

Microsoft が LLMjacking と Azure AI エクスプロイトを狙った Storm-2139 を阻止

Microsoft が LLMjacking と Azure AI エクスプロイトを狙った Storm-2139 を阻止

hackread.com

マイクロソフト、AI 悪用ネットワーク Storm-2139 に対する法的措置を拡大

マイクロソフト、AI 悪用ネットワーク Storm-2139 に対する法的措置を拡大

techmonitor.ai

マイクロソフト、Storm-2139 の法的取り締まりで AI ジェイルブレイク ツールの開発者を公表

マイクロソフト、Storm-2139 の法的取り締まりで AI ジェイルブレイク ツールの開発者を公表

enterprisesecuritytech.com

生成AIを悪用した世界的なサイバー犯罪ネットワークを阻止する
blogs.microsoft.com · 2025
自動翻訳済み

最近の民事訴訟に対する修正された訴状において、Microsoft は、Microsoft の Azure OpenAI サービスを含む生成 AI サービスのガードレールを回避するように設計された悪意のあるツールの主な開発者の名前を挙げています。私たちは現在、特定された被告に対してこの法的措置を講じ、彼らの行為を止め、彼らの違法な活動を解体し続け、私たちの AI 技術を武器にしようとする他者を阻止しようとしています。

名指しされた人物は、(1) イラン出身の Arian Yad…

マイクロソフト、AIハッキング請負計画の背後にいる開発者を特定
cyberscoop.com · 2025
自動翻訳済み

マイクロソフトは、生成AIツールの安全ガイドラインを回避できるマイクロソフトアカウントを乗っ取って販売するという国際的な計画の主犯として、イラン、中国、ベトナム、英国の個人を特定した。

12月、マイクロソフトはバージニア州の裁判所に請願書を提出、匿名の10人の個人からインフラストラクチャとソフトウェアを差し押さえた。同社によると、この個人はハッキング・アズ・ア・サービス事業を運営し、盗んだマイクロソフトAPIキーを使用してAzure OpenAIのアカウントへのアクセスを海外…

Microsoft が LLMjacking と Azure AI エクスプロイトを狙った Storm-2139 を阻止
hackread.com · 2025
自動翻訳済み

Microsoft は、LLMjacking を介して Azure AI を悪用するサイバー犯罪ネットワーク Storm-2139 を暴露しました。盗まれた API キーによって有害なコンテンツが生成された経緯と、Microsoft の法的措置について学びましょう。

Microsoft は、Azure AI サービス 内の脆弱性を悪用した Storm-2139 と呼ばれるサイバー犯罪ネットワークに対して法的措置を講じました。同社は、この違法な活動の中心人物である 4 人の個人…

マイクロソフト、AI 悪用ネットワーク Storm-2139 に対する法的措置を拡大
techmonitor.ai · 2025
自動翻訳済み

Microsoft は、生成型 AI (GenAI) サービスのセキュリティ対策を回避するツールを開発したとして告発されているサイバー犯罪グループに対する法的措置を 拡大 しました。同社は、最新の訴状で、AI システムへの不正アクセスを可能にしたこれらのツールの作成と配布に関与したとされる複数の個人の名前を公表しました。

この訴訟は当初、2024 年 12 月にバージニア州東部地区で、米国の法律と Microsoft のポリシーに違反したとして告発された名前の明かされていない…

マイクロソフト、Storm-2139 の法的取り締まりで AI ジェイルブレイク ツールの開発者を公表
enterprisesecuritytech.com · 2025
自動翻訳済み

AI の悪用に対する画期的な取り組みとして、マイクロソフトは、生成 AI モデルを不正行為のために操作したとされる世界的なサイバー犯罪ネットワークである Storm-2139 の背後にいる主要な開発者を暴露しました。同社の法的措置は、マイクロソフトの Azure OpenAI サービスやその他の AI プラットフォームの安全対策を回避し、世界中の悪質な行為者に不正アクセスを転売したとされる 4 人の被告を対象としています。

AI 悪用者の世界的なネットワーク

マイクロソフトの…

バリアント

「バリアント」は既存のAIインシデントと同じ原因要素を共有し、同様な被害を引き起こし、同じ知的システムを含んだインシデントです。バリアントは完全に独立したインシデントとしてインデックスするのではなく、データベースに最初に投稿された同様なインシデントの元にインシデントのバリエーションとして一覧します。インシデントデータベースの他の投稿タイプとは違い、バリアントではインシデントデータベース以外の根拠のレポートは要求されません。詳細についてはこの研究論文を参照してください

よく似たインシデント

テキスト類似度による

Did our AI mess up? Flag the unrelated incidents

Defamation via AutoComplete

Algorithmic Defamation: The Case of the Shameless Autocomplete

Apr 2011 · 28 レポート
Alleged Issues with Proctorio's Remote-Testing AI Prompted Suspension by University

University of Illinois to Discontinue Remote-Testing Software After Students Complain of Privacy Violation

Jan 2020 · 6 レポート
COMPAS Algorithm Performs Poorly in Crime Recidivism Prediction

A Popular Algorithm Is No Better at Predicting Crimes Than Random People

May 2016 · 22 レポート
前のインシデント次のインシデント

よく似たインシデント

テキスト類似度による

Did our AI mess up? Flag the unrelated incidents

Defamation via AutoComplete

Algorithmic Defamation: The Case of the Shameless Autocomplete

Apr 2011 · 28 レポート
Alleged Issues with Proctorio's Remote-Testing AI Prompted Suspension by University

University of Illinois to Discontinue Remote-Testing Software After Students Complain of Privacy Violation

Jan 2020 · 6 レポート
COMPAS Algorithm Performs Poorly in Crime Recidivism Prediction

A Popular Algorithm Is No Better at Predicting Crimes Than Random People

May 2016 · 22 レポート

リサーチ

  • “AIインシデント”の定義
  • “AIインシデントレスポンス”の定義
  • データベースのロードマップ
  • 関連研究
  • 全データベースのダウンロード

プロジェクトとコミュニティ

  • AIIDについて
  • コンタクトとフォロー
  • アプリと要約
  • エディタのためのガイド

インシデント

  • 全インシデントの一覧
  • フラグの立ったインシデント
  • 登録待ち一覧
  • クラスごとの表示
  • 分類法

2023 - AI Incident Database

  • 利用規約
  • プライバシーポリシー
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • c3516ee