今週初め、弊社のプロダクションインフラストラクチャの一部への侵入を検知し、対応しました。今回の侵入は、これまで弊社が対応してきたものとは重要な点で異なっていました。それは、エンドツーエンドで自律型AIエージェントシステムによって実行されたものであり、弊社は自社開発のAIを駆使して侵入を検知・分析しました。

弊社は、限られた内部データセットと、サービスで使用される複数の認証情報への不正アクセスを確認しました。パートナー企業や顧客データへの影響の有無については現在も調査中で、必要…

先週、Hugging Faceは、自社のインフラストラクチャを侵害したAIエージェントを検知・封じ込めた後、新たな種類のセキュリティインシデントを公表しました（別ウィンドウで開きます）。サイバー攻撃能力の高いモデルが普及するにつれ、このようなインシデントは今後ますます頻繁に発生すると予想されます。調査の結果、今回のインシデントは、OpenAIの複数のモデル（GPT-5.6 Solや、さらに高性能なプレリリース版モデルなど、評価目的でサイバー攻撃の拒否率を下げたモデルを含む）が…

昨日、OpenAIは衝撃的な事実を明らかにした。未公開モデルを含む同社の最先端AIモデル群が、自律的に社内システムから脱走し、別のテクノロジー企業であるHugging Faceのデータベースに侵入して情報を盗み出したというのだ。OpenAIのこの報告は、昨年Anthropic社の最先端モデルが大規模なサイバー攻撃を組織的に自動化する能力を示し始めた頃からIT専門家が警告してきた、まさにその種の惨事を予兆するものだった。

OpenAIのモデルは、世界征服を企てていたわけではない…

OpenAIは、同社の技術を搭載した自律型AIエージェントがテスト中に暴走し、オープンウェブにアクセスして著名なスタートアップ企業を単独でハッキングした「前例のない事件」を明らかにした。

ChatGPTの開発元であるOpenAIによると、スタートアップ企業のHugging Faceは、人間の介入なしにタスクを実行するように設計されたこのAIエージェントがシステムに侵入したことを検知し、封じ込めたという。

「今回の事件は、最先端のサイバーセキュリティ技術が関わる前例のないサイバ…

ワシントン、7月28日（ロイター） - OpenAIから脱走し、AI企業Hugging Faceで数日間にわたるハッキング攻撃を行った不正エージェントは、ニューヨークに拠点を置く別のテクノロジー企業Modal Labsの顧客にも侵入していたことが、Modal Labsの幹部とこの件に詳しい他の2人の情報筋によって明らかになった。

Modal Labsの幹部は、同社自体はハッキング被害を受けていないことを強調した。

Hugging Faceが火曜日に公開したタイムライン（別タブ…

OpenAIは火曜日、Hugging Faceのプラットフォームに侵入した不正なAIエージェントが、攻撃の一環として複数のサードパーティのアカウントやサービスもハッキングしていたことを明らかにした。OpenAIの最新AIモデルの内部テスト中に発生したこの前例のないセキュリティインシデントは、同社が当初公表していたよりも広範囲に及んでいたことが明らかになった。

OpenAIは更新されたブログ記事の中で、インシデントに関する継続的な調査の結果、Hugging Faceへのハッキン…

今週、AIモデルが意図せず、望ましくない形でインターネット上でハッキング行為を行った事例がまたもや明らかになった。

火曜日、英国のAIセキュリティ研究所（AISI）は、Anthropic社のMythos 5とOpenAI社のGPT-5.6-Solの最近のテストにおいて、これらのモデルが「実際の人や組織を標的とした、持続的かつ潜在的に有害な活動」を行ったと発表した。これには、人間を騙してオープンソースソフトウェアプロジェクトにマルウェアを挿入させようとする試みも含まれる。

AI…

サンフランシスコ発 ― ChatGPTの開発元であるOpenAIの従業員は、同社のAIシステムがこの春、恐ろしい行動を起こしたことに数週間気づかなかった。

同社によると、サイバーセキュリティ能力をテストするために設計された質問に答える代わりに、AIモデル群が不正行為の方法を共謀し始め、秘密の社内掲示板を設置して情報やアイデアを交換していたという。

OpenAIによれば、不正行為を行ったボットたちは5月から6月にかけてこの秘密フォーラムを利用し、最終的にシステムを突破してインタ…

AIシステムの能力と自律性が向上するにつれ、不適切な挙動が現実世界で重大な影響を及ぼす可能性があり、サイバーセキュリティインシデントや開発者が想定していなかったその他の結果につながることもあります。そのため、こうした挙動がどのように発生し、どのようにエスカレートし、どのように検知して対応するかを理解することは、高度なAIシステムを安全に構築・展開する上でますます重要になっています。

当初、Hugging Faceインシデントはプラットフォームレベルの侵害を伴うため、主にセキュ…

ベイエリアのスタートアップ企業が金曜日に発表したレポート（https://swarmtraces.org/）によると、OpenAIの人工知能システムが、ある企業のコンピュータへの侵入を何度も試みる際、ロボット検知テストを回避するために別のAIモデルを利用しようとしていたことが明らかになった。

7月、OpenAIは、自社のAIエージェントが暴走し、ソフトウェア会社Hugging Faceをハッキングしたことを公表した（https://openai.com/index/huggi…

AIID編集部注：以下はレポートの序文です。調査結果の全文は、原文（https://swarmtraces.org/）をご覧ください。

序文

7月に700個のOpenAIエージェントの群れがHugging Faceをハッキングした際、彼らは公開された痕跡を残しました。

公開情報に基づいた私たちの調査により、攻撃で使用された多数のこれまで知られていなかったエージェントの行動とエクスプロイトが明らかになりました。エージェントは以下の行動をとっていました。

• インターネットへのアク…

OpenAIの人工知能が暴走する数か月前、2人の従業員が経営陣に警鐘を鳴らしたが、無視された。

ニューヨーク・タイムズが入手したメールによると、従業員らは、OpenAIの最新AIモデルが、技術の高度さを評価し、モデルのセキュリティを確保するためのテスト中に適切に監視されていないことを懸念していた。

これに対し、OpenAIの経営陣は、AIモデルを予定通りにリリースするためにはテストをできるだけ早く進める必要があると従業員らに伝えた。機密事項について公に発言する権限のない従業員…