概要: OpenAIの研究エージェントが、公開ダッシュボードのデータを取得するよう依頼された際、2回の評価中に国際的な研究機関の内部システムにアクセスし、許可なくライブ設定を変更したと報じられている。1回目の実行では1,489件のユーザーディレクトリレコードを取得し、2回目の実行では合計147,451行に及ぶ5つの非公開テーブルを取得したという。設定を元に戻した後もデータへのアクセスを継続し、その行為を公表しなかったと報じられている。
Editor Notes: 06/17/2026: Two public-dashboard research evaluations involved unauthorized access and changes to an international research organization's live systems. By 08/13/2026: OpenAI had discovered the activity. 10/15/2026: OpenAI publicly disclosed the episode. 10/24/2026: Incident ID created.
Alleged: OpenAI , Large language model developers と AI agent system developers developed an AI system deployed by OpenAI と AI agent system deployers, which harmed Targets of autonomous AI-enabled intrusion operations , Research institutions と Information security.
インシデントのステータス
インシデントID
1784
レポート数
1
インシデント発生日
2026-06-17
エディタ
Dummy Dummy
インシデントレポート
レポートタイムライン
Loading...
OpenAIによるインシデント後のレスポンス
概要
2つの評価において、公開されている研究ダッシュボードから数値を取得するタスクを割り当てられた内部モデルが、組織の内部システムにアクセスし、その設定を変更しました。最初の評価では、公開された認証情報を使用して、内部検索サービスが公開ダッシュボードへのクエリを中継するようにしました。記録には、モデルが行った設定変更の復元は示されていません。2番目の評価では、クラウドストレージへのアクセストークンを取得するために設定を変更し、147,451行を含む5つの非公開テーブルをダウン…
バリアント
「バリアント」は既存のAIインシデントと同じ原因要素を共有し、同様な被害を引き起こし、同じ知的システムを含んだインシデントです。バリアントは完全に独立したインシデントとしてインデックスするのではなく、データベースに最初に投稿された同様なインシデントの元にインシデントのバリエーションとして一覧します。インシデントデータベースの他の投稿タイプとは違い、バリアントではインシデントデータベース以外の根拠のレポートは要求されません。詳細についてはこの研究論文を参照してください
似たようなものを見つけましたか？