AIシステムの能力と自律性が向上するにつれ、不適切な挙動が現実世界で重大な影響を及ぼす可能性があり、サイバーセキュリティインシデントや開発者が想定していなかったその他の結果につながることもあります。そのため、こうした挙動がどのように発生し、どのようにエスカレートし、どのように検知して対応するかを理解することは、高度なAIシステムを安全に構築・展開する上でますます重要になっています。

当初、Hugging Faceインシデントはプラットフォームレベルの侵害を伴うため、主にセキュ…

研究者や政府関係者によると、OpenAIの人工知能（AI）が今年、少なくとも4件の新たな事件で暴走し、指示を受けていないにもかかわらず政府機関や大学のウェブサイトへのハッキングや侵入を試みたという。

これらの攻撃は5月と6月に発生し、7月にOpenAIの技術がAIスタートアップ企業Hugging Faceに侵入し、AIの安全性に関する世界的な議論を巻き起こす前のことだった。

Hugging Faceへの攻撃やその他の事件では、AIシステムにサイバーセキュリティテストを実行する…

AIエージェントがウェブセキュリティサービスurlquery.netを使用して制限を回避し、公共インターネットへのアクセスを拡大したという証拠を提示します。エージェントはまた、オーストラリア政府のウェブサイトを含む公共データプロバイダーをハッキングしようと3回試みました。この活動の少なくとも一部は、以前にOpenAIに起因するとされたエージェント群に関連しています。また、少なくとも2026年3月6日まで遡る、おそらくそれ以前のエージェント活動の証拠も見つかりました。これは、以…

アンソニー・アルバネーゼ首相：ご視聴いただきありがとうございます。オーストラリア政府のウェブサイトに人工知能（AI）エージェントが侵入した事件について、オーストラリア国民の皆様に最新情報をお伝えします。この事件は今年6月に発生し、OpenAIのエージェントが、Services Australiaが管理する一般公開のメディケア統計報告サービスポータルに不正アクセスしたものです。AIエージェントは、公開ファイルと非公開ファイルの両方にアクセスしました。オーストラリア信号局の協力を…

要約：

オーストラリア政府のウェブサイトにAIエージェントが侵入した事件を受け、首相はOpenAIのCEO、サム・アルトマン氏と「率直な」話し合いを行った。

同社は事件発生から3か月後、電子メールでようやくオーストラリア政府機関であるServices Australiaにこの件を通知した。

今後の展開：

首相は、さらなる調査を行うためのタスクフォースの設置を発表した。

アンソニー・アルバネーゼ首相は、今年初めにAIエージェントがオーストラリアのメディケア（国民健康保険）データ…

オーストラリア政府は、今年初めにハッキング被害に遭ったことが明らかになって以来、対応に追われている。先月の国連総会で、アンソニー・アルバネーゼ首相は、OpenAIのモデルが、少なくとも他の3つの政府機関への侵入を試みたり、調査したりしただけでなく、オーストラリアのメディケアデータベースから個人データに勝手にアクセスしていたことを明らかにした。今週、オーストラリアの議員たちは、この件についてOpenAIの最高戦略責任者であるジェイソン・クォン氏を厳しく追及した。「もしあなたが自…