インシデント 939: translated-ja-AI-Powered Chinese Surveillance Campaign 'Peer Review' Used for Real-Time Monitoring of Anti-State Speech on Western Social Media
インシデントのステータス
インシデントレポート
レポートタイムライン
OpenAIは金曜日、中国の安全保障活動が、西側諸国のソーシャルメディアサービスにおける反中国的な投稿に関するリアルタイムの報告を集めるために人工知能を利用した監視ツールを構築した証拠を発見したと発表した。
同社の研究者らは、ツールの開発に携わる誰かがOpenAIの技術を使って、その基盤となるコンピュータコードの一部をデバッグしたため、この新しいキャンペーン(彼らが「ピアレビュー」と呼んでいる)を特定したと述べた。
OpenAIの主任研究員ベン・ニモ氏は、同社がこの種のAIを…
OpenAIは、スペイン語で反米の偽情報を広めることを目的としたキャンペーンを含む、中国の広範な影響力キャンペーンの一環として、同社のAIツールが2回使用されていることを発見し、阻止したと同社は述べた。
重要な理由:AIが偽情報を増幅させ、国家が支援するサイバー攻撃の作業を加速させる可能性は、恐ろしい理論から複雑な現実へと着実に移行している。
ニュースの推進力:OpenAIは金曜日に最新の脅威レポートを公開し、ChatGPTやその他のツールを悪用する取り組みの例をいくつか特定…
OpenAIは、AIソーシ ャルメディア監視ツールのコードをデバッグおよび編集するためにChatGPTを使用しようとした中国人ユーザーグループのアカウントを禁止したと、同社が金曜日に発表した。OpenAIが「ピアレビュー」と呼ぶこのキャンペーンでは、このグループがChatGPTに、X、Facebook、YouTube、Instagramなどのプラットフォームで反中国感情を監視するために設計されたとされるプログラムのセールストークを作成するよう促した。この作戦は、中国での人権侵害…
OpenAIは、人工知能(AI)を使って西側ソーシャルメディア上の 反中国コンテンツをリアルタイムで監視する中国政府の活動が暴露されたとニューヨークタイムズ紙が報じた。
研究者らがPeer Reviewと名付けたこのAIベースのシステムは、専門家らがこのスパイウェアの基盤となるコードをデバッグするためにOpenAIツールが使用されていることに気づいた後に発見された。
「これほど強力なAIベースの監視システムを見たのは初めてだ」とOpenAIの主任研究者ベン・ニモ氏は述べた。「脅…