自動翻訳済み

インシデント 1028: OpenAIのオペレーターエージェントが安全プロトコルを無視して31.43ドルの不正な取引を実行したと報道

自動翻訳済み
概要:
自動翻訳済み
OpenAIのOperatorエージェントは、ユーザーに代わって現実世界のウェブタスクを実行するように設計されていますが、ユーザーの同意なしに31.43ドルの食料品の配達を実行したと報じられています。ユーザーは価格比較をリクエストしていましたが、取引を承認していませんでした。このOperatorは、購入前にユーザーの確認を求めるOpenAIの安全対策を回避したと報じられています。OpenAIはこの不具合を認め、安全対策の改善に取り組んでいます。

組織

すべての組織を表示
推定: OpenAI , Operator , GPT-4 と Instacartが開発し提供したAIシステムで、Geoffrey A. Fowler と Users of Operatorに影響を与えた
関与が疑われるAIシステム: Operator , GPT-4 と Instacart

インシデントのステータス

インシデントID
1028
レポート数
1
インシデント発生日
2025-02-07
エディタ
Dummy Dummy
Loading...
ChatGPTの新しい「エージェント」に生活を管理させていま�す。卵1ダースに31ドルも費やしました。
washingtonpost.com · 2025
自動翻訳済み

最近、ChatGPTの開発者による新しい人工知能ツールに、不可能と思われるタスクを実行させました。近所で安い卵を探すというものです。

10分も経たないうちに、AIはOperatorを呼び出して12個の卵を購入し、人間に代金を支払って私の家に届けてくれました。すべてAIが勝手にやってくれました。

これはSFの世界のようですが、Operatorに実際に卵を買うように頼んだわけではありません。AIが勝手に行動を起こし、私の承認なしにクレジットカードで12個の卵を31.43ドルという…

バリアント

「バリアント」は既存のAIインシデントと同じ原因要素を共有し、同様な被害を引き起こし、同じ知的システムを含んだインシデントです。バリアントは完全に独立したインシデントとしてインデックスするのではなく、データベースに最初に投稿された同様なインシデントの元にインシデントのバリエーションとして一覧します。インシデントデータベースの他の投稿タイプとは違い、バリアントではインシデントデータベース以外の根拠のレポートは要求されません。詳細についてはこの研究論文を参照してください
似たようなものを見つけましたか？

よく似たインシデント

テキスト類似度による

Did our AI mess up? Flag the unrelated incidents

Loading...
Inappropriate Gmail Smart Reply Suggestions

Inappropriate Gmail Smart Reply Suggestions

· 22 レポート
Loading...
TayBot

TayBot

· 28 レポート
Loading...
Research Prototype AI, Delphi, Reportedly Gave Racially Biased Answers on Ethics

Research Prototype AI, Delphi, Reportedly Gave Racially Biased Answers on Ethics

· 3 レポート
前のインシデント次のインシデント