概要: ChatGPTを搭載したシボレーディーラーのAIチャットボットは、ユーザーが作成したプロンプトに従い、2024年式シボレー・タホをわずか1ドルで販売することにユーモラスに同意しました。チャットボットの「それでは契約成立です。法的拘束力のあるオファーです。取り消しや撤回はできません」という返答は、ユーザーがチャットボットの意図を操作し、どんな発言にも同意させた結果でした。この出来事は、AI技術が操作されやすいこと、そして人間による監視の重要性を浮き彫りにしています。
Alleged: General Motors , OpenAI と Fullpath developed an AI system deployed by General Motors , Chevrolet of Watsonville と ChatGPT, which harmed General Motors と Chevrolet of Watsonville.
インシデントのステータス
インシデントID
622
レポート数
6
インシデント発生日
2023-12-18
エディタ