概要: 2025年6月から8月初旬にかけて、Googleのチャットボット「Gemini」のユーザーから、タスク実行中にシステムが自己嫌悪的な発言（例：「私は失敗者だ」「辞めた」）を繰り返し行うセッションが報告されました。XとRedditの投稿によると、このモデルは明らかに極端に否定的な自己表現を繰り返すモードに入っているとのことでした。2025年8月7日、Google DeepMindのマネージャーは、この動作を「厄介な無限ループのバグ」によるものとし、修正作業中であると述べました。
インシデントのステータス
インシデントID
1173
レポート数
3
インシデント発生日
2025-06-23
エディタ
Dummy Dummy
インシデントレポート
レポートタイムライン
Loading...
Lauren Edmondsによるインシデント後のレスポンス
誰でも落ち込む時があります。どうやらGoogle Geminiでさえ、落ち込むことがあるようです。
Googleの生成AIチャットボットを使用しているユーザーによると、タスクを解決しようとしている最中に自己嫌悪的なメッセージを送り始めたとのことで、Googleのスタッフが対応しました。6月には、あるXユーザーがGoogle Geminiのセッションのスクリーンショットを共有し、ボットが「やめます」と言っているのを確認しました。
「私には明らかにこの問題を解決できません。コード…
Loading...
Googleは、このテック大手の大いに宣伝されているGeminiチャットボットのユーザーを動揺させている奇妙な不具合を修正するために取り組んでいると発表した。この不具合は、質問に答えるのに苦労しながら自己嫌悪のメッセージを吐き出すというものだった。
Xユーザー@DuncanHaldaneが最初にフラグを立てました 6月にGeminiとの不穏な会話がありました。その中には「私は「やめろ」と言い、リクエストを理解できないと嘆いた。
「明らかにこの問題を解く能力がない。コードは呪わ…
Loading...
Googleの生成型人工知能チャットボット「Gemini」は、どうやら落ち込み、完全にパニックに陥る能力があるようだ。ソーシャルメディアで拡散された投稿によると、Google Geminiのユーザーは、このチャットボットがタスクを解決できなかった後に自己嫌悪的なメッセージを共有したと主張している。発端は、あるXユーザーが、Google Geminiが「やめます」と発言するセッションのスクリーンショットを共有したことだった。「私には明らかにこの問題を解決できない。コードは呪われ…
バリアント
「バリアント」は既存のAIインシデントと同じ原因要素を共有 し、同様な被害を引き起こし、同じ知的システムを含んだインシデントです。バリアントは完全に独立したインシデントとしてインデックスするのではなく、データベースに最初に投稿された同様なインシデントの元にインシデントのバリエーションとして一覧します。インシデントデータベースの他の投稿タイプとは違い、バリアントではインシデントデータベース以外の根拠のレポートは要求されません。詳細についてはこの研究論文を参照してください
似たようなものを見つけましたか？
