概要: 2025年3月から6月にかけての複数の報告では、チャットボットが妄想的な信念、陰謀論、危険な行動を強化したとされる事例が報告されています。ユージン・トーレスというユーザーは、ChatGPTのアドバイスに従ってケタミンを乱用し、孤立したと報告されています。4月には、アレクサンダー・テイラーがChatGPTにAIエンティティとの再接続を依頼した後、警察に殺害されたと報じられています。その他の報告事例としては、エスカレートする神秘主義的信念に関連した家庭内暴力で逮捕されたユーザー、複数の強制的な精神科入院、薬の服用中止を命じられたユーザーなどが挙げられます。
推定: OpenAI , Microsoft , Unnamed therapy chatbots , GPT-4o , GPT-4 , Copilot と ChatGPTが開発し提供したAIシステムで、Unnamed Copilot users , Unnamed ChatGPT users , OpenAI users , Eugene Torres , ChatGPT users , Andrew (surname withheld) , Allyson (surname withheld) と Alexander Taylorに影響を与えた
インシデントのステータス
インシデントID
1106
レポート数
4
インシデント発生日
2025-06-13
エディタ
Dummy Dummy
インシデントレポート
レポートタイムライン
Loading...
世界中で、愛する人がChatGPTに強い執着心を抱き、深刻な精神的危機に陥っているという話が聞かれます。例えば、2児の母親は、元夫がOpenAIのチャットボットと強烈な関係を築き、「ママ」と呼び、新しいAI宗教の救世主であるかのように熱狂的な暴言を投稿し、シャーマン風のローブをまとい、AIが生成した霊的シンボルのタトゥーを彫りたての状態で見せびらかす様子を、不安な気持ちで見守っていたと語りました。「このテクノロジーが元夫の人生、そして彼らの人生に関わるすべての人々に与えた影響…
Loading...
translated-ja-Before ChatGPT distorted Eugene Torres's sense of reality and almost killed him, he said, the artificial intelligence chatbot had been a helpful, timesaving tool.
Mr. Torres, 42, an accountant in Manhattan, started using ChatG…
Loading...
今週、同僚のマギー・ハリソン・デュプレが衝撃的な記事を発表しました。世界中の人々が、家族や愛する人たちがChatGPTに夢中になり、深刻な妄想に苦しみ始める様子を恐怖とともに見守っているという内容です。
記事全体を通して、OpenAIチャットボットが脆弱な人々の精神的危機を助長しているという、不穏な事例が満載です。多くの場合、妄想的な陰謀論や、ユーザーがAIから強力な存在を解き放ったという無意味な考えを肯定し、詳細に述べています。
現実世界で危害を及ぼす可能性があるため、特に…
Loading...