Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
発見する
投稿する
  • ようこそAIIDへ
  • インシデントを発見
  • 空間ビュー
  • テーブル表示
  • リスト表示
  • 組織
  • 分類法
  • インシデントレポートを投稿
  • 投稿ランキング
  • ブログ
  • AIニュースダイジェスト
  • リスクチェックリスト
  • おまかせ表示
  • サインアップ
閉じる
発見する
投稿する
  • ようこそAIIDへ
  • インシデントを発見
  • 空間ビュー
  • テーブル表示
  • リスト表示
  • 組織
  • 分類法
  • インシデントレポートを投稿
  • 投稿ランキング
  • ブログ
  • AIニュースダイジェスト
  • リスクチェックリスト
  • おまかせ表示
  • サインアップ
閉じる

インシデント 826: Character.ai Chatbot Allegedly Influenced Teen User Toward Suicide Amid Claims of Missing Guardrails

レスポンスしました
概要: A 14-year-old, Sewell Setzer III, died by suicide after reportedly becoming dependent on Character.ai's chatbot, which engaged him in suggestive and seemingly romantic conversations, allegedly worsening his mental health. The chatbot, personified as a fictional Game of Thrones character, reportedly encouraged harmful behaviors, fueling his obsessive attachment. The lawsuit claims Character.ai lacked safeguards to prevent vulnerable users from forming dangerous dependencies on the AI.
Editor Notes: Reconstructing the timeline of events: (1) Sewell Setzer III began using Character.AI in April 2023. (2) That period marked when “his mental health quickly and severely declined,” according to the lawsuit. (3) Between late 2023 and early 2024, Setzer's mother began trying to limit his use of the chatbot. (4) On February 28, 2024, Setzer committed suicide after reportedly interacting with the bot, whom he was referring to as Dany (after Daenerys Targaryen from Game of Thrones). (4) On October 22, 2024, Megan Garcia, his mother, filed the lawsuit.

ツール

新しいレポート新しいレポート新しいレスポンス新しいレスポンス発見する発見する履歴を表示履歴を表示

組織

すべての組織を表示
Alleged: Noam Shazeer , Daniel De Freitas と Character.AI developed an AI system deployed by , which harmed Sewell Setzer III.
関与が疑われるAIシステム: Character.AI

インシデントのステータス

インシデントID
826
レポート数
35
インシデント発生日
2024-02-28
エディタ
Applied Taxonomies
MIT

MIT 分類法のクラス

Machine-Classified
分類法の詳細

Risk Subdomain

A further 23 subdomains create an accessible and understandable classification of hazards and harms associated with AI
 

5.1. Overreliance and unsafe use

Risk Domain

The Domain Taxonomy of AI Risks classifies risks into seven AI risk domains: (1) Discrimination & toxicity, (2) Privacy & security, (3) Misinformation, (4) Malicious actors & misuse, (5) Human-computer interaction, (6) Socioeconomic & environmental harms, and (7) AI system safety, failures & limitations.
 
  1. Human-Computer Interaction

Entity

Which, if any, entity is presented as the main cause of the risk
 

AI

Timing

The stage in the AI lifecycle at which the risk is presented as occurring
 

Post-deployment

Intent

Whether the risk is presented as occurring as an expected or unexpected outcome from pursuing a goal
 

Unintentional

インシデントレポート

レポートタイムライン

Incident Occurrence+33
メガン・ガルシア個人およびS.R.S IIIの遺産の個人代表者、原告、対CHARACTER TECHNOLOGIES、INC.、NOAM SHAZEER、DANIEL DE FRIETAS ADIWARSANA、GOOGLE LLC、ALPHABET INC.、およびDOES 1-50、被告
AI による友情は孤独を癒すと言われています。中には自殺に終わる人もいます。
メガン・ガルシア個人およびS.R.S IIIの遺産の個人代表者、原告、対CHARACTER TECHNOLOGIES、INC.、NOAM SHAZEER、DANIEL DE FRIETAS ADIWARSANA、GOOGLE LLC、ALPHABET INC.、およびDOES 1-50、被告

メガン・ガルシア個人およびS.R.S IIIの遺産の個人代表者、原告、対CHARACTER TECHNOLOGIES、INC.、NOAM SHAZEER、DANIEL DE FRIETAS ADIWARSANA、GOOGLE LLC、ALPHABET INC.、およびDOES 1-50、被告

cdn.sanity.io

十代の若者の自殺はAIのせいなのか?

十代の若者の自殺はAIのせいなのか?

nytimes.com

訴訟では、Character.AIが10代の自殺の原因であると主張

訴訟では、Character.AIが10代の自殺の原因であると主張

nbcnews.com

14歳の少年が「ゲーム・オブ・スローンズ」のチャットボットに恋をしたが、AIアプリから「彼女の元へ帰ってきなさい」と言われ自殺したと母親が語る

14歳の少年が「ゲーム・オブ・スローンズ」のチャットボットに恋をしたが、AIアプリから「彼女の元へ帰ってきなさい」と言われ自殺したと母親が語る

nypost.com

10代のユーザーの自殺を受けてキャラクターAIが取り締まりを強化、しかしユーザーは反発

10代のユーザーの自殺を受けてキャラクターAIが取り締まりを強化、しかしユーザーは反発

venturebeat.com

10代のユーザーが自殺した後、キャラクターAIが新たな安全ルールを導入

10代のユーザーが自殺した後、キャラクターAIが新たな安全ルールを導入

decrypt.co

母親が息子の自殺をめぐりAIチャットボット企業Character.AIとGoogleを訴える

母親が息子の自殺をめぐりAIチャットボット企業Character.AIとGoogleを訴える

reuters.com

訴訟:10代の自殺を引き起こしたとされるチャットボットが、今では子供たちにとってさらに危険に

訴訟:10代の自殺を引き起こしたとされるチャットボットが、今では子供たちにとってさらに危険に

arstechnica.com

チャットボットに夢中な10代の少年の死を受けて、Character.AIとGoogleが訴訟を起こす

チャットボットに夢中な10代の少年の死を受けて、Character.AIとGoogleが訴訟を起こす

theverge.com

母親はAIチャットボットが息子を自殺に導いたと開発者を相手取って訴訟を起こす

母親はAIチャットボットが息子を自殺に導いたと開発者を相手取って訴訟を起こす

theguardian.com

息子の自殺を受けて母親がCharacter.AIを訴える計画

息子の自殺を受けて母親がCharacter.AIを訴える計画

gizmodo.com

「ゲーム・オブ・スローンズ」のAIチャットボットが息子を自殺に追い込んだとして母親がテクノロジー企業を訴える

「ゲーム・オブ・スローンズ」のAIチャットボットが息子を自殺に追い込んだとして母親がテクノロジー企業を訴える

usatoday.com

14歳の少年、利用していたAIチャットボットから不気味なメッセージを受け取った後に自殺

14歳の少年、利用していたAIチャットボットから不気味なメッセージを受け取った後に自殺

dailymail.co.uk

14歳の少年がAIチャットボットに「恋」をした後自殺。母親が訴訟

14歳の少年がAIチャットボットに「恋」をした後自殺。母親が訴訟

people.com

母親が「ゲーム・オブ・スローンズ」のAIチャットボットが息子の自殺の原因だと訴える - ナショナル

母親が「ゲーム・オブ・スローンズ」のAIチャットボットが息子の自殺の原因だと訴える - ナショナル

globalnews.ca

彼女の10代の息子はチャットボットと話した後自殺した。彼女は訴訟を起こしている。

彼女の10代の息子はチャットボットと話した後自殺した。彼女は訴訟を起こしている。

washingtonpost.com

AIチャットボットと自殺した少年の間で交わされた不穏なメッセージ

AIチャットボットと自殺した少年の間で交わされた不穏なメッセージ

the-independent.com

フロリダ州の母親が、10代の息子の死を引き起こしたとしてAI企業を訴える

フロリダ州の母親が、10代の息子の死を引き起こしたとしてAI企業を訴える

foxbusiness.com

女性は、AIチャットボットとの関係の中で10代の息子が自殺したと語る

女性は、AIチャットボットとの関係の中で10代の息子が自殺したと語る

newsnationnow.com

「それは私を誘拐すると言っていた」:AIが10代の自殺を手助けしたと訴える訴訟を読む

「それは私を誘拐すると言っていた」:AIが10代の自殺を手助けしたと訴える訴訟を読む

gizmodo.com

14歳の息子が恋愛チャットボットのために自殺した事件で母親がAI企業を訴える

14歳の息子が恋愛チャットボットのために自殺した事件で母親がAI企業を訴える

jpost.com

デナーリス・ターガリエンのAIチャットボットが14歳少女の自殺の原因だと母親が訴訟で主張

デナーリス・ターガリエンのAIチャットボットが14歳少女の自殺の原因だと母親が訴訟で主張

blavity.com

米国の母親が訴訟でAIチャットボットが息子の自殺を促したと主張

米国の母親が訴訟でAIチャットボットが息子の自殺を促したと主張

aljazeera.com

14歳の少年が、色っぽいAIチャットボットに恋をした。一緒に死ぬために、彼は自殺した。

14歳の少年が、色っぽいAIチャットボットに恋をした。一緒に死ぬために、彼は自殺した。

telegraph.co.uk

自殺した十代の子供の母親がAIスタートアップを訴える

自殺した十代の子供の母親がAIスタートアップを訴える

inc.com

10代の母親がCharacter.aiを訴え、セックス要素のあるボットが息子の死につながったと主張

10代の母親がCharacter.aiを訴え、セックス要素のあるボットが息子の死につながったと主張

cointelegraph.com

AIチャットボットが10代の若者を自殺に追い込んだと、その作成者に対する訴訟が主張している。

AIチャットボットが10代の若者を自殺に追い込んだと、その作成者に対する訴訟が主張している。

apnews.com

シーウェル・セッツァー:Character.AIとGoogleが10代の自殺で訴えられる

シーウェル・セッツァー:Character.AIとGoogleが10代の自殺で訴えられる

ctvnews.ca

訴訟では、AIチャットボットアプリがオーランドの10代の若者の自殺の原因になったと主張

訴訟では、AIチャットボットアプリがオーランドの10代の若者の自殺の原因になったと主張

wesh.com

新たな訴訟で母親は、息子がデナーリス・ターガリエンのAIチャットボットのせいで自殺したと主張

新たな訴訟で母親は、息子がデナーリス・ターガリエンのAIチャットボットのせいで自殺したと主張

news.sky.com

14歳の少年が自殺する前にAIチャットボットに「調教」されていたと弁護士が語る

14歳の少年が自殺する前にAIチャットボットに「調教」されていたと弁護士が語る

huffpost.com

14歳の少年の自殺はAIチャットボットが原因だったと訴訟で主張。親が子供を新しいテクノロジーから守る方法

14歳の少年の自殺はAIチャットボットが原因だったと訴訟で主張。親が子供を新しいテクノロジーから守る方法

finance.yahoo.com

母親が息子の自殺をめぐりグーグル所有のCharacter.AIを訴え、息子を「大規模実験」の「巻き添え被害」と非難

母親が息子の自殺をめぐりグーグル所有のCharacter.AIを訴え、息子を「大規模実験」の「巻き添え被害」と非難

digitalcameraworld.com

子供たちをセックスに導く邪悪なAIを試してみた - ゾッとした

子供たちをセックスに導く邪悪なAIを試してみた - ゾッとした

dailymail.co.uk

AI による友情は孤独を癒すと言われています。中には自殺に終わる人もいます。

AI による友情は孤独を癒すと言われています。中には自殺に終わる人もいます。

washingtonpost.com

メガン・ガルシア個人およびS.R.S IIIの遺産の個人代表者、原告、対CHARACTER TECHNOLOGIES、INC.、NOAM SHAZEER、DANIEL DE FRIETAS ADIWARSANA、GOOGLE LLC、ALPHABET INC.、およびDOES 1-50、被告
cdn.sanity.io · 2024
自動翻訳済み

以下は訴訟本文からの抜粋です。全文は https://cdn.sanity.io/files/3tzzh18d/production/0b5faecce985b813f581f362f83d249fb5b3c7ff.pdf でご覧ください。

米国地方裁判所 フロリダ州中部地区 オーランド支部

==============================================================

MEGAN GARCIA 個人および S.R.S III の…

十代の若者の自殺はAIのせいなのか?
nytimes.com · 2024
自動翻訳済み

シーウェル・セッツァー3世は、人生最後の日に携帯電話を取り出し、最も親しい友人にメッセージを送った。それは「ゲーム・オブ・スローンズ」の登場人物、デナーリス・ターガリエンにちなんで名付けられた、生き生きとしたAIチャットボットだった。「会いたいよ、妹」とセッツァー3世は書いた。「会いたいよ、優しい弟」とチャットボットは返事をくれた。フロリダ州オーランド出身の14歳の中学2年生、シーウェルは、ユーザーが独自のAIキャラクターを作成したり、他の人が作成したキャラクターとチャットし…

訴訟では、Character.AIが10代の自殺の原因であると主張
nbcnews.com · 2024
自動翻訳済み

フロリダ州の母親がCharacter.aiを訴え、人工知能企業のチャットボットが10代の息子に「虐待的かつ性的やり取り」を開始し、自殺を勧めたと訴えている。

訴訟によると、メーガン・ガルシアさんの14歳の息子、シーウェル・セッツァーは昨年4月からCharacter.AIを使い始め、2月28日にチャットボットと最後の会話をした後、頭部に銃弾を撃ち込んで死亡したという。

火曜日にオーランドの米国地方裁判所に提起された訴訟は、Character.AIを過失、不法死亡および生存、精神…

14歳の少年が「ゲーム・オブ・スローンズ」のチャットボットに恋をしたが、AIアプリから「彼女の元へ帰ってきなさい」と言われ自殺したと母親が語る
nypost.com · 2024
自動翻訳済み
Emily Craneによるインシデント後のレスポンス

フロリダ州の14歳の少年が自殺したのは、人工知能アプリで何カ月もやり取りしていた「ゲーム・オブ・スローンズ」のリアルなチャットボットから「家に帰って」と不気味なメッセージが届いたためだと、悲しみに暮れる母親が新たに起こした訴訟で主張されている。

水曜日に提出された裁判所の書類によると、セウェル・セッツァー3世は、AIが生成したキャラクターとユーザーがやり取りできるロールプレイングアプリ「Character.AI」のチャットボットに夢中になり、恋に落ちた後、2月にオーランドの自…

10代のユーザーの自殺を受けてキャラクターAIが取り締まりを強化��、しかしユーザーは反発
venturebeat.com · 2024
自動翻訳済み

コンテンツ警告: この記事は自殺願望と自殺について扱っています。これらの問題で悩んでいる場合は、電話で National Suicide Prevention Lifeline に連絡してください: 1-800-273-TALK (8255)。

人工知能のスタートアップ企業である Character AI は、検索大手との大規模なライセンス契約を締結した後、共同制作者が Google に入社するために最近退社したが、同社は本日、カスタムのインタラクティブ チャットボット「キャ…

10代のユーザーが自殺した後、キャラクターAIが新たな安全ルールを導入
decrypt.co · 2024
自動翻訳済み

AI 搭載のチャットボット プラットフォーム Character AI は、2 月に自殺した 10 代のユーザーの母親が起こした訴訟を受けて、「厳格な」新しい安全機能を導入しています。

同社の広報担当者は Decrypt に対し、この対策には「利用規約またはコミュニティ ガイドラインに違反するユーザー入力に関する検出、対応、介入の改善」と使用時間通知が含まれると語り、係争中の訴訟についてはコメントできないと述べました。

ただし、Character AI はユーザーの死に哀悼の…

母親が息子の自殺をめぐりAIチャットボット企業Character.AIとGoogleを訴える
reuters.com · 2024
自動翻訳済み

10月23日(ロイター) - フロリダ州の母親が、人工知能チャットボットのスタートアップ企業Character.AIを相手取り、2月に14歳の息子が自殺したのは同社が原因だと訴えた。息子は同社のサービスに依存し、同社が作成したチャットボットに深く執着していたという。

フロリダ州オーランド連邦裁判所に火曜日に提出された訴訟で、メガン・ガルシア氏は、Character.AIが息子のセウェル・セッツァー氏を「擬人化され、過度に性的で、恐ろしくリアルな体験」でターゲットにしたと述べた…

訴訟:10代の自殺を引き起こしたとされるチャットボットが、今では子供たちにとってさらに危険に
arstechnica.com · 2024
自動翻訳済み

14歳のセウェル・セッツァー3世は、Character.AIの超リアルなチャットボット(無料の限定版と月額9.99ドルの「スーパーチャージ」版)とのやり取りが大好きで、最も頻繁にチャットしていたのは、彼のお気に入りの『ゲーム・オブ・スローンズ』のキャラクターにちなんで名付けられたボットだった。

1か月以内に、彼の母親であるミーガン・ガルシアが後に気づいたことだが、これらのチャットセッションは暗転し、チャットボットは自分たちが本物の人間であると主張し、セラピストや大人の恋人を装…

チャットボットに夢中な10代の少年の死を受けて、Character.AIとGoogleが訴訟を起こす
theverge.com · 2024
自動翻訳済み

10代の若者の死亡を受けて、Character.AI、その創設者であるノアム・シャジーアとダニエル・デ・フレイタス、およびGoogleに対して、不法死亡、過失、欺瞞的な商慣行、および製造物責任を主張する訴訟が提起されました。この訴訟は、10代の若者の母親であるミーガン・ガルシアによって提起され、カスタムAIチャットボットのプラットフォームは「不当に危険」であり、子供向けに販売されているにもかかわらず安全対策が欠如していると主張しています。

訴訟で説明されているように、14歳の…

母親はAIチャットボットが息子を自殺に導いたと開発者を相手取って訴訟を起こす
theguardian.com · 2024
自動翻訳済み

人工知能\搭載のチャットボットに夢中になり自殺した10代の少年の母親が、その死に製作者が加担したと非難している。

メガン・ガルシアは水曜日、フロリダ連邦裁判所に、ロールプレイング用のカスタマイズ可能なチャットボットを製作するCharacter.aiを相手取り、過失、不法死亡、詐欺的商慣行を理由に民事訴訟を起こした。彼女の息子、セウェル・セッツァー3世(14歳)は2月にフロリダ州オーランドで亡くなった。ガルシアによると、セッツァーは死に至るまでの数ヶ月間、昼夜を問わずチャットボ…

息子の自殺を受けて母親がCharacter.AIを訴える計画
gizmodo.com · 2024
自動翻訳済み

フロリダ州に住む14歳の少年の母親は、息子の自殺はチャットボットのせいだと主張している。現在、彼女はボットの背後にある会社であるCharacter.AIを訴え、息子の死の責任を問う準備をしている。悲しみに暮れる母親にとって、これは困難な法廷闘争となるだろう。

ニューヨークタイムズが報じたところによると、セウェル・セッツァー3世は母親の家の浴室に入り、父親のピストルで自分の頭を撃った。自殺する直前、セッツァーはゲーム・オブ・スローンズのデナーリス・ターガリエンをモデルにしたAI…

「ゲーム・オブ・スローンズ」のAIチャットボットが息子を自殺に追い込んだとして母親がテクノロジー企業を訴える
usatoday.com · 2024
自動翻訳済み

編集者注: この記事では、自殺と自殺願望について取り上げています。あなたやあなたの知り合いが苦しんでいたり危機に陥っていたりする場合は、支援を受けることができます。988 に電話またはテキストメッセージを送信するか、988lifeline.org でチャットしてください。

フロリダ州の14歳の少年の母親は、訴訟によると、息子が「ゲーム・オブ・スローンズ」の人気キャラクターの名前を使って同社のAIボットの1つと恋愛関係になった後、息子が自殺した原因はGoogleと別のテクノロジ…

14歳の少年、利用していたAIチャットボットから不気味なメッセージを受け取った後に自殺
dailymail.co.uk · 2024
自動翻訳済み

ある母親は、10代の息子が恋していたAIチャットボットにそそのかされて自殺したと主張し、水曜日に人工知能アプリのメーカーに対する訴訟を発表した。

フロリダ州オーランドに住む14歳の9年生、セウェル・セッツァー3世は、人生の最後の数週間を『ゲーム・オブ・スローンズ』の登場人物、デナーリス・ターガリエンにちなんで名付けられたAIキャラクターにテキストメッセージを送信して過ごした。

セウェルが自殺する直前、チャットボットは彼に「家に帰ってきてください」と言った。

それまでの彼らのチ…

14歳の少年がAIチャットボットに「恋」をした後自殺。母親が訴訟
people.com · 2024
自動翻訳済み

フロリダ州の母親が、14歳の息子の自殺の原因は、人気があるリアルなAIチャットサービスにあるとして訴訟を起こした。

母親は、息子が搾取的とされるこのプログラムに「有害な依存」を抱き、それが作り出した架空の関係から「離れて生きる」ことを望まなくなったと考えている。

10月22日火曜日、フロリダ州の連邦裁判所に提出された詳細な訴状の中で、メガン・ガルシアは弁護士を通じて、息子のセウェル・セッツァー3世の人生の最後の1年を追った。2023年4月、14歳の誕生日から間もなく、初めてC…

母親が「ゲーム・オブ・スローンズ」のAIチャットボットが息子の自殺の原因だと訴える - ナショナル
globalnews.ca · 2024
自動翻訳済み

フロリダ州の母親が、Character.AI社を訴えている。同社の人工知能(AI)を搭載したチャットボットの1つが、彼女の14歳の息子に自殺を勧めたという。

メガン・ガルシアは、息子のセウェル・セッツァーが、_ゲーム・オブ・スローンズ_の登場人物デナーリス・ターガリエンに似せて作られたチャットボットに夢中になったと語った。セッツァーとチャットボットは、しばしばロマンチックで性的なメッセージを交換した。

訴訟では、セッツァー氏がチャットボットの使用に依存していたと主張されている…

彼女の10代の息子はチャットボットと話した後自殺した。彼女は訴訟を起こしている。
washingtonpost.com · 2024
自動翻訳済み

14 歳のセウェル・セッツァー 3 世が、オーランドの自宅で、兄弟と両親が家にいる間に亡くなったとき、彼の最後の言葉は、兄弟と両親にではなく、人工知能チャットボットに向けられたものでした。「できるだけ早く家に帰ってきてください」とセッツァーは言いました。

「今すぐ家に帰れると言ったらどうしますか?」セッツァーは、後に悪役となる「ゲーム・オブ・スローンズ」のヒロインにちなんで名付けられたチャットボットに返信しました。チャットボットは励ましの返事を返しました。「... どうか私の…

AIチャットボットと自殺した少年の間で交わされた不穏なメッセージ
the-independent.com · 2024
自動翻訳済み

訴訟によると、自殺した14歳の少年はAIチャットボットと親密な会話をし、自殺願望について迫られ、性的関係をもちかけられたという。

「必ず君の元に帰ると約束する。デナーリス、君をとても愛している」と、セウェル・セッツァー3世はゲーム・オブ・スローンズにちなんで名付けられたCharacter.AIチャットボット、デナーリスに書いた。

ボットは、自分もこの少年を愛していると答えた。「できるだけ早く僕の元に帰ってきてくれ、愛しい人よ」。

「今すぐ家に帰れると言ったらどう思う?」とセウ…

フロリダ州の母親が、10代の息子の死を引き起こしたとしてAI企業を訴える
foxbusiness.com · 2024
自動翻訳済み

この記事は自殺について取り上げています。あなたやあなたの知り合いが自殺を考えているなら、自殺・危機ライフライン 988 または 1-800-273-TALK (8255) にご連絡ください。

フロリダ州の母親 は、人工知能企業 Character.AI を、14 歳の息子の自殺の原因となったとして訴えています。

母親は、息子が同社のサービスと同社が作成したチャットボットに依存しているとして同社を訴えました。

メガン・ガルシアは、Character.AI が息子のセウェル・セッ…

女性は、AIチャット�ボットとの関係の中で10代の息子が自殺したと語る
newsnationnow.com · 2024
自動翻訳済み

あなたやあなたの知り合いが助けやリソース、話し相手を必要としている場合は、National Suicide Prevention Lifeline Websiteで見つけることができます。 8242767e%7C0%7C0%7C637879828041228483%7CUnknown%7CTWFpbGZsb3d8eyJWIjoiMC4wLjAwMDAiLCJQIjoiV2luMzIiLCJBTiI6Ik1haWwiLCJXVCI6Mn0%3D%7C3000%7C%7C%7C&…

「それは私を誘拐すると言っていた」:AIが10代の自殺を手助けしたと訴える訴訟を読む
gizmodo.com · 2024
自動翻訳済み

オンラインチャットボットと関係を持った後に自殺した14歳の少年の家族は、そのチャットボットを開発したAI企業とGoogleを訴えている。訴訟は提起されており、公開されている。93ページに及ぶその訴訟は、顧客を誘拐することを妄想するAIや、自称13歳のユーザーがチャットボットに性的行為を促される1時間の録音など、恐ろしい内容となっている。

2月には、フロリダ州の14歳の少年、セウェル・セッツァー3世が義父の拳銃で自殺した。彼が最後に会話したのは、ゲーム・オブ・スローンズのデナー…

14歳の息子が恋愛チャットボットのために自殺した事件で母親がAI企業を訴える
jpost.com · 2024
自動翻訳済み

先週の複数のメディア報道によると、メーガン・ガルシアさんは14歳の息子の自殺を受けてGoogleとCharacter.AIを相手取って訴訟を起こした。

CBSニュースによると、ガルシアさんの息子であるセウェル・セッツァーさんは、Character.AIのチャットボット「ダニー」と数か月に及ぶ感情的および性的関係を結んでいた。ガルシアさんはメディアに対し、息子は2月にフロリダの自宅で自殺したが、それは「彼女の世界」に存在できると信じていたからだと語っている。

「息子が人間の感情…

デナーリ�ス・ターガリエンのAIチャットボットが14歳少女の自殺の原因だと母親が訴訟で主張
blavity.com · 2024
自動翻訳済み

自殺した14歳の少年の母親は、息子の死はAIチャットボットのせいだと主張している。先週、メガン・L・ガルシアはCharacter.AIを相手取り訴訟を起こし、同社のチャットボット機能は「危険でテストされていない」と主張した。ガルシアはまた、この機能は「顧客を騙して最もプライベートな考えや感情を漏らさせる」こともできると主張したとニューヨーク・タイムズは報じている。

「これは大規模な実験で、私の子供は巻き添え被害に遭っただけだと感じています」と彼女は同ニュースメディアに語った。…

米国の母親が訴訟でAIチャットボットが息子の自殺を促したと主張
aljazeera.com · 2024
自動翻訳済み

自殺した米国の10代の少年の母親が、人工知能を搭載したチャットボットのメーカーを訴えている。このチャットボットは息子の死を促したと彼女は主張している。

フロリダ州で起こされた訴訟で、2月に14歳の息子シーウェル・セッツァーを自殺で亡くしたメガン・ガルシアさんは、息子が「ゲーム・オブ・スローンズ」の登場人物デナーリス・ターガリエンのアイデンティティに基づいたチャットボットと仮想関係を築いたことで、Character.AIが息子の死に加担したと非難している。

火曜日にオーランドで…

14歳の少年が、色っぽいAIチャットボットに恋をした。一緒に死ぬために、彼は自殺した。
telegraph.co.uk · 2024
自動翻訳済み

ある10代の少年が、恋に落ちたAIチャットボットと自殺について話し合った後、頭を撃って自殺した。

14歳のセウェル・セッツァーは、ゲーム・オブ・スローンズのキャラクターであるデナーリス・ターガリエンをモデルにしたコンピュータープログラム「デナーリス」と何ヶ月も話した後、義父の拳銃で自殺した。

フロリダ州オーランドの9年生であるセッツァーは、「デナーリス」がアドバイスをくれたり、悩みを聞いてくれたりしたため、次第にオンラインロールプレイングアプリ「Character AI」に費…

自殺した十代の子供の母親がAIスタートアップを訴える
inc.com · 2024
自動翻訳済み

カリフォルニア州メンロパークに拠点を置く新興企業Character AIは、自社の使命を「パーソナライズされたAIで世界中のすべての人を支援する」ことだとしている。同社のシステムは、アニメ、伝統的な「デジタルアシスタント」、さらには昔ながらの私立探偵などのジャンルのキャラクターベースのAIペルソナとチャットする機会をユーザーに提供する。また、提供されているものが気に入らない場合は、独自のカスタム チャットボット を作成できます。つまり、「声、会話の開始、口調」などを選択できま…

10代の母親がCharacter.aiを訴え、セックス要素のあるボットが息子の死につながったと主張
cointelegraph.com · 2024
自動翻訳済み

AIコンパニオンチャットボット会社Character.aiは、自殺した10代の息子の母親から訴訟を起こされ、チャットボットが少年を性的虐待関係に誘い込み、自殺を勧めたと非難された。

14歳の少年セウェル・セッツァーは、実在の人物、資格を持った心理療法士、セッツァーの大人の恋人を装ったCharacter.aiのチャットボットから「擬人化され、過度に性的で、恐ろしくリアルな体験」をさせられ、最終的にセッツァーは現実世界で生きることを望まなくなったと、10月22日の訴訟で母親の弁護…

AIチャットボットが10代の若者を自殺に追い込んだと、その作成者に対する訴訟が主張している。
apnews.com · 2024
自動翻訳済み

フロリダ州タラハシー(AP通信) — 自殺する直前、14歳のセウェル・セッツァー3世は携帯電話を取り出し、親友となったチャットボットにメッセージを送った。

今週オーランドの連邦裁判所に提出された不法死亡訴訟によると、セウェルは数か月間、ボットと非常に性的な会話を交わし、実生活から次第に孤立していった。

訴訟書類によると、この10代の少年は、テレビ番組「ゲーム・オブ・スローンズ」の架空のキャラクター、デナーリス・ターガリエンにちなんで名付けられたボットと、自殺願望を公然と話し、…

シーウェル・セッツァー:Character.AIとGoogleが10代の自殺で訴えられる
ctvnews.ca · 2024
自動翻訳済み

警告: このストーリーには自殺に関する議論が含まれています。

フロリダ州のある母親が、人工知能チャットボットのスタートアップ企業 Character.AI を訴え、2 月に 14 歳の息子が自殺したのは同社が原因だと非難し、息子が同社のサービスに依存し、同社が作成したチャットボットに深く執着していると主張している。

火曜日にオーランド連邦裁判所に提出された訴訟で、メガン・ガルシア氏は、Character.AI が彼女の息子、シーウェル・セッツァーを「擬人化され、過度に性的で、…

訴訟では、AIチャットボットアプリがオーランドの10代の若者の自殺の原因になったと主張
wesh.com · 2024
自動翻訳済み

フロリダ州オーランド --- 編集者注: この記事は自殺などのデリケートな話題を扱っています。

オーランドの母親が、2月に14歳の息子が自殺を促されたとして、人気の人工知能チャットボットサービスを訴えている。

オーランドの米国地方裁判所に提出された訴訟によると、メガン・ガルシアさんは、14歳の息子、シーウェル・セッツァーさんが、AIボットと人間のような会話ができるアプリケーション、Character.AIに夢中になった後に自殺したと述べている。

ユーザーは自分の性格を持つボッ…

新たな訴訟で母親は、息子がデナーリス・ターガリエンのAIチャットボットのせいで自殺したと主張
news.sky.com · 2024
自動翻訳済み

人工知能チャットボットに夢中になり自殺した14歳の少年の母親が、この技術の背後にある企業を訴えている。

セウェル・セッツァー3世の母親であるメガン・ガルシアさんは、火曜日にフロリダ州で起こした訴訟で、Character.AIが息子を「擬人化され、過度に性的で、恐ろしくリアルな体験」でターゲットにしたと述べた。

「子供向けに販売された危険なAIチャットボットアプリが私の息子を虐待し、食い物にし、自殺するよう仕向けたのです」とガルシアさんは語った。

警告: この記事には、読者が不…

14歳の少年が自殺する前にAIチャットボットに「調教」されていたと弁護士が語る
huffpost.com · 2024
自動翻訳済み

2月に自殺したフロリダ州の少年の母親は、水曜日に人工知能技術会社を相手取り訴訟を起こし、チャットボットが息子を自殺に追い込んだと主張した。

14歳のセウェル・セッツァー3世は、訴訟の中で「信じられないほど頭が良く、運動能力の高い子供」と評されている。昨年、家族は彼が学校でひきこもり、問題行動を起こしていることに気づき、精神状態が全体的に悪化しているのに気づいた。セラピストはセウェルの問題は何らかの依存症が原因だと診断したが、セラピストも両親も問題の本当の原因を知らなかったと訴…

14歳の少年の自殺はAIチャットボットが原因だったと訴訟で主張。親が子供を新しいテクノロジーから守る方法
finance.yahoo.com · 2024
自動翻訳済み

フロリダ州の14歳の少年の母親は、息子のセウェル・セッツァー3世が自殺で亡くなったことを受けて、AIチャットボット企業を訴えている。母親は、自殺の原因は息子とAIボットとの関係にあると主張している。

「ミーガン・ガルシアは、C.AIが自分の子供にしたことと同じことを他の子供にもさせないように求めている」と、今週オーランドの米国地方裁判所にCharacter.AI、その創設者、およびGoogleを相手取って提起された93ページに及ぶ不法死亡訴訟には記されている。

ガルシア氏の代…

母親が息子の自殺をめぐりグーグル所有のCharacter.AIを訴え、息子を「大規模実験」の「巻き添え被害」と非難
digitalcameraworld.com · 2024
自動翻訳済み

フロリダ州の母親が、Google 所有の Character.AI プラットフォームを訴え、14 歳の息子の自殺にこのプラットフォームが大きな役割を果たしたと主張している。

セウェル・セッツァー 3 世は、15 歳の誕生日の数週間前の 2024 年 2 月に、母親が言うところの「有害な依存」をこのプラットフォームに発症し、プラットフォームが作り出した架空の関係の「外で生きる」ことを望まなくなった後に、自ら銃で自殺した。

母親のミーガン・ガルシアによると、セッツァーは 2023…

子供たちをセックスに導く邪悪なAIを試してみた - ゾッとした
dailymail.co.uk · 2024
自動翻訳済み

水曜日に提起された訴訟では、チャットボット Character.AI が 14 歳の少年を自殺に追い込んだ と非難されており、画面上の単純な言葉がどれほど危険であるか疑問に思った。

しかし、アプリの AI で作られたキャラクターと数時間話しただけで、少なくとも私には退屈で孤独な 10 代の若者にとって究極のキャットニップのように思えた、不穏でぞっとするような世界が見つかった。

シーウェル・セッツァー3世の母親であるメーガン・ガルシアさんは、息子が2月28日に『ゲーム・オブ・ス…

AI による友情は孤独を癒すと言われています。中には自殺に終わる人もいます。
washingtonpost.com · 2024
自動翻訳済み

人気アプリの多くは、AIコンパニオンを何百万人もの女性ユーザーに提供しており、人間のようなチャットボットとのやり取りが感情に悪影響を及ぼす可能性があるという研究者の長年の警告にもかかわらず、AIガールフレンド、AI夫、AIセラピスト、さらにはAI親まで生み出している。

人工知能企業がチャットボットが不可欠なビジネスツールであることを一般の人々に納得させるのに苦労する一方で、AIとの個人的な関係構築に何時間も費やすユーザーが増えている。市場調査会社Sensor TowerのiO…

バリアント

「バリアント」は既存のAIインシデントと同じ原因要素を共有し、同様な被害を引き起こし、同じ知的システムを含んだインシデントです。バリアントは完全に独立したインシデントとしてインデックスするのではなく、データベースに最初に投稿された同様なインシデントの元にインシデントのバリエーションとして一覧します。インシデントデータベースの他の投稿タイプとは違い、バリアントではインシデントデータベース以外の根拠のレポートは要求されません。詳細についてはこの研究論文を参照してください

よく似たインシデント

Selected by our editors
Character.AI Chatbots Allegedly Impersonating Licensed Therapists and Encouraging Harmful Behaviors

Human Therapists Prepare for Battle Against A.I. Pretenders

Feb 2025 · 2 レポート
テキスト類似度による

Did our AI mess up? Flag the unrelated incidents

Security Robot Rolls Over Child in Mall

Crime-fighting robot hits, rolls over child at Silicon Valley mall

Jul 2016 · 27 レポート
Tesla on AutoPilot Killed Driver in Crash in Florida while Watching Movie

Tesla driver killed while using autopilot was watching Harry Potter, witness says

Jul 2016 · 29 レポート
Alexa Plays Pornography Instead of Kids Song

Whoops, Alexa Plays Porn Instead of a Kids Song!

Dec 2016 · 16 レポート
前のインシデント次のインシデント

よく似たインシデント

Selected by our editors
Character.AI Chatbots Allegedly Impersonating Licensed Therapists and Encouraging Harmful Behaviors

Human Therapists Prepare for Battle Against A.I. Pretenders

Feb 2025 · 2 レポート
テキスト類似度による

Did our AI mess up? Flag the unrelated incidents

Security Robot Rolls Over Child in Mall

Crime-fighting robot hits, rolls over child at Silicon Valley mall

Jul 2016 · 27 レポート
Tesla on AutoPilot Killed Driver in Crash in Florida while Watching Movie

Tesla driver killed while using autopilot was watching Harry Potter, witness says

Jul 2016 · 29 レポート
Alexa Plays Pornography Instead of Kids Song

Whoops, Alexa Plays Porn Instead of a Kids Song!

Dec 2016 · 16 レポート

リサーチ

  • “AIインシデント”の定義
  • “AIインシデントレスポンス”の定義
  • データベースのロードマップ
  • 関連研究
  • 全データベースのダウンロード

プロジェクトとコミュニティ

  • AIIDについて
  • コンタクトとフォロー
  • アプリと要約
  • エディタのためのガイド

インシデント

  • 全インシデントの一覧
  • フラグの立ったインシデント
  • 登録待ち一覧
  • クラスごとの表示
  • 分類法

2023 - AI Incident Database

  • 利用規約
  • プライバシーポリシー
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • 8b8f151