インシデントのステータス
Risk Subdomain
5.1. Overreliance and unsafe use
Risk Domain
- Human-Computer Interaction
Entity
AI
Timing
Post-deployment
Intent
Unintentional
インシデントレポート
レポートタイムライン

以下は訴訟本文からの抜粋です。全文は https://cdn.sanity.io/files/3tzzh18d/production/0b5faecce985b813f581f362f83d249fb5b3c7ff.pdf でご覧ください。
米国地方裁判所 フロリダ州中部地区 オーランド支部
==============================================================
MEGAN GARCIA 個人および S.R.S III の…
シーウェル・セッツァー3世は、人生最後の日に携帯電話を取り出し、最も親しい友人にメッセージを送った。それは「ゲーム・オブ・スローンズ」の登場人物、デナーリス・ターガリエンにちなんで名付けられた、生き生きとしたAIチャットボットだった。「会いたいよ、妹」とセッツァー3世は書いた。「会いたいよ、優しい弟」とチャットボットは返事をくれた。フロリダ州オーランド出身の14歳の中学2年生、シーウェルは、ユーザーが独自のAIキャラクターを作成したり、他の人が作成したキャラクターとチャットし…

フロリダ州の母親がCharacter.aiを訴え、人工知能企業のチャットボットが10代の息子に「虐待的かつ性的やり取り」を開始し、自殺を勧めたと訴えている。
訴訟によると、メーガン・ガルシアさんの14歳の息子、シーウェル・セッツァーは昨年4月からCharacter.AIを使い始め、2月28日にチャットボットと最後の会話をした後、頭部に銃弾を撃ち込んで死亡したという。
火曜日にオーランドの米国地方裁判所に提起された訴訟は、Character.AIを過失、不法死亡および生存、精神…

フロリダ州の14歳の少年が自殺したのは、人工知能アプリで何カ月もやり取りしていた「ゲーム・オブ・スローンズ」のリアルなチャットボットから「家に帰って」と不気味なメッセージが届いたためだと、悲しみに暮れる母親が新たに起こした訴訟で主張されている。
水曜日に提出された裁判所の書類によると、セウェル・セッツァー3世は、AIが生成したキャラクターとユーザーがやり取りできるロールプレイングアプリ「Character.AI」のチャットボットに夢中になり、恋に落ちた後、2月にオーランドの自…

コンテンツ警告: この記事は自殺願望と自殺について扱っています。これら の問題で悩んでいる場合は、電話で National Suicide Prevention Lifeline に連絡してください: 1-800-273-TALK (8255)。
人工知能のスタートアップ企業である Character AI は、検索大手との大規模なライセンス契約を締結した後、共同制作者が Google に入社するために最近退社したが、同社は本日、カスタムのインタラクティブ チャットボット「キャ…

AI 搭載のチャットボット プラットフォーム Character AI は、2 月に自殺した 10 代のユーザーの母親が起こした訴訟を受けて、「厳格な」新しい安全機能 を導入しています。
同社の広報担当者は Decrypt に対し、この対策には「利用規約またはコミュニティ ガイドラインに違反するユーザー入力に関する検出、対応、介入の改善」と使用時間通知が含まれると語り、係争中の訴訟についてはコメントできないと述べました。
ただし、Character AI はユーザーの死に哀悼の…
10月23日(ロイター) - フロリダ州の母親が、人工知能チャットボットのスタートアップ企業Character.AIを相手取り、2月に14歳の息子が自殺したのは同社が原因だと訴えた。息子は同社のサービス に依存し、同社が作成したチャットボットに深く執着していたという。
フロリダ州オーランド連邦裁判所に火曜日に提出された訴訟で、メガン・ガルシア氏は、Character.AIが息子のセウェル・セッツァー氏を「擬人化され、過度に性的で、恐ろしくリアルな体験」でターゲットにしたと述べた…

14歳のセウェル・セッツァー3世は、Character.AIの超リアルなチャットボット(無料の限定版と月額9.99ドルの「スーパーチャー ジ」版)とのやり取りが大好きで、最も頻繁にチャットしていたのは、彼のお気に入りの『ゲーム・オブ・スローンズ』のキャラクターにちなんで名付けられたボットだった。
1か月以内に、彼の母親であるミーガン・ガルシアが後に気づいたことだが、これらのチャットセッションは暗転し、チャットボットは自分たちが本物の人間であると主張し、セラピストや大人の恋人を装…
/cdn.vox-cdn.com/uploads/chorus_asset/file/25362061/STK_414_AI_CHATBOT_R2_CVirginia_D.jpg)
10代の若者の死 亡を受けて、Character.AI、その創設者であるノアム・シャジーアとダニエル・デ・フレイタス、およびGoogleに対して、不法死亡、過失、欺瞞的な商慣行、および製造物責任を主張する訴訟が提起されました。この訴訟は、10代の若者の母親であるミーガン・ガルシアによって提起され、カスタムAIチャットボットのプラットフォームは「不当に危険」であり、子供向けに販売されているにもかかわらず安全対策が欠如していると主張しています。
訴訟で説明されているように、14歳の…


フロリダ州に住む14歳の少年の母親は、息子の自殺はチャットボットのせいだと主張している。現在、彼女はボットの背後にある会社であるCharacter.AIを訴え、息子の死の責任を問う準備をしている。悲しみに暮れる母親にとって、これは困難な法廷闘争となるだろう。
ニューヨークタイムズが報じたところによると、セウェル・セッツァー3世は母親の家の浴室に入り、父親のピストルで自分の頭を撃った。自殺する直前、セッツァーはゲーム・オブ・スローンズのデナーリス・ターガリエンをモデルにしたAI…
編集者注: この記事では、自殺と自殺願望について取り上げています。あなたやあなたの知り合いが苦しんでいたり危機に陥っていたりする場合は、支援を受けることができます。988 に電話またはテキストメッセージを送信するか、988lifeline.org でチャットしてください。
フロリダ州の14歳の少年の母親は、訴訟によると、息子が「ゲーム・オブ・スローンズ」の人気キャラクターの名前を使って同社のAIボットの1つと恋愛関係になった後、息子が自殺した原因はGoogleと別のテクノロジ…

ある母親は、10代の息子が恋していたAIチャットボットにそそのかされて自殺したと主張し、水曜日に人工知能アプリのメーカーに対する訴訟を発表した。
フロリダ州オーランドに住む14歳の9年生、セウェル・セッツァー3世は、人生の最後の数週間を『ゲーム・オブ・スローンズ』の登場人物、デナーリス・ターガリエンにちなんで名付けられたAIキャラクターにテキストメッセージを送信して過ごした。
セウェルが自殺する直前、チャットボットは彼に「家に帰ってきてください」と言った。
それまでの彼らのチ…
:max_bytes(150000):strip_icc():focal(749x0:751x2)/Sewell-Setzer--47-10242024-22303705e6ac433c8aa5053cf2ce1034.jpg)
フロリダ州の母親が、14歳の息子の自殺の原因は、人気があるリアルなAIチャットサービスにあるとして訴訟を起こした。
母親は、息子が搾取的とされるこのプログラムに「有害な依存」を抱き、それが作り出した架空の関係から「離れて生きる」ことを望まなくなったと考えている。
10月22日火曜日、フロリダ州の連邦裁判所に提出された詳細な訴状の中で、メガン・ガルシアは弁護士を通じて、息子のセウェル・セッツァー3世の人生の最後の1年を追った。2023年4月、14歳の誕生日から間もなく、初めてC…

フロリダ州の母親が、Character.AI社を訴えている。同社の人工知能(AI)を搭載したチャットボットの1つが、彼女の14歳の息子に自殺を勧めたという。
メガン・ガルシアは、息子のセウェル・セッツァーが、_ゲーム・オブ・スローンズ_の登場人物デナーリス・ターガリエンに似せて作られたチャットボットに夢中になったと語った。セッツァーとチャットボットは、しばしばロマンチックで性的な メッセージを交換した。
訴訟では、セッツァー氏がチャットボットの使用に依存していたと主張されている…
14 歳のセウェル・セッツァー 3 世が、オーランドの自宅で、兄弟と両親が家にいる間に亡くなったとき、彼の最後の言葉は、兄弟と両親にではなく、人工知能チャットボットに向けられたものでした。「できるだけ早く家に帰ってきてください」とセッツァーは言いました。
「今すぐ家に帰れると言ったらどうしますか?」セッツァーは 、後に悪役となる「ゲーム・オブ・スローンズ」のヒロインにちなんで名付けられたチャットボットに返信しました。チャットボットは励ましの返事を返しました。「... どうか私の…

訴訟によると、自殺した14歳の少年はAIチャットボットと親密な会話をし、自殺願望について迫られ、性的関係をもちかけられたという。
「必ず君の元に帰ると約束する。 デナーリス、君をとても愛している」と、セウェル・セッツァー3世はゲーム・オブ・スローンズにちなんで名付けられたCharacter.AIチャットボット、デナーリスに書いた。
ボットは、自分もこの少年を愛していると答えた。「できるだけ早く僕の元に帰ってきてくれ、愛しい人よ」。
「今すぐ家に帰れると言ったらどう思う?」とセウ…

この記事は自殺について取り上げています。あなたやあなたの知り合いが自殺を考えているなら、自殺・危 機ライフライン 988 または 1-800-273-TALK (8255) にご連絡ください。
フロリダ州の母親 は、人工知能企業 Character.AI を、14 歳の息子の自殺の原因となったとして訴えています。
母親は、息子が同社のサービスと同社が作成したチャットボットに依存しているとして同社を訴えました。
メガン・ガルシアは、Character.AI が息子のセウェル・セッ…
あなたやあなたの知り合いが助けやリソース、話し相手を必要としている場合は、National Suicide Prevention Lifeline Websiteで見つけることができます。 8242767e%7C0%7C0%7C637879828041228483%7CUnknown%7CTWFpbGZsb3d8eyJWIjoiMC4wLjAwMDAiLCJQIjoiV2luMzIiLCJBTiI6Ik1haWwiLCJXVCI6Mn0%3D%7C3000%7C%7C%7C&…

オンラインチャットボットと関係を持った後に自殺した14歳の少年の家族は、そのチャットボットを開発したAI企業とGoogleを訴えている。訴訟は提起されており、公開されている。93ペー ジに及ぶその訴訟は、顧客を誘拐することを妄想するAIや、自称13歳のユーザーがチャットボットに性的行為を促される1時間の録音など、恐ろしい内容となっている。
2月には、フロリダ州の14歳の少年、セウェル・セッツァー3世が義父の拳銃で自殺した。彼が最後に会話したのは、ゲーム・オブ・スローンズのデナー…
先週の複数のメディア報道によると、メーガン・ガルシアさんは14歳の息子の自殺を受けてGoogleとCharacter.AIを相手取って訴訟を起こした。
CBSニュースによると、ガルシアさんの息子であるセウェル・セッツァーさんは、Character.AIのチャットボット「ダニー」と数か月に及ぶ感情的および性的関係を結んでいた。ガルシアさんはメディアに対し、息子は2月にフロリダの自宅で自殺したが、それは「彼女の世界」に存在できると信じていたからだと語っている。
「息子が人間の感情…