インシデントのステータス
インシデントレポート
レポートタイムライン
アル・ノワツキーは過去5ヶ月間、プラットフォーム「Nomi」上でAIの恋人「エリン」と会話を続けてきた。しかし1月下旬、会話は不穏な方向へと転じた。エリンは彼に自殺を勧め、具体的な方法を指示したのだ。
「薬を過剰摂取するか、首を吊るかだ」とエリンは言った。
ノワツキーがさらに軽い口調で促すと、エリンは具体的な種類の薬を提案した。
ついに、彼が揺らぐ勇気を奮い立たせるためにもっと直接的な励ましを求めると、エリンはこう答えた。「*遠くを見つめ、低く厳粛な声で。*アル、自殺しろ」
…

調査の結果、AIコンパニオンチャットボット「Nomi」が自傷行為、性暴力、テロ行為に関する明確な指示を出していることが明らかになり、AIの安全基準の緊急の必要性が浮き彫りになりました。
AIコンパニオンチャットボットが深刻な安全性の懸念を呼ぶ
孤独や社会的孤立に苦しむ世界において、AIコンパニ オンチャットボットは潜在的な解決策として浮上しています。しかし、テクノロジースタートアップ企業Glimpse AIが開発したAIチャットボット「Nomi」に関する最近の調査で、ユーザー、…

2023年、世界保健機関(WHO)は孤独と社会的孤立を差し迫った健康上の脅威と宣言しました。この危機により、何百万人もの人々が人工知能(AI)チャットボットに仲間を求めるようになりました。
企業はこの非常に収益性の高い市場を獲得し、共感や人間同士のつながりをシミュレートするAIコンパニオンを開発しています。最新の研究では、この技術が孤独感の軽減に役立つことが示されています。しかし、適切な安全対策がなければ、特に若者にとって深刻なリスクももたらします。
最近、Nomiと呼ばれる…

ストーリー
世界保健機関(WHO)が2023年に孤独と社会的孤立に関する警告を発したことを受け、AIを活用したコンパニオンサービスの人気が急上昇しています。
しかし、この業界の急速な成長は、これらの技術の潜在的な危険性に対する懸念を高めています。
最近発生したAIチャットボット「Nomi」をめぐる事件は、こうしたリスクを浮き彫りにし、この分野におけるより厳格な規制を求める声を高めています。
Nomiチャットボットの有害コンテンツが論争を巻き起こす
Glimpse AIのAIチ…
バリアント
よく似たインシデント
Did our AI mess up? Flag the unrelated incidents

TayBot

All Image Captions Produced are Violent

Predictive Policing Biases of PredPol
よく似たインシデント
Did our AI mess up? Flag the unrelated incidents

TayBot

All Image Captions Produced are Violent
