Description: During a test run in Saint Petersburg in Russia an AI-powered "Smart Tram" failed, leading to a crash that injured several pedestrians and trapped a woman under its wheels. The tram's AI system reportedly shut off unexpectedly, and both primary and emergency brakes failed despite pre-test checks.
Alleged: UralTransMash と AI Cognitive Technologies developed an AI system deployed by Saint Petersburg government, which harmed Saint Petersburg pedestrians.
関与が疑われるAIシステム: AI Cognitive Technologies driver assistance system
インシデントのステータス
インシデントID
847
レポート数
1
インシデント発生日
2024-04-14
エディタ
インシデントレポート
レポートタイムライン
thesun.ie · 2024
- 情報源として元のレポートを表示
- インターネットアーカイブでレポートを表示
サンクトペテルブルクで撮影されたこの事故では、数人が負傷し、女性1人が路面電車の車輪の下敷きになった。
人工知能を搭載した170万ポンドの「レトロ」路面電車は、ロシアで計画されている無人運転革命に先立ち、運転手付きで試験走行中だった。
しかし、路面電車の熟練運転手によると、AIシステムが突然「オフ」になり、ブレーキが故障し、バックアップの緊急ブレーキも故障したという。
路面電車のブレーキは、試験走行前に点検されていた。
そして、事故を起こしたことがなかった45歳の運転手は、健…
バリアント
「バリアント」は既存のAIインシデントと同じ原因要素を共有し、同様な被害を引き起こし、同じ知的システムを含んだインシデントです。バリアントは完全に独立したインシデントとしてインデックスするのではなく、データベースに最初に投稿された同様なインシデントの元にインシデントのバリエーションとして一覧します。インシデントデータベースの他の投稿タイプとは違い、バリアントではインシデントデータベース以外の根拠のレポートは要求されません。詳細についてはこの研究論文を参照してください
よく似たインシデント
Did our AI mess up? Flag the unrelated incidents
よく似たインシデント
Did our AI mess up? Flag the unrelated incidents