概要: メリーランド州ボルチモア郡ケンウッド高校に設置された、AI搭載とされる銃器検知システムが、生徒の空のドリトス袋を銃器と誤認したと報じられています。武装警察は生徒を拘束し、手錠をかけた上で、武器がないと判断。オムニラート社が運用するAIシステムは誤報を発し、世論の反発を招き、学校のセキュリティ対策が正式に見直されました。オムニラート社はこの事件について遺憾の意を表明したと報じられています。
Alleged: Omnilert developed an AI system deployed by Baltimore County Public Schools, which harmed Taki Allen と Kenwood High School students.
関与が疑われるAIシステム: Omnilert と AI-enabled video surveillance system for gun detection 
インシデントのステータス
インシデントID
1250
レポート数
3
インシデント発生日
2025-10-20
エディタ
Dummy Dummy
インシデントレポート
レポートタイムライン
Loading...
ボルチモア郡議会議員 は、生徒が武器を所持していると誤検知した警報を受け、学校関係者と警察に対し、AI銃器検知システムの見直しを求めている。
ケンウッド高校の学校責任者に対し、オムニラートAI銃器検知システムは、生徒が銃を所持していると警告した。
実際には武器は存在せず、ポテトチップスの袋を銃と誤認していたことが判明した。
ボルチモア郡議会議員、対策を求める
ボルチモア郡議会議員のジュリアン・ジョーンズ氏とイジー・パトカ氏は、この誤報を受け、郡教育長のミリアム・ロジャース博士と…
Loading...
Loading...

今週、メリーランド州ボルチモア郡の高校で、AIを活用したセキュリティシステムが生徒の空になったポテトチップスの袋を銃器の可能性があると検知したことを受け、武装警察が生徒に手錠をかけ、身体検査を行いました。
ボルチモア郡当局は、ケンウッド高校のAI銃器検知システムの使用方法、そして学校の安全担当者が武器がないとすぐに判断したにもかかわらず、なぜ生徒に手錠がかけられたのかの見直しを求めています。
「彼らは私をひざまずかせ、両手を背中に組ませ、手錠をかけました」と、ケンウッド高校の…
バリアント
「バリアント」は既存のAIインシデントと同じ原因要素を共有し、同様な被害を引き起こし、同じ知的システムを含んだインシデントです。バリアントは完全に独立したインシデントとしてインデックスするのではなく、データベースに最初に投稿された同様なインシデントの元にインシデントのバリエーションとして一覧します。インシデントデータベースの他の投稿タイプとは違い、バリアントではインシデントデータベース以外の根拠のレポートは要求されません。詳細についてはこの研究論文を参照してください
似たようなものを見つけましたか?
よく似たインシデント
Did our AI mess up? Flag the unrelated incidents
よく似たインシデント
Did our AI mess up? Flag the unrelated incidents

