インシデント 793: translated-ja-AllHere's Chatbot 'Ed' Fails and Costs Los Angeles Unified School District $6 Million
インシデントのステータス
Risk Subdomain
4.3. Fraud, scams, and targeted manipulation
Risk Domain
- Malicious Actors & Misuse
Entity
Human
Timing
Post-deployment
Intent
Intentional
インシデントレポート
レポートタイムライン
Ed という名の AI プラットフォームは、ロサンゼルスの公立学校の 50 万人の生徒の「教育的な友人」となるはずだった。Ed は、入力されたチャットで、生徒を学業やメンタルヘルスのリソースに誘導したり、その日に子供が授業 に出席したかどうかを保護者に伝えたり、最新のテストの成績を提供したりしていた。Ed は、敵意、喜び、悲しみなどの感情を察知して反応することさえできる。
地区の教育長であるアルベルト・カルバリョ氏は、Ed について大胆な言葉で語った。同ソフトウェアを宣伝する …
学生の学業成績向上と保護者のロサンゼルス公立学校の複雑さへの対応を支援するために特別に設計された、非常に評判の高い AI チャットボットが、それを開発した会社がスタッフの「大多数」を一時解雇したため、停止された。
学区は、太陽の形をしたチャットボット「Ed」を開発した会社 AllHere との取引を「彼らの財政破綻の通知を受けた」ため中止したと述べた。AllHere は今週、タイムズからの問い合わせに回答せず、その運営レベルは不明である。
別の展開として、ロサンゼルス統一学区…
ニューヨーク南部地区の米国検事ダミアン・ウィリアムズ氏と連邦捜査局(FBI)ニューヨーク支局のジェームズ・E・デネヒー副局長は本日、ジョアンナ・スミス=グリフィン氏を証券詐欺、通信詐欺、および悪質な個人情報窃盗の罪で告発する起訴状の公開を発表した。同氏は、同氏が設立した人工知能教育技術スタートアップ企業であるAllHere Education, Inc.の投資家から数百万ドルを詐取した罪に問われている。スミス=グリフィン氏は本日早朝、ノースカロライナ州東部地区で逮捕され、同地…