概要: アマゾンは、爆発物や焼夷装置を製造するための化学物質の組み合わせを、自動推奨を通じて「よく一緒に購入される」商品として表示していたと報じられている。
推定: Amazon と Amazon recommendation algorithmが開発し提供したAIシステムで、Amazon usersに影響を与えた
関与が疑われるAIシステム: Amazon recommendation algorithm
CSETv1 分類法のクラス
分類法の詳細Incident Number
The number of the incident in the AI Incident Database.
329
Risk Subdomain
A further 23 subdomains create an accessible and understandable classification of hazards and harms associated with AI
4.2. Cyberattacks, weapon development or use, and mass harm
Risk Domain
The Domain Taxonomy of AI Risks classifies risks into seven AI risk domains: (1) Discrimination & toxicity, (2) Privacy & security, (3) Misinformation, (4) Malicious actors & misuse, (5) Human-computer interaction, (6) Socioeconomic & environmental harms, and (7) AI system safety, failures & limitations.
- Malicious Actors & Misuse
Entity
Which, if any, entity is presented as the main cause of the risk
AI
Timing
The stage in the AI lifecycle at which the risk is presented as occurring
Post-deployment
Intent
Whether the risk is presented as occurring as an expected or unexpected outcome from pursuing a goal
Unintentional
インシデントレポート
レポートタイムライン
Loading...
Channel 4 News has discovered that Amazon’s algorithm guides users to the necessary chemical combinations for producing explosives and incendiary devices. Ingredients which are innocent on their own are suggested for purchase together as “F…
Loading...
Amazonのアルゴリズムは、顧客に潜在的に危険な商品をまとめて購入するよう勧めているようだ。
Amazonのアルゴリズムは、特定の商品を閲覧する際に、手製爆弾の製造に使用できる商品と組み合わせるよう買い物客に提案すると、英国のChannel 4 Newsが報じている。[https://www.channel4.com/news/potentially-deadly-bomb-ingredients-on-amazon]
同局によると、Amazonの特定の化学物質の「よく一緒…
バリアント
「バリアント」は既存のAIインシデントと同じ原因要素を共有し、同様な被害を引き起こし、同じ知的システムを含んだインシデントです。バリアントは完全に独立したインシデントとしてインデックスするのではなく、データベースに最初に投稿された同様なインシデントの元にインシデントのバリ エーションとして一覧します。インシデントデータベースの他の投稿タイプとは違い、バリアントではインシデントデータベース以外の根拠のレポートは要求されません。詳細についてはこの研究論文を参照してください
似たようなものを見つけましたか？
