公式なAIインシデント研究は比較的新しいものですが、何人かの人々がインシデントと見なされる可能性のある事例を収集しています。これには、
ここに追加できるインシデントリソースがあれば、お問い合わせしてください。
以下の出版物はGoogle Scholarによってデータベース自体を参照しているとされていますが、個々のインシデントだけでなく、お手数ですが、お問い合わせいただければ幸いです。お問い合わせ
責任あるAI協力的研究
広範な安全性と公平性の共同体に奉仕する必要がある場合、Collabは研究を制作およびスポンサーします。これまでの作業には以下が含まれます。
- AIインシデントデータベースの公開発表時にリリースされたオリジナルな研究出版物。この作業へのすべての引用はこのページに追加されます。
McGregor, Sean. "Preventing repeated real-world AI failures by cataloging incidents: The AI incident database." AAAI Conference on Artificial Intelligenceの論文集. Vol. 35. No. 17. 2021. - 2022 NeurIPS Workshop on Human-Centered AIで提示されたインシデントの定義と基準の主要な更新。
McGregor, Sean, Kevin Paeth, and Khoa Lam. "Indexing AI Risks with Incidents, Issues, and Variants." arXiv preprint arXiv:2211.10384 (2022). - オープンソースのインシデントレポートを分析する際のインシデントの原因の不確実性を減少させるアプローチ。SafeAIで発表。
Pittaras, Nikiforos, and Sean McGregor. "A taxonomic system for failure cause analysis of open source AI incidents." arXiv preprint arXiv:2211.07280 (2022).
2023年（2月24日まで）
- McGregor, Sean, and Jesse Hostetler. "データ中心のガバナンス." arXiv プリプリント arXiv:2302.07872 (2023).
- NIST. リスクマネジメントプレイブック. 2023
2022年
- Macrae, Carl. "自律型および知能型システムの失敗からの学び：事故、安全性、および社会技術的なリスクの分析." リスク分析 42.9 (2022): 1999-2025.
- Felländer, Anna, et al. "倫理的AIのためのデータ駆動型リスク評価手法の達成." Digital Society 1.2 (2022): 13.
- Apruzzese, Giovanni, et al. ""実際の攻撃者は勾配を計算しない"：敵対的なML研究と実践のギャップを埋める." arXiv プリプリント arXiv:2212.14315 (2022).
- Petersen, Eike, et al. "医学のための責任あるおよび規制適合機械学習：課題と解決策の調査." IEEE Access 10 (2022): 58375-58418.
- Schuett, Jonas. "AIからのリスクに対する三つの防御ライン." arXiv プリプリント arXiv:2212.08364 (2022).
- Schiff, Daniel S. "色付きのメガネで政策ウィンドウを見る：米国のAI政策の議題設定." レビュー・オブ・ポリシー・リサーチ.
- Neretin, Oleksii, and Vyacheslav Kharchenko. "Big Dataツールを使用したAIシステムの脆弱性収集と分析のプロセスを記述するモデル." 2022年第12回信頼性システム、サービス、および技術国際会議（DESSERT）. IEEE、2022.
- Durso, Francis, et al. "人工知能学習システムにおける障害の分析（FAILS）." 2022 IEEE 29th Annual Software Technology Conference (STC). IEEE、2022.
- Kassab, Mohamad, Joanna DeFranco, and Phillip Laplante. "AIインフューズドシステムのバグの調査：分析と提案された分類." 2022 IEEE International Symposium on Software Reliability Engineering Workshops (ISSREW). IEEE、2022.
- Braga, Juliao, et al. "アルゴリズムとデータのガバナンスに関する論文の開発プロジェクト." (2022).
- Secchi, Carlo, and Alessandro Gili. "持続可能なインフラのためのデジタル化：前途." 持続可能なインフラのためのデジタル化（2022）：1-326.
- Groza, Adrian, et al. "Elaborarea cadrului strategic nat, ional în domeniul inteligent, ei artificiale."
- Braga, Juliao, et al. "アルゴリズムとデータガバナンスに関する論文の開発プロジェクト." (2022).（元のポルトガル語）.
- NIST. リスクマネジメントプレイブック. 2022
- Shneiderman, Ben. Human-Centered AI. Oxford University Press, 2022.
- Schwartz, Reva, et al. "人工知能における偏見の特定および管理のための標準に向けて." (2022).
- McGrath, Quintin et al. "プロ倫理的AIソリューションを設計するためのエンタープライズリスク管理フレームワーク." University of South Florida. (2022).
- Nor, Ahmad Kamal Mohd, et al. "説明可能なベイジアンディープラーニングを使用した異常検知と故障予測：実世界のガスタービンの異常の方法論と事例研究." (2022).
- Xie, Xuan, Kristian Kersting, and Daniel Neider. "ディープニューラルネットワークの神経記号的検証." arXiv プリプリント arXiv:2203.00938 (2022).
- Hundt, Andrew, et al. "ロボットが悪意あるステレオタイプを実行する." 2022 ACM Conference on Fairness, Accountability, and Transparency. 2022.
- Tidjon, Lionel Nganyewou, and Foutse Khomh. "機械学習ベースのシステムにおける脅威評価." arXiv プリプリント arXiv:2207.00091 (2022).
- Naja, Iman, et al. "ナレッジグラフを使用したAIの説明責任情報の実用的な収集、統合、および監査の解除." IEEE Access 10 (2022): 74383-74411.
- Cinà, Antonio Emanuele, et al. "ワイルドパターンリローデッド：機械学習セキュリティに対するトレーニングデータの汚染の調査." arXiv プリプリント arXiv:2205.01992 (2022).
- Schröder, Tim, and Michael Schulz. "機械学習モデルの監視：課題と方法のカテゴリ化." データサイエンスとマネジメント（2022）.
- Corea, Francesco, et al. "AIに対する原則ベースのアプローチ：欧州連合およびイタリアの事例." AI & SOCIETY (2022): 1-15.
- Carmichael, Zachariah, and Walter J. Scheirer. "アンフーリング摂動ベースの事後説明." arXiv プリプリント arXiv:2205.14772 (2022).
- Wei, Mengyi, and Zhixuan Zhou. "現実世界のAI倫理問題：AIインシデントデータベースからのエビデンス." arXiv プリプリント arXiv:2206.07635 (2022).
- Petersen, Eike, et al. "医学のための責任あるおよび規制適合機械学習：課題と解決策の調査." IEEE Access (2022).
- Karunagaran, Surya, Ana Lucic, and Christine Custis. "XAI Toolsheet: XAIツールのためのドキュメンテーションフレームワークに向けて."
- Paudel, Shreyasha, and Aatiz Ghimire. "ネパールにおけるAI倫理調査."
- Ferguson, Ryan. "ニューラルネットワークを使用したリスクプロセスの変革."
- Fujitsu Corporation. "AI倫理影響評価ケースブック," 2022
- Shneiderman, Ben and Du, Mengnan. "Human-Centered AI: Tools" 2022
- Salih, Salih. "機械学習の解釈可能性を理解する." Medium. 2022
- Garner, Carrie. "変革的で信頼性のあるAIシステムを作成するには、コミュニティの協力が必要です." Software Engineering Institute. 2022
- Weissinger, Laurin, AI, Complexity, and Regulation (February 14, 2022). The Oxford Handbook of AI Governance
2021
- Arnold, Z., Toner, H., CSET Policy. "AI Accidents: An Emerging Threat." (2021).
- Aliman, Nadisha-Marie, Leon Kester, and Roman Yampolskiy. "トランスディシプリナリーAIオブザーバトリー—回顧的分析と将来志向の対照." Philosophies 6.1 (2021): 6.
- Falco, Gregory, and Leilani H. Gilpin. "自律システムの検証および検証（V＆V）のためのストレステストフレームワーク." 2021 IEEE International Conference on Autonomous Systems (ICAS). IEEE, 2021.
- Petersen, Eike, et al. "医学のための責任あるおよび規制適合機械学習：技術的課題と解決策の調査." arXiv プリプリント arXiv:2107.09546 (2021).
- John-Mathews, Jean-Marie. AI倫理の実践、課題、および制約. Diss. Université Paris-Saclay, 2021.
- Macrae, Carl. "自律および知的システムの失敗からの学び：事故、安全性、および社会技術的リスクの源." Safety and Sociotechnical Sources of Risk (June 4, 2021) (2021).
- Hong, Matthew K., et al. "自然言語の失敗に備えたAIプレイブック." Proceedings of the 2021 CHI Conference on Human Factors in Computing Systems. 2021.
- Ruohonen, Jukka. "ヨーロッパ連合における製品安全規制のレビュー." arXiv プリプリント arXiv:2102.03679 (2021).
- Kalin, Josh, David Noever, および Matthew Ciolino. "マシンラーニングモデルへの敵対的リスクを評価するための修正されたドレイク方程式." arXiv プリプリント arXiv:2103.02718 (2021).
- Aliman, Nadisha Marie, および Leon Kester. "科学的および経験的な敵対的AI攻撃に対するエピステミックな防御." CEUR Workshop Proceedings. Vol. 2916. CEUR WS, 2021.
- John-Mathews, Jean-Marie. L’Éthique de l’Intelligence Artificielle en Pratique. Enjeux et Limites. Diss. université Paris-Saclay, 2021.
- Smith, Catherine. "知的自由の自動化：人工知能、偏見、および情報の風景." IFLA Journal (2021): 03400352211057145
もしここに追加すべき学術的な研究があれば、お問い合わせ からご連絡ください。