Définir un "Incident IA"

L'industrie du transport aérien commercial doit une grande partie de sa sécurité croissante à l'analyse et à l'archivage systématiques des accidents et incidents passés dans une base de données partagée. Dans l'aviation, un accident est un cas où des dommages importants ou des pertes de vie se produisent. Les incidents sont des cas où le risque d'accident augmente considérablement. Par exemple, lorsqu'un petit incendie est rapidement éteint dans un poste de pilotage, il s'agit d'un "incident", mais si le feu brûle des membres d'équipage en cours d'extinction, il s'agit d'un "accident". La base de données de l'aviation de la FAA indexe les données des journaux de vol et les enquêtes d'experts ultérieures dans des examens complets des facteurs technologiques et humains. En partie à cause de cet examen de soi continu, le transport aérien est l'un des modes de transport les plus sûrs. Des décennies d'améliorations itératives des systèmes de sécurité et de la formation ont réduit le nombre de décès 81 fois depuis 1970 lorsqu'il est normalisé pour les milles passagers.

Là où l'industrie aéronautique a des définitions claires, les informaticiens et les philosophes débattent depuis longtemps des définitions fondamentales de l'intelligence artificielle. En l'absence de lignes claires différenciant les algorithmes, l'intelligence et les dommages qu'ils peuvent causer directement ou indirectement, cette base de données adopte un critère adaptatif pour ingérer les "incidents" où les rapports sont acceptés ou rejetés sur la base d'un ensemble de règles croissant.