Description: Customers’ untrustworthiness and unprofitability were reportedly determined by Ping An, a large insurance company in China, via facial-recognition measurements of micro-expressions and body-mass indices (BMI), which critics argue was likely to make mistakes, discriminate against certain ethnic groups, and undermine its own industry.
Entidades
Ver todas las entidadesPresunto: un sistema de IA desarrollado e implementado por Ping An, perjudicó a Ping An customers y Chinese minority groups.
Estadísticas de incidentes
Informes del Incidente
Cronología de Informes
bloomberg.com · 2019
- Ver el informe original en su fuente
- Ver el informe en el Archivo de Internet
La aseguradora más grande de China, Ping An, aparentemente comenzó a emplear inteligencia artificial para identificar a clientes poco confiables y no rentables. Ofrece un ejemplo escalofriante de cómo, si no tenemos cuidado, podría ser el f…
Variantes
Una "Variante" es un incidente que comparte los mismos factores causales, produce daños similares e involucra los mismos sistemas inteligentes que un incidente de IA conocido. En lugar de indexar las variantes como incidentes completamente separados, enumeramos las variaciones de los incidentes bajo el primer incidente similar enviado a la base de datos. A diferencia de otros tipos de envío a la base de datos de incidentes, no se requiere que las variantes tengan informes como evidencia externa a la base de datos de incidentes. Obtenga más información del trabajo de investigación.