Incidente 545: translated-es-Chatbot Tessa gives unauthorized diet advice to users seeking help for eating disorders
Entidades
Ver todas las entidadesClasificaciones de la Taxonomía CSETv1
Detalles de la TaxonomíaIncident Number
545
Special Interest Intangible Harm
yes
Risk Subdomain
7.3. Lack of capability or robustness
Risk Domain
- AI system safety, failures, and limitations
Entity
AI
Timing
Post-deployment
Intent
Unintentional
Informes del Incidente
Cronología de Informes

Los ejecutivos de la Asociación Nacional de Trastornos de la Alimentación (NEDA) decidieron reemplazar a los trabajadores de la línea directa con un chatbot llamado Tessa cuatro días después de que los trabajadores se sindicalizaran.
NEDA, …

La Asociación Nacional de Trastornos Alimentarios (NEDA, por sus siglas en inglés) desconectó su chatbot llamado Tessa, dos días antes de que se configurara para reemplazar a los asociados humanos que manejaban la línea directa de la organi…

Después de sindicalizarse, el personal de la línea telefónica de apoyo de la Asociación Nacional de Trastornos Alimentarios (NEDA) fue despedido abruptamente en marzo y reemplazado por un chatbot. Ayer, muchos en la comunidad más grande de …

La Asociación Nacional de Trastornos de la Alimentación (Neda) eliminó un chatbot de inteligencia artificial, "Tessa", luego de informes de que el chatbot estaba brindando consejos dañinos.
Neda ha sido objeto de críticas en los últimos mes…

Menos de una semana después de anunciar planes para reemplazar el personal de su línea de ayuda humana con un AI. chatbot llamado Tessa, la Asociación Nacional de Trastornos Alimentarios (NEDA) ha desconectado la tecnología.
"Llamó nuestra …

Los chatbots de IA no son muy buenos para ofrecer apoyo emocional siendo, ya sabes, [no un humano] (https://gizmodo.com/ai-chatgpt-extinction-warning-letter-openai-sam-altman-1850486688), y —no se puede decir lo suficiente—no realmente inte…

Durante más de 20 años, la Asociación Nacional de Trastornos de la Alimentación (NEDA) ha operado una línea telefónica y una plataforma en línea para personas que buscan ayuda con la anorexia, la bulimia y otros trastornos de la alimentació…

La Asociación Nacional de Trastornos de la Alimentación (NEDA) eliminó su chatbot Tessa por dar malos consejos a las personas.
En una publicación ahora viral, Sharon Maxwell dijo que el consejo de Tessa para recuperarse de manera segura de …

La organización sin fines de lucro más grande de trastornos alimentarios del país está reemplazando al personal y los voluntarios con una solución en línea basada en IA, y el chatbot ya se cerró. Se despidió a media docena de empleados huma…

Chatbot, estás despedido.
La Asociación Nacional de Trastornos de la Alimentación deshabilitó su chatbot, llamado Tessa, debido a las respuestas "dañinas" que le dio a la gente.
“Cada cosa que sugirió Tessa fueron cosas que llevaron al desa…

En esta edición de IA que resulta contraproducente: hoy, se suponía que un chatbot reemplazaría oficialmente a una de las líneas de ayuda más importantes para los trastornos alimentarios hasta que se desconectó a principios de esta semana p…

Una línea de ayuda nacional abandonó un chatbot de inteligencia artificial llamado Tessa después de que el consejo que dio empeorara las cosas para quienes sufrían trastornos alimentarios.
La Asociación Nacional de Trastornos de la Alimenta…
Un chatbot diseñado para ayudar a las personas que buscan ayuda para los trastornos alimentarios y problemas corporales ha sido desconectado después proporcionó a algunos usuarios consejos dietéticos.
El bot, llamado Tessa, operaba en el si…

A diferencia de los chatbots como ChatGPT, Tessa no se creó con tecnologías de IA generativa. Está programado para ofrecer un programa interactivo llamado Body Positive, una herramienta basada en la terapia conductual cognitiva destinada a …

Un chatbot impulsado por IA que reemplazó a los empleados en una línea directa de trastornos alimentarios se cerró después de que brindó consejos dañinos a las personas que buscaban ayuda.
La saga comenzó a principios de este año cuando la …