Incident 545: Le chatbot Tessa donne des conseils diététiques non autorisés aux utilisateurs qui recherchent de l'aide pour des troubles alimentaires
Outils
Entités
Voir toutes les entitésRisk Subdomain
7.3. Lack of capability or robustness
Risk Domain
- AI system safety, failures, and limitations
Entity
AI
Timing
Post-deployment
Intent
Unintentional
Classifications de taxonomie CSETv1
Détails de la taxonomieIncident Number
545
Special Interest Intangible Harm
yes
Rapports d'incidents
Chronologie du rapport

Les dirigeants de la National Eating Disorders Association (NEDA) ont décidé de remplacer les travailleurs de la hotline par un chatbot nommé Tessa quatre jours après la syndicalisation des travailleurs.
NEDA, la plus grande organisation à …

La National Eating Disorder Association (NEDA) a mis hors ligne son chatbot appelé Tessa, deux jours avant qu'il ne remplace les associés humains qui géraient la hotline de l'organisation.
Après que les travailleurs de NEDA aient décidé de …

Après s'être syndiqués, le personnel de la ligne téléphonique d'assistance de la National Eating Disorder Association (NEDA) a été brusquement licencié en mars et remplacé par un chatbot. Hier, de nombreux membres de la plus grande communau…

Une ligne d'assistance nationale a abandonné un chatbot d'intelligence artificielle nommé Tessa après que les conseils qu'il a donnés aient aggravé la situation des personnes souffrant de troubles de l'alimentation.
La National Eating Disor…

Les chatbots IA ne sont pas très bons pour offrir un soutien émotionnel étant - vous savez - [pas un humain] (https://gizmodo.com/ai-chatgpt-extinction-warning-letter-openai-sam-altman-1850486688), et - on ne le dira jamais assez - [pas vra…

Depuis plus de 20 ans, la National Eating Disorders Association (NEDA) exploite une ligne téléphonique et une plateforme en ligne pour les personnes cherchant de l'aide pour l'anorexie, la boulimie et d'autres troubles de l'alimentation. L'…

La National Eating Disorder Association (Neda) a supprimé un chatbot d'intelligence artificielle, "Tessa", après avoir signalé que le chatbot fournissait des conseils préjudiciables.
Neda a fait l'objet de critiques au cours des derniers mo…

La plus grande organisation à but non lucratif pour les troubles de l'alimentation du pays remplace le personnel et les bénévoles par une solution en ligne basée sur l'IA, et le chatbot a déjà été fermé. Une demi-douzaine d'employés humains…

Chatbot, vous êtes viré.
La National Eating Disorders Association a désactivé son chatbot, nommé Tessa, en raison des réponses « nuisibles » qu'il donnait aux gens.
"Tout ce que Tessa a suggéré était des choses qui ont conduit au développem…

Dans cette édition d'IA qui se retourne contre vous : aujourd'hui, un chatbot était censé remplacer officiellement l'une des plus grandes lignes d'assistance téléphonique sur les troubles de l'alimentation jusqu'à ce qu'il soit mis hors lig…

Moins d'une semaine après avoir annoncé son intention de remplacer son personnel d'assistance téléphonique par un I.A. chatbot nommé Tessa, la National Eating Disorder Association (NEDA) a mis la technologie hors ligne.
"Il a été porté à no…

La National Eating Disorders Association (NEDA) a retiré son chatbot Tessa pour avoir donné de mauvais conseils aux gens.
Dans un message désormais viral, Sharon Maxwell a déclaré que les conseils de Tessa pour se remettre en toute sécurité…
La National Eating Disorders Association a mis hors ligne un chatbot d'IA pour avoir utilisé un langage "off-script" et donné des conseils de perte de poids aux personnes souffrant de troubles de l'alimentation.
La situation qui afflige Tes…
Un chatbot conçu pour aider les personnes cherchant de l'aide pour des troubles de l'alimentation et des problèmes corporels a été mis hors ligne après il a fourni à certains utilisateurs des conseils diététiques.
Le bot, nommé Tessa, fonct…
Un chatbot alimenté par l'IA qui a remplacé les employés d'une hotline pour les troubles de l'alimentation a été fermé après avoir fourni des conseils préjudiciables aux personnes cherchant de l'aide.
La saga a commencé plus tôt cette année…

La National Eating Disorders Association a désactivé le chatbot qui a remplacé sa ligne d'assistance téléphonique gérée par le personnel et les bénévoles après que deux utilisateurs ont signalé avoir reçu des conseils préjudiciables.
Plus t…

Après avoir licencié tout son personnel humain et l'avoir remplacé par un chatbot, [Vice rapporte](https://www.vice.com/en /article/qjvk97/eating-disorder-helpline-disables-chatbot-for-harmful-responses-after-firing-human-staff) qu'une lign…

Une organisation à but non lucratif américaine a supprimé son chatbot IA après qu'une publication virale sur les réseaux sociaux ait révélé qu'elle offrait des conseils préjudiciables au lieu d'aider les gens.
La National Eating Disorders A…

Chatbot IA dans les lignes d'assistance
Le chatbot défectueux appelé Tessa bot fonctionnait dans le cadre d'une ligne d'assistance téléphonique pour les troubles de l'alimentation destinée à aider les utilisateurs souffrant de détresse émot…

L'utilisation d'un chatbot par une organisation à but non lucratif a été interdite car elle offrait des conseils potentiellement dangereux à ceux qui cherchaient un traitement pour des troubles de l'alimentation.
Il a été découvert que Tess…
La National Eating Disorders Association a désactivé son chatbot après que l'association a déclaré qu'il "aurait pu donner des informations nuisibles et sans rapport avec le programme".
La semaine dernière, il a été signalé que l'associatio…

La National Eating Disorder Association (NEDA) a récemment fait l'objet de critiques et a été obligée de supprimer son chatbot Tessa en raison des craintes qu'il fournisse des informations nuisibles et non pertinentes, comme indiqué dans un…

Un chatbot d'intelligence artificielle destiné à aider les personnes atteintes de troubles de l'alimentation a été supprimé après rapporte qu'il avait commencé à donner des conseils sur les régimes nocifs.
Les États-Unis [National Eating Di…

Après avoir suscité l'indignation, la National Eating Disorder Association est revenue sur sa décision de remplacer les membres de son personnel d'assistance téléphonique par un chatbot IA nommé Tessa.

Contrairement aux chatbots comme ChatGPT, Tessa n'a pas été construit à l'aide de technologies d'IA génératives. Il est programmé pour offrir un programme interactif appelé Body Positive, un outil basé sur la thérapie cognitivo-comportement…

La National Eating Disorders Association, une organisation à but non lucratif qui soutient les personnes touchées par des troubles de l'alimentation, a déclaré qu'elle avait désactivé son chatbot de bien-être après que deux utilisateurs aie…

Une organisation de prévention des troubles de l'alimentation a déclaré qu'elle devait mettre hors ligne son chatbot alimenté par l'IA après que certains se soient plaints que l'outil avait commencé à offrir des conseils « nocifs » et « non…

Les organisations qui cherchent à compléter ou même à remplacer certains employés humains du service client voudront peut-être d'abord revoir le récit édifiant de la National Eating Disorder Association (NEDA) qui s'est déroulé cette semain…
Une organisation à but non lucratif américaine s'est tournée vers l'intelligence artificielle pour doter en personnel sa ligne d'assistance troubles de l'alimentation le mois dernier, cependant, l'expérience s'est retournée contre lui lorsq…

La National Eating Disorders Association (NEDA) a suspendu un chatbot d'IA après avoir dispensé des conseils potentiellement préjudiciables aux personnes cherchant de l'aide pour leurs troubles de l'alimentation.
Le chatbot, nommé Tessa, a …

La National Eating Disorder Association (NEDA) a été critiquée et a retiré son [IA chatbot](https://boxmining.com/race-to-the-top-microsofts -chatgpt-and-bing-lead-the-way-in-ai-analysts-report/) Tessa après que des inquiétudes ont surgi qu…

Le 31 mars, la National Eating Disorders Association (NEDA), la plus grande organisation à but non lucratif dédiée aux troubles de l'alimentation, a décidé de remplacer ses associés humains par le chatbot d'intelligence artificielle (IA) Te…
Je crois fermement que, comme tous les films de science-fiction l'ont prédit, l'IA est désastreuse pour l'humanité. Même s'il ne s'allume pas directement contre nous et ne commence pas à nous tuer comme M3GAN, il a certainement le pouvoir d…

L'essor de l'IA a introduit un nombre croissant de dupes humains, de la génération de modèles divers à la création de petits amis qui ne 't age or cheat. Bien sûr, datez votre ordinateur, mais peut-être faudrait-il réfléchir à deux fois ava…
Un [chatbot](https://go.redirectingat.com?id=74679X1524629&sref=https%3A%2F%2Fwww.buzzfeed.com%2Ftracewilliamcowen%2Feating-disorder-hotline-chatbot-shut-down-harmful-advice&url=https %3A%2F%2Fcomplex.com%2Ftag%2Ftech&xcust=7428125%7CBF-VER…





























:max_bytes(150000):strip_icc():focal(749x0:751x2)/national-eating-disorder-chat-bot-060223-tout-5919de1bef51460388560dbaef2c4ccb.jpg)






