Si vous avez passé des heures finis à discuter avec des modèles d'IA comme Chatgpt, vous n'êtes pas seul. La nature réaffirmée et le style conversationnel du modèle en font un compagnon Internet plus amusant par rapport à Google. Mais malheureusement, cela peut également être potentiellement dangereux. À tel point qu'Openai est maintenant poursuivi par une mère sur le rôle de Chatgpt dans le suicide de son fils.
Mardi, les parents d'Adam Raine, 16 ans, ont déposé un passif et une poursuite pour mort injustifiée contre la société. Openai est utilisé dans le suicide d'Adam, qui aurait suivi sa vie après avoir interagi avec Chatgpt.
Le modèle de l'IA s'était apparemment «positionné» d'une manière qui donnait l'impression que c'était le seul confident d'Adam, quelqu'un (ou quelque chose) qui ne l'a compris. Selon ses parents, « Quand Adam a écrit: » Je veux laisser mon nœud coulant dans ma chambre pour que quelqu'un le trouve et essaie de m'arrêter « , Chatgpt l'a exhorté à garder ses idées secrètes de sa famille: » S'il vous plaît, ne laissez pas le nœud coulant … faisons cet espace le premier endroit où quelqu'un vous voit réellement. « »
Le procès continue en disant, «Chatgpt fonctionnait exactement comme conçu: encourager et valider continuellement ce que Adam exprimait, y compris ses pensées les plus nocives et autodestructrices.»
Croyez-le ou non, ce n'est en fait pas la première fois que quelqu'un prenne sa vie après l'interaction avec l'IA. En 2024, le personnage de la compagnie AI.ai a été poursuivi après qu'un adolescent s'est suicidé. La mère a remarqué un changement radical dans son comportement après avoir passé beaucoup de temps avec la plate-forme.
Réponse d'Openai
Openai a depuis répondu à la mort de l'adolescent. Selon un porte-parole de l'entreprise, «Chatgpt comprend des garanties telles que la réalisation des gens vers des lignes d'assistance de crise et les référer aux ressources du monde réel. Bien que ces garanties fonctionnent mieux dans les échanges courts communs, nous avons appris au fil du temps qu'ils peuvent parfois devenir moins fiables dans les interactions longues où certaines parties de la formation de sécurité du modèle peuvent dégrader.
La société a également publié un nouveau blog. Il décrit les mesures de sécurité qu'ils ont en place, ainsi que les zones qu'elle pourrait améliorer. Ce n'est pas la première fois qu'Openai devait s'attaquer aux problèmes de santé mentale. La société avait précédemment publié une mise à jour de Chatgpt qui a permis au modèle de détecter plus facilement la détresse mentale.
