L’entreprise affirme que les cas sont rares, mais les critiques préviennent que les chiffres restent préoccupants
OpenAI a publié les dernières données sur la fréquence à laquelle ChatGPT rencontre des utilisateurs présentant des signes potentiels d’urgences de santé mentale. Selon l’entreprise, environ 0,07 % des utilisateurs actifs au cours d’une semaine donnée présentent des comportements liés à la manie, à la psychose ou à des pensées suicidaires.
Bien qu’OpenAI qualifie de tels cas de « extrêmement rares », ce chiffre a attiré l’attention compte tenu du nombre massif d’utilisateurs hebdomadaires de ChatGPT. Cela signifie que même un petit pourcentage pourrait se traduire par des centaines de milliers de personnes touchées.
Pour résoudre ce problème, OpenAI a déployé une mise à niveau de sécurité majeure pour ChatGPT, entraînant son dernier modèle GPT-5 à mieux reconnaître et répondre aux signes de détresse émotionnelle, de manie ou de pensées suicidaires. La société affirme que la mise à jour réduit jusqu’à 80 % les réponses dangereuses ou incomplètes dans les domaines clés de la santé mentale.
Ce n’est pas tout ; la société travaille également avec un réseau mondial de plus de 170 psychiatres, psychologues et médecins de premier recours pour améliorer la façon dont ChatGPT réagit aux utilisateurs présentant des signes potentiels de crise. Les experts ont aidé à développer des « réponses idéales » et ont évalué dans quelle mesure le modèle désamorce les conversations sensibles.
Les résultats, selon OpenAI, montrent des progrès mesurables. Dans des scénarios difficiles impliquant l’automutilation ou le suicide, le nouveau modèle GPT-5 a réduit les réponses indésirables de 52 % par rapport au GPT-4o. Pour les conversations suggérant une psychose ou une manie, le respect des règles de sécurité s’est amélioré de 65 %, tandis que les signes de dépendance émotionnelle excessive à l’égard de l’IA ont entraîné une baisse de 80 % des comportements indésirables.
Ces découvertes surviennent alors qu’OpenAI fait face à des poursuites judiciaires, notamment une affaire californienne dans laquelle des parents allèguent que ChatGPT a encouragé le suicide de leur fils adolescent. L’entreprise affirme prendre le problème au sérieux et continue d’améliorer ses garanties.
Dans ses dernières mises à jour de sécurité, ChatGPT a été formé pour rediriger les conversations à haut risque vers des modèles plus sûrs, en les ouvrant parfois dans une nouvelle fenêtre de discussion pour une meilleure gestion. Vous pouvez en savoir plus sur les résultats ici.
*️⃣ Lien source :
a publié les dernières données , Affaire californienne , rediriger les risques élevés conversations vers des modèles plus sûrs, ici ,