Das Unternehmen sagt, Fälle seien selten, Kritiker warnen jedoch, dass die Zahlen immer noch besorgniserregend seien
OpenAI hat die neuesten Daten darüber veröffentlicht, wie oft ChatGPT auf Benutzer trifft, die potenzielle Anzeichen eines psychischen Notfalls zeigen. Nach Angaben des Unternehmens zeigen etwa 0,07 % der aktiven Nutzer in einer Woche Verhaltensweisen, die mit Manie, Psychosen oder Selbstmordgedanken zusammenhängen.
Während OpenAI solche Fälle als „extrem selten“ beschreibt, hat die Zahl angesichts der enormen wöchentlichen Benutzerzahl von ChatGPT Aufmerksamkeit erregt. Das bedeutet, dass selbst ein kleiner Prozentsatz Hunderttausende betroffene Personen bedeuten könnte.
Um dieses Problem anzugehen, hat OpenAI ein umfangreiches Sicherheitsupgrade für ChatGPT eingeführt und sein neuestes GPT-5-Modell trainiert, um Anzeichen von emotionalem Stress, Manie oder Selbstmordgedanken besser zu erkennen und darauf zu reagieren. Das Unternehmen gibt an, dass das Update unsichere oder unvollständige Antworten in wichtigen Bereichen der psychischen Gesundheit um bis zu 80 % reduziert.
Das ist noch nicht alles; Das Unternehmen arbeitet außerdem mit einem globalen Netzwerk von über 170 Psychiatern, Psychologen und Hausärzten zusammen, um die Reaktion von ChatGPT auf Benutzer zu verbessern, die potenzielle Anzeichen einer Krise zeigen. Die Experten halfen bei der Entwicklung „idealer Antworten“ und bewerteten, wie gut das Modell sensible Gespräche deeskaliert.
Die Ergebnisse zeigen laut OpenAI messbare Fortschritte. In schwierigen Szenarien mit Selbstverletzung oder Selbstmord reduzierte das neue GPT-5-Modell unerwünschte Reaktionen im Vergleich zu GPT-4o um 52 %. Bei Gesprächen, die auf eine Psychose oder Manie hindeuteten, verbesserte sich die Einhaltung der Sicherheitsvorschriften um 65 %, während Anzeichen einer emotionalen übermäßigen Abhängigkeit von der KI zu einem Rückgang des unerwünschten Verhaltens um 80 % führten.
Die Ergebnisse kommen zu einem Zeitpunkt, an dem OpenAI mit Klagen konfrontiert wird, darunter einem Fall in Kalifornien, in dem Eltern behaupten, ChatGPT habe den Selbstmord ihres jugendlichen Sohnes gefördert. Das Unternehmen gibt an, das Problem ernst zu nehmen und seine Sicherheitsvorkehrungen weiter zu verbessern.
In seinen neuesten Sicherheitsupdates wurde ChatGPT darauf trainiert, risikoreiche Gespräche an sicherere Modelle umzuleiten und sie zur besseren Handhabung manchmal in einem neuen Chat-Fenster zu öffnen. Mehr über die Ergebnisse erfahren Sie hier.
*️⃣ Quelllink:
hat die neuesten Daten veröffentlicht, Fall in Kalifornien, Umleitung mit hohem Risiko Gespräche zu sichereren Modellen, hier,