OpenAI がメンタルヘルス危機の兆候を示す ChatGPT ユーザーに関するデータを明らかに

<本文>

同社は症例は稀だとしているが、批評家はその数は依然として懸念すべきものであると警告している

OpenAIは、ChatGPTがメンタルヘルス上の緊急事態の潜在的な兆候を示しているユーザーに遭遇する頻度に関する最新データを発表した。同社によると、特定の週にアクティブ ユーザーの約 0.07% が躁病、精神病、または自殺念慮に関連した行動を示しています。

OpenAIはそのようなケースは「極めてまれ」だと説明しているが、ChatGPTの膨大な週間ユーザー数を考えると、この数字は注目を集めている。つまり、たとえわずかな割合であっても、数十万人が影響を受ける可能性があるということです。

これに対処するために、OpenAI は ChatGPT の主要な安全性アップグレードを展開し、最新の GPT-5 モデルをトレーニングして、精神的苦痛、躁状態、または自殺念慮の兆候をより適切に認識して対応できるようにしました。同社によれば、このアップデートにより、主要なメンタルヘルス領域において、安全でない、または不完全な対応が最大 80% 削減されるという。

それだけではありません。同社はまた、170 人を超える精神科医、心理学者、プライマリケア医の世界的なネットワークと協力して、潜在的な危機の兆候を示しているユーザーに対する ChatGPT の反応方法を改善しています。専門家は「理想的な応答」の開発を支援し、モデルが機密性の高い会話をどの程度緩和するかを評価しました。

OpenAI によると、その結果は目に見える進歩を示しています。自傷行為や自殺を伴う困難なシナリオにおいて、新しい GPT-5 モデルは、GPT-4o と比較して望ましくない反応を 52% 削減します。精神病や躁状態を示唆する会話では、安全コンプライアンスが 65% 向上し、AI への感情的な過度の依存の兆候により、望ましくない行動が 80% 減少しました。

この調査結果は、ChatGPTが10代の息子の自殺を助長したと両親が主張するカリフォルニア州の訴訟を含め、OpenAIが訴訟に直面している中で発表された。同社はこの問題を真剣に受け止めており、安全対策の改善を続けていると述べている。

最新の安全性アップデートでは、ChatGPT は高リスクの会話をより安全なモデルに再ルーティングするように訓練されており、より適切に処理するために新しいチャット ウィンドウで会話を開くこともあります。調査結果について詳しくは、こちらをご覧ください。

*️⃣ 出典リンク:

最新データを公開しました、 カリフォルニア州の事例、ルート変更 高リスクの会話をより安全なモデルに変更するには、 こちら 、