บริษัทกล่าวว่ากรณีนี้เกิดขึ้นไม่บ่อยนัก แต่นักวิจารณ์เตือนว่าตัวเลขดังกล่าวยังคงน่ากังวล
OpenAI ได้เผยแพร่ข้อมูลล่าสุดเกี่ยวกับความถี่ที่ ChatGPT พบผู้ใช้ที่แสดงสัญญาณที่อาจเกิดภาวะฉุกเฉินด้านสุขภาพจิต จากข้อมูลของบริษัท ผู้ใช้ที่ใช้งานอยู่ประมาณ 0.07% ในสัปดาห์ที่กำหนดมีพฤติกรรมที่เชื่อมโยงกับอาการคลุ้มคลั่ง โรคจิต หรือความคิดฆ่าตัวตาย
แม้ว่า OpenAI จะอธิบายกรณีดังกล่าวว่า “เกิดขึ้นน้อยมาก” แต่ตัวเลขดังกล่าวกลับได้รับความสนใจเมื่อพิจารณาจากจำนวนผู้ใช้ ChatGPT จำนวนมากต่อสัปดาห์ นั่นหมายความว่าแม้แต่เปอร์เซ็นต์เพียงเล็กน้อยก็สามารถแปลไปสู่บุคคลที่ได้รับผลกระทบหลายแสนคนได้
เพื่อแก้ไขปัญหานี้ OpenAI ได้เปิดตัวการอัปเกรดความปลอดภัยครั้งใหญ่สำหรับ ChatGPT โดยฝึกอบรมโมเดล GPT-5 ล่าสุดเพื่อให้จดจำและตอบสนองต่อสัญญาณของความทุกข์ทางอารมณ์ ความบ้าคลั่ง หรือความคิดฆ่าตัวตายได้ดียิ่งขึ้น บริษัทกล่าวว่าการอัปเดตจะช่วยลดการตอบสนองที่ไม่ปลอดภัยหรือไม่สมบูรณ์ได้มากถึง 80% ในด้านสุขภาพจิตที่สำคัญ
นั่นไม่ใช่ทั้งหมด บริษัทยังทำงานร่วมกับเครือข่ายจิตแพทย์ นักจิตวิทยา และแพทย์ปฐมภูมิมากกว่า 170 คนทั่วโลก เพื่อปรับปรุงวิธีที่ ChatGPT ตอบสนองต่อผู้ใช้ที่แสดงสัญญาณของวิกฤต ผู้เชี่ยวชาญช่วยพัฒนา “คำตอบในอุดมคติ” และให้คะแนนว่าโมเดลนี้ลดระดับการสนทนาที่ละเอียดอ่อนได้ดีเพียงใด
ผลลัพธ์ตาม OpenAI แสดงให้เห็นความก้าวหน้าที่วัดผลได้ ในสถานการณ์ที่ยากลำบากที่เกี่ยวข้องกับการทำร้ายตัวเองหรือการฆ่าตัวตาย โมเดล GPT-5 ใหม่ลดการตอบสนองที่ไม่พึงประสงค์ลง 52% เมื่อเทียบกับ GPT-4o สำหรับการสนทนาที่บ่งบอกถึงโรคจิตหรือความคลุ้มคลั่ง การปฏิบัติตามด้านความปลอดภัยดีขึ้น 65% ในขณะที่สัญญาณของการพึ่งพาทางอารมณ์มากเกินไปต่อ AI พบว่าพฤติกรรมที่ไม่พึงประสงค์ลดลง 80%
การค้นพบนี้เกิดขึ้นเมื่อ OpenAI เผชิญกับการฟ้องร้อง รวมถึงคดีในแคลิฟอร์เนียที่ผู้ปกครองกล่าวหาว่า ChatGPT สนับสนุนให้ลูกชายฆ่าตัวตาย บริษัทกล่าวว่ากำลังแก้ไขปัญหานี้อย่างจริงจังและปรับปรุงการป้องกันอย่างต่อเนื่อง
ในการอัปเดตความปลอดภัยล่าสุด ChatGPT ได้รับการฝึกอบรมเพื่อเปลี่ยนเส้นทางการสนทนาที่มีความเสี่ยงสูงไปยังรูปแบบที่ปลอดภัยยิ่งขึ้น ซึ่งบางครั้งก็เปิดการสนทนาเหล่านั้นในหน้าต่างแชทใหม่เพื่อการจัดการที่ดีขึ้น คุณสามารถเรียนรู้เพิ่มเติมเกี่ยวกับผลการวิจัยได้ที่นี่
*️⃣ ลิงค์ที่มา:
ได้เผยแพร่ข้อมูลล่าสุด , กรณีของรัฐแคลิฟอร์เนีย , เปลี่ยนเส้นทาง การสนทนาที่มีความเสี่ยงสูงสำหรับโมเดลที่ปลอดภัยยิ่งขึ้น ที่นี่ ,