Character.AI ได้ประกาศว่าภายในวันที่ 25 พฤศจิกายน ผู้ใช้ที่มีอายุต่ำกว่า 18 ปี จะไม่สามารถมีส่วนร่วมในการสนทนาปลายเปิดกับตัวละคร AI ได้อีกต่อไป ในบล็อกโพสต์ของวันนี้ Character.AI กล่าวว่าต้องการสร้าง “ประสบการณ์ที่ปลอดภัยและสร้างสรรค์ยิ่งขึ้น” สำหรับผู้ใช้อายุน้อย
ในระหว่างการเปลี่ยนแปลง ผู้ใช้ที่เป็นวัยรุ่นจะมีการจำกัดการแชทรายวันไว้ที่ 2 ชั่วโมง ซึ่งจะค่อยๆ ลดลงก่อนที่การจำกัดทั้งหมดจะมีผล บริษัทวางแผนที่จะแทนที่การโต้ตอบด้วยการแชทด้วยเครื่องมือสร้างสรรค์ที่ให้วัยรุ่นสร้างวิดีโอ เรื่องราว และสตรีมด้วยตัวละคร AI แทน
เพื่อให้มั่นใจว่าจะได้รับประสบการณ์ที่เหมาะสมสำหรับแต่ละกลุ่มอายุ Character.AI จะแนะนำเครื่องมือการประกันอายุแบบใหม่ด้วย โดยจะรวมรูปแบบการตรวจสอบภายในของบริษัทเข้ากับบริการของบุคคลที่สามเช่น Persona เครื่องมือเหล่านี้จะระบุผู้ใช้ที่มีอายุต่ำกว่า 18 ปีได้ดีขึ้น และใช้การป้องกันที่เหมาะสม
นอกจากมาตรการด้านความปลอดภัยเหล่านี้แล้ว บริษัทยังเปิดตัว AI Safety Lab อีกด้วย นั่นคือองค์กรอิสระที่ไม่แสวงหากำไรที่มุ่งเน้นการพัฒนากรอบความปลอดภัยสำหรับความบันเทิงที่ขับเคลื่อนด้วย AI ห้องปฏิบัติการจะร่วมมือกับนักวิจัย นักวิชาการ และผู้กำหนดนโยบายเพื่อสำรวจเทคนิคใหม่ๆ และแบ่งปันข้อค้นพบทั่วทั้งอุตสาหกรรม
Character.AI กล่าวว่าการตัดสินใจเกิดขึ้นหลังจากได้รับการตรวจสอบอย่างละเอียดจากหน่วยงานกำกับดูแลและผู้เชี่ยวชาญด้านความปลอดภัยเกี่ยวกับวิธีที่วัยรุ่นโต้ตอบกับแชทบอท AI ในขณะที่ยอมรับว่าผู้ใช้ที่อายุน้อยส่วนใหญ่ปฏิบัติตามกฎเนื้อหา บริษัทกล่าวว่า “ให้ความสำคัญกับความปลอดภัยของวัยรุ่นมากกว่าความสะดวกสบาย”
*️⃣ ลิงค์ที่มา: