Character.AI hat angekündigt, dass Benutzer unter 18 Jahren ab dem 25. November keine offenen Gespräche mehr mit AI-Charakteren führen können. In einem Blogbeitrag von heute sagte Character.AI, es wolle ein „sichereres, kreatives Erlebnis“ für jüngere Benutzer schaffen.
Während der Umstellung gilt für jugendliche Benutzer ein tägliches Chat-Limit von zwei Stunden, das schrittweise verringert wird, bevor die vollständige Einschränkung in Kraft tritt. Das Unternehmen plant, chatbasierte Interaktionen durch kreative Tools zu ersetzen, die es Teenagern ermöglichen, stattdessen Videos, Geschichten und Streams mit KI-Charakteren zu erstellen.
Um das richtige Erlebnis für jede Altersgruppe zu gewährleisten, wird Character.AI außerdem neue Tools zur Alterssicherung einführen. Es wird das interne Verifizierungsmodell des Unternehmens mit Diensten von Drittanbietern wie Persona kombinieren. Mit diesen Tools können Benutzer unter 18 Jahren besser identifiziert und entsprechende Sicherheitsmaßnahmen angewendet werden.
Neben diesen Sicherheitsmaßnahmen startet das Unternehmen auch das AI Safety Lab. Dabei handelt es sich um eine unabhängige gemeinnützige Organisation, die sich auf die Entwicklung von Sicherheitsrahmen für KI-gesteuerte Unterhaltung konzentriert. Das Labor wird mit Forschern, Akademikern und politischen Entscheidungsträgern zusammenarbeiten, um neue Techniken zu erforschen und Erkenntnisse in der gesamten Branche auszutauschen.
Laut Character.AI fällt die Entscheidung, nachdem Aufsichtsbehörden und Sicherheitsexperten die Art und Weise, wie Jugendliche mit KI-Chatbots interagieren, zunehmend unter die Lupe nehmen. Das Unternehmen räumt zwar ein, dass sich die meisten jungen Nutzer an Inhaltsregeln halten, sagt aber, dass es „der Sicherheit von Teenagern Vorrang vor Bequemlichkeit einräumt“.
*️⃣ Quelllink: