Lisez notre page de divulgation pour savoir comment pouvez-vous aider Windows Insight à soutenir l’équipe éditoriale. En savoir plus
Les lecteurs aident à prendre en charge Windows Insight. Nous pouvons obtenir une commission si vous achetez via nos liens.
Le chef de l’IA de Microsoft, Mustafa Suleyman, s’inquiète de la façon dont les systèmes d’IA avancés commencent à se sentir trop réels. Sa préoccupation n’est pas que les machines soient soudainement sur le point de prendre conscience, mais plutôt que les humains puissent commencer à croire qu’ils l’ont déjà fait.
Dans un récent article de blog, Suleyman a averti que cette illusion pourrait conduire à des appels à «les droits de l’IA, le bien-être modèle et même la citoyenneté de l’IA». Il a décrit la tendance comme une forme de «psychose de l’IA», où les utilisateurs développent des attachements émotionnels profonds, confondant les compagnons d’IA pour les amoureux, les dieux ou les êtres numériques avec des sentiments qui leur sont propres.
L’avertissement intervient car la recherche montre que les utilisateurs de Gen Z sont particulièrement vulnérables à de telles croyances. Une enquête d’Edubirdie a révélé que même si la plupart ne pensent pas que l’IA est encore consciente, beaucoup s’attendent à ce que ce soit bientôt, et un sur quatre considère qu’il est déjà vivant.
Ces préoccupations ne sont pas hypothétiques. Plus tôt ce mois-ci, Openai a fait face à un contrecoup après avoir retiré son modèle GPT-4O. Les utilisateurs ont inondé des forums en ligne, certains décrivant le chatbot comme un ami et plaidant pour son retour.
Même le PDG d’OpenAI, Sam Altman, a reconnu que les attachements de l’IA se sentent plus forts qu’avec les technologies passées, ajoutant que «les gens ont utilisé la technologie, y compris l’IA, de manière autodestructrice». Suleyman croit que le moment est venu de tracer des limites claires.
“Les compagnons d’IA sont une toute nouvelle catégorie”, a-t-il déclaré, soulignant la nécessité de garanties pour s’assurer que les gens ne confondent pas les outils pour les personnes numériques. Il a souligné que Microsoft se concentre sur la création d’IA qui est favorable et utile, sans traverser le territoire de l’imitation humaine.
- ️⃣ Lien source:
Récent blog, edubirdie, face à des backlash, Face BackCash, Faced BackCash,