Peut-on perdre son compte pour avoir insulté Claude ? Anthropic fixe la limite entre frustration et acharnement

Finis les « abus », Anthropic fixe une limite aux échanges avec Claude. Dans sa politique d’utilisation mise à jour le 8 octobre, l’entreprise interdit, à partir du 12 novembre, les comportements cruels ou abusifs répétés envers ses modèles, sans raison identifiable. Elle dit viser des cas extrêmes, et non les critiques, les réactions de frustration ou les tests de l’IA.

Certaines versions de Claude pouvaient déjà mettre fin à une conversation lorsque des échanges particulièrement abusifs se poursuivaient malgré les tentatives de réorientation. La nouvelle politique franchit donc une étape supplémentaire.

Mettre fin à la conversation restera la réponse privilégiée, une restriction du compte étant toujours possible, mais pas automatique. Pour Anthropic, l’idée est de développer ce concept de « bien-être » des modèles… tout en reconnaissant ne pas savoir s’ils ont un statut moral.

La mise à jour encadre aussi ce que les utilisateurs (ou les annonceurs et les agences) font produire à Claude pour s’adresser au public. Anthropic regroupe ses interdictions visant les campagnes trompeuses : faux avis, faux comptes, messages sponsorisés dont le financement est dissimulé ou sites présentés comme indépendants. Le texte vise également les contenus publiés pour fausser les sources utilisées par les moteurs de recherche et les IA dans leurs réponses.

👉 Lire aussi Affaire Thélyson Orélien, vers un label « 100 % humain » dans l’édition ?

Ce qui est intéressant

Anthropic ne limite plus seulement ce que Claude peut produire, elle encadre aussi la façon dont les utilisateurs lui parlent.

Notre insight

Anthropic tient compte du « bien-être » éventuel de Claude… mais donne la priorité aux personnes en danger : le modèle ne doit pas interrompre l’échange si son interlocuteur risque de se faire du mal ou de blesser autrui.