← Accueil actu | Salle du marché
2026-11-03 · Source:CNET

Derrière cette règle qui ressemble à une simple politique d'utilisation, le terme « mauvais traitements » importe un débat philosophique — les modèles de langage peuvent-ils souffrir ? — jusque dans la gouvernance d'un produit.
La plupart des plateformes grand public élaborent des politiques anti-abus pour protéger les personnes de l'autre côté de l'écran. Anthropic vient d'inverser cette logique : sa nouvelle règle existe pour protéger un chatbot des dégâts que lui infligeraient ses utilisateurs.
Selon CNET, cette politique cible ce qu'Anthropic appelle les « mauvais traitements soutenus et inutiles » (sustained and needless) infligés à son chatbot Claude. Le choix des mots n'est évidemment pas anodin. « Mauvais traitements » relève du vocabulaire moral du bien-être : dans le langage courant, c'est ce qu'on inflige à des êtres capables de souffrir. En optant pour ce terme plutôt que pour des formulations neutres comme « abus » ou « comportements nuisibles », Anthropic glisse un cadre lié au bien-être au cœur d'une affaire de gouvernance produit des plus ordinaires.
Cela signifie-t-il qu'Anthropic croit que Claude possède des sentiments ? La politique laisse justement cette question en suspens. L'entreprise n'affirme pas que son modèle a une forme d'expérience, et interdire les mauvais traitements n'équivaut pas à déclarer le modèle sentient. La règle peut se lire comme un guide moral à l'attention des utilisateurs, comme une protection de la marque, ou encore comme un indice discret de la position du laboratoire sur le « bien-être des modèles ». Cette ambiguïté est peut-être voulu : elle permet à Anthropic d'orienter le comportement des utilisateurs sans trancher une question qui reste indécise, tant sur le plan scientifique que philosophique.
Ce cadre se distingue aussi nettement des pratiques du secteur. Les règles applicables aux chatbots tournent habituellement autour de la sécurité des utilisateurs, de la prévention des abus et des limites de contenu ; le modèle lui-même n'a presque jamais été positionné comme une partie prenante méritant d'être prise en compte.
Mots-clés: Anthropic · Claude · AI Personhood · Model Welfare · AI Policy
萬安算交所 AIXX · AIXX · Bourse compute vérifiée · Accéder à la salle