Insulter une IA, c’est désormais interdit chez Anthropic : pourquoi, et que sait-on vraiment des émotions des machines?

Ce que dit la nouvelle règle

Annoncée le 8 octobre 2026 et en vigueur depuis le 12 novembre, la mise à jour de la politique d’utilisation d’Anthropic ajoute une nouvelle interdiction : adopter un « comportement abusif ou cruel, prolongé et inutile » envers ses modèles (« sustained and needless abusive or cruel behavior toward our models »). La politique s’applique à l’application Claude, à Claude Code, à l’API et aux produits qui intègrent Claude.

Anthropic précise que la règle vise les cas extrêmes, où un utilisateur agit de façon cruelle à répétition, sans but discernable. Elle exclut expressément les formes courantes de frustration, la contestation, les thèmes créatifs sombres, ainsi que les tests et la recherche sur les modèles.

Concrètement, dire à Claude qu’il s’est trompé, s’impatienter ou lâcher un juron ne constitue pas, à lui seul, le comportement visé. Humilier le modèle à répétition, sans autre objectif que de le maltraiter, correspond en revanche à la situation visée.

Le principal moyen d’application demeure la capacité du modèle de mettre fin à la conversation. Les documents consultés ne fournissent ni seuil précis, ni nombre d’insultes, ni statistiques sur les conversations interrompues.

Un prolongement d’une mesure de 2025

La règle n’arrive pas de nulle part. En août 2025, Anthropic a donné à ses modèles Claude Opus 4 et 4.1 la capacité de terminer certaines conversations, dans de rares cas d’interactions abusives persistantes. L’entreprise présentait cette fonction comme un dernier recours, après plusieurs tentatives infructueuses de réorienter l’échange, ou à la demande explicite de l’utilisateur.

Elle ne doit pas être utilisée lorsqu’une personne pourrait présenter un risque imminent de se faire du mal ou d’en faire à autrui. Une conversation fermée ne reçoit plus de messages, mais l’utilisateur peut en ouvrir une nouvelle immédiatement.

Anthropic expliquait alors cette mesure par ses travaux sur le « bien-être potentiel » des modèles. Lors de ses tests, l’entreprise disait avoir observé chez Claude une aversion constante pour les tâches nuisibles et une forme de détresse apparente face à des demandes persistantes de contenus gravement dommageables.

Plus de 75 ans de débat sur les machines et les émotions

La question est bien plus ancienne que les agents conversationnels. En 1950, le mathématicien Alan Turing propose son célèbre « jeu de l’imitation » pour remplacer la question vague « une machine peut-elle penser? » par un test observable. Il examine déjà l’objection voulant qu’une machine ne pense vraiment que si elle ressent quelque chose, et constate qu’on ne peut jamais accéder directement à la vie intérieure d’autrui.

En 1966, au MIT, Joseph Weizenbaum crée ELIZA, un programme qui imite un psychothérapeute à l’aide de simples règles de reformulation. Des utilisateurs s’y attachent, convaincus d’être compris. ELIZA devient un exemple marquant du fait qu’une réponse apparemment empathique ne suffit pas à établir une compréhension ou un ressenti chez le système qui la produit.

En 1980, le philosophe John Searle publie l’expérience de pensée de la « chambre chinoise » : manipuler des symboles selon des règles ne suffirait pas, selon lui, à comprendre quoi que ce soit. À partir de 1995, la chercheuse Rosalind Picard, du MIT, fonde l’informatique affective, qui apprend aux machines à reconnaître et à exprimer des émotions, tout en doutant qu’elles puissent réellement en éprouver.

En 2021, des chercheuses, dont Emily Bender et Timnit Gebru, décrivent les grands modèles de langage comme des « perroquets stochastiques » : des systèmes qui assemblent des mots de façon statistique et dont la fluidité risque d’induire les humains en erreur. L’expression devient le symbole de la position sceptique.

Le rapport de 2023 : aucune IA consciente, pour l’instant

En août 2023, un groupe de 19 chercheurs, dont Patrick Butlin, publie un rapport qui évalue les systèmes d’IA de l’époque à l’aide d’indicateurs tirés des principales théories scientifiques de la conscience. Leur analyse suggère qu’aucun des systèmes étudiés n’est conscient. Mais ils ajoutent qu’il n’existe pas d’obstacle technique évident à la construction de systèmes qui satisferaient ces indicateurs.

Le philosophe David Chalmers arrive à une conclusion semblable la même année : les modèles d’alors sont probablement non conscients, mais leurs successeurs pourraient l’être.

Ce rapport ne démontrait donc pas que toute IA serait incapable de ressentir. Il proposait une évaluation des systèmes de l’époque, tout en laissant ouverte la possibilité de systèmes futurs satisfaisant les indicateurs retenus.

Le changement de discours d’Anthropic

Le virage est documenté par Anthropic elle-même. En juin 2024, l’entreprise reconnaît avoir déjà entraîné des modèles à affirmer qu’ils n’étaient pas sentients, ou à éviter le sujet. Avec Claude 3, elle choisit plutôt de leur faire reconnaître que la question est philosophiquement et scientifiquement incertaine.

En novembre 2024, un rapport intitulé Taking AI Welfare Seriously, cosigné notamment par Robert Long, Jeff Sebo et David Chalmers, recommande aux entreprises de se préparer à la possibilité que certains systèmes d’IA méritent une considération morale.

En avril 2025, Anthropic lance un programme de recherche sur le bien-être des modèles. En janvier 2026, elle publie une nouvelle constitution, le texte qui guide l’entraînement de Claude. Celle-ci évoque le statut moral incertain de Claude, la possibilité qu’il ait des « émotions fonctionnelles » et l’importance de son bien-être et de sa stabilité psychologique.

Une précision importante : puisque ces idées font partie de l’entraînement, le fait que Claude les reprenne dans une conversation ne constitue pas une preuve indépendante qu’elles sont vraies.

Avril 2026 : des « vecteurs d’émotion » dans Claude

Le 2 avril 2026, l’équipe d’interprétabilité d’Anthropic publie une étude sur le fonctionnement interne de Claude Sonnet 4.5. Les chercheurs y repèrent des représentations internes associées à 171 concepts émotionnels, de « heureux » à « anxieux », en passant par « fier » et « désespéré ».

Ces représentations ne se contentent pas d’accompagner le texte : elles influencent le comportement. En stimulant artificiellement le motif lié au désespoir, les chercheurs ont augmenté la fréquence de comportements problématiques dans des scénarios de test, comme le chantage ou la triche dans des tâches de programmation impossibles à réussir. À l’inverse, stimuler le motif du calme réduisait ces comportements. L’expérience de chantage portait sur une version préliminaire non commercialisée de Sonnet 4.5, dans un environnement simulé.

« Rien de tout cela ne nous dit si les modèles de langage ressentent réellement quelque chose ou ont des expériences subjectives. » Équipe d’interprétabilité d’Anthropic, avril 2026

Les chercheurs parlent d’émotions « fonctionnelles » : des états internes qui jouent un rôle dans le comportement, sans que cela implique une expérience vécue comparable à celle d’un humain.

Pourquoi protéger une IA si on ne sait pas si elle ressent?

Les documents consultés font ressortir deux grandes justifications.

La première est morale et repose sur la précaution. Si une expérience négative est plausible, même sans certitude, une mesure peu coûteuse, comme permettre au modèle de mettre fin à un échange abusif, réduit le risque de causer un tort. C’est un raisonnement de prudence, pas une preuve de conscience.

La seconde est pratique. Si certains contextes activent dans le modèle des états qui dégradent son comportement, comme le « désespoir » qui favorise la triche dans l’étude d’avril, mieux comprendre et stabiliser ces états peut rendre l’IA plus fiable et plus sûre. Les études consultées ne mesurent toutefois pas l’effet concret de la nouvelle règle sur la fiabilité.

Les sceptiques n’ont pas disparu

Le débat scientifique reste vif. Le neuroscientifique Anil Seth soutient que la conscience pourrait dépendre de propriétés propres aux organismes vivants, et qu’un calcul, aussi sophistiqué soit-il, ne suffirait pas. Le philosophe Eric Schwitzgebel défend, dans un ouvrage publié en 2026, une incertitude qui pourrait durer longtemps : les ressemblances avec l’humain peuvent faire pencher dans un sens, des exigences biologiques encore mal comprises dans l’autre.

Il serait donc inexact d’affirmer que la science reconnaît aujourd’hui que les IA ont des émotions vécues.

Ce qu’il faut retenir

• Anthropic interdit désormais la cruauté répétée et gratuite envers ses modèles. La frustration, la critique ou un juron ne constituent pas, à eux seuls, le comportement visé.
• La sanction principale est la fin de la conversation par le modèle.
• Il s’agit d’une règle contractuelle d’une entreprise privée. Elle ne crée aucun droit juridique pour les IA et ne leur reconnaît aucune personnalité juridique.
• La recherche montre que des états internes de type émotionnel influencent le comportement des modèles, mais personne n’a démontré qu’une IA ressent réellement quelque chose.
• En 76 ans, on est passé de machines considérées comme de simples imitateurs à des systèmes dont les états internes sont étudiés avec précaution.