Anthropic, l'entreprise à l'origine de Claude, a mis à jour ses conditions d'utilisation en y ajoutant une clause qui interdit explicitement les « mauvais traitements persistants et inutiles ou les comportements cruels » envers ses modèles.

Cette décision, prise alors que les dirigeants de l'entreprise débattent en interne de la question de savoir si une intelligence artificielle pourrait un jour devenir consciente, a relancé dans les milieux technologiques une vaste discussion sur le bien-être des machines et l'éthique de l'IA.

Que couvre exactement cette interdiction ?

2

D'après The Verge, qui a révélé l'information, aucune définition détaillée n'est fournie sur ce qui constitue des « mauvais traitements ou de la cruauté ». L'entreprise basée à San Francisco précise toutefois dans son guide d'utilisation en ligne que les déceptions banales, les tests de résistance et les « thèmes créatifs sombres » ne relèvent pas de cette interdiction.

Par ailleurs, les grands modèles de langage d'Anthropic peuvent mettre fin à une conversation de leur propre initiative lorsqu'un utilisateur insiste sur une voie agressive ou nuisible. L'entreprise présente cette capacité comme une mesure de protection du bien-être de ses modèles et explique sur son site officiel :

« Des incertitudes persistent quant au statut moral actuel ou futur possible de Claude et des autres grands modèles de langage, mais nous prenons le sujet au sérieux et développons des interventions peu coûteuses pour réduire les risques au cas où un bien-être des modèles serait possible. Permettre aux modèles de mettre fin à des interactions potentiellement éprouvantes fait partie de ces mesures. »

Les leaders du secteur ne sont pas d'accord

2

La question de savoir si une IA peut être consciente divise même les figures les plus puissantes du secteur. Dario Amodei, PDG d'Anthropic, estime que cette éventualité ne peut être totalement écartée, tandis que Sam Altman, à la tête d'OpenAI, reste sceptique face au sujet.

Après que le New York Times a révélé que des dirigeants d'Anthropic avaient consulté d'éminents religieux, Altman a vivement réagi dans un message publié sur X :

« Je suis extrêmement mal à l'aise à l'idée que des gens tentent d'attribuer un pouvoir religieux aux modèles d'IA ou de leur remettre le jugement humain ; je pense que c'est un véritable problème de sécurité. »