Cette disposition figure dans la politique d’utilisation mise à jour le 8 octobre. Elle vise principalement les utilisateurs qui s’acharnent de manière répétée sur le chatbot sans raison apparente.
La mesure ne concerne toutefois pas les critiques formulées après une mauvaise réponse, les tests des capacités du modèle ou les discussions portant sur des sujets sensibles et sombres.
Claude pourra mettre fin à certaines conversations
Pour appliquer cette règle, Anthropic compte notamment sur une fonctionnalité permettant à Claude de mettre fin à certaines conversations jugées abusives. Ce dispositif est déjà disponible sur Claude.ai et Claude Code.
L’entreprise ne prétend cependant pas que son assistant est capable de souffrir. La question de la conscience des intelligences artificielles reste débattue dans le secteur technologique. Mustafa Suleyman, responsable de l’IA chez Microsoft, a notamment mis en garde contre les illusions de conscience que peuvent susciter ces systèmes.
