Pourquoi Anthropic interdit désormais les insultes contre son IA Claude

Detailed summary
Alors qu'elle entre en Bourse ce jeudi, la société a décidé d'interdire les comportements insultants et répétés envers son IA, au nom de son bien-être. Une justification qui…
Alors qu'elle entre en Bourse ce jeudi, la société a décidé d'interdire les comportements insultants et répétés envers son IA, au nom de son bien-être. Une justification qui laisse les chercheurs sceptiques, alors que derrière cette mesure se cachent des enjeux économiques.
Plus question d'insulter l'IA Claude. L'américain Anthropic, qui entre en Bourse jeudi 19 novembre aux États-Unis, a décidé de durcir les règles pour les utilisateurs. Les comportements cruels et répétés, comme les insultes gratuites, sont officiellement prohibés. Anthropic explique qu'il s'agit du bien-être de son IA. Une explication pour le moins surprenante, puisqu'elle laisse entendre que Claude pourrait souffrir et donc constituer une forme de vie. Une décision très contestée et qui n'est pas sans arrière-pensées économiques.
Armes biochimiques, cyberattaques géantes, perte de contrôle... Ce que dit le dossier d'entrée en Bourse d'Anthropic sur les dangers de l'IA
Lorsqu'on se montre insultant avec Claude, l'IA émet d'abord quelques avertissements : "Dis-moi ce qu'il se passe. Sinon, on peut aussi simplement arrêter là". Puis, au bout de 10 longues minutes, Claude finit par décider de sa propre initiative d'arrêter les frais : "Je t'ai dit au revoir deux fois, je vais donc raccrocher maintenant. Prends soin de toi". Dans une note sur son site, Anthropic explique qu'elle interdit "les comportements abusifs et cruels, inutiles et répétés", sans donner plus de précision. Et, si cela se répète, les utilisateurs risquent de voir leur compte clôturé.
Anthropic n'a pas donné suite à notre demande d'interview. Mais il y a un mois et demi, un porte-parole a déclaré que la firme ne sait pas "si ses modèles peuvent se sentir agressés et poursuit ses recherches sur leur bien-être". Le patron d'Anthropic, Dario Amodei, s'était déjà dit ouvert à la possibilité d'une sorte de conscience de l'IA, ce qui la classerait parmi les vivants.
Sur la question de la cybersécurité, Anthropic, comme OpenAI avec ChatGPT, a…
Opening of the article, excerpted from Franceinfo. To read the rest, open the article on the publisher's site.
MarketNews shows the headline and summary published by the outlet. The full article is on the publisher's website. (www.franceinfo.fr)




