Intelligence artificielle : pourquoi Anthropic refuse que l’on insulte son système Claude

Detailed summary

Depuis le 12 novembre, Anthropic interdit à ses utilisateurs de faire preuve de « cruauté » envers son modèle d’intelligence artificielle, Claude. Derrière cette règle inédite, une thèse transhumaniste des plus controversées, et un colossal enjeu financier.

Y aurait-il quelqu’un dans la machine ? Tel est le dérangeant présupposé qui fonde l’interdiction pour tout utilisateur du système d’intelligence artificielle (IA) Claude, à partir du 12 novembre, d’avoir avec lui un « comportement abusif ou cruel, durable et gratuit ». Vous pourrez toujours le contredire ou vous agacer de ses réponses, précise Anthropic, l’entreprise américaine qui le développe et qui s’apprête à entrer en Bourse avec une valorisation stratosphérique. Mais pas agir « de manière répétée avec cruauté ». Si c’est le cas, Claude a été paramétré pour mettre fin de lui-même à la conversation.

Opening of the article, excerpted from La Croix. To read the rest, open the article on the publisher's site.