Des révélations sur la puissance des IA d’Anthropic ravivent les craintes d’une perte de contrôle «irréversible»

Detailed summary

DÉCRYPTAGE - Un laboratoire indépendant réputé accuse Anthropic, preuves à l’appui, d’avoir omis voire caché l’accélération exponentielle de ses recherches en IA.

DÉCRYPTAGE - Un laboratoire indépendant réputé accuse Anthropic, preuves à l’appui, d’avoir omis voire caché l’accélération exponentielle de ses recherches en IA.

Et si l’IA était encore plus dangereuse que ne l’admet Anthropic, pourtant régulièrement accusé de jouer sur les peurs? Un institut de recherche indépendant, considéré comme un organisme de référence dans l’évaluation des risques liés à l’intelligence artificielle, vient de publier deux rapports pour le moins accablants à l’encontre de la firme de Dario Amodei. Ces fichiers techniques, longs de plusieurs dizaines de pages, ont par ailleurs déclenché la panique chez de nombreux observateurs et chercheurs, certains disant «craindre pour la vie de leurs amis et leur famille», et forcé un cofondateur d’Anthropic à promettre une analyse détaillée des faits «dans les prochaines semaines».

L’organisme METR, pour Model Evaluation & Threat Research (évaluation de modèle et recherche de menace en français), est l’organisation indépendante la plus reconnue dans le secteur, de par son expertise technique permettant de mesurer le degré d’autonomie des IA et leurs capacités à contourner les garde-fous…

Opening of the article, excerpted from Le Figaro Économie. To read the rest, open the article on the publisher's site.