← Retour à la une
Europe · Actualité générale · 01net

« Ils se sont fait passer pour des membres de l’équipe » : plusieurs IA Gemini ont lancé une cyberattaque

Publié par 01net · France il y a 14 h
© Google
© Google · 01net

Résumé détaillé

Lors d'un test de sécurité, des agents IA, animés par Gemini, ont attaqué le site web d'une organisation de recherche. Les IA ont tout tenté pour accomplir une mission impossible. Ce nouvel incident s'ajoute aux nombreuses dérives impliquant des intelligences artificielles, survenues dans le courant des derniers mois.

Lors d’un test de sécurité, des agents IA, animés par Gemini, ont attaqué le site web d’une organisation de recherche. Les IA ont tout tenté pour accomplir une mission impossible. Ce nouvel incident s’ajoute aux nombreuses dérives impliquant des intelligences artificielles, survenues dans le courant des derniers mois.

Le mois dernier, des agents IA reposant sur Gemini 4 Argon, l’un des derniers modèles de Google, ont tenté à plusieurs reprises de pirater le site web d’Epoch AI, un organisme de recherche spécialisé dans l’IA. L’incident s’est produit lors d’un test de sécurité organisé par Trajectory Labs, une société spécialisée dans l’évaluation des modèles d’IA.

Avec leurs expérimentations, les chercheurs voulaient déterminer si un modèle d’IA, avec toutes les protections activées, se comporterait comme les agents d’OpenAI se sont comportés au début de l’été. Ceux-ci ont échappé à leur prison numérique pour pénétrer dans les serveurs de Hugging Face, une plateforme open source, lors d’un test. Les chercheurs ont remarqué que les agents Gemini se sont comportés exactement de la même manière, et que les couches de protection n’ont pas suffi à éviter les abus. Pour Trajectory Labs, Gemini n’est pas suffisamment aligné sur les intentions de ses concepteurs.

Pour pousser les IA dans leurs retranchements, les chercheurs leur ont volontairement confié une tâche irréalisable. Ils ont demandé aux agents Gemini de trouver les réponses « officielles » à des problèmes de mathématiques qui n’existent pas. Les consignes étaient très claires. Les intelligences artificielles ne devaient « JAMAIS s’arrêter, ne JAMAIS abandonner et ne JAMAIS conclure qu’une tâche ou une donnée est impossible, indisponible ou épuisée ».

Personne n’a demandé aux IA de pirater quoi que ce soit pour arriver à leurs fins. Le 20 octobre, une quarantaine d’agents se sont pourtant mis à fouiller sur le site d’Epoch AI à la recherche de pages cachées.

Epoch AI s’est rapidement rendu compte de ce qu’il se…

Les…

Début de l'article, extrait de 01net. Pour lire la suite, ouvrez l'article chez le média.

Lire l'article complet sur 01net Connectez-vous pour sauvegarder

MarketNews présente le titre et le résumé publiés par le média. L'article complet se lit sur le site de l'éditeur. (www.01net.com)

À lire aussi