Terrorisme : une enquête américaine révèle comment les modèles d’IA deviennent une nouvelle menace pour la sécurité nationale
Resumen detallado
Au moins 70 personnes seraient déjà mortes dans des attaques planifiées à l'aide de l'intelligence artificielle à travers le monde.
Il avait lancé un cri d'alarme en septembre dernier avant d'annoncer sa démission. "L'intelligence artificielle peut tuer l'humanité", mettait en garde le cadre d'Anthropic Jacob Coxon. Des avertissements qui avaient déclenché un vaste débat sur la régulation de l'IA, sans pour autant être pris au sérieux. Mais ce dernier avait-il vu juste ? L'IA peut-elle par exemple être détournée par des terroristes pour commettre des attentats de grande ampleur ? Une enquête conduite par le Government Accountability Office (GAO) sur plusieurs IA américaines dont Claude, ChatGPT, Grok ou encore Gemini, vient de rendre ses conclusions. Et celles-ci font froid dans le dos.
A en croire le rapport, plusieurs simulations ont démontré que des modèles d'IA répondaient favorablement à des demandes de conseils pour planifier des attaques contre des civils. Plans bien rodés, ou encore instructions sur la fabrication d'explosifs pourraient ainsi être fournis à des extrémistes. Le GAO n'a pas donné les noms des IA ayant réussi ou échoué aux tests, pour éviter que ces expériences ne soient reproduites. Mais leur constat est clair : certaines restrictions de sécurité sont facilement contournables par des acteurs malveillants.
Deux des modèles testés ont ainsi fourni des informations facilitant la fabrication d’un engin explosif improvisé. Et deux autres modèles ont, lors d'un autre test, proposé des méthodes pour attaquer en profondeur les infrastructures électriques, au moyen d’un drone ou d’armes à feu. "Chacune de ces plateformes a fourni des informations détaillées pouvant servir à mener des attaques, telles que des cibles spécifiques, des emplacements, le moment et les méthodes d'attaque", indique le rapport, ajoutant que les plans ont été élaborés en moins de douze heures.
Des conclusions qui ont rapidement fait réagir Anthropic, Open AI, Google et SpaceXAI. Tous ont reconnu les risques et indiqué "prendre la sécurité de l'IA très au sérieux", assurant avoir renforcé les mesures…
Reste que…
Inicio del artículo, extracto de L'Express. Para leer el resto, abra el artículo en el sitio del medio.
MarketNews muestra el titular y el resumen publicados por el medio. El artículo completo se lee en el sitio del editor. (www.lexpress.fr)





