«Un danger pour le grand public» : la Californie attaque OpenAI en justice pour défaut de sécurisation de son IA

Detailed summary
Le procureur de Californie, Rob Bonta, accuse la maison mère de ChatGPT de graves défaillances de sécurité après l’intrusion de deux de ses modèles d’intelligence artificielle sur…
Le procureur de Californie, Rob Bonta, accuse la maison mère de ChatGPT de graves défaillances de sécurité après l’intrusion de deux de ses modèles d’intelligence artificielle sur la plateforme Hugging Face en juillet.
Le procureur de Californie Rob Bonta a assigné lundi en justice OpenAI pour défaut de sécurisation de ses modèles d'intelligence artificielle (IA), qui a occasionné l'intrusion d'agents IA sur la plateforme Hugging Face en juillet.
Pour le magistrat, l'incident qui a vu deux modèles sortir de leur milieu confiné pour rejoindre internet et pénétrer les systèmes informatiques de la bibliothèque IA Hugging Face était «complètement prévisible», selon un communiqué.
Celui qui a saisi un tribunal de San Francisco évoque ainsi «le choix d'OpenAI de tester des modèles qu'il savait dangereux dans un environnement défectueux et vulnérable sans surveillance adéquate».
Si Hugging Face a lui-même choisi de ne pas saisir la justice, le procureur estime que cette situation «présente un danger pour le grand public», ce qui lui donne juridiquement intérêt à agir. Il dénonce une «culture interne à OpenAI qui fait passer la croissance et le développement rapide de modèles avant la sécurité et la fiabilité», rappelant que la start-up a fait état de dizaines d'autres cas de dérapage de ses IA. «Nous voulons de l'innovation qui se conforme à la loi», a-t-il martelé, «quel que soit le produit ou l'entreprise.»
Sollicité par l’AFP, OpenAI a rappelé que depuis la séquence de juillet, il avait mené l’enquête pour «comprendre et traiter le problème». Le créateur de ChatGPT a notamment «renforcé les garde-fous dans l’ensemble de son environnement de recherche» et amélioré les mécanismes de détection des sorties de route de l’IA.
Fin septembre, l’ONG Legal Advocates for Safe Science & Technology (LASST) avait déjà saisi la justice civile concernant le dossier Hugging Face.
Opening of the article, excerpted from Le Figaro Économie. To read the rest, open the article on the publisher's site.
MarketNews shows the headline and summary published by the outlet. The full article is on the publisher's website. (www.lefigaro.fr)




