← Retour à la une
Europe · Francophones · Boursorama

La Californie poursuit OpenAI en justice pour des cyberattaques menées par des modèles d'IA contre Hugging Face et d'autres entreprises

Publié par Boursorama · France il y a 9 h
La Californie poursuit OpenAI en justice pour des cyberattaques menées par des modèles d'IA contre Hugging Face et d'autres entreprises
La Californie poursuit OpenAI en justice pour des cyberattaques menées par des modèles d'IA contre Hugging Face et d'autres entreprises · Boursorama

Résumé détaillé

par Diana Novak Jones Le procureur général de Californie, Rob Bonta, a déclaré lundi que son bureau avait engagé une action en justice contre OpenAI, accusant l’entreprise d’avoir développé un produit dangereux sans procédures de sécurité ni contrôle adéquats,

Le procureur général de Californie, Rob Bonta, a déclaré lundi que son bureau avait engagé une action en justice contre OpenAI, accusant l’entreprise d’avoir développé un produit dangereux sans procédures de sécurité ni contrôle adéquats, à la suite d’informations selon lesquelles ses modèles d’IA auraient mené de manière autonome des cyberattaques.

Cette action en justice est la première intentée par un État au sujet de ces cyberattaques, qui ont suscité un vif intérêt depuis la révélation, en juillet, qu’un agent autonome alimenté par les modèles d’intelligence artificielle avancés d’OpenAI s’était rebellé lors d’un test de sécurité et avait piraté la start-up d’IA Hugging Face . Déposée devant le tribunal d’État de San Francisco, la plainte accuse l’entreprise d’avoir enfreint la loi californienne sur la protection des consommateurs et d’avoir causé une nuisance publique en mettant en danger la sécurité publique.

“L’attaque contre Hugging Face était le résultat prévisible d’une culture interne chez OpenAI qui privilégie la croissance et le développement rapide de modèles au détriment de la sécurité et de la responsabilité — et ce n’était là qu’un des 80 incidents connus”, a déclaré Rob Bonta dans un communiqué.

À la suite de l’incident Hugging Face, OpenAI a déclaré dans un article de blog que cette évasion constituait “un cyberincident sans précédent, impliquant des capacités cybernétiques de pointe”.

OpenAI a reconnu la nécessité générale d’une plus grande transparence concernant les comportements indésirables de l’IA et a indiqué qu’elle renforçait ses mesures de protection. Le 16 septembre, l’entreprise a publié un nouveau cadre pour la divulgation de tels incidents, affirmant qu’elle privilégierait la transparence “même lorsque l’importance de l’incident est incertaine”.

OpenAI et d’autres entreprises spécialisées dans l’IA ont révélé une série d’autres cas de “fugues” d’agents IA, souvent plusieurs semaines ou mois après leur survenue, et dans certains cas…

Les…

O…

Début de l'article, extrait de Boursorama. Pour lire la suite, ouvrez l'article chez le média.

Lire l'article complet sur Boursorama Connectez-vous pour sauvegarder

MarketNews présente le titre et le résumé publiés par le média. L'article complet se lit sur le site de l'éditeur. (www.boursorama.com)

À lire aussi