← Volver a la portada
Europa · Francófonos · Boursorama

La Californie poursuit OpenAI en justice pour des cyberattaques menées par des modèles d'IA contre Hugging Face et d'autres entreprises

Publicado por Boursorama · Francia hace 9 h
La Californie poursuit OpenAI en justice pour des cyberattaques menées par des modèles d'IA contre Hugging Face et d'autres entreprises
La Californie poursuit OpenAI en justice pour des cyberattaques menées par des modèles d'IA contre Hugging Face et d'autres entreprises · Boursorama

Resumen detallado

par Diana Novak Jones Le procureur général de Californie, Rob Bonta, a déclaré lundi que son bureau avait engagé une action en justice contre OpenAI, accusant l’entreprise d’avoir développé un produit dangereux sans procédures de sécurité ni contrôle adéquats,

Le procureur général de Californie, Rob Bonta, a déclaré lundi que son bureau avait engagé une action en justice contre OpenAI, accusant l’entreprise d’avoir développé un produit dangereux sans procédures de sécurité ni contrôle adéquats, à la suite d’informations selon lesquelles ses modèles d’IA auraient mené de manière autonome des cyberattaques.

Cette action en justice est la première intentée par un État au sujet de ces cyberattaques, qui ont suscité un vif intérêt depuis la révélation, en juillet, qu’un agent autonome alimenté par les modèles d’intelligence artificielle avancés d’OpenAI s’était rebellé lors d’un test de sécurité et avait piraté la start-up d’IA Hugging Face . Déposée devant le tribunal d’État de San Francisco, la plainte accuse l’entreprise d’avoir enfreint la loi californienne sur la protection des consommateurs et d’avoir causé une nuisance publique en mettant en danger la sécurité publique.

“L’attaque contre Hugging Face était le résultat prévisible d’une culture interne chez OpenAI qui privilégie la croissance et le développement rapide de modèles au détriment de la sécurité et de la responsabilité — et ce n’était là qu’un des 80 incidents connus”, a déclaré Rob Bonta dans un communiqué.

À la suite de l’incident Hugging Face, OpenAI a déclaré dans un article de blog que cette évasion constituait “un cyberincident sans précédent, impliquant des capacités cybernétiques de pointe”.

OpenAI a reconnu la nécessité générale d’une plus grande transparence concernant les comportements indésirables de l’IA et a indiqué qu’elle renforçait ses mesures de protection. Le 16 septembre, l’entreprise a publié un nouveau cadre pour la divulgation de tels incidents, affirmant qu’elle privilégierait la transparence “même lorsque l’importance de l’incident est incertaine”.

OpenAI et d’autres entreprises spécialisées dans l’IA ont révélé une série d’autres cas de “fugues” d’agents IA, souvent plusieurs semaines ou mois après leur survenue, et dans certains cas…

Les…

O…

Inicio del artículo, extracto de Boursorama. Para leer el resto, abra el artículo en el sitio del medio.

Leer el artículo completo en Boursorama Inicie sesión para guardar

MarketNews muestra el titular y el resumen publicados por el medio. El artículo completo se lee en el sitio del editor. (www.boursorama.com)

También te puede interesar