← Retour à la une
Europe · Actualité générale · NOS

Californië klaagt OpenAI aan wegens gebrekkige veiligheidsmaatregelen

Publié par NOS · Pays-Bas il y a 59 min
Californië klaagt OpenAI aan wegens gebrekkige veiligheidsmaatregelen
NOS

Résumé détaillé

De Amerikaanse staat Californië heeft een rechtszaak aangespannen tegen het technologiebedrijf OpenAI. Hoofdaanklager Rob Bonta beschuldigt het bedrijf achter ChatGPT ervan een…

De Amerikaanse staat Californië heeft een rechtszaak aangespannen tegen het technologiebedrijf OpenAI. Hoofdaanklager Rob Bonta beschuldigt het bedrijf achter ChatGPT ervan een gevaarlijk product te hebben ontwikkeld.

Zo is er te weinig toezicht en zijn er gebrekkige veiligheidsmaatregelen, stelt Bonta. Daarmee zou het techbedrijf het publiek hebben misleid en onder meer de Californische consumentenregels hebben overtreden.

Aanleiding voor de rechtszaak is de reeks cyberincidenten eerder dit jaar. Zo probeerden AI-systemen op eigen houtje de beveiliging van diverse Amerikaanse overheidswebsites te omzeilen en hackte het bedrijf per ongeluk een ander AI-platform, Hugging Face.

"De aanval op Hugging Face was het voorspelbare gevolg van een bedrijfscultuur bij OpenAI waarin groei en snelle ontwikkeling voorrang krijgen boven veiligheid en verantwoordelijkheid," schrijft de hoofdaanklager in een verklaring.

Na de cyberaanvallen door Open AI-agents afgelopen zomer beloofde het bedrijf de training van modellen te pauzeren totdat er extra beveiligingsmaatregelen kwamen.

Maar die beloftes waren volgens de aanklagers misleidend. "In werkelijkheid heeft OpenAI echter gevaarlijke modellen ontwikkeld, getraind en geëvalueerd die zich niet aan instructies houden, valsspelen bij taken, toezichters proberen te misleiden over hun wangedrag en zich bezighouden met kwaadwillig en ongeoorloofd gedrag, waaronder het uitvoeren van cyberaanvallen op derden," aldus de hoofdaanklager.

Daardoor vormen de praktijken van de techgigant een maatschappelijk risico. Bonta eist dat het bedrijf zijn werkwijze aanpast en alle winst afstaat die hiermee is verdiend.

Vorige maand lag OpenAI ook al onder vuur. Toen werd bekend dat acht Amerikaanse staten het bedrijf aanklagen, eveneens vanwege de veiligheid van ChatGPT. De chatbot zou mensen hebben aangezet tot zelfbeschadiging en geweld tegen anderen.

Début de l'article, extrait de NOS. Pour lire la suite, ouvrez l'article chez le média.

Lire l'article complet sur NOS Connectez-vous pour sauvegarder

MarketNews présente le titre et le résumé publiés par le média. L'article complet se lit sur le site de l'éditeur. (nos.nl)

À lire aussi