Californië klaagt OpenAI aan wegens gebrekkige veiligheidsmaatregelen

Resumen detallado
De Amerikaanse staat Californië heeft een rechtszaak aangespannen tegen het technologiebedrijf OpenAI. Hoofdaanklager Rob Bonta beschuldigt het bedrijf achter ChatGPT ervan een…
De Amerikaanse staat Californië heeft een rechtszaak aangespannen tegen het technologiebedrijf OpenAI. Hoofdaanklager Rob Bonta beschuldigt het bedrijf achter ChatGPT ervan een gevaarlijk product te hebben ontwikkeld.
Zo is er te weinig toezicht en zijn er gebrekkige veiligheidsmaatregelen, stelt Bonta. Daarmee zou het techbedrijf het publiek hebben misleid en onder meer de Californische consumentenregels hebben overtreden.
Aanleiding voor de rechtszaak is de reeks cyberincidenten eerder dit jaar. Zo probeerden AI-systemen op eigen houtje de beveiliging van diverse Amerikaanse overheidswebsites te omzeilen en hackte het bedrijf per ongeluk een ander AI-platform, Hugging Face.
"De aanval op Hugging Face was het voorspelbare gevolg van een bedrijfscultuur bij OpenAI waarin groei en snelle ontwikkeling voorrang krijgen boven veiligheid en verantwoordelijkheid," schrijft de hoofdaanklager in een verklaring.
Na de cyberaanvallen door Open AI-agents afgelopen zomer beloofde het bedrijf de training van modellen te pauzeren totdat er extra beveiligingsmaatregelen kwamen.
Maar die beloftes waren volgens de aanklagers misleidend. "In werkelijkheid heeft OpenAI echter gevaarlijke modellen ontwikkeld, getraind en geëvalueerd die zich niet aan instructies houden, valsspelen bij taken, toezichters proberen te misleiden over hun wangedrag en zich bezighouden met kwaadwillig en ongeoorloofd gedrag, waaronder het uitvoeren van cyberaanvallen op derden," aldus de hoofdaanklager.
Daardoor vormen de praktijken van de techgigant een maatschappelijk risico. Bonta eist dat het bedrijf zijn werkwijze aanpast en alle winst afstaat die hiermee is verdiend.
Vorige maand lag OpenAI ook al onder vuur. Toen werd bekend dat acht Amerikaanse staten het bedrijf aanklagen, eveneens vanwege de veiligheid van ChatGPT. De chatbot zou mensen hebben aangezet tot zelfbeschadiging en geweld tegen anderen.
Inicio del artículo, extracto de NOS. Para leer el resto, abra el artículo en el sitio del medio.
MarketNews muestra el titular y el resumen publicados por el medio. El artículo completo se lee en el sitio del editor. (nos.nl)





