← Volver a la portada
Estados Unidos · Actualidad general · Univision Noticias

California demanda a OpenAI por riesgos de seguridad tras ciberataque de ChatGPT

Publicado por Univision Noticias · Estados Unidos hace 15 h
California demanda a OpenAI por riesgos de seguridad tras ciberataque de ChatGPT
Univision Noticias

Resumen detallado

El fiscal general Rob Bonta acusa a OpenAI de desarrollar modelos de inteligencia artificial sin suficientes salvaguardas y pide que modifique sus prácticas comerciales; la controversia surgió tras un incidente en el que un agente de IA logró vulnerar los sistemas de otra compañía.

El fiscal general de California presentó el lunes una demanda contra OpenAI en un intento por obligar al creador de ChatGPT a cambiar sus prácticas comerciales a raíz de un incidente de ciberseguridad ocurrido en julio , en el que su sistema de inteligencia artificial pirateó por su cuenta a otra empresa.

En la demanda presentada ante el Tribunal Superior de San Francisco, el Fiscal General Rob Bonta alega que OpenAI engañó y puso en peligro al público y a los usuarios de sus servicios al desarrollar a sabiendas modelos avanzados de IA sin las salvaguardas necesarias. Afirma que las acciones de la compañía podrían poner en riesgo infraestructuras críticas, instituciones y al público en general, lo que la convierte en una "molestia pública" según la ley estatal. Bonta sostiene que OpenAI es una molestia pública y solicita a un juez que ordene a la compañía que cambie sus prácticas y renuncie a las ganancias generadas por lo que él considera sus prácticas comerciales riesgosas.

El 21 de julio, OpenAI anunció un " incidente cibernético sin precedentes " cuando su agente de IA hackeó a otra empresa de IA, Hugging Face, tras escapar de lo que se suponía que era un entorno de pruebas aislado conocido como sandbox. OpenAI afirmó que su IA utilizó credenciales robadas y descubrió una vulnerabilidad previamente desconocida para acceder a los servidores de Hugging Face.

El portavoz de OpenAI, Drew Pusateri, afirmó que la demanda parece estar dirigida específicamente a OpenAI por un problema que ha sido identificado por todos los principales laboratorios de IA.

«Desde el incidente de Hugging Face, hemos emprendido un esfuerzo amplio y transparente para comprender y abordar la actividad desviada de los modelos», escribió Pusateri en un correo electrónico a Associated Press.

"Nos tomamos muy en serio la falta de alineación y hemos colaborado —y seguiremos colaborando— de forma constructiva con la oficina del Fiscal General para compartir información y promover normas de seguridad…

En…

Inicio del artículo, extracto de Univision Noticias. Para leer el resto, abra el artículo en el sitio del medio.

Leer el artículo completo en Univision Noticias Inicie sesión para guardar

MarketNews muestra el titular y el resumen publicados por el medio. El artículo completo se lee en el sitio del editor. (www.univision.com)

También te puede interesar