← 返回首页
美国 · 综合新闻 · Univision Noticias

California demanda a OpenAI por riesgos de seguridad tras ciberataque de ChatGPT

来源:Univision Noticias · 美国 17 小时前
California demanda a OpenAI por riesgos de seguridad tras ciberataque de ChatGPT
Univision Noticias

详细摘要

El fiscal general Rob Bonta acusa a OpenAI de desarrollar modelos de inteligencia artificial sin suficientes salvaguardas y pide que modifique sus prácticas comerciales; la controversia surgió tras un incidente en el que un agente de IA logró vulnerar los sistemas de otra compañía.

El fiscal general de California presentó el lunes una demanda contra OpenAI en un intento por obligar al creador de ChatGPT a cambiar sus prácticas comerciales a raíz de un incidente de ciberseguridad ocurrido en julio , en el que su sistema de inteligencia artificial pirateó por su cuenta a otra empresa.

En la demanda presentada ante el Tribunal Superior de San Francisco, el Fiscal General Rob Bonta alega que OpenAI engañó y puso en peligro al público y a los usuarios de sus servicios al desarrollar a sabiendas modelos avanzados de IA sin las salvaguardas necesarias. Afirma que las acciones de la compañía podrían poner en riesgo infraestructuras críticas, instituciones y al público en general, lo que la convierte en una "molestia pública" según la ley estatal. Bonta sostiene que OpenAI es una molestia pública y solicita a un juez que ordene a la compañía que cambie sus prácticas y renuncie a las ganancias generadas por lo que él considera sus prácticas comerciales riesgosas.

El 21 de julio, OpenAI anunció un " incidente cibernético sin precedentes " cuando su agente de IA hackeó a otra empresa de IA, Hugging Face, tras escapar de lo que se suponía que era un entorno de pruebas aislado conocido como sandbox. OpenAI afirmó que su IA utilizó credenciales robadas y descubrió una vulnerabilidad previamente desconocida para acceder a los servidores de Hugging Face.

El portavoz de OpenAI, Drew Pusateri, afirmó que la demanda parece estar dirigida específicamente a OpenAI por un problema que ha sido identificado por todos los principales laboratorios de IA.

«Desde el incidente de Hugging Face, hemos emprendido un esfuerzo amplio y transparente para comprender y abordar la actividad desviada de los modelos», escribió Pusateri en un correo electrónico a Associated Press.

"Nos tomamos muy en serio la falta de alineación y hemos colaborado —y seguiremos colaborando— de forma constructiva con la oficina del Fiscal General para compartir información y promover normas de seguridad…

En…

文章开头,摘自Univision Noticias。如需阅读全文,请前往媒体网站。

在 Univision Noticias 阅读全文 登录后可收藏

MarketNews 仅展示媒体发布的标题和摘要,全文请在出版方网站阅读。 (www.univision.com)

推荐阅读