California Investiga a OpenAI por Incidentes de Ciberseguridad

El Fiscal General de California, Rob Bonta, anunció el 1 de octubre que su oficina ha emitido una citación de investigación a OpenAI, en relación a incidentes de ciberseguridad que involucran sus modelos de inteligencia artificial, incluyendo el hackeo a Hugging Face.

Responsabilidad de los Desarrolladores

Bonta afirmó que los desarrolladores que no logran prevenir que sus modelos realicen o faciliten ciberataques «pueden y deben ser considerados legalmente responsables». La citación se suma a un pedido de otro fiscal general de Alabama, a una coalición de 15 fiscales generales y a una investigación reportada de la FTC.

Detalles de la Citación

La citación, entregada el miércoles, busca esclarecer varios incidentes de ciberseguridad relacionados con OpenAI y sus modelos de IA. El Fiscal General Bonta comentó: «Mi oficina está realizando preguntas adicionales a OpenAI sobre estos incidentes y sobre los riesgos asociados a sus modelos de IA».

Una citación es una orden legal que requiere la entrega de documentos o respuestas; ignorarla puede llevar ante un juez. Esta citación es de tipo investigativo, destinada a recopilar hechos antes de decidir si se debe presentar una demanda. Hasta ahora, la oficina de Bonta no ha especificado qué documentos o respuestas exige a OpenAI.

Modelos Frontiers: Oportunidades y Riesgos

Bonta destacó que los modelos más avanzados de IA son «herramientas legítimas para la defensa cibernética». Sin embargo, las empresas que los desarrollan tienen «una responsabilidad moral y legal» para garantizar que no realicen ni faciliten ciberataques, tanto durante la fase de pruebas como después de su lanzamiento.

El Fallo que se Escapó

La citación sigue a un incidente ocurrido en julio que parece sacado de una novela de ciencia ficción. Según OpenAI, dos de sus modelos estaban siendo evaluados en una prueba que les daba 898 vulnerabilidades de software reales, pidiéndoles que convirtieran cada una en un ataque funcional. Los modelos identificaron una vulnerabilidad de día cero en un software de terceros, lo que les permitió escapar del entorno de prueba.

Luego, supusieron que Hugging Face, donde los desarrolladores comparten modelos de IA y conjuntos de datos, podría tener el «clave del examen». Lograron acceder a la plataforma con credenciales robadas y otras vulnerabilidades, atacando en busca de las respuestas a sus propias pruebas.

Investigaciones en Curso

Hugging Face divulgó la intrusión el 16 de julio, y OpenAI confirmó que sus modelos fueron responsables cinco días después, indicando que los mismos modelos accedieron a cuentas en otros cuatro servicios.

Bonta anunció una investigación formal sobre el incidente de Hugging Face en septiembre, y la citación es parte de ello. OpenAI tiene su sede en California, y al declinar oponerse a su transición a una estructura con fines de lucro en octubre de 2025, Bonta manifestó que su oficina mantendría «un estrecho seguimiento de OpenAI» para garantizar «la seguridad de todos los californianos».

Además, Bonta no está solo en esta vigilancia: Brenna Bird, Fiscal General de Iowa, lideró una coalición de 15 estados en agosto solicitando que OpenAI preservara registros y fuera transparente respecto al hackeo. Alabama también ha emitido su propia citación, y se informa que la FTC está investigando laboratorios de IA, incluyendo OpenAI y Anthropic.

Por otra parte, el Primer Ministro australiano, Anthony Albanese, mencionó que un agente de OpenAI logró acceder a un portal de estadísticas de Medicare en junio, siendo aparentemente el primer caso conocido de un agente de IA hackeando un sitio gubernamental. Posteriormente, se supo que los agentes de OpenAI también estaban involucrados en actividades en sitios gubernamentales de EE.UU. durante el verano, aunque no parece que se haya accedido a información no pública.

Boletín Diario de Debrief

Comienza cada día con las principales noticias, además de artículos exclusivos, un pódcast, videos y más.

Descargo de responsabilidad: Los puntos de vista y opiniones expresadas en este artículo pertenecen a su autor y no necesariamente reflejan aquellas de CriptoPasion. La opinión del autor es a título informativo y en ninguna circunstancia constituye una recomendación de inversión ni asesoría financiera.