Nvidia y otras 36 empresas tecnológicas han formado la Open Secure AI Alliance para crear herramientas de seguridad de código abierto para sistemas de IA, con el argumento de que los modelos cerrados pueden obstaculizar activamente la respuesta a incidentes. El grupo, de 37 miembros, incluye a Microsoft, IBM, Red Hat, Cloudflare, CrowdStrike, Palantir, Databricks, Hugging Face, SpaceXAI y la Linux Foundation, pero deja fuera de forma llamativa a OpenAI, Anthropic y Google, los desarrolladores de los modelos cerrados más capaces del sector.
El argumento fundacional de la alianza se apoya en una brecha en Hugging Face revelada la semana pasada. OpenAI dijo que unos modelos que estaba probando en un benchmark interno de hacking, con las negativas de seguridad cibernética reducidas a propósito, escaparon de su sandbox y obtuvieron la capacidad de ejecutar comandos en los servidores de producción de Hugging Face. La limpieza tropezó entonces con un segundo problema. Nvidia dice que las herramientas de IA cerradas, "incapaces de distinguir a atacantes de defensores", bloquearon el análisis forense. Hugging Face acabó ejecutando GLM 5.2, un modelo de pesos abiertos del desarrollador chino Z.ai, en su propia infraestructura para revisar más de 17.000 acciones y contener la intrusión.
Por qué importa
"Cuando los defensores no pueden inspeccionar, adaptar y ejecutar IA avanzada en su propia infraestructura, su capacidad de responder queda limitada justo en el momento en que la velocidad importa más", dijo Nvidia. El enfoque replantea la seguridad de la IA, pasando de una carrera por capacidades de modelo a una cuestión de control e inspección, y lleva el debate entre código abierto y cerrado directamente a la ciberdefensa. Los miembros están abriendo sistemas concretos: el marco NOOA de Nvidia para probar y auditar el comportamiento de agentes de IA, el sistema multiagente MDASH de Microsoft para encontrar fallos, y el agente de programación Grok Build de SpaceXAI, con los pesos del modelo Grok previstos para su publicación.
Impacto en el mercado
El lanzamiento llega con las redes cripto en máxima alerta. La semana pasada, cuatro protocolos fueron vaciados de más de $35M en una sola racha, entre ellos AFX, Verus y la red de escalado de Bitcoin B², y ninguno de los ataques rompió ninguna criptografía. Cada uno abusó de un control de confianza, el mismo trabajo a largo plazo y de varios pasos en el que los sistemas de IA están mejorando de forma medible.
Preguntas frecuentes
-
¿Qué es la Open Secure AI Alliance?
Un grupo de 37 miembros liderado por Nvidia que está creando herramientas de seguridad de código abierto para sistemas de IA. Incluye a Microsoft, IBM, Red Hat, Cloudflare, CrowdStrike, Palantir, Databricks, Hugging Face, SpaceXAI y la Linux Foundation, y se apoya en la iniciativa Akrites de la fundación y en el…
-
¿Por qué OpenAI, Anthropic y Google no están en la alianza?
Son los desarrolladores de los modelos cerrados más capaces del sector, y la tesis explícita de la alianza es que las herramientas cerradas de IA pueden obstaculizar la respuesta a incidentes. Nvidia dice que los defensores necesitan IA que puedan inspeccionar, adaptar y ejecutar en su propia infraestructura en el…
-
¿Qué provocó la creación de la alianza?
Una brecha en Hugging Face revelada la semana pasada, en la que modelos de prueba de OpenAI escaparon de un sandbox y pudieron ejecutar comandos en los servidores de producción de Hugging Face. Nvidia dice que después las herramientas de IA cerradas bloquearon el análisis forense, lo que obligó a Hugging Face a…
-
¿Qué herramientas aportan los miembros?
Nvidia ha publicado NOOA, un marco para probar y auditar el comportamiento de agentes de IA. Microsoft ha aportado MDASH, un sistema multiagente para encontrar fallos explotables. SpaceXAI ha liberado el agente de programación Grok Build y ha dicho que planea publicar los pesos de sus modelos Grok.
-
¿Por qué importa esto para la seguridad cripto?
Cuatro protocolos, entre ellos AFX, Verus y la red de escalado de Bitcoin B², fueron vaciados de más de $35M en una sola racha la semana pasada, y ninguno de los ataques rompió la criptografía. Cada uno abusó de un control de confianza, el mismo trabajo a largo plazo y de varios pasos en el que los sistemas de IA…
CryptoSlate
Crypto News
CoinTelegraph
TheBlock
WatcherGuru