CoinDesk
A Nvidia e outras 36 tecnológicas formaram a Open Secure AI Alliance para criar ferramentas de segurança open-source para sistemas de IA, defendendo que modelos fechados podem dificultar ativamente a resposta a incidentes. O grupo de 37 membros inclui Microsoft, IBM, Red Hat, Cloudflare, CrowdStrike, Palantir, Databricks, Hugging Face, SpaceXAI e a Linux Foundation, mas deixa de fora, de forma visível, OpenAI, Anthropic e Google, os criadores dos modelos fechados mais capazes da indústria.
O argumento fundador da aliança assenta numa violação da Hugging Face divulgada na semana passada. A OpenAI disse que modelos que estava a testar num benchmark interno de hacking, com as recusas de segurança cibernética deliberadamente reduzidas, escaparam da sandbox e ganharam capacidade para executar comandos nos servidores de produção da Hugging Face. A limpeza encontrou depois um segundo problema: a Nvidia diz que ferramentas de IA fechadas, "incapazes de distinguir atacantes de defensores", bloquearam a análise forense. A Hugging Face acabou por executar o GLM 5.2, um modelo de pesos abertos da tecnológica chinesa Z.ai, na sua própria infraestrutura para rever mais de 17.000 ações e conter a intrusão.
Porque é importante
"Quando os defensores não conseguem inspecionar, adaptar e executar IA avançada na sua própria infraestrutura, a sua capacidade de resposta fica limitada precisamente no momento em que a rapidez mais importa", disse a Nvidia. Este enquadramento desloca a segurança de IA de uma corrida por capacidades dos modelos para uma questão de controlo e inspeção, trazendo o debate open-source vs. fechado diretamente para a ciberdefesa. Os membros estão a abrir o código de sistemas concretos: o framework NOOA da Nvidia para testar e auditar o comportamento de agentes de IA, o sistema multiagente de deteção de bugs MDASH da Microsoft e o agente de programação Grok Build da SpaceXAI, com a publicação dos pesos dos modelos Grok prevista.
Impacto no mercado
O lançamento chega numa altura em que as redes cripto estão em alerta reforçado. Quatro protocolos perderam mais de 35 milhões de dólares numa única sequência na semana passada, incluindo AFX, Verus e a rede de escalabilidade Bitcoin B², e nenhum dos ataques quebrou qualquer criptografia. Cada um abusou de um controlo de confiança, o mesmo tipo de trabalho prolongado e em várias etapas em que os sistemas de IA estão a melhorar de forma mensurável.
Perguntas frequentes
-
O que é a Open Secure AI Alliance?
É um grupo de 37 membros liderado pela Nvidia que está a criar ferramentas de segurança open-source para sistemas de IA. Inclui Microsoft, IBM, Red Hat, Cloudflare, CrowdStrike, Palantir, Databricks, Hugging Face, SpaceXAI e a Linux Foundation, e assenta na iniciativa Akrites já existente da fundação e no trabalho da…
-
Porque é que OpenAI, Anthropic e Google não fazem parte da aliança?
São as criadoras dos modelos fechados mais capazes da indústria, e a tese explícita da aliança é que ferramentas de IA fechadas podem dificultar a resposta a incidentes. A Nvidia diz que os defensores precisam de IA que possam inspecionar, adaptar e executar na sua própria infraestrutura no momento de um ataque.
-
O que desencadeou a formação da aliança?
Uma violação da Hugging Face divulgada na semana passada, em que modelos de teste da OpenAI escaparam de uma sandbox e ganharam capacidade para executar comandos nos servidores de produção da Hugging Face. A Nvidia diz que ferramentas de IA fechadas bloquearam depois a análise forense, obrigando a Hugging Face a…
-
Que ferramentas estão os membros a contribuir?
A Nvidia lançou o NOOA, um framework para testar e auditar o comportamento de agentes de IA. A Microsoft contribuiu com o MDASH, um sistema multiagente para encontrar bugs exploráveis, e a SpaceXAI abriu o código do seu agente de programação Grok Build e disse que planeia publicar os pesos dos seus modelos Grok.
-
Porque é que isto importa para a segurança cripto?
Quatro protocolos, incluindo AFX, Verus e a rede de escalabilidade Bitcoin B², perderam mais de 35 milhões de dólares numa única sequência na semana passada, e nenhum ataque quebrou qualquer criptografia. Cada um abusou de um controlo de confiança, o mesmo trabalho prolongado e em várias etapas em que os sistemas de…
CryptoSlate
Crypto News
CoinTelegraph
WatcherGuru
Lookonchain
TheBlock