A NVIDIA juntou-se a mais de 35 empresas de tecnologia para lançar a Open Secure AI Alliance, um consórcio destinado a avançar ferramentas e normas de segurança para IA de código aberto. A coligação abrange designers de chips, hyperscalers, laboratórios de modelos e fornecedores de segurança, e vai coordenar trabalho sobre integridade da cadeia de fornecimento, proveniência de modelos e datasets, e estruturas de avaliação reproduzíveis para sistemas de pesos abertos.
Porque importa
O desenvolvimento de modelos de fronteira avançou mais depressa do que a camada de segurança à sua volta durante dois anos. Cada laboratório construiu o seu próprio processo de red teaming, o seu próprio pipeline de assinatura de pesos, o seu próprio esquema de atestação de datasets, e o resultado é uma superfície fragmentada em que as vulnerabilidades de um ecossistema raramente são reforçadas para outro. Um consórcio multivendedor é a resposta padrão da indústria a essa fragmentação: benchmarks partilhados, implementações de referência partilhadas e um vocabulário comum, para que uma CVE num modelo de pesos abertos corresponda a uma mitigação conhecida, e não a um patch feito à medida para cada utilizador.
Impacto no mercado
A lista de participantes conta tanto como o lançamento. A NVIDIA ao lado dos hyperscalers e dos principais laboratórios de pesos abertos estabelece um nível de coordenação que coligações anteriores de IA de código aberto não tinham. As empresas que compram infraestrutura de inferência passam agora a ter um fórum único para exigir garantias de segurança nos modelos de pesos abertos que estão a levar para produção. Vale a pena seguir os primeiros resultados técnicos conjuntos: uma especificação de referência para assinatura de pesos e um esquema comum de model card são os primeiros entregáveis mais prováveis, e qualquer um deles elevaria de forma material a fasquia para colocar IA de pesos abertos em cargas de trabalho reguladas.
Perguntas frequentes
-
O que é a Open Secure AI Alliance?
É um novo consórcio de mais de 35 empresas tecnológicas, incluindo a NVIDIA, focado em avançar a segurança da IA de código aberto através de ferramentas, padrões e implementações de referência partilhados.
-
Porque foi criada a aliança?
O desenvolvimento de modelos de fronteira ultrapassou a camada de segurança em torno deles, e cada laboratório passou a construir os seus próprios processos de red teaming, assinatura de pesos e atestação de datasets. A aliança quer consolidar esse trabalho fragmentado em benchmarks partilhados e normas comuns.
-
Que empresas estão envolvidas?
Os membros fundadores incluem a NVIDIA e mais de 35 outras empresas, desde designers de chips e hyperscalers até laboratórios de modelos e fornecedores de segurança.
-
O que é que a aliança vai construir na prática?
O consórcio está a coordenar trabalho sobre integridade da cadeia de fornecimento, proveniência de modelos e datasets, e estruturas de avaliação reproduzíveis para sistemas de IA de pesos abertos. A especificação de referência para assinatura de pesos e um esquema comum de model card são os primeiros resultados mais…
-
Como é que isto afeta as empresas que usam modelos de IA de pesos abertos?
As empresas passam a ter um fórum único da indústria para exigir garantias de segurança nos modelos de pesos abertos em produção, e os padrões partilhados deverão elevar a base de segurança para levar IA de pesos abertos para cargas de trabalho reguladas.
CryptoSlate
Crypto News
TheBlock
WatcherGuru
WuBlockchain
CoinDesk