A OpenAI afirmou estar a coordenar com a Anthropic e o Google trabalho em segurança de IA, num esforço conjunto raro entre os três principais laboratórios norte-americanos de modelos de fronteira. A colaboração abrange red-teaming, metodologia de avaliação e avaliação de risco pré-implementação para modelos cada vez mais capazes.
Porque importa
Os programadores de modelos de fronteira guardaram historicamente os detalhes das avaliações como propriedade intelectual concorrencial, mesmo ao assinar compromissos conjuntos de segurança em palco público. O trabalho técnico coordenado sobre metodologia de red-team e benchmarks de capacidade entre a OpenAI, a Anthropic e o Google DeepMind sugere que os laboratórios estão agora dispostos a partilhar terreno na segurança, mesmo que não nos pesos dos modelos subjacentes. Surge também num momento em que o US AI Safety Institute, o EU AI Act e um conjunto de regras estaduais nos EUA estão a forçar mais transparência sobre como os modelos com capacidades perigosas são testados antes do lançamento.
Impacto no mercado
Para compradores empresariais que avaliam fornecedores de IA, o trabalho conjunto em segurança entre os três principais laboratórios reduz o risco de cauda percebido de falha catastrófica em qualquer plataforma individual. Para o ecossistema mais amplo de IA, o sinal é que a fronteira está a consolidar-se, com as empresas que podem suportar este tipo de coordenação a definir o ritmo. Fique atento a uma publicação conjunta, uma suite de avaliação aberta ou uma norma de testes pré-implementação como próximo produto provável.
Perguntas frequentes
-
Com o que está a OpenAI a trabalhar em conjunto com a Anthropic e o Google?
A OpenAI afirmou estar a coordenar com a Anthropic e o Google trabalho em segurança de IA que abrange red-teaming, metodologia de avaliação e avaliação de risco pré-implementação.
-
Porque é notável esta colaboração?
Os programadores de modelos de fronteira guardaram historicamente os detalhes das avaliações como propriedade intelectual concorrencial. O trabalho técnico coordenado em segurança entre a OpenAI, a Anthropic e o Google DeepMind é invulgar.
-
Que pressão regulatória está a moldar a colaboração em segurança de IA?
O US AI Safety Institute, o EU AI Act e as regras estaduais dos EUA estão a empurrar os laboratórios de fronteira para mais transparência nos testes pré-implementação de modelos com capacidades perigosas.
-
Como é que isto afeta os compradores empresariais de IA?
O trabalho conjunto em segurança entre os três principais laboratórios reduz o risco de cauda percebido de falha catastrófica em qualquer plataforma individual e sinaliza consolidação na fronteira.
-
O que pode sair desta colaboração?
Os próximos passos prováveis incluem uma publicação conjunta, uma suite de avaliação aberta ou uma norma de testes pré-implementação partilhada entre os três laboratórios.
Crypto News
CryptoSlate
WuBlockchain
CoinDesk
TheBlock
CoinTelegraph