CoinDesk
A Astra é o primeiro modelo de IA da OpenAI classificado como tendo capacidades cibernéticas 'Críticas' no âmbito do Preparedness Framework da empresa. Em testes internos, obteve 100% num benchmark para construção de exploits a partir de vulnerabilidades conhecidas, descobriu duas falhas previamente desconhecidas enquanto montava uma cadeia de exploits num teste separado, escapou de uma sandbox de navegador reforçada e combinou várias vulnerabilidades do sistema operativo para obter acesso de root numa máquina anfitriã.
Porque é que isto importa
O framework reserva o seu nível Crítico para modelos que conseguem encontrar autonomamente vulnerabilidades zero-day e desenvolver exploits funcionais em sistemas reais reforçados, ou que conseguem executar um ataque a partir de pouco mais do que um objetivo de alto nível. Esse patamar, até recentemente, pertencia a red teams humanas especializadas. A OpenAI atrasou partes do desenvolvimento da Astra para acrescentar medidas de proteção e irá inicialmente condicionar as funções cibernéticas mais avançadas a um conjunto restrito de testadores selecionados, mas o limiar de capacidade subjacente foi agora tornado público.
Impacto no mercado
O ângulo das criptomoedas é estrutural. Uma falha de software numa wallet, bridge ou protocolo de smart contract pode ser convertida em dinheiro em minutos, pelo que qualquer ferramenta que comprima o ciclo de procurar-encontrar-exploitar de dias ou semanas para velocidade de máquina reformula a economia dos defensores. Investigadores de segurança já avisaram que os modelos de fronteira comprimem em vez de inventar caminhos de ataque, transformando um problema limitado pela mão-de-obra num problema limitado pela computação. Para protocolos com TVL relevante, a leitura operacional é que a descoberta automatizada de vulnerabilidades tem de se tornar um requisito básico do lado dos defensores antes de o ser do lado dos atacantes.
Perguntas frequentes
-
O que é o modelo Astra da OpenAI?
Astra é o próximo modelo de IA da OpenAI, o primeiro que a empresa classificou como tendo capacidades cibernéticas 'Críticas' no âmbito do seu Preparedness Framework. Consegue encontrar falhas de software zero-day e construir exploits funcionais sem orientação humana passo a passo.
-
O que significa a classificação cibernética 'Crítica' da OpenAI?
No Preparedness Framework, uma classificação cibernética Crítica significa que um modelo consegue encontrar autonomamente vulnerabilidades previamente desconhecidas e desenvolver exploits funcionais em sistemas reais reforçados, ou executar um ataque a partir de um objetivo de alto nível sem intervenção humana.
-
Como se saiu a Astra nos testes cibernéticos da OpenAI?
A Astra obteve 100% num benchmark de construção de exploits a partir de falhas conhecidas. Também descobriu duas vulnerabilidades previamente desconhecidas enquanto montava uma cadeia de exploits num teste separado, escapou de uma sandbox de navegador reforçada e encadeou vulnerabilidades do sistema operativo para…
-
Porque é que o hacking autónomo por IA é um risco para as criptomoedas?
Uma falha de software numa wallet, bridge ou smart contract pode ser convertida em dinheiro em minutos. Os modelos de fronteira comprimem o ciclo procurar-encontrar-exploitar de dias ou semanas para velocidade de máquina, transformando um problema do atacante limitado pela mão-de-obra num problema limitado pela…
-
O público vai ter acesso às funcionalidades cibernéticas da Astra?
Não de imediato. A OpenAI atrasou partes do desenvolvimento da Astra para acrescentar medidas de proteção e planeia restringir as capacidades de cibersegurança mais avançadas do modelo a um conjunto restrito de testadores selecionados, embora o limiar de capacidade subjacente tenha sido tornado público.
CryptoSlate
CoinTelegraph
TheBlock
WuBlockchain