O cofundador da Ethereum, Vitalik Buterin, atualizou o seu progresso em IA local, afirmando que o DeepSeek V4 inclui agora uma versão quantizada a 2 bits que corre em cerca de 90 GB de VRAM, atingindo cerca de 35 tokens por segundo em hardware Apple e 7 tok/s em silício AMD. Enquadrou o marco como o primeiro sinal concreto de que a inferência privada estilo CROPS pode correr em máquinas de consumo, e não apenas em GPUs de centros de dados.
Por que é importante
Vitalik afastou-se do rótulo de "IA descentralizada", argumentando que a verdadeira CROPS AI deve ser agnóstica em termos de hardware — Apple, AMD, NVIDIA e aceleradores especializados, todos incluídos. Esboçou também uma camada de acesso CROPS à Ethereum que se sobrepõe à CROPS AI: chamadas LLM remotas pagas baseadas em ZK e leituras RPC privadas da Ethereum, ambas necessitando de inferência que não revele os prompts do utilizador ou a atividade on-chain a terceiros. Pediu mais modelos de IA afinados para a Ethereum para auditar a segurança de smart contracts e do código de protocolo.
Impacto no mercado
A quantização a 2 bits é o avanço técnico — comprime um modelo de classe fronteira para uma pegada que o hardware de consumo consegue efetivamente suportar, o que é a condição prévia para qualquer narrativa significativa de inferência local. Acompanhe a cadência dos lançamentos open-source: se um modelo de 90 GB é o piso atual, quantizações subsequentes deverão reduzir esse número rapidamente, alargando a base de hardware endereçável para ferramentas de IA privadas on-chain.
Perguntas frequentes
-
O que disse Vitalik Buterin sobre o DeepSeek V4?
Partilhou benchmarks para uma versão quantizada a 2 bits do DeepSeek V4 — cerca de 90 GB de VRAM, aproximadamente 35 tokens por segundo em hardware Apple e 7 tok/s em hardware AMD — enquadrando-o como o primeiro teste concreto de inferência privada em hardware de consumo.
-
O que é a CROPS AI?
A CROPS AI é o framework de Vitalik para inferência privada e verificável. Ele defende que deve ser agnóstica em termos de hardware em vez de rotulada como "IA descentralizada" e que se sobrepõe a uma camada de acesso CROPS à Ethereum que abrange chamadas LLM remotas pagas baseadas em ZK e leituras RPC privadas.
-
Porque é que a quantização a 2 bits é importante para a IA local?
Comprime um modelo de classe fronteira para uma pegada de ~90 GB que o hardware de consumo consegue efetivamente suportar. Essa compressão é a condição prévia para executar inferência privada localmente em vez de encaminhar prompts através de centros de dados de terceiros.
-
Como é que isto se liga à privacidade na Ethereum?
Vitalik esboçou uma camada de acesso CROPS à Ethereum que suporta chamadas LLM remotas pagas baseadas em ZK e leituras RPC privadas da Ethereum, ambas necessitando de inferência que não revele os prompts do utilizador ou a atividade on-chain a terceiros.
-
Vitalik pediu modelos de IA específicos para a Ethereum?
Sim. Pediu mais modelos de IA afinados para a Ethereum, especificamente para auditar e melhorar a segurança de smart contracts e do código de protocolo.