Le cofondateur d'Ethereum Vitalik Buterin a mis à jour ses avancées sur l'IA locale, indiquant que DeepSeek V4 propose désormais une version quantifiée à 2 bits qui fonctionne dans environ 90 Go de VRAM, atteignant environ 35 tokens par seconde sur du matériel Apple et 7 tok/s sur du silicium AMD. Il a présenté cette étape comme le premier signal concret que l'inférence privée de type CROPS peut tourner sur des machines grand public, et pas uniquement sur des GPU de centre de données.
Pourquoi c'est important
Vitalik a pris ses distances avec l'étiquette « IA décentralisée », estimant qu'une véritable IA CROPS devrait être agnostique au matériel — Apple, AMD, NVIDIA et accélérateurs spécialisés réunis. Il a également décrit une couche d'accès Ethereum CROPS qui recoupe l'IA CROPS : appels LLM distants payants basés sur ZK et lectures RPC Ethereum privées, deux usages qui nécessitent une inférence ne divulguant ni les prompts de l'utilisateur, ni son activité on-chain à un tiers. Il a appelé à davantage de modèles d'IA ajustés pour Ethereum afin d'auditer la sécurité des smart contracts et du code de protocole.
Impact sur le marché
La quantification à 2 bits est l'avancée technique — elle compresse un modèle de classe frontier dans une empreinte que le matériel grand public peut réellement supporter, ce qui est la condition préalable à tout récit d'inférence locale crédible. Surveillez le rythme des publications open source : si un modèle de 90 Go est le plancher actuel, les quantifications à suivre devraient faire baisser ce chiffre rapidement, élargissant la base de matériel éligible pour les outils d'IA on-chain privés.
Questions fréquemment posées
-
Qu'a dit Vitalik Buterin à propos de DeepSeek V4 ?
Il a partagé des benchmarks pour une version quantifiée à 2 bits de DeepSeek V4 — environ 90 Go de VRAM, environ 35 tokens par seconde sur matériel Apple et 7 tok/s sur matériel AMD — la présentant comme le premier test concret d'inférence privée sur matériel grand public.
-
Qu'est-ce que CROPS AI ?
CROPS AI est le cadre proposé par Vitalik pour une inférence privée et vérifiable. Il estime qu'il doit être agnostique au matériel plutôt qu'étiqueté « IA décentralisée », et qu'il recoupe une couche d'accès Ethereum CROPS couvrant les appels LLM distants payants basés sur ZK et les lectures RPC privées.
-
Pourquoi la quantification à 2 bits compte-t-elle pour l'IA locale ?
Elle compresse un modèle de classe frontier dans une empreinte d'environ 90 Go que le matériel grand public peut réellement supporter. Cette compression est la condition préalable pour exécuter l'inférence privée localement au lieu de router les prompts via des centres de données tiers.
-
Quel est le lien avec la confidentialité sur Ethereum ?
Vitalik a décrit une couche d'accès Ethereum CROPS qui prend en charge les appels LLM distants payants basés sur ZK et les lectures RPC Ethereum privées, deux usages qui nécessitent une inférence ne divulguant ni les prompts de l'utilisateur, ni son activité on-chain à un tiers.
-
Vitalik a-t-il appelé à des modèles d'IA spécifiques à Ethereum ?
Oui. Il a demandé davantage de modèles d'IA ajustés pour Ethereum, dédiés à l'audit et à l'amélioration de la sécurité des smart contracts et du code de protocole.