Ethereum-Mitgründer Vitalik Buterin hat seine Fortschritte bei lokaler KI aktualisiert: DeepSeek V4 liefere nun eine 2-Bit-quantisierte Version, die in rund 90 GB VRAM läuft und dabei etwa 35 Tokens pro Sekunde auf Apple-Hardware sowie 7 tok/s auf AMD-Silizium erreicht. Er wertete den Meilenstein als erstes konkretes Signal, dass CROPS-artige private Inferenz auf Consumer-Geräten laufen kann — und nicht nur auf Rechenzentrums-GPUs.
Warum es zählt
Vitalik wehrte sich gegen das Label „dezentrale KI“ und argumentierte, echte CROPS-KI solle hardware-agnostisch sein — Apple, AMD, NVIDIA und spezialisierte Beschleuniger gleichermaßen eingeschlossen. Er skizzierte außerdem eine CROPS-Ethereum-Zugriffsebene, die sich mit CROPS-KI überschneidet: ZK-basierte, kostenpflichtige Remote-LLM-Aufrufe und private Ethereum-RPC-Reads, die beide Inferenz benötigen, welche die Prompts oder On-Chain-Aktivitäten der Nutzer nicht an Dritte durchsickern lässt. Er forderte mehr Ethereum-optimierte KI-Modelle, um Smart-Contract- und Protokoll-Code-Sicherheit zu auditieren.
Marktauswirkungen
Die 2-Bit-Quantisierung ist der technische Kern — sie komprimiert ein Frontier-Klasse-Modell in einen Footprint, den Consumer-Hardware tatsächlich stemmen kann, was die Voraussetzung für jede ernsthafte lokale Inferenz-Erzählung ist. Beobachte die Open-Source-Veröffentlichungsfrequenz: Wenn 90 GB heute der Boden sind, werden nachfolgende Quantisierungen diese Zahl wahrscheinlich schnell nach unten drücken und die adressierbare Hardware-Basis für private On-Chain-KI-Tools erweitern.
Häufig gestellte Fragen
-
Was hat Vitalik Buterin über DeepSeek V4 gesagt?
Er hat Benchmarks für eine 2-Bit-quantisierte Version von DeepSeek V4 geteilt — rund 90 GB VRAM, etwa 35 Tokens pro Sekunde auf Apple-Hardware und 7 tok/s auf AMD-Hardware — und sie als ersten konkreten Test privater Inferenz auf Consumer-Niveau eingeordnet.
-
Was ist CROPS-KI?
CROPS-KI ist Vitaliks Framework für private, verifizierbare Inferenz. Er argumentiert, sie solle hardware-agnostisch sein statt als „dezentrale KI“ etikettiert zu werden, und überschneide sich mit einer CROPS-Ethereum-Zugriffsebene für ZK-basierte kostenpflichtige Remote-LLM-Aufrufe und private RPC-Reads.
-
Warum ist 2-Bit-Quantisierung wichtig für lokale KI?
Sie komprimiert ein Frontier-Klasse-Modell auf einen Footprint von ~90 GB, den Consumer-Hardware tatsächlich halten kann. Diese Kompression ist die Voraussetzung dafür, private Inferenz lokal auszuführen, statt Prompts durch Drittanbieter-Rechenzentren zu leiten.
-
Wie hängt das mit Ethereum-Datenschutz zusammen?
Vitalik skizzierte eine CROPS-Ethereum-Zugriffsebene, die ZK-basierte kostenpflichtige Remote-LLM-Aufrufe und private Ethereum-RPC-Reads unterstützt — beides benötigt Inferenz, die weder Prompts noch On-Chain-Aktivitäten der Nutzer an Dritte durchsickern lässt.
-
Hat Vitalik Ethereum-spezifische KI-Modelle gefordert?
Ja. Er forderte mehr Ethereum-optimierte KI-Modelle, die gezielt Smart-Contract- und Protokoll-Code-Sicherheit auditieren und verbessern.