Zero-Knowledge-Proofs machen KI-Agenten überprüfbar

Zero-Knowledge-Proofs sind laut Brian Trunzo, Chief Growth Officer bei Succinct Labs, der einzige glaubwürdige Mechanismus, um autonome KI-Agenten in großem Maßstab zu verifizieren. In einer CoinDesk-Meinungskolumne formuliert er dies als Manifest für das, was er Read Write Own Prove nennt.

Trunzo beginnt mit dem strukturellen Argument, warum Detektoren und Offenlegungsregeln bereits verloren haben. Er verweist auf Forschung, der zufolge einfache Unschärfe und Verzerrung die Trefferquote führender Bilddetektoren auf nur 4 % senken können, sowie auf eine aktuelle Stanford-Einordnung des Kernproblems als Lücke zwischen dem, was KI leisten kann, und dem, was Gesellschaften steuern können. Der Schwerpunkt verschiebt sich von der Herkunft von Inhalten zur Herkunft von Agenten: Agenten, die browsen, kaufen, veröffentlichen und verhandeln, haben keinen chronologischen Prüfpfad, sondern nur einen einzelnen probabilistischen Durchlauf durch undurchsichtige Parameter.

Warum das wichtig ist

Trunzo ordnet die Vertrauenskrise drei früheren Web-Epochen zu. Web1 löste sein Identitätsproblem mit HTTPS, einem kryptografischen Handshake zwischen Browser und Server. Web2 skalierte auf Grundlage der Haftungsschirme von Section 230, ein Deal, der für Menschen funktionierte, die in Timelines posten, aber vollständig zerbricht, wenn der Akteur eine Maschine ist. Web3 wählte aus seiner Sicht den falschen Grundbaustein: Token, optimiert für Eigentum und Spekulation, nicht für Verifizierbarkeit.

Die von ihm vorgeschlagene ZK-Antwort zieht sich durch vier Ebenen des KI-Stacks. Bei der Inferenz können Nachweise bestätigen, dass ein bestimmtes Modell mit bestimmten Parametern eine bestimmte Ausgabe erzeugt hat. Beim Input können sie verifizieren, dass Trainingsdaten nicht vergiftet wurden, ohne proprietäre Datensätze offenzulegen. Beim Output binden sie ein Ergebnis an den Prozess, der es erzeugt hat. Und bei der Identität ermöglichen sie Menschen zu beweisen, dass sie Menschen sind, und Agenten zu beweisen, dass sie Agenten sind, ohne Privatsphäre aufzugeben.

Marktauswirkung

Trunzo rahmt die Rechenschaftspflicht von Agenten als Frage der nationalen Sicherheit. Ausländische Gegner würden Agenten schneller in US-Märkte, Institutionen und verbrauchernahe Schnittstellen bringen, als die Politik reagieren könne. Er verweist auf NISTs Initiative Privacy-Enhancing Cryptography als technischen Einstieg und fordert den Kongress auf, kryptografische Nachweise von Identität und Autorisierung für jeden Hochrisiko-Agenten zu verlangen, der Finanztransaktionen abwickelt oder mit Minderjährigen interagiert. Der politische Kern: Haftung sollte an das Fehlen eines Nachweises anknüpfen, nicht an den Inhalt selbst.

Der Krypto-Bezug ist ausdrücklich. Trunzo merkt an, dass ZK nach dem Schritt aus der theoretischen Informatik im Jahr 2016 erstmals Milliarden an digitalen Vermögenswerten absicherte, und dass derselbe Grundbaustein nun in der KI ankommt, wo nicht mehr Rechenleistung, sondern Wahrheit der Engpass ist.