Preuves à connaissance nulle : la clé pour vérifier l’IA

Les preuves à connaissance nulle sont le seul mécanisme crédible pour vérifier à grande échelle des agents IA autonomes, selon Brian Trunzo, directeur de la croissance chez Succinct Labs, dans une tribune de CoinDesk présentée comme un manifeste pour ce qu'il appelle Read Write Own Prove.

Trunzo commence par l'argument structurel expliquant pourquoi les détecteurs et les régimes de divulgation ont déjà perdu. Il renvoie à des recherches montrant qu'un simple flou ou une distorsion peut faire chuter la précision des meilleurs détecteurs d'images jusqu'à 4 %, ainsi qu'à une formulation récente de Stanford qui présente le problème central comme l'écart entre ce que l'IA peut faire et ce que la société peut gouverner. Le pivot passe de la provenance du contenu à la provenance des agents. Des agents qui consultent le web, achètent, publient et négocient n'ont aucune trace d'audit chronologique, seulement un seul passage probabiliste à travers des paramètres opaques.

Pourquoi c'est important

Trunzo rattache la crise de confiance à trois ères précédentes du web. Web1 a réglé son problème d'identité avec HTTPS, une poignée de main cryptographique entre navigateur et serveur. Web2 a pris de l'ampleur grâce aux protections de responsabilité de la section 230, un compromis qui fonctionnait pour des humains publiant sur des fils d'actualité et s'effondre totalement quand l'acteur est une machine. Web3, selon lui, a choisi la mauvaise primitive. Des tokens optimisés pour la propriété et la spéculation, pas pour la vérifiabilité.

La réponse ZK qu'il propose couvre quatre couches de la pile IA. À l'inférence, des preuves peuvent attester qu'un modèle précis, avec des paramètres précis, a produit une sortie précise. À l'entrée, elles peuvent vérifier que les données d'entraînement n'ont pas été empoisonnées sans exposer les jeux de données propriétaires. À la sortie, elles lient un résultat au processus qui l'a créé. Et pour l'identité, elles permettent aux humains de prouver qu'ils sont humains et aux agents de prouver qu'ils sont des agents, sans sacrifier la vie privée.

Impact sur le marché

Trunzo présente la responsabilité des agents comme une question de sécurité nationale, en affirmant que des adversaires étrangers déploieront des agents sur les marchés américains, dans les institutions et sur les interfaces tournées vers le consommateur plus vite que la politique ne pourra suivre. Il renvoie à l'initiative Privacy-Enhancing Cryptography du NIST comme rampe d'accès technique et appelle le Congrès à exiger des preuves cryptographiques d'identité et d'autorisation pour tout agent à haut risque traitant des transactions financières ou interagissant avec des mineurs. L'idée politique est que la responsabilité doit découler de l'absence de preuve, et non du contenu lui-même.

L'angle crypto est explicite. Trunzo note que les ZK ont d'abord sécurisé des milliards d'actifs numériques après être sortis de l'informatique théorique en 2016, et que la même primitive arrive maintenant dans l'IA, où le goulot d'étranglement n'est plus le calcul mais la vérité.