Pruebas de conocimiento cero: clave para verificar IA autónoma

Las pruebas de conocimiento cero son el único mecanismo creíble para verificar agentes de IA autónomos a escala, según Brian Trunzo, director de crecimiento de Succinct Labs, en una columna de opinión de CoinDesk planteada como un manifiesto de lo que llama Read Write Own Prove.

Trunzo empieza con el argumento estructural de por qué los detectores y los regímenes de divulgación ya han perdido. Señala investigaciones que muestran que un simple desenfoque y distorsión pueden reducir la precisión de los principales detectores de imágenes hasta apenas el 4%, y una reciente formulación de Stanford que sitúa el problema central en la brecha entre lo que la IA puede hacer y lo que la sociedad puede gobernar. El giro va de la procedencia del contenido a la procedencia del agente: los agentes que navegan, compran, publican y negocian no tienen una pista cronológica de auditoría, solo una pasada probabilística única por parámetros opacos.

Por qué importa

Trunzo proyecta la crisis de confianza sobre tres etapas anteriores de la web. Web1 resolvió su problema de identidad con HTTPS, un apretón de manos criptográfico entre navegador y servidor. Web2 escaló sobre los escudos de responsabilidad de la Section 230, un pacto que funcionaba para humanos publicando en cronologías y que se rompe por completo cuando el actor es una máquina. Web3, según su lectura, eligió la primitiva equivocada: tokens optimizados para propiedad y especulación, no para verificabilidad.

La respuesta ZK que propone recorre cuatro capas de la pila de IA. En la inferencia, las pruebas pueden certificar que un modelo concreto con parámetros concretos produjo una salida concreta. En la entrada, pueden verificar que los datos de entrenamiento no fueron envenenados sin exponer conjuntos de datos propietarios. En la salida, vinculan un resultado al proceso que lo creó. Y en la identidad, permiten a los humanos demostrar que son humanos y a los agentes demostrar que son agentes, sin renunciar a la privacidad.

Impacto en el mercado

Trunzo plantea la rendición de cuentas de los agentes como una cuestión de seguridad nacional, al argumentar que adversarios extranjeros desplegarán agentes en mercados, instituciones e interfaces de consumo de EE. UU. más rápido de lo que la política podrá reaccionar. Señala la iniciativa Privacy-Enhancing Cryptography del NIST como la rampa técnica de acceso y pide al Congreso que exija pruebas criptográficas de identidad y autorización a cualquier agente de alto riesgo que gestione transacciones financieras o interactúe con menores. La propuesta política es que la responsabilidad recaiga en la ausencia de prueba, no en el contenido en sí.

El ángulo cripto es explícito. Trunzo recuerda que ZK primero aseguró miles de millones en activos digitales tras salir de la informática teórica en 2016, y que esa misma primitiva llega ahora a la IA, donde el cuello de botella ya no es el cómputo, sino la verdad.