Provas de conhecimento zero verificam IA em escala

As provas de conhecimento zero são o único mecanismo credível para verificar agentes autónomos de IA em escala, segundo Brian Trunzo, chief growth officer da Succinct Labs, numa coluna de opinião do CoinDesk enquadrada como um manifesto para o que ele chama Read Write Own Prove.

Trunzo começa pelo argumento estrutural de que os detetores e os regimes de divulgação já perderam. Aponta para investigação que mostra que um simples desfoque e distorção podem reduzir a precisão dos principais detetores de imagem para apenas 4%, e para uma formulação recente de Stanford do problema central como a distância entre o que a IA pode fazer e o que a sociedade consegue governar. A viragem é da proveniência do conteúdo para a proveniência dos agentes: agentes que navegam, compram, publicam e negociam não têm um rasto cronológico de auditoria, apenas uma única passagem probabilística por parâmetros opacos.

Porque importa

Trunzo mapeia a crise de confiança em três épocas anteriores da web. A Web1 resolveu o problema de identidade com HTTPS, um aperto de mão criptográfico entre navegador e servidor. A Web2 escalou com os escudos de responsabilidade da Section 230, um acordo que funcionava para humanos a publicar em cronologias e cai por terra quando o ator é uma máquina. A Web3, na sua leitura, escolheu o primitivo errado: tokens otimizados para propriedade e especulação, não para verificabilidade.

A resposta ZK que ele propõe atravessa quatro camadas da pilha de IA. Na inferência, as provas podem atestar que um modelo específico, com parâmetros específicos, produziu uma saída específica. Na entrada, podem verificar que os dados de treino não foram envenenados sem expor conjuntos de dados proprietários. Na saída, ligam um resultado ao processo que o criou. E, na identidade, permitem que humanos provem que são humanos e agentes provem que são agentes, sem abdicar da privacidade.

Impacto no mercado

Trunzo enquadra a responsabilização dos agentes como uma questão de segurança nacional, argumentando que adversários estrangeiros vão introduzir agentes nos mercados dos EUA, nas instituições e nas interfaces viradas para o consumidor mais depressa do que a política consegue acompanhar. Aponta a iniciativa Privacy-Enhancing Cryptography do NIST como a porta técnica de entrada e pede ao Congresso que exija provas criptográficas de identidade e autorização para qualquer agente de alto risco que processe transações financeiras ou interaja com menores. A proposta de política é que a responsabilidade recaia sobre a ausência de prova, e não sobre o conteúdo em si.

O ângulo cripto é explícito. Trunzo observa que a ZK primeiro protegeu milhares de milhões em ativos digitais depois de sair da ciência da computação teórica em 2016, e que o mesmo primitivo está agora a chegar à IA, onde o estrangulamento já não é o cálculo, mas a verdade.