CoinDesk
A 29 de setembro, a Nvidia, a OpenAI, a Anthropic, a Google, a Meta e a xAI assinaram um acordo na Casa Branca que promete auditorias independentes aos seus modelos de IA mais avançados. O Presidente Donald Trump classificou os compromissos como "moralmente vinculativos". O acordo exige que cada empresa colabore com um auditor externo e que membros independentes do conselho revejam as conclusões, mas deixa a escolha do auditor e o âmbito do exame inteiramente à firma auditada, sem resultados públicos e sem penalidade por ignorar os compromissos.
Porquê é importante
O acordo ecoa a armadilha de incentivos que derrubou a Enron e a Arthur Andersen em 2002. A Andersen falhou não por falta de competência, mas porque a Enron lhe pagou 52 milhões de dólares num único ano para auditar as suas contas; o Congresso respondeu com o Sarbanes-Oxley, que retirou à gestão a escolha do auditor e criou um conselho público para fiscalizar os próprios auditores. Os compromissos voluntários de IA já mostraram o mesmo padrão de conformidade: um estudo de 2023 da Stanford, Harvard e Brown avaliou 16 empresas de IA face aos compromissos voluntários anteriores da Casa Branca, a média ficou nos 53%, e oito das 16 pontuaram zero em ajudar externos a encontrar e reportar problemas.
Impacto no mercado
O teste pré-lançamento da METR ao modelo o3 da OpenAI ilustra o fosso no terreno: decorreu durante apenas três semanas, com acesso limitado à informação do modelo e sem visão do raciocínio passo-a-passo do modelo. O teste duplamente cego da DeepMind em agosto, realizado em hardware selado com o AI Safety Institute de Singapura e três outros grupos externos, mostra um caminho a seguir. Os testadores externos nunca viram o modelo e a Google nunca viu as suas perguntas, e cada lado pode confirmar matematicamente que o seu material permaneceu privado. A técnica transfere a confiança para o hardware, o que traz o seu próprio risco: no ano passado, investigadores invadiram hardware selado semelhante com menos de mil dólares de equipamento, embora tivessem precisado de acesso físico para o fazer. O acordo da Casa Branca não codifica nada disto. O Sarbanes-Oxley criou um inspetor para os inspetores; o acordo de IA nada tem de semelhante.
Perguntas frequentes
-
O que é o acordo de IA da Casa Branca e quem o assinou?
A 29 de setembro, a Nvidia, a OpenAI, a Anthropic, a Google, a Meta e a xAI assinaram um compromisso na Casa Branca para permitir auditorias independentes aos seus modelos de IA mais avançados. O Presidente Donald Trump classificou os compromissos como "moralmente vinculativos".
-
Porque são consideradas fracas as disposições de auditoria do acordo?
O acordo obriga cada empresa a colabar com um auditor externo e a que membros independentes do conselho revejam as conclusões, mas nada diz sobre quem escolhe o auditor, o que pode examinar, ou se os resultados são tornados públicos, e não acarreta qualquer penalidade por ignorá-lo.
-
Como se compara o acordo à Enron e à Arthur Andersen?
A Arthur Andersen falhou não por falta de competência, mas porque a Enron lhe pagou 52 milhões de dólares num único ano para auditar as suas contas. O Sarbanes-Oxley respondeu retirando à gestão a escolha do auditor e criando um conselho público para fiscalizar os próprios auditores. O acordo de IA deixa a escolha do…
-
Como tiveram desempenho os compromissos voluntários de IA anteriores em termos de cumprimento?
Investigadores da Stanford, Harvard e Brown avaliaram 16 empresas de IA face aos compromissos voluntários de 2023 da Casa Branca. A média ficou nos 53%, e 8 das 16 pontuaram zero na promessa de ajudar externos a encontrar e reportar problemas.
-
O que é o teste de IA duplamente cego e resolve o problema da auditoria?
Em agosto, um grupo liderado pela DeepMind realizou o que designou como o primeiro teste de IA duplamente cego do mundo em hardware selado, em colaboração com o AI Safety Institute de Singapura e três outros grupos externos. Os testadores externos nunca viram o modelo e a empresa nunca viu as suas perguntas, com cada…
WatcherGuru
Crypto News
CryptoSlate
WuBlockchain
CoinTelegraph