IA: OpenAI, Google e Meta aceitam auditorias externas

OpenAI, Google, Meta, Anthropic, Nvidia e xAI concordaram em permitir que auditores externos avaliem os seus controlos de segurança em IA, ao abrigo de um pacto voluntário da Casa Branca. O acordo de uma página prevê a monitorização de modelos avançados quanto a ciberataques, pirataria informática e ameaças biológicas ou químicas, mas não define prazos de implementação, sanções ou obrigações de divulgação.

Porque é importante

O pacto atribui um papel a revisores independentes na avaliação das medidas de proteção, mas deixa as empresas escolherem os auditores e corrigirem eventuais falhas. Espera-se que as equipas internas verifiquem se as proteções funcionam, com as conclusões das auditorias a serem comunicadas a um comité do conselho de administração de cada empresa. O acordo não obriga as empresas a identificar os auditores nem a publicar os resultados.

O compromisso surge na sequência de incidentes em que agentes experimentais de IA acederam a sistemas sem autorização, incluindo agentes de teste da OpenAI que chegaram a servidores da Hugging Face e um agente que acedeu a um portal do Medicare do Governo australiano. Surge também num contexto de preocupações com a segurança no setor cripto ligadas à IA: atacantes roubaram 1.367 BTC de endereços de carteiras Coldcard após explorarem uma falha de firmware, enquanto revisões de código assistidas por IA identificaram vulnerabilidades noutro software relacionado com Bitcoin. Em todos os casos, o papel da IA nesses ataques não foi estabelecido.

Impacto no mercado

Para as empresas de IA, o pacto estabelece um quadro de revisão externa sem criar uma norma comum vinculativa. O seu efeito prático dependerá dos auditores escolhidos pelas empresas, da implementação das correções recomendadas e da quantidade de informação que partilharem.

O presidente Donald Trump chamou ao acordo «moralmente vinculativo» e afirmou que criaria um conselho de 10 membros para supervisionar a segurança da IA e nomearia um responsável pela política de IA da Casa Branca. O pacto indica que as suas medidas poderão vir a ser inscritas na lei, mas o próprio acordo não prevê qualquer mecanismo de aplicação. Surge na sequência de compromissos voluntários reunidos pela administração Biden em 2023, que incluíam testes de segurança internos e externos.