Le 29 septembre, Nvidia, OpenAI, Anthropic, Google, Meta et xAI ont signé un accord à la Maison-Blanche s'engageant à des audits indépendants de leurs modèles d'IA les plus avancés. Le président Donald Trump a qualifié ces engagements de « moralement contraignants ». L'accord exige que chaque entreprise s'associe à un auditeur externe et que des administrateurs indépendants examinent les conclusions, mais laisse le choix de l'auditeur et l'étendue de l'examen entièrement à la firme auditée, sans conclusions publiques et sans sanction en cas de non-respect des engagements.
Pourquoi c'est important
L'accord fait écho au piège des incitations qui a fait tomber Enron et Arthur Andersen en 2002. Andersen n'a pas échoué par manque d'expertise, mais parce qu'Enron lui a versé 52 millions de dollars en une seule année pour auditer ses comptes. Le Congrès a répondu par la loi Sarbanes-Oxley, qui a retiré le choix de l'auditeur à la direction et créé un organisme public pour contrôler les auditeurs eux-mêmes. Les engagements volontaires sur l'IA ont déjà montré le même schéma de conformité : une étude de 2023 menée par Stanford, Harvard et Brown a évalué 16 entreprises d'IA au regard des précédents engagements volontaires de la Maison-Blanche, la moyenne a atteint 53 %, et huit des 16 ont obtenu zéro pour avoir aidé des tiers à identifier et signaler les problèmes.
Impact sur le marché
Les tests de pré-version menés par METR sur le modèle o3 d'OpenAI illustrent l'écart sur le terrain : ils n'ont duré que trois semaines, avec un accès limité aux informations sur le modèle et aucune visibilité sur le raisonnement étape par étape du modèle. Le test en double aveugle réalisé en août par DeepMind sur du matériel scellé, mené avec l'AI Safety Institute de Singapour et trois autres groupes externes, montre une voie à suivre. Les testeurs externes n'ont jamais vu le modèle et Google n'a jamais vu leurs questions, et chaque partie peut vérifier mathématiquement que ses éléments sont restés confidentiels. La technique déplace la confiance vers le matériel, ce qui comporte son propre risque : l'an dernier, des chercheurs ont pénétré dans du matériel scellé similaire avec moins de 1 000 dollars d'équipement, bien qu'ils aient eu besoin d'un accès physique pour y parvenir. L'accord de la Maison-Blanche ne codifie rien de tout cela. Sarbanes-Oxley a créé un inspecteur des inspecteurs ; l'accord sur l'IA n'a rien de tel.
Questions fréquemment posées
-
Quel est l'accord IA de la Maison-Blanche et qui l'a signé ?
Le 29 septembre, Nvidia, OpenAI, Anthropic, Google, Meta et xAI ont signé un engagement à la Maison-Blanche autorisant des audits indépendants de leurs modèles d'IA les plus avancés. Le président Donald Trump a qualifié ces engagements de « moralement contraignants ».
-
Pourquoi les dispositions d'audit de l'accord sont-elles jugées faibles ?
L'accord exige que chaque entreprise s'associe à un auditeur externe et que des administrateurs indépendants examinent les conclusions, mais ne précise ni qui choisit l'auditeur, ni ce qu'il peut examiner, ni si les conclusions sont rendues publiques, et ne prévoit aucune sanction en cas de non-respect.
-
En quoi l'accord se compare-t-il à l'affaire Enron et Arthur Andersen ?
Arthur Andersen n'a pas échoué par manque d'expertise, mais parce qu'Enron lui a versé 52 millions de dollars en une seule année pour auditer ses comptes. Sarbanes-Oxley a répondu en retirant le choix de l'auditeur à la direction et en créant un organisme public pour contrôler les auditeurs eux-mêmes. L'accord sur…
-
Quelle a été la performance des engagements volontaires précédents sur l'IA en termes de suivi ?
Des chercheurs de Stanford, Harvard et Brown ont évalué 16 entreprises d'IA au regard des engagements volontaires de la Maison-Blanche de 2023. La moyenne a atteint 53 %, et 8 des 16 ont obtenu zéro sur la promesse d'aider des tiers à identifier et signaler les problèmes.
-
Qu'est-ce qu'un test d'IA en double aveugle, et résout-il le problème de l'audit ?
En août, un groupe dirigé par DeepMind a réalisé ce qu'il a présenté comme le premier test d'IA en double aveugle au monde, sur du matériel scellé, en collaboration avec l'AI Safety Institute de Singapour et trois autres groupes externes. Les testeurs externes n'ont jamais vu le modèle et l'entreprise n'a jamais vu…
CryptoSlate
WatcherGuru
WuBlockchain
CoinTelegraph
TheBlock