El 29 de septiembre, Nvidia, OpenAI, Anthropic, Google, Meta y xAI firmaron un acuerdo en la Casa Blanca en el que se comprometían a auditorías independientes de sus modelos de IA más avanzados. El presidente Donald Trump calificó las promesas de «moralmente vinculantes». El acuerdo exige que cada empresa se asocie con un auditor externo y que miembros independientes del consejo revisen los hallazgos, pero deja la elección del auditor y el alcance del examen enteramente a la empresa auditada, sin hallazgos públicos y sin penalización por ignorar los compromisos.
Por qué importa
El acuerdo reproduce la trampa de incentivos que hundió a Enron y Arthur Andersen en 2002. Andersen no fracasó por falta de experiencia, sino porque Enron le pagó 52 millones de dólares en un solo año para auditar sus cuentas; el Congreso respondió con Sarbanes-Oxley, que retiró la elección del auditor de manos de la dirección y creó un consejo público para inspeccionar a los propios auditores. Los compromisos voluntarios de IA ya han mostrado el mismo patrón de cumplimiento: un estudio de 2023 de Stanford, Harvard y Brown puntuó a 16 empresas de IA frente a los compromisos voluntarios previos de la Casa Blanca, la media fue del 53%, y ocho de las 16 obtuvieron cero en ayudar a externos a detectar e informar de problemas.
Impacto en el mercado
Las pruebas previas al lanzamiento de METR sobre el modelo o3 de OpenAI ilustran la brecha sobre el terreno: duró solo tres semanas, con acceso limitado a la información del modelo y sin vista del razonamiento paso a paso. La prueba doble ciego de DeepMind de agosto sobre hardware sellado, realizada con el Instituto de Seguridad en IA de Singapur y otros tres grupos externos, muestra un camino a seguir. Los evaluadores externos nunca vieron el modelo y Google nunca vio sus preguntas, y cada parte puede verificar matemáticamente que su material permaneció privado. La técnica traslada la confianza al hardware, lo que tiene su propio riesgo: el año pasado, investigadores accedieron a hardware sellado similar con menos de 1.000 dólares de equipo, aunque necesitaron acceso físico para hacerlo. El acuerdo de la Casa Blanca no codifica nada de esto. Sarbanes-Oxley creó un inspector de los inspectores; el acuerdo de IA no tiene nada similar.
Preguntas frecuentes
-
¿Qué es el acuerdo de IA de la Casa Blanca y quién lo firmó?
El 29 de septiembre, Nvidia, OpenAI, Anthropic, Google, Meta y xAI firmaron un compromiso en la Casa Blanca para permitir auditorías independientes de sus modelos de IA más avanzados. El presidente Donald Trump calificó los compromisos de «moralmente vinculantes».
-
¿Por qué se consideran débiles las disposiciones de auditoría del acuerdo?
El acuerdo exige que cada empresa se asocie con un auditor externo y que miembros independientes del consejo revisen los hallazgos, pero no dice quién elige al auditor, qué puede examinar, ni si los hallazgos se hacen públicos, y no contempla penalización por ignorarlo.
-
¿Cómo se compara el acuerdo con Enron y Arthur Andersen?
Arthur Andersen no fracasó por falta de experiencia, sino porque Enron le pagó 52 millones de dólares en un solo año para auditar sus cuentas. Sarbanes-Oxley respondió retirando la elección del auditor de manos de la dirección y creando un consejo público para inspeccionar a los propios auditores. El acuerdo de IA…
-
¿Cómo rindieron los compromisos voluntarios previos de IA en cuanto a seguimiento?
Investigadores de Stanford, Harvard y Brown puntuaron a 16 empresas de IA frente a los compromisos voluntarios de la Casa Blanca de 2023. La media fue del 53%, y 8 de las 16 obtuvieron cero en la promesa de ayudar a externos a detectar e informar de problemas.
-
¿Qué son las pruebas de IA doble ciego y resuelven el problema de auditoría?
En agosto, un grupo liderado por DeepMind realizó lo que llamó la primera prueba de IA doble ciego del mundo sobre hardware sellado, en colaboración con el Instituto de Seguridad en IA de Singapur y otros tres grupos externos. Los evaluadores externos nunca vieron el modelo y la empresa nunca vio sus preguntas, con…
Crypto News
CryptoSlate
WatcherGuru
WuBlockchain
CoinTelegraph
TheBlock