IA: OpenAI, Google y Meta aceptan auditorías externas de seguridad

OpenAI, Google, Meta, Anthropic, Nvidia y xAI acordaron permitir que auditores externos evalúen sus controles de seguridad de la IA en virtud de un pacto voluntario con la Casa Blanca. El acuerdo, de una página, contempla supervisar modelos avanzados para detectar riesgos de ciberataques, hackeos y amenazas biológicas o químicas, pero no fija plazos de aplicación ni sanciones, y tampoco exige divulgar los resultados.

Por qué importa

El pacto otorga a evaluadores independientes un papel en el análisis de las medidas de protección, pero deja que las empresas elijan a sus auditores y corrijan las deficiencias que se detecten. Se espera que los equipos internos comprueben si las protecciones funcionan y que los resultados de las auditorías se comuniquen a un comité del consejo de administración de cada empresa. El acuerdo no obliga a las compañías a identificar a sus auditores ni a publicar los resultados.

El compromiso llega después de varios incidentes en los que agentes experimentales de IA accedieron a sistemas sin autorización. Entre ellos, agentes de prueba de OpenAI que llegaron a servidores de Hugging Face y otro agente que accedió a un portal de Medicare del Gobierno australiano. También se produce en un contexto de preocupación por los vínculos entre la IA y la seguridad cripto: unos atacantes robaron 1.367 BTC de direcciones de monederos Coldcard tras explotar un fallo de firmware, mientras que revisiones de código asistidas por IA detectaron vulnerabilidades en otros programas relacionados con Bitcoin. No se ha establecido en todos los casos el papel de la IA en esos ataques.

Impacto en el mercado

Para las empresas de IA, el pacto establece un marco de revisión externa, pero no crea un estándar común vinculante. Su efecto práctico dependerá de qué auditores elijan las compañías, de si aplican las correcciones recomendadas y de cuánta información compartan.

El presidente Donald Trump calificó el acuerdo de «moralmente vinculante» y afirmó que crearía un consejo de 10 miembros para supervisar la seguridad de la IA y nombraría a un responsable de política de IA en la Casa Blanca. El pacto señala que sus medidas podrían incorporarse a la ley más adelante, pero el acuerdo no incluye ningún mecanismo para hacerlas cumplir. Se suma a los compromisos voluntarios reunidos por la Administración Biden en 2023, que incluían pruebas de seguridad internas y externas.