¿Pueden las empresas de IA realmente auditarse a sí mismas? Los expertos plantean dudas

Seis de las mayores empresas de IA del mundo hicieron una gran promesa al gobierno de EE.UU.: permitirán que personas externas revisen su trabajo. Pero una investigación al estilo financiero revela una gran laguna.

El 29 de septiembre, Nvidia, OpenAI, Anthropic, Google, Meta y xAI firmaron un "acuerdo" (un acuerdo formal) que el presidente Trump calificó de "moralmente vinculante". Cada empresa se comprometió a trabajar con un auditor externo independiente (un experto externo que inspecciona las prácticas de la empresa) para detectar problemas.

¿Entonces, cuál es el truco? Según Samuel Vance-Law del Centro de Investigación de Descentralización, el acuerdo permite a cada empresa:

• Elegir a su propio auditor
• Decidir qué puede examinar el auditor
• Mantener los hallazgos en privado, sin penalización por ignorar las reglas

El artículo compara esto con el famoso escándalo de Enron del año 2000. Enron pagó a su auditor, Arthur Andersen, 52 millones de dólares en un año, y el auditor no logró detectar el fraude. Ambas empresas colapsaron. El Congreso respondió con la Ley Sarbanes-Oxley, una ley que quitó el poder de elegir auditores a la administración de la empresa y creó un organismo de vigilancia externo para inspeccionar a los propios auditores.

La historia también muestra que las promesas voluntarias de IA no se sostienen. Cuando investigadores de Stanford, Harvard y Brown calificaron a 16 empresas de IA sobre promesas voluntarias anteriores, la puntuación promedio fue solo del 53%. En la promesa de ayudar a los externos a encontrar problemas, 8 de 16 obtuvieron cero.

Sin embargo, hay buenas noticias. Un nuevo método de Google DeepMind permite una "prueba doble ciego" — como un ensayo de medicamentos — donde los evaluadores nunca ven el modelo de IA y la empresa nunca ve las preguntas de la prueba. Esto significa que los externos ahora pueden inspeccionar la IA de manera segura, eliminando la vieja excusa de que los modelos son demasiado valiosos o riesgosos para compartir.

La conclusión: El autor argumenta que para que estas auditorías signifiquen algo, los auditores deberían elegir lo que prueban, las empresas deberían nombrar públicamente a sus auditores, y el Congreso debería crear un organismo de vigilancia independiente — tal como lo hizo después de Enron.

Este es un resumen generado por IA. Lea el artículo original en: https://www.coindesk.com/opinion/2026/10/16/big-tech-s-ai-auditors-will-only-see-what-they-re-shown