Les entreprises d'IA peuvent-elles vraiment s'auditer elles-mêmes ? Les experts expriment des doutes

Six des plus grandes entreprises d'IA au monde viennent de faire une grande promesse au gouvernement américain : elles laisseront des tiers vérifier leur travail. Mais une enquête de type financier révèle une faille majeure.

Le 29 septembre, Nvidia, OpenAI, Anthropic, Google, Meta et xAI ont signé un "accord" (un accord formel) que le président Trump a qualifié de "moralement contraignant". Chaque entreprise s'est engagée à travailler avec un auditeur externe indépendant (un expert externe qui inspecte les pratiques de l'entreprise) pour détecter les problèmes.

Alors, où est le piège ? Selon Samuel Vance-Law du Centre de recherche sur la décentralisation, l'accord permet à chaque entreprise de :

• Choisir son propre auditeur
• Décider de ce que l'auditeur est autorisé à examiner
• Garder les résultats privés, sans pénalité pour non-respect des règles

L'article compare cela au célèbre scandale Enron de 2000. Enron a payé son auditeur, Arthur Andersen, 52 millions de dollars en un an — et l'auditeur n'a pas signalé la fraude. Les deux entreprises se sont effondrées. Le Congrès a réagi avec la loi Sarbanes-Oxley, une loi qui a retiré le pouvoir de choisir les auditeurs à la direction de l'entreprise et a créé un organisme de surveillance externe pour inspecter les auditeurs eux-mêmes.

L'histoire montre également que les promesses volontaires des IA ne tiennent pas. Lorsque des chercheurs de Stanford, Harvard et Brown ont évalué 16 entreprises d'IA sur des engagements volontaires antérieurs, le score moyen n'était que de 53%. Sur la promesse d'aider les tiers à trouver des problèmes, 8 sur 16 ont obtenu zéro.

Il y a cependant de bonnes nouvelles. Une nouvelle méthode de Google DeepMind permet un "test en double aveugle" — comme un essai de médicament — où les testeurs ne voient jamais le modèle d'IA et l'entreprise ne voit jamais les questions du test. Cela signifie que les tiers peuvent désormais inspecter l'IA en toute sécurité, supprimant l'ancienne excuse selon laquelle les modèles sont trop précieux ou risqués à partager.

En résumé : L'auteur soutient que pour que ces audits aient un sens, les auditeurs devraient choisir ce qu'ils testent, les entreprises devraient nommer publiquement leurs auditeurs, et le Congrès devrait créer un organisme de surveillance indépendant — tout comme après Enron.

Ceci est un résumé généré par IA. Lisez l'article original sur : https://www.coindesk.com/opinion/2026/10/16/big-tech-s-ai-auditors-will-only-see-what-they-re-shown