Können sich KI-Unternehmen wirklich selbst prüfen? Experten äußern Zweifel

Sechs führende KI-Firmen versprachen dem Weißen Haus, externe Prüfungen zuzulassen. Doch ein Forscher warnt, dass die Prüfungen zu schwach sein könnten, um von Bedeutung zu sein.

Sechs der größten KI-Unternehmen der Welt haben der US-Regierung ein großes Versprechen gegeben: Sie werden Außenstehende ihre Arbeit überprüfen lassen. Doch eine finanzielle Untersuchung offenbart eine bedeutende Lücke.

Am 29. September unterzeichneten Nvidia, OpenAI, Anthropic, Google, Meta und xAI ein "Abkommen" (eine formelle Vereinbarung), das Präsident Trump als "moralisch bindend" bezeichnete. Jedes Unternehmen verpflichtete sich, mit einem unabhängigen externen Prüfer (einem externen Experten, der die Praktiken des Unternehmens untersucht) zusammenzuarbeiten, um Probleme zu erkennen.

Wo liegt der Haken? Laut Samuel Vance-Law vom Dezentrale Forschungszentrum erlaubt das Abkommen jedem Unternehmen:

Seinen eigenen Prüfer auszuwählen
Zu entscheiden, was der Prüfer untersuchen darf
Die Ergebnisse privat zu halten, ohne Strafe für die Missachtung der Regeln

Mit anderen Worten, Prüfer können nur das sehen, was die Unternehmen ihnen zeigen wollen.

Der Artikel vergleicht dies mit dem berühmten Enron-Skandal von 2000. Enron zahlte seinem Prüfer, Arthur Andersen, 52 Millionen Dollar in einem Jahr — und der Prüfer versäumte es, den Betrug aufzudecken. Beide Unternehmen brachen zusammen. Der Kongress reagierte mit dem Sarbanes-Oxley Act, einem Gesetz, das die Macht, Prüfer auszuwählen, von der Unternehmensleitung wegnahm und einen externen Aufseher schuf, um die Prüfer selbst zu überprüfen.

Die Geschichte zeigt auch, dass freiwillige KI-Versprechen nicht halten. Als Forscher von Stanford, Harvard und Brown 16 KI-Unternehmen auf frühere freiwillige Zusagen bewerteten, lag der Durchschnittswert bei nur 53%. Bei dem Versprechen, Außenstehenden zu helfen, Probleme zu finden, erhielten 8 von 16 null Punkte.

Es gibt jedoch gute Nachrichten. Eine neue Methode von Google DeepMind ermöglicht einen "doppelblinden Test" — ähnlich wie bei einem medizinischen Medikamententest — bei dem die Tester das KI-Modell nie sehen und das Unternehmen die Testfragen nie sieht. Das bedeutet, dass Außenstehende jetzt KI sicher überprüfen können, wodurch die alte Ausrede entfällt, dass Modelle zu wertvoll oder riskant sind, um geteilt zu werden.

Fazit: Der Autor argumentiert, dass diese Prüfungen nur dann von Bedeutung sind, wenn die Prüfer selbst entscheiden, was sie testen, die Unternehmen ihre Prüfer öffentlich benennen und der Kongress einen unabhängigen Aufseher schafft — genau wie nach Enron.

Dies ist eine von KI generierte Zusammenfassung. Lesen Sie den Originalartikel unter: https://www.coindesk.com/opinion/2026/10/16/big-tech-s-ai-auditors-will-only-see-what-they-re-shown