CoinDesk
Am 29. September unterzeichneten Nvidia, OpenAI, Anthropic, Google, Meta und xAI ein Abkommen mit dem Weißen Haus, in dem sie unabhängige Prüfungen ihrer fortschrittlichsten KI-Modelle zusicherten. Präsident Donald Trump bezeichnete die Zusagen als „moralisch bindend“. Das Abkommen verlangt von jedem Unternehmen, einen externen Prüfer zu beauftragen und unabhängige Vorstandsmitglieder die Ergebnisse überprüfen zu lassen, überlässt aber die Wahl des Prüfers und den Prüfumfang vollständig dem geprüften Unternehmen, ohne öffentliche Ergebnisse und ohne Strafe bei Missachtung der Verpflichtungen.
Warum es wichtig ist
Das Abkommen erinnert an die Anreizfalle, die 2002 Enron und Arthur Andersen zum Einsturz brachte. Andersen scheiterte nicht an fehlender Expertise, sondern weil Enron ihm 52 Millionen Dollar in einem einzigen Jahr für die Prüfung seiner Bücher zahlte; der Kongress reagierte mit Sarbanes-Oxley, das dem Management die Wahl des Prüfers entzog und ein öffentliches Gremium einrichtete, das die Prüfer selbst kontrolliert. Freiwillige KI-Selbstverpflichtungen haben bereits das gleiche Compliance-Muster gezeigt: Eine Studie von Stanford, Harvard und Brown aus dem Jahr 2023 bewertete 16 KI-Unternehmen anhand der früheren freiwilligen Zusagen des Weißen Hauses; der Durchschnitt lag bei 53 %, und acht der 16 erhielten null Punkte, wenn es darum ging, Außenstehende dabei zu unterstützen, Probleme zu finden und zu melden.
Auswirkungen auf den Markt
Die Vorab-Tests von METR für OpenAIs o3-Modell verdeutlichen die Lücke in der Praxis: Sie liefen nur drei Wochen, mit begrenztem Zugang zu Modellinformationen und ohne Einblick in die schrittweise Argumentation des Modells. Der doppelblinde Test von DeepMind im August auf versiegelter Hardware, durchgeführt mit dem AI Safety Institute aus Singapur und drei weiteren externen Gruppen, zeigt einen Weg nach vorn. Die externen Tester sahen das Modell nie und Google sah ihre Fragen nie, und jede Seite kann mathematisch überprüfen, dass ihr Material privat blieb. Das Verfahren verlagert das Vertrauen auf die Hardware, was ein eigenes Risiko birgt: Im vergangenen Jahr brachen Forscher mit weniger als 1.000 Dollar Ausrüstung in ähnliche versiegelte Hardware ein, obwohl sie dafür physischen Zugang benötigten. Das Weiße-Haus-Abkommen kodifiziert nichts davon. Sarbanes-Oxley schuf einen Inspektor für die Inspektoren; das KI-Abkommen hat nichts Vergleichbares.
Häufig gestellte Fragen
-
Was ist das KI-Abkommen des Weißen Hauses und wer hat es unterzeichnet?
Am 29. September unterzeichneten Nvidia, OpenAI, Anthropic, Google, Meta und xAI eine Zusage gegenüber dem Weißen Haus, unabhängige Prüfungen ihrer fortschrittlichsten KI-Modelle zuzulassen. Präsident Donald Trump bezeichnete die Verpflichtungen als „moralisch bindend“.
-
Warum gelten die Prüfungsbestimmungen des Abkommens als schwach?
Das Abkommen verlangt von jedem Unternehmen, einen externen Prüfer zu beauftragen und unabhängige Vorstandsmitglieder die Ergebnisse überprüfen zu lassen, sagt aber nichts darüber, wer den Prüfer auswählt, was dieser prüfen darf oder ob die Ergebnisse veröffentlicht werden, und droht keine Strafe bei Missachtung.
-
Wie lässt sich das Abkommen mit Enron und Arthur Andersen vergleichen?
Arthur Andersen scheiterte nicht an fehlender Expertise, sondern weil Enron ihm 52 Millionen Dollar in einem einzigen Jahr für die Prüfung seiner Bücher zahlte. Sarbanes-Oxley reagierte, indem es dem Management die Wahl des Prüfers entzog und ein öffentliches Gremium schuf, das die Prüfer selbst kontrolliert. Das…
-
Wie gut wurden frühere freiwillige KI-Selbstverpflichtungen umgesetzt?
Forscher von Stanford, Harvard und Brown bewerteten 16 KI-Unternehmen anhand der freiwilligen Zusagen des Weißen Hauses von 2023. Der Durchschnitt lag bei 53 %, und 8 der 16 erhielten null Punkte für das Versprechen, Außenstehende dabei zu unterstützen, Probleme zu finden und zu melden.
-
Was ist doppelblinde KI-Prüfung und löst sie das Audit-Problem?
Im August führte eine Gruppe unter Leitung von DeepMind nach eigener Aussage den weltweit ersten doppelblinden KI-Test auf versiegelter Hardware durch, gemeinsam mit dem AI Safety Institute aus Singapur und drei weiteren externen Gruppen. Die externen Tester sahen das Modell nie und das Unternehmen sah ihre Fragen…
WatcherGuru
WuBlockchain
CoinTelegraph
CryptoSlate
TheBlock
Crypto News