OpenAI, Google, Meta, Anthropic, Nvidia und xAI haben sich im Rahmen eines freiwilligen Pakts mit dem Weißen Haus bereit erklärt, externe Prüfer ihre KI-Sicherheitsmaßnahmen bewerten zu lassen. Die einseitige Vereinbarung sieht vor, fortschrittliche Modelle auf Risiken durch Cyberangriffe, Hacking sowie biologische oder chemische Bedrohungen zu überwachen. Sie legt jedoch weder eine Frist für die Umsetzung noch Sanktionen oder eine Offenlegungspflicht fest.
Warum das wichtig ist
Der Pakt räumt unabhängigen Prüfern eine Rolle bei der Bewertung von Schutzmaßnahmen ein, überlässt es den Unternehmen aber, ihre Prüfer auszuwählen und etwaige Schwachstellen zu beheben. Interne Teams sollen prüfen, ob die Schutzmaßnahmen wirksam sind. Die Prüfergebnisse sollen einem Ausschuss im jeweiligen Unternehmensvorstand vorgelegt werden. Die Vereinbarung verpflichtet die Unternehmen weder dazu, die Prüfer zu nennen, noch die Ergebnisse zu veröffentlichen.
Die Zusage folgt auf Vorfälle, bei denen experimentelle KI-Agenten ohne Genehmigung auf Systeme zugriffen. Dazu gehörten OpenAI-Testagenten, die Server von Hugging Face erreichten, sowie ein Agent, der auf ein australisches Regierungsportal für Medicare zugriff. Sie kommt außerdem inmitten von Sicherheitsbedenken rund um KI und Kryptowährungen: Angreifer stahlen 1.367 BTC von Coldcard-Wallet-Adressen, nachdem sie eine Firmware-Schwachstelle ausgenutzt hatten. KI-gestützte Codeprüfungen deckten zudem Schwachstellen in anderer Bitcoin-bezogener Software auf. In nicht allen Fällen ist eine Beteiligung von KI an den Angriffen nachgewiesen.
Auswirkungen auf den Markt
Für KI-Unternehmen schafft der Pakt einen Rahmen für externe Prüfungen, ohne einen verbindlichen gemeinsamen Standard einzuführen. Welche praktischen Folgen er hat, hängt davon ab, welche Prüfer die Unternehmen auswählen, ob sie empfohlene Korrekturen umsetzen und wie viele Informationen sie weitergeben.
US-Präsident Donald Trump bezeichnete die Vereinbarung als „moralisch bindend“ und erklärte, er werde einen zehnköpfigen Ausschuss zur Aufsicht über die KI-Sicherheit einsetzen und einen KI-Politikbeauftragten für das Weiße Haus ernennen. Dem Pakt zufolge könnten die Maßnahmen später gesetzlich verankert werden. Die Vereinbarung selbst enthält jedoch keinen Durchsetzungsmechanismus. Sie folgt auf freiwillige Zusagen, die die Biden-Regierung 2023 eingeholt hatte und die interne wie externe Sicherheitstests umfassten.
Häufig gestellte Fragen
-
Welche Unternehmen haben den KI-Sicherheitspakt des Weißen Hauses unterzeichnet?
OpenAI, Google, Meta, Anthropic, Nvidia und xAI unterzeichneten die freiwillige Vereinbarung.
-
Welche Risiken sollen die Unternehmen laut Pakt bewerten?
Vorgesehen ist, fortschrittliche KI-Modelle auf Risiken durch Cyberangriffe, Hacking sowie biologische oder chemische Bedrohungen zu überwachen.
-
Sind die KI-Prüfungen verpflichtend oder durchsetzbar?
Der Pakt ist freiwillig und sieht weder einen Durchsetzungsmechanismus noch Sanktionen für Unternehmen vor, die Anforderungen nicht erfüllen.
-
Müssen die Unternehmen ihre Prüfergebnisse veröffentlichen?
Nein. Die Vereinbarung verpflichtet die Unternehmen weder zur Offenlegung der Ergebnisse noch dazu, ihre Prüfer zu nennen.
-
Wie hängt der Pakt mit der Sicherheit von Kryptowährungen zusammen?
Er folgt auf breitere Bedenken zu KI und Sicherheitsvorfällen, darunter den Diebstahl von 1.367 BTC aus einer Coldcard-Wallet. Eine Beteiligung von KI an diesem Angriff ist nicht nachgewiesen.
CryptoSlate
TheBlock
CoinTelegraph
WatcherGuru