US-Gesetzgeber erwägen eine Vorgabe, nach der KI-Systeme „kill switches“ enthalten müssen, mit denen sie abgeschaltet werden können, wenn sie zu gefährlich werden. Der Vorschlag würde Notfalleingriffe zu einem Bestandteil der politischen Debatte über fortschrittliche KI machen, statt das Thema allein den Sicherheitsvorkehrungen der Entwickler zu überlassen.
Warum das wichtig ist
Eine solche Vorgabe würde die KI-Sicherheit von einer freiwilligen Kontrolle zu einer möglichen Voraussetzung für den Einsatz machen. Für Entwickler könnten neue Anforderungen an die Konzeption und Prüfung von Abschaltmechanismen sowie an die Bestimmung einer autorisierten Entscheidungsinstanz entstehen.
Die Idee rückt zudem die Governance ins Zentrum der KI-Politik. Gesetzgeber würden nach einer Möglichkeit suchen, einzugreifen, wenn ein System ein nicht vertretbares Risiko darstellt, während Unternehmen klarere Regeln dafür bräuchten, wer eine Abschaltung auslösen darf und nach welchem Maßstab dies geschehen soll.
Auswirkungen auf den Markt
Das unmittelbare Signal für den Markt ist regulatorischer, nicht technischer Natur. Eine verbindliche Regel für Notausschalter könnte die Compliance-Kosten und die Unsicherheit beim Einsatz für KI-Unternehmen erhöhen, während Investoren beobachten, ob die Gesetzgeber den Vorschlag in konkrete Rechtsvorschriften umsetzen und festlegen, für welche Systeme die Regel gilt.
Häufig gestellte Fragen
-
Was könnten Betreiber mit den vorgeschlagenen KI-Notausschaltern tun?
Sie würden es ermöglichen, KI-Systeme abzuschalten, wenn diese zu gefährlich werden, und damit Notfalleingriffe zum Bestandteil der Sicherheitsdebatte machen.
-
Wie könnte eine Pflicht zu Notausschaltern den KI-Einsatz verändern?
Sie könnte Notfallkontrollen von einer freiwilligen Sicherheitsvorkehrung zu einer möglichen Voraussetzung für den Einsatz machen und neue Anforderungen an ihre Entwicklung und Prüfung schaffen.
-
Warum könnte der Vorschlag für KI-Investoren relevant sein?
Eine verbindliche Regel könnte die Compliance-Kosten und die Unsicherheit beim Einsatz für KI-Unternehmen erhöhen. Investoren werden beobachten, ob die Idee zu konkreten Rechtsvorschriften wird.
-
Welche Einzelheiten müssten die Gesetzgeber festlegen?
Sie müssten klären, für welche KI-Systeme die Regel gilt, wer eine Abschaltung auslösen darf und nach welchem Maßstab eingegriffen werden soll.
-
Haben die USA eine Pflicht für KI-Notausschalter erlassen?
Nein. Die Pflicht wird noch geprüft und ist daher derzeit nicht als verbindliche Regelung in Kraft.
CryptoSlate
WuBlockchain
CoinTelegraph
CoinDesk