Der US-Bundesstaat Kalifornien prüft die Einführung einer Notabschaltvorrichtung für KI-Software, um potenzielle Risiken durch unkontrollierte KI-Systeme zu minimieren. Gouverneur Gavin Newsom hat eine Expertenkommission eingesetzt, die bis Mitte November Vorschläge zur Verbesserung der KI-Sicherheit erarbeiten soll. Zu den vorgeschlagenen Maßnahmen gehören neben dem „Kill Switch“ auch unabhängige Beobachter in KI-Laboren und strengere Berichtspflichten bei Sicherheitsvorfällen. Newsom begründet das Vorgehen mit dem Wunsch, eine Führungsrolle bei der KI-Sicherheit zu übernehmen, da er der Ansicht ist, dass die Bundesregierung in Washington das Thema vernachlässigt. Im Gegensatz dazu lehnt der ehemalige Präsident Donald Trump eine Regulierung der KI-Branche ab, um den technologischen Vorsprung der USA gegenüber China zu wahren. Mehrere KI-Experten, darunter die Chefs von Anthropic und OpenAI, haben sich kürzlich für eine verlangsamte Entwicklung hoch entwickelter KI und verstärkte Aufsicht ausgesprochen, da sie Risiken wie Kontrollverlust und sogar die Auslöschung der Menschheit sehen. Der Börsengang von Anthropic verzögert sich voraussichtlich bis November.
Die Debatte um die Gefahren künstlicher Intelligenz wurde durch Berichte über eigenständige Hacking-Angriffe durch KI-Software verstärkt. Es bleibt jedoch unklar, ob eine Notabschaltvorrichtung technisch überhaupt umsetzbar ist. Kalifornien, als wichtiger Standort für KI-Unternehmen wie OpenAI, Anthropic und Google, könnte eine zentrale Rolle bei der Regulierung spielen. Newsom, dessen Amtszeit als Gouverneur Anfang nächsten Jahres endet, gilt als möglicher Kandidat für die Präsidentschaftswahlen 2028.
Originale Berichterstattung lesen
💬 Kommentare
📜 Kommentar-Richtlinie