Das Unternehmen für künstliche Intelligenz Anthropic hat einen Gesetzentwurf vorgeschlagen, der es der Regierung nur dann erlauben würde, die Veröffentlichung von KI-Modellen zu blockieren, wenn diese ein vorhersehbares, unmittelbar bevorstehendes Risiko von Schäden in Höhe von mehr als 1 Milliarde Dollar oder den Tod oder die schwere Verletzung von mehr als 50 Personen darstellen. Der Entwurf, der in Anthropics „Advanced AI Framework“ skizziert und den Gesetzgebern vorgelegt wurde, würde die Regulierungsmacht im Handelsministerium konzentrieren und anderen Behörden untersagen, die KI-Entwicklung oder -Nutzung zu stoppen. Dieser Vorschlag kommt zu einer Zeit, in der Gesetzgeber über das gesamte politische Spektrum hinweg über die Regulierung der sich schnell entwickelnden KI-Industrie debattieren und Anthropic seine Lobbyarbeit auf Bundesstaatlicher und Bundesebene intensiviert, wobei im ersten Halbjahr 2026 mehr ausgegeben wurde als im gesamten Jahr 2025.
Die Gesetzgebung beschränkt das interventionswürdige „Risiko“ auf drei Kategorien: die Erschaffung einer biologischen Waffe, das Entkommen des Modells aus der Kontrolle der Entwickler oder ein Cyberangriff; andere potenzielle Schäden wie KI-gestützter Betrug sind ausgeschlossen. Anthropic-CEO Dario Amodei hat öffentlich vor potenziellen Bedrohungen wie KI-gesteuerten Botnetzen und sich selbst replizierenden KI-Würmern gewarnt, was den Fokus des Unternehmens auf existenzielle Risiken unterstreicht, wie in seinem IPO-Prospekt vermerkt.
Während die Gesetzgeber verschiedene regulatorische Ansätze prüfen, darunter Steuern, Entwicklungsstopps und neue Aufsichtsbehörden, bevorzugt der Vorschlag von Anthropic die Selbstregulierung der Branche durch eine einzige Bundesbehörde. Kritiker wie Miranda Bogen vom Center for Democracy and Technology haben die Wirksamkeit der Selbstregulierung historisch infrage gestellt und verwiesen auf Beispiele wie den Finanzkollaps 2007-08. Die hohe Hürde für Interventionen und die Machtkonzentration des Gesetzentwurfs werfen Fragen darüber auf, ob er strengere staatliche Regulierungen auf Ebene der Bundesstaaten präemptieren und eine breite Palette von KI-bezogenen Risiken angemessen adressieren kann.
Was noch nicht bekannt ist:
• Inwieweit die Gesetzgeber den Vorschlag von Anthropic übernehmen oder alternative Regulierungsrahmen verfolgen, bleibt ungewiss.
• Ob der von Anthropic vorgeschlagene unabhängige Prüfer wirklich unabhängig sein wird, angesichts der Möglichkeit der Bezahlung durch die evaluierten Labore, ist nicht vollständig geklärt.
Originale Berichterstattung lesen
💬 Kommentare
📜 Kommentar-Richtlinie