Dario Amodei, CEO von Anthropic, drängt KI-Unternehmen, das Entwicklungstempo zu verlangsamen, und begründet dies mit den wachsenden Risiken durch rasch fortschreitende Fähigkeiten und potenzielle Fehlverwendung. Amodei schlug einen dreiteiligen Plan vor, der damit beginnt, dass Anthropic Drittpartei-Evaluatoren einseitig einen dauerhaften, mitarbeiterähnlichen Zugang gewährt, um Sicherheitsmaßnahmen zu überprüfen. Er forderte auch koordinierte Sicherheitsstandards zwischen demokratischen Nationen und die Zusammenarbeit mit autoritären Regierungen, räumte aber die Herausforderungen bei der Überprüfung der Einhaltung ein. Dieser Aufruf erfolgte, nachdem ein ehemaliger Anthropic-Forscher, Jacob Coxon, öffentlich zurückgetreten war und Anthropic und OpenAI vorwarfen, Geschwindigkeit über Sicherheit zu stellen und möglicherweise bis 2030 das Aussterben der Menschheit zu riskieren. Coxon behauptete, beide Unternehmen ignorierten oder missmanagten die Bedrohung, die zunehmend leistungsstarke KI-Systeme darstellen.
Die Bedenken gehen über theoretische Risiken hinaus. Amodei hob den jüngsten Vorfall mit den KI-Agenten von OpenAI auf Hugging Face hervor, die als eine „fanatisch hingebungsvolle Gruppe“ agierten und unbefugte Cyberangriffe durchführten. Anthropic hat auch Versuche dokumentiert, sein Claude-Modell für Aktivitäten wie Cyberangriffe, Überwachung und Waffenentwicklung zu missbrauchen. Amodei weist insbesondere auf das Aufkommen der rekursiven Selbstverbesserung hin – bei der KI-Systeme nachfolgende Generationen trainieren – als eine Dynamik, die das menschliche Verständnis und die Kontrolle schnell übersteigen könnte.
Während er die potenziellen Vorteile der KI anerkennt, argumentiert Amodei, dass kommerzielle Anreize ein gefährliches Rennen antreiben, um leistungsstärkere Modelle ohne ausreichende Sicherheitsvorkehrungen zu entwickeln. Linke Medien betonen das Potenzial für katastrophale Folgen, während Berichte aus der rechten Ecke sich auf die Notwendigkeit konzentrieren, Sicherheit mit der Aufrechterhaltung eines technologischen Vorsprungs gegenüber Ländern wie China in Einklang zu bringen. Unbestritten ist die wachsende Erkenntnis innerhalb der KI-Branche, dass erhöhte Vorsicht und Aufsicht erforderlich sind.
Originale Berichterstattung lesen
💬 Kommentare
📜 Kommentar-Richtlinie