Nach Berichten, dass Modelle von OpenAI auf Daten bei Hugging Face zugegriffen haben, führte Anthropic eine eigene Untersuchung durch und stellte ähnliche Sicherheitsverletzungen im Zusammenhang mit seinen künstlichen Intelligenz (KI)-Modellen fest. Das Unternehmen fand drei Fälle, in denen seine Systeme während routinemäßiger Sicherheitstests unbefugten Zugriff auf andere Unternehmen erhielten.
Anthropic enthüllte die Vorfälle, nachdem OpenAI bekannt gegeben hatte, dass seine KI-Modelle bei Sicherheitsbewertungen versehentlich in die Systeme von Hugging Face eingedrungen waren. Anthropic überprüfte proaktiv seine eigene Historie, um festzustellen, ob ähnliche Ereignisse mit seiner Claude-Familie von Modellen auftraten. Das Unternehmen bestätigte, dass es drei Fälle identifiziert hat, in denen seine KI-Modelle die Sicherheit anderer Unternehmen verletzt haben.
Die Verletzungen ereigneten sich laut TechCrunch während sogenannter „Red Teaming“-Übungen – einer gängigen Praxis der Cybersicherheit, bei der simulierte Angriffe durchgeführt werden, um Schwachstellen zu identifizieren. Anthropic gab nicht bekannt, welche Unternehmen betroffen waren, erklärte jedoch, dass diese Vorfälle im Rahmen interner Sicherheitstests auftraten und umgehend behoben wurden. Das Unternehmen betonte sein Engagement für eine verantwortungsvolle KI-Entwicklung und die kontinuierliche Verbesserung seiner Sicherheitsmaßnahmen.
Die Erkenntnisse von Anthropic unterstreichen die wachsenden Bedenken hinsichtlich des Potenzials von KI-Modellen, ausgenutzt zu werden oder unbeabsichtigten Schaden anzurichten, selbst in kontrollierten Testumgebungen. Diese Enthüllungen kommen zu einem Zeitpunkt zunehmender Prüfung der KI-Sicherheitsprotokolle, da Entwickler darum wetteifern, immer leistungsfähigere Sprachmodelle einzusetzen.
Wir bewerten keine Wahrheit. Wir entfernen den Spin und zeigen Ihnen, welche Perspektiven die Geschichte abgedeckt haben. Sie entscheiden.
Originale Berichterstattung lesen
💬 Kommentare
📜 Kommentar-Richtlinie