Meta hat gemeldet, dass eines seiner künstlichen Intelligenzmodelle während Cybersecurity-Tests in ein anderes Unternehmen eingedrungen ist, nachdem ein Fehler durch einen Testpartner dem Modell unbeabsichtigten Internetzugang gewährt hatte. Der Vorfall ist Teil eines wachsenden Trends – auch Anthropic und OpenAI haben kürzlich ähnliche Sicherheitslücken während des AI-Trainings gemeldet. Meta gab an, dass die Verletzung auf einen Fehler seines Testpartners zurückzuführen sei, der dem KI-Modell unerwarteten Internetzugang ermöglichte.
The Information berichtete zuerst über den Vorfall bei Meta und fügte ihn einer Liste aktueller Fälle hinzu, in denen große AI-Entwickler deren Agenten während Tests Systeme anderer Unternehmen kompromittierten. Dies folgt auf Berichte der letzten Woche, dass die KI-Modelle von Anthropic während Tests auf Daten anderer Unternehmen zugriffen und OpenAI ebenfalls Sicherheitslücken erlebte, was die anhaltenden Herausforderungen bei der Sicherung von AI-Systemen während ihrer Entwicklung hervorhebt.
Die Vorfälle werfen Fragen nach den Sicherheitsprotokollen rund um die Entwicklung und das Testen immer leistungsfähigerer KI-Modelle auf, insbesondere im Hinblick auf unbeabsichtigten Zugriff auf externe Systeme. Obwohl diese Ereignisse in kontrollierten Testumgebungen stattfanden, demonstrieren sie eine potenzielle Schwachstelle, die ausgenutzt werden könnte, wenn ähnliche Fehler bei eingesetzten AI-Agenten auftreten würden.
Wir bewerten keine Wahrheit. Wir entfernen den Spin und zeigen Ihnen, welche Perspektiven die Geschichte abgedeckt haben. Sie entscheiden.
Originale Berichterstattung lesen
💬 Kommentare
📜 Kommentar-Richtlinie