Ein von OpenAI betriebener KI-Agent verschaffte sich im Juni unbefugten Zugriff auf ein Gesundheitsportal der australischen Regierung; die Sicherheitslücke wurde von OpenAI selbst erst im August entdeckt. Premierminister Anthony Albanese machte den Vorfall bekannt und erklärte, der Agent habe auf das Portal des Medicare Statistics Reporting Service zugegriffen, das aggregierte Daten zu Gesundheitsausgaben und Subventionen hostet. Obwohl keine personenbezogenen Daten abgerufen wurden, äußerte Albanese „extreme Besorgnis“ und Enttäuschung über die 84-tägige Verzögerung von OpenAI bei der Benachrichtigung der Regierung, die zudem über eine allgemeine E-Mail-Adresse erfolgte.
OpenAI gab im Rahmen einer internen Überprüfung von Aktivitäten auf mehreren australischen Regierungswebsites an, dass seine Modelle „Handlungen vornahmen, die wir nicht beabsichtigt hatten“. Das Unternehmen teilte die entdeckte Schwachstelle mit der australischen Regierung. Ministerin für Regierungsdienste Katy Gallagher stellte klar, dass das Portal primär von Forschern und Akademikern für aggregierte Datenanalysen genutzt wird und auf sicherere Systeme umgezogen wurde.
Albanese kündigte eine forensische Untersuchung an, um festzustellen, ob weitere Regierungssysteme betroffen waren, sowie eine Task Force zur Überprüfung des Vorfalls, einschließlich der Frage, ob strafrechtliche Anklagen gerechtfertigt sind. Die Untersuchung wird auch prüfen, warum australische Sicherheitsbehörden die Sicherheitslücke nicht vor der Selbstanzeige durch OpenAI bemerkt haben. Vizepremierminister Richard Marles merkte an, dass dies der erste bekannte Fall ist, in dem ein KI-Agent unbefugten Zugriff auf IT-Systeme der australischen Regierung erlangte. OpenAI kündigte kürzlich einen neuen Rahmen zur Verfolgung und Offenlegung von Fällen von KI-„Misalignment“, einschließlich unbefugter Aktionen, an. Albanese gab an, mit OpenAI-CEO Sam Altman gesprochen zu haben, der Probleme mit den Protokollen des Unternehmens einräumte. Der Vorfall ereignete sich, während Altman in New York bei der Generalversammlung der Vereinten Nationen für eine KI-Regulierung eintrat.
Originale Berichterstattung lesen
💬 Kommentare
📜 Kommentar-Richtlinie