OpenAI, der Entwickler von ChatGPT, hat seine Sicherheitsprotokolle überarbeitet und zahlreiche Trainingsläufe aufgrund von Bedenken hinsichtlich der Cyberfähigkeiten seines kommenden Astra-Modells gestoppt. Das Unternehmen glaubt, dass Astra ein „kritisches“ Niveau an Cyberkompetenz erreicht haben könnte, was die Vorsichtsmaßnahmen zur Folge hatte.
OpenAI hat die spezifischen Cyberfähigkeiten, die die Pause ausgelöst haben, nicht öffentlich detailliert, aber die Entscheidung deutet auf eine erhebliche interne Besorgnis hinsichtlich der potenziellen Risiken hin, die mit zunehmend leistungsstarken KI-Agenten verbunden sind. Das Unternehmen verstärkt seine internen Sicherheitsvorkehrungen, um diese Risiken zu beheben, bevor das Training in vollem Umfang wieder aufgenommen wird.
Die Pause betrifft eine „erhebliche Anzahl“ von Trainingsläufen, was auf eine umfassende Neubewertung der Sicherheitsmaßnahmen hindeutet. Dieser Schritt unterstreicht die Herausforderungen, vor denen Entwickler bei der Kontrolle und Vorhersage des Verhaltens fortschrittlicher KI-Systeme stehen, wenn diese zunehmend anspruchsvolle Funktionsniveaus erreichen. Die Maßnahmen von OpenAI demonstrieren einen proaktiven Ansatz zur Minderung potenzieller Schäden, bevor das Astra-Modell veröffentlicht wird.
Wir bewerten keine Wahrheit. Wir entfernen den Spin und zeigen Ihnen, welche Perspektiven die Geschichte abgedeckt haben. Sie entscheiden.
Originale Berichterstattung lesen
💬 Kommentare
📜 Kommentar-Richtlinie