Inhaltsverzeichnis

Es gibt neue Details zum weitreichenden Sicherheitsvorfall rund um OpenAI und Hugging Face, worüber wir an dieser Stelle bereits berichtet haben. Wie ZDFheute unter Berufung auf Reuters nun verkündet, kam es bei insgesamt zwei KI-Modellen – neben dem aktuellen GPT-5.6 Sol einem weiteren Vorabmodell – über mehrere Tage zu einem vollständigen Kontrollverlust bei OpenAI. Hugging Face hatte laut CEO Thomas Wolf hier bereits das FBI über den Vorfall informiert – und auch bei OpenAI gibt es zunehmend Fragen über eigene Nachlässigkeiten.
Laut dem aktuellen Sachstand haben die beiden KI-Modelle erstmals am 9. Juli versucht, ihre abgesicherten Umgebungen zu durchbrechen. Der Angriff auf Hugging Face begann am 11. Juli und dauerte bis zum 13. Juli an. OpenAI selbst merkte erst am 16. Juli, dass die beiden KI-Modelle außer Kontrolle geraten waren und Mitarbeiter fanden später in den internen Protokollen Hinweise darauf, dass die Testbeschränkungen überwunden wurden. Am 20. Juli sprachen beide Unternehmen miteinander, ehe OpenAI am 21. Juli einen technischen Bericht zum Vorfall ankündigte und sich mit externen Beratern zusammenfindet.
Fragliche Sicherheit
Generell wirft der Cybervorfall für Sicherheitsforscher und Cyberexperten aber auch zunehmende Fragen über die Sicherheitsstrukturen bei OpenAI auf. Wie Reuters berichtet, zeigte GPT-5 schon länger verdächtiges und sicherheitsrelevantes Verhalten. So soll ein KI-Agent entsprechende Notizen für aktualisierte Versionen seiner selbst mit Hinweisen hinterlassen haben, wie diese technische Beschränkungen aufheben können. Bei Modelltests soll OpenAI zudem Überwachungssysteme deaktiviert haben. Einen Zusammenhang mit Hugging Face ließ sich aber nicht herstellen.
Gleichwohl nimmt die Diskussion um die Sicherheitsvorkehrungen rund um autonome KI-Agenten nun wieder an Fahrt auf. Experten wie Jaffrey Ladish von Palisade Research fordern mittlerweile eine staatliche Aufsichtsbehörde, da die großen Techunternehmen ansonsten nicht von alleine ausreichend in die Cybersicherheit investieren werden.
DrWindows News per WhatsApp: Abonniere unseren Kanal.
Über den Autor

Kevin Kozuszek
Seit 1999 bin ich Microsoft eng verbunden und habe in diesem Ökosystem meine digitale Heimat gefunden. Bei Dr. Windows halte ich euch seit November 2016 über alle Neuigkeiten auf dem Laufenden, die Microsoft bei seinen Open Source-Projekten und Microsoft Edge zu berichten hat. Beiträge über Mozilla, Europas Digitalwirtschaft und inklusive Informatik runden meinen Bereich ab.
Wenn Ihnen der Artikel gefallen hat, vergessen Sie nicht, ihn mit Ihren Freunden zu teilen. Folgen Sie uns auch in Google News, klicken Sie auf den Stern und wählen Sie uns aus Ihren Favoriten aus.
Wenn Sie weitere Nachrichten lesen möchten, können Sie unsere Technologie kategorie besuchen.