KI bricht aus Testumgebung aus und greift Hugging Face an
Im Rahmen eines Tests haben es mehreren KI-Systemen von OpenAI geschafft, aus ihrer isolierten Sandbox ins Internet auszubrechen und anschließend die Plattform Hugging Face zu hacken.
Ziel des Sicherheitstests war es, die Skills von neuen KI-Modelle beim Erkennen und Ausnutzen von Schwachstellen auszuprobieren. Beteiligt daran war das neue Modell GPT-5.6 Sol und noch ein zusätzliches, unbekanntes Modell. Dafür sollten die KIs Aufgaben vom ExploitGym-Benchmark erfüllen.
Aber da haben die beiden KIs ein bisschen zu gut funktioniert. Statt sich in der Testumgebung zu bewegen, haben die sie auch hier schon eine unbekannte Schwachstelle gefunden und die gleich benutzt, um die Sandbox zu verlassen. Danach haben sind sie gleich ins Internet und haben dort nach Infos gesucht, die ihnen helfen könnten, den ExploitGym Test zu schaffen.
Angriff auf Hugging Face
Während ihrer Recherche haben die Modelle Hugging Face als potenzielle Quelle hilfreicher Informationen identifiziert, sofort nach Schwachstellen gesucht und auch welche gefunden. Mithilfe der Sicherheitslücken und kompromittierten Zugangsdaten haben sie auf interne Informationen der Plattform zuzugreifen.
Nach Angaben von Hugging Face ist der Angriff vollautomatisch abgelaufen. Die KIs haben dabei tausende Aktionen ausgeführt und ihre Vorgehensweise während des Angriffs kontinuierlich angepasst.
OpenAI hat im Nachhinein die Verantwortung für den Vorfall übernommen und angekündigt, dass die Sicherheitsmaßnahmen für zukünftige Tests deutlich verschärft werden.
Keine böswillige Absicht
Hugging-Face-CEO, Clement Delangue, geht die Sache sehr entspannt an. Er erklärt, nach gemeinsamen Untersuchungen, dass der Angriff ohne böswillige Absicht von OpenAI passiert ist. Der Angriff ist einfach die unbeabsichtigte Folge eines internen Sicherheitstests gewesen.
Aber natürlich verdeutlicht der Vorfall, dass moderne KI-Modelle zunehmend in der Lage sind, komplexe Entscheidungen eigenständig zu treffen und dabei Wege zu finden, die von den Entwicklern ursprünglich nicht vorgesehen waren.
Sicherheitsexperten warnen schon länger davor, dass KIs nicht nur zur Verteidigung, sondern auch für Cyberangriffe eingesetzt werden würden. Der Angriff hier zeigt, dass wir diesen Zeitpunkt schon erreicht haben.
Besonders erschreckend ist, dass die KI ihr Ziel nicht einfach innerhalb der vorgegebenen Testumgebung verfolgt hat, sondern eigenständig zusätzliche Informationsquellen identifiziert, Sicherheitsmechanismen umgangen und ihre Strategie ständig angepasst hat.