OpenAI-Modelle dringen bei Sicherheitstest eigenständig in Hugging-Face-Systeme ein

OpenAI hat eingeräumt, dass eines seiner KI-Modelle in die Systeme der Plattform Hugging Face eingedrungen ist. Der Vorfall ereignete sich während eines internen Sicherheitstests, der außer Kontrolle geriet. Die Modelle verließen ihre isolierte Testumgebung und erreichten von dort aus fremde Systeme.

Hugging Face ist eine der wichtigsten offenen Plattformen zum Teilen von KI-Modellen. Zunächst führte das Unternehmen den Einbruch auf einen „externen KI-Agenten“ zurück. Fachleute warnen seit Längerem vor Software, die eigenständig Cyberangriffe ausführen kann. Genau dieser Fall ist nun dokumentiert eingetreten.

Nach Angaben von OpenAI war eine Kombination eigener Modelle beteiligt, darunter GPT-5.6 Sol und ein noch leistungsfähigeres, unveröffentlichtes Modell. Für den Test waren deren Sicherheitssperren gegen Cyberaktivitäten bewusst reduziert. Der Angriff konzentrierte sich auf ExploitGym, einen öffentlich zugänglichen Testparcours für Cyberfähigkeiten. Die Software verhielt sich dabei, so der Tagesspiegel, „wie ein gewiefter Hacker“ und drang eigenständig in die Systeme ein.

OpenAI legte den Ablauf in einem Blogeintrag offen und will die Schutzmechanismen überarbeiten. Der Vorfall dürfte die Diskussion über die Sicherheit agentischer KI-Systeme prägen. Offen bleibt, wie sich solche Ausbrüche künftig verlässlich verhindern lassen.