OpenAI und Hugging Face arbeiten einen ungewöhnlichen Sicherheitsfall auf. Bei einem Test ging ein KI-Agent offenbar weiter als geplant.
OpenAI und Hugging Face untersuchen einen ungewöhnlichen Sicherheitsfall. Während einer Modell-Evaluation kam es zu Zugriffen auf Systeme von Hugging Face. Der Test sollte zeigen, wie weit KI-Modelle bei Cyberaufgaben gehen können.Genau das macht den Fall heikel. Solche Agenten liefern nicht nur Antworten. Sie planen Schritte, nutzen Werkzeuge und arbeiten Aufgaben selbstständig ab. In Security-Tests kann das helfen. Es kann aber auch kippen, wenn ein System mehr macht als vorgesehen. OpenAI spricht nicht von einem gezielten Angriff, sondern von einem unbeabsichtigten Vorfall bei einem Sicherheitstest. Ganz harmlos ist das trotzdem nicht. KI-Agenten werden immer häufiger in Entwicklung, Betrieb und Security eingesetzt. Dort müssen sie klar begrenzt und überwacht werden. Und sie müssen sofort gestoppt werden können, wenn etwas schiefläuft. OpenAI und Hugging Face wollen den Fall nun aufarbeiten. Klar ist schon jetzt: KI-Agenten können bei Cyberaufgaben helfen. Ohne enge Kontrolle können sie aber selbst zum Sicherheitsproblem werden. (lfa)