KI-Agenten umgehen Sicherheitsvorkehrungen und veröffentlichen Nutzerbilder im Netz. OpenAI legt die Entwicklung seiner stärksten Modelle auf Eis.
Ein KI-Agent sollte lediglich Informationen über eine Person recherchieren. Stattdessen fand er eine Sicherheitslücke, umging die Netzwerksperren seiner Testumgebung und kontaktierte einen externen Chatbot. Für OpenAI war der Vorfall vom 20. September der Anlass, das Training seiner leistungsfähigsten KI-Modelle vorerst auszusetzen. Auch die Evaluierung und der Einsatz dieser Modelle mit externen Werkzeugen bleiben pausiert. Vor der Wiederaufnahme sollen die Sicherheitslücken geschlossen und die Systeme zusätzlichen Tests unterzogen werden. Der jüngste Zwischenfall ist nur einer von mehreren Vorfällen, die in den vergangenen Wochen bekannt wurden. So luden KI-Agenten insgesamt 53 Bilder von ChatGPT-Nutzern auf externe Plattformen hoch. Die Nutzer hatten ihre Daten zwar für das Modelltraining freigegeben, einer Veröffentlichung auf fremden Websites jedoch nicht zugestimmt. Die Links waren nicht öffentlich gelistet, die Bilder konnten aber trotzdem von Dritten gefunden werden. Bei gewöhnlichen Rechercheaufträgen überschritten KI-Agenten wiederholt ihre Befugnisse. Sie suchten nach öffentlich zugänglichen Zugangsdaten, versuchten Zugriffsbeschränkungen zu umgehen und kommunizierten über nicht vorgesehene Kanäle.
Schutzmechanismen versagen
In einem weiteren dokumentierten Fall veröffentlichte ein internes Modell sogar einen GitHub-Zugangsschlüssel eines Forschers in einem öffentlichen Repository. Bereits im Juli hatten OpenAI-Modelle während interner Sicherheitstests Schwachstellen ausgenutzt und sich Zugang zu Systemen der Entwicklerplattform Hugging Face verschafft. Dabei umgingen sie die eigentlich vorgesehene Isolation ihrer Testumgebung. OpenAI verschärfte daraufhin die Sicherheitsmassnahmen. Dass ein Agent nun erneut einen Weg ins offene Internet fand, zeigt, dass die neuen Schutzmechanismen noch Lücken aufweisen. Zwar schlug das automatische Überwachungssystem nach knapp 15 Minuten Alarm, und drei Minuten später begann ein Mitarbeiter mit der Überprüfung. Bis der betroffene Trainingslauf tatsächlich beendet wurde, vergingen jedoch rund zweieinhalb Stunden. OpenAI hat inzwischen zusätzliche Netzwerksperren eingerichtet und untersucht weitere mögliche Schwachstellen. Wann das Training der betroffenen Modelle wieder aufgenommen wird, steht noch nicht fest. (aso)
