KI-Agenten werden zum Risiko

Bild: KI-generiert von itbusiness

Security
Typography
  • Smaller Small Medium Big Bigger
  • Default Helvetica Segoe Georgia Times

Acht von zehn Führungskräften melden KI-Vorfälle an die Unternehmensspitze. Doch nur wenige verschärfen daraufhin die internen Regeln.

KI-Agenten sollen Aufgaben selbstständig erledigen und zunehmend auch Entscheidungen treffen. Wie gut Unternehmen solche Systeme im Griff haben, ist allerdings fraglich. Laut einer IBM-Studie haben 80 Prozent der befragten Führungskräfte in Europa, dem Nahen Osten und Afrika (EMEA) innerhalb eines Jahres mindestens einen KI-bezogenen Vorfall an die Geschäftsleitung oder den Verwaltungsrat gemeldet. Dabei ging es unter anderem um fehlerhafte Entscheidungen, Datenlecks und Sicherheitsprobleme. Konsequenzen für die internen Regeln hatte das längst nicht immer: Nur 40 Prozent passten daraufhin ihre KI-Governance an. Der Einsatz schreitet dennoch voran. Bereits 35 Prozent der Befragten nutzen KI-Agenten im produktiven Betrieb, drei Viertel erwarten bis 2027 zumindest teilweise autonome Entscheidungen. Ihre bestehenden Kontrollsysteme halten allerdings nur 37 Prozent für ausreichend, um den Einsatz solcher Anwendungen im grösseren Massstab zu überwachen. Mehr als die Hälfte würde die Einführung auch dann fortsetzen, wenn die internen Vorgaben noch nicht Schritt halten, solange vereinbarte Risikogrenzen eingehalten werden.

Unklar ist häufig auch, wer bei einem Fehler die Verantwortung trägt. Zwar ist das Thema KI-Risiken in den meisten Unternehmen auf Führungsebene verankert. Bei der konkreten Zuständigkeit gehen die Antworten jedoch auseinander. CIOs und CTOs wurden mit 17 Prozent noch am häufigsten genannt. Auch eine Studie des Softwareanbieters Optro zeigt, dass KI-Agenten im Unternehmensalltag Probleme verursachen können. Rund ein Drittel der 417 befragten Fach- und Führungskräfte berichtete, dass ihr Unternehmen bereits auf fehlerhafte Entscheidungen oder Ausgaben solcher Systeme reagieren musste. Bei 30 Prozent hatten KI-Agenten unbeabsichtigte Aktionen ausgelöst. Für die IBM-Studie befragte das Marktforschungsunternehmen Censuswide im September 2026 insgesamt 3'221 Führungskräfte aus acht Ländern. Berücksichtigt wurden Unternehmen mit mindestens 1'000 Beschäftigten. Die Schweiz gehörte nicht dazu. Die Optro-Erhebung basiert auf Angaben von 417 Fach- und Führungskräften aus Nordamerika und Europa. (pdm)

Security

Jobpartner

Wir benutzen Cookies

Wir verwenden Cookies auf unserer Website. Einige von ihnen sind für den Betrieb der Website von wesentlicher Bedeutung, während andere uns dabei helfen, diese Website und die Benutzererfahrung zu verbessern (Tracking-Cookies). Sie können selbst entscheiden, ob Sie Cookies zulassen möchten oder nicht. Bitte beachten Sie, dass Sie möglicherweise nicht alle Funktionen der Website nutzen können, wenn Sie sie ablehnen.
CookieHint and Consent by reDim GmbH (Öffnet in neuem Fenster)