Wenn Unternehmen für alle KI-Agenten dieselben Governance-Regeln anwenden, unabhängig von deren Autonomiegrad und Einsatzbereich, kann das laut dem Marktforschungs- und Beratungsunternehmen Gartner zum Scheitern unternehmensweiter KI-Agenten-Initiativen führen. Probleme entstünden insbesondere dann, wenn Unternehmen nicht klar zwischen der Handlungsautonomie eines Agenten und dem Umfang seiner Zugriffsrechte unterscheiden würden, betont Gartner.
Konkret prognostiziert Gartner, dass bis 2027 rund 40 Prozent der Unternehmen autonome KI-Agenten zurückstufen oder ausser Betrieb nehmen werden, weil Governance-Lücken erst nach Vorfällen im Produktivbetrieb sichtbar werden.
"Viele Unternehmen betrachten die Governance von KI-Agenten als Entweder-oder: entweder streng reglementiert oder vollständig vertrauenswürdig. Genau darin liegt die Hauptursache für das Scheitern", konstatiert Shiva Varma, Senior Director Analyst bei Gartner. "KI-Agenten agieren auf unterschiedlichen Autonomieebenen und innerhalb verschiedener Vertrauensgrenzen. Werden dieselben Kontrollmechanismen pauschal auf alle Agenten angewendet, führt das häufig zu zwei Problemen: Entweder werden einfache Agenten übermässig eingeschränkt, was die Implementierung verlangsamt und Schattenentwicklung begünstigt, oder autonomere Agenten werden nicht ausreichend kontrolliert, was zu entsprechend höheren Betriebs-, Sicherheits- und Compliance-Risiken führt," so Varma.
