Autonome Agenten gelten derzeit als nächster großer Produktivitätssprung. Sie analysieren, entscheiden, handeln – oft schneller und konsistenter als Menschen. Mit wachsender Autonomie der Agenten entsteht für Unternehmen eine neue Verantwortungslage: Entscheidungen sollten auch dann nachvollziehbar, prüfbar und haftungsfest bleiben, wenn sie nicht mehr von Menschen getroffen werden.
Agenten werden arbeitsteilig – wie Organisationen auch
Was dabei zunehmend sichtbar wird, ist eine Entwicklung, die weniger revolutionär ist, als sie auf den ersten Blick erscheint: Agentische Systeme beginnen, sich arbeitsteilig zu organisieren und haben unterschiedliche Rollen und Zuständigkeiten.
Die zentralen Prinzipien hinter Agentic AI
Genau deshalb reicht es nicht aus, Agenten einfach nur technisch gut zu bauen. Sobald sie arbeitsteilig handeln, braucht es klare Regeln, Zuständigkeiten und Kontrolle. Governance wird zur Grundvoraussetzung, damit autonome Agenten im Unternehmen verantwortbar eingesetzt werden können. Dabei gelten folgende Prämissen:
1. Arbeitsteilung ist kein Zeichen von Schwäche – sondern von Reife
In den ersten Ausbaustufen wurden Agenten häufig als universelle Problemlöser angelegt. Ein System, das überwacht, analysiert, entscheidet und korrigiert. In einfachen Umgebungen mag das funktionieren. Im komplexen Unternehmensumfeld jedoch nicht.
Dort zeigt sich zunehmend eine funktionale Differenzierung: Spezialisierte Agenten übernehmen klar abgegrenzte Aufgaben in einzelnen Technologien oder Plattformen. Andere Agenten koordinieren, priorisieren und steuern übergreifend. Damit folgt Agentic AI demselben Muster, das sich in der menschlichen Arbeitswelt seit langem bewährt hat.
2. Spezialagenten schaffen Sicherheit – aber nur lokal
Der erste Typ agentischer Systeme ist heute bereits weit verbreitet. Er ist tief in einzelne Plattformen integriert und überwacht dort Konfigurationen, Sicherheitsparameter und Betriebszustände. Solche Agenten erkennen Abweichungen, schlagen Korrekturen vor oder setzen diese automatisiert um.
Aus Sicht einzelner Technologien ist das ein enormer Fortschritt. Aus Sicht des Unternehmens jedoch entsteht ein strukturelles Problem: Risiken halten sich nicht an Systemgrenzen.
Moderne IT‑Landschaften sind hochgradig vernetzt. Entscheidungen in einer Plattform wirken sich auf andere aus. Sicherheitsmaßnahmen, die lokal sinnvoll sind, können global unerwünschte Effekte haben. Der Überblick über Abhängigkeiten, Kaskaden und kumulative Risiken geht verloren, wenn er nicht bewusst hergestellt wird. Spezialisierung erhöht Effizienz – aber sie erzeugt auch neue Blindstellen.
3. Steuerung erfordert Kontext, nicht nur Koordination
Als Reaktion darauf entstehen Agenten, die über einzelne Technologien hinausblicken. Sie bündeln Signale, priorisieren Maßnahmen und orchestrieren Entscheidungen. Technisch betrachtet ist das der nächste logische Schritt.
Doch auch hier zeigt sich schnell eine Grenze. Denn selbst eine perfekte technische Koordination beantwortet noch nicht die zentrale Frage: Wie relevant ist ein Risiko im konkreten Geschäftskontext?
In der menschlichen Organisationswelt ist dieser Punkt klar geregelt. Operative Einheiten handeln. Management steuert. Und eine dritte Instanz prüft unabhängig, ob Regeln eingehalten werden, Risiken angemessen adressiert sind und systematische Schwächen entstehen.
In der Agentenwelt wird diese Trennung bislang selten konsequent vollzogen. Häufig bewerten Agenten ihre eigenen Entscheidungen oder die Entscheidungen anderer Agenten innerhalb desselben Steuerungssystems. Das ist effizient – aber problematisch.
Denn ein System, das sich selbst steuert und selbst bewertet, ist schwer überprüfbar. Es erzeugt Vertrauen durch Aktivität, nicht durch Nachvollziehbarkeit. Für den unternehmerischen Einsatz – insbesondere in regulierten oder kritischen Bereichen – reicht das nicht aus.
4. Autonome Systeme brauchen eine klare Rollenverteilung
Überträgt man bewährte Governance‑Modelle auf agentische Systeme, ergibt sich ein eindeutiges Bild. Operative Agenten handeln innerhalb definierter Grenzen. Steuernde Agenten setzen Prioritäten und balancieren Zielkonflikte. Und eine dritte Ebene überprüft, ob beide sich tatsächlich im vorgegebenen Rahmen bewegen.
Diese prüfende Instanz greift nicht operativ ein. Sie beobachtet, analysiert, bewertet und eskaliert. Sie misst Entscheidungen an Gesetzen, internen Vorgaben und Risikotoleranzen. Und sie identifiziert nicht nur Regelverstöße, sondern auch strukturelle Schwächen und Verbesserungspotenziale. Erst diese Trennung macht autonome Systeme dauerhaft vertrauenswürdig.
Was Unternehmen daraus ableiten sollten
Die zentrale Frage lautet daher nicht, wie autonom Agenten werden können, sondern wie ihre Autonomie institutionell eingebettet wird. Unternehmen sollten frühzeitig klären:
- Welche Agenten dürfen operativ handeln?
- Welche Agenten dürfen Entscheidungen steuern?
- Welche Instanz prüft unabhängig, ob beides verantwortbar geschieht?
Wer diese Differenzierung nicht vornimmt, riskiert Scheinsicherheit. Prozesse laufen schneller, Entscheidungen wirken konsistent – doch die tatsächliche Risikolage wird intransparent.
FAQ
Ein agentisches System, das sich selbst steuert und selbst bewertet, ist schwer überprüfbar. Entscheidungen müssen aber auch ohne menschliche Beteiligung nachvollziehbar, belastbar und haftungsfest bleiben.
Eine separate Instanz bewertet Entscheidungen und Ergebnisse rückwirkend und stellt sicher, dass Regeln und Risikogrenzen eingehalten werden.
Weil sie nicht beurteilen kann, wie kritisch ein Risiko für das konkrete Geschäftsmodell oder regulatorische Anforderungen ist.
Dass Systeme Entscheidungen selbst bewerten und dadurch Risiken oder Fehler zu spät erkannt werden.
Durch eine klare Trennung von ausführenden Agenten, steuernden Instanzen und unabhängiger Kontrolle.
Marko Vogel
Partner, Consulting – Cyber Security & Resilience, Head of Cyber Security & Resilience
KPMG AG Wirtschaftsprüfungsgesellschaft
