Auf der iBusiness-Konferenz „Daten & KI 2026“ hat unser Gründer Daniel Kalkowski darüber gesprochen, warum viele KI-Agenten-Projekte nicht am eingesetzten Modell scheitern – sondern am fehlenden Rahmen.
Denn einen KI-Agenten zum Laufen zu bringen, ist heute oft einfacher als die entscheidenden Fragen zu beantworten: Was darf er eigentlich tun? Wer kontrolliert seine Ergebnisse? Und wie lässt sich später nachvollziehen, wie eine Entscheidung zustande gekommen ist?
Im Vortrag ging es deshalb um vier Muster, mit denen sich KI-Agenten sinnvoll in Geschäftsprozesse integrieren lassen.
Zwei Zahlen, die zusammengehören
Zwei Prognosen von Gartner zeigen, wie groß das Potenzial von KI-Agenten ist – aber auch, warum viele Projekte scheitern. Bis 2028 sollen rund 15 Prozent der alltäglichen Arbeitsentscheidungen autonom von agentischer KI getroffen werden. Gleichzeitig erwartet Gartner, dass rund 40 Prozent der Agentic-AI-Projekte bis Ende 2027 wieder eingestellt werden – etwa wegen steigender Kosten, unklarem Nutzen oder fehlender Kontrolle.
Die beiden Zahlen widersprechen sich nicht. Im Gegenteil: Sie zeigen ziemlich deutlich, worauf es ankommt.
Das Potenzial ist da. Aber es reicht nicht, einfach einen Agenten zu bauen und auf gute Ergebnisse zu hoffen. Ohne einen klaren Rahmen bleiben Nutzen, Kosten und Risiken oft schwer greifbar.
Chat vs. Prozess: Wo liegt der Unterschied?
Ein frei agierender KI-Agent erhält seine Anweisungen vor allem über Prompts, Skills und Kontext. Wie er diese Informationen verarbeitet und welche Schritte er daraus ableitet, entscheidet das Modell innerhalb seines Handlungsrahmens selbst.
Das kann sehr leistungsfähig sein. Gleichzeitig können Ergebnisse unterschiedlich ausfallen. Und wenn später die Frage aufkommt, warum eine bestimmte Entscheidung getroffen wurde, ist die Antwort nicht immer einfach zu finden.
Ein KI-Agent, der in einen definierten Prozess eingebunden ist, arbeitet anders.
Der Prozess gibt den Rahmen vor – beispielsweise modelliert in BPMN. Der Agent wird an definierten Stellen eingesetzt. Wann er startet, welche Werkzeuge ihm zur Verfügung stehen und was mit seinem Ergebnis passiert, ist technisch im Prozess festgelegt.
Natürlich lassen sich beide Ansätze kombinieren. Ein Chat kann beispielsweise einen definierten Prozess als Werkzeug aufrufen. Entscheidend ist aus unserer Sicht vor allem eines: Die Kontrolle sollte nicht allein im Prompt liegen, sondern im Prozess verankert sein.
Die vier Muster im Überblick
Muster 1: Unterschiedliche Auslöser
Der erste Kontrollpunkt liegt bereits vor dem Agenten: Wann startet ein Prozess überhaupt?
Das kann durch Ereignisse in bestehenden Systemen passieren – etwa im ERP, CRM, Shop oder durch eine eingehende E-Mail. Aber auch externe Ereignisse können einen Prozess anstoßen, zum Beispiel wenn sich Marktpreise verändern und eine Preisanpassung geprüft werden soll.
Zunehmend können Agenten über Protokolle wie MCP auch andere Prozesse gezielt als Werkzeuge aufrufen. Aber auch dann bleibt der aufgerufene Prozess ein klar definierter Rahmen.
Muster 2: Begrenzter Werkzeugkasten
Ein Agent sollte nur auf die Werkzeuge, Systeme und Daten zugreifen können, die er für seine konkrete Aufgabe benötigt.
Dabei geht es unter anderem um die Fragen:
- Welche Tools darf der Agent nutzen?
- Auf welche Daten darf er zugreifen?
- Welche Modelle stehen ihm zur Verfügung?
Entscheidend ist, dass diese Einschränkungen nicht nur als Empfehlung im Prompt stehen. Ein Satz wie „Du darfst nur auf diese Daten zugreifen“ ist etwas anderes als eine technische Konfiguration, die diesen Zugriff tatsächlich begrenzt.
Deshalb sollten Zugriffe und Berechtigungen technisch gesteuert und über ein Rollen- und Rechtesystem abgesichert werden.
Eine einfache Testfrage lautet: Welche Kontrollmechanismen haben wir heute eigentlich?
Wenn die Antwort vor allem „ein Absatz im Prompt“ lautet, lohnt sich ein genauerer Blick.
Muster 3: Freigabepunkte für Mensch oder Regeln
KI kann Vorschläge erstellen, Inhalte klassifizieren oder Entscheidungen vorbereiten. Doch nicht jedes Ergebnis sollte automatisch umgesetzt werden.
An bestimmten Stellen im Prozess braucht es deshalb einen klaren Freigabepunkt. Das kann ein Mensch sein – im Sinne eines Human-in-the-Loop-Ansatzes. Es kann aber auch eine klar definierte, deterministische Regel sein, die sich per Code überprüfen lässt.
Erst danach wird ein Ergebnis weiterverwendet.
Gerade dort, wo Fehler hohe Kosten verursachen können, ist das ein wichtiger Punkt: KI kann wertvolle Arbeit übernehmen, sollte aber nicht automatisch die letzte Instanz sein.
Muster 4: Durchgängiges Protokoll
Nachvollziehbarkeit statt Blackbox: Für jeden Prozessschritt sollte erkennbar sein, welche Daten verarbeitet wurden und welches Ergebnis daraus entstanden ist.
Bei Agenten lässt sich zusätzlich dokumentieren:
- Welchen Kontext hat der Agent erhalten?
- Welche Antwort hat er geliefert?
- Welche Tools wurden verwendet?
- Welche Kosten sind entstanden?
Das hilft nicht nur bei Compliance- und Audit-Anforderungen. Es schafft auch die Grundlage, den eigenen KI-Einsatz sinnvoll zu bewerten: Was funktioniert? Wo entstehen Fehler? Welche Prozesse verursachen hohe Kosten? Und welches Modell liefert für eine Aufgabe die besten Ergebnisse?
Wann Sie keine KI-Agenten brauchen
Vielleicht ist das sogar einer der wichtigsten Punkte: Nicht jede Aufgabe braucht einen KI-Agenten.
Ist eine Aufgabe vollständig regelbasiert, ist klassische Automatisierung häufig die bessere Lösung – schneller, kostengünstiger und reproduzierbar.
Auch bei festen Datenstrukturen und klar definierten Transformationen braucht es nicht zwangsläufig KI. Und bei Aufgaben wie Preisberechnungen, Abrechnungen oder Fristen, bei denen exakte Reproduzierbarkeit entscheidend ist, können klassische Regeln die bessere Wahl sein.
Ein Prozess wird nicht automatisch besser, nur weil man einen KI-Agenten hinzufügt.
Wir sind überzeugt vom Potenzial von KI. Gerade deshalb gehört für uns zu einer guten Beratung auch die ehrliche Antwort, wo KI keinen echten Mehrwert bringt.
Nachvollziehbarkeit und Datenqualität
Eine wichtige Frage aus dem Vortrag war: Kann die Fachabteilung bei einem KI-Ergebnis von letzter Woche noch nachvollziehen, wie es zustande gekommen ist?
Der EU AI Act macht – abhängig vom jeweiligen Einsatzszenario – Transparenz- und Dokumentationsanforderungen für KI verbindlich. Wenn Freigabepunkte und Protokolle direkt im Prozess verankert sind, wird zumindest nachvollziehbar, was wann passiert ist, welche Daten verarbeitet wurden und wer eine Entscheidung freigegeben hat.
Eine weitere Grundlage ist die Datenqualität. Denn jedes Automatisierungsprojekt – mit oder ohne KI – ist nur so gut wie die Daten, auf denen es aufbaut.
Fehlen wichtige Daten, sind Informationen schlecht strukturiert oder fehlerhaft, wird es schwierig, einen Prozess zuverlässig zu automatisieren. Die vier Muster ersetzen diese Grundlagenarbeit nicht. Sie setzen sie voraus.
Dass dieser Ansatz nicht nur intuitiv sinnvoll ist, zeigt auch die Forschung. Das Fraunhofer-Institut FIT beschreibt in seinem Whitepaper „Vom starren Ablauf zum hybriden Handlungsraum" (August 2026) ein vergleichbares Modell: definierte Handlungsräume und Prozessstrukturen als Governance-Rahmen für KI-Agenten. Die Lektüre lohnt sich.
Fazit: Der Rahmen entscheidet
KI-Agenten scheitern selten allein am Modell. Häufig sind es andere Fragen, die über Erfolg oder Misserfolg entscheiden:
Was darf der Agent im Zweifel tun?
Wer greift ein, wenn etwas schiefläuft?
Und lässt sich später noch nachvollziehen, wie ein Ergebnis entstanden ist?
Definierte Auslöser, ein begrenzter Werkzeugkasten, klare Freigabepunkte und durchgängige Protokolle schaffen einen Rahmen, in dem sich KI-Agenten sinnvoll einsetzen und weiterentwickeln lassen.
Sie helfen dabei, Nutzen, Kosten und Risiken überhaupt bewerten zu können – und machen aus einem frei agierenden KI-System einen kontrollierbaren Teil eines Geschäftsprozesses.
Wie steht es um Ihre Prozesse?
Mit unserem kostenlosen Selbst-Check können Sie in fünf bis zehn Minuten pro Prozess prüfen, ob Ihre KI-Agenten bereits die vier beschriebenen Muster erfüllen.
Tragen Sie sich einfach unten ein. Wir schicken Ihnen den Download-Link per E-Mail zu.
Wir zeigen Ihnen gerne, wie einfach und flexibel Prozessautomatisierung mit swoox.io funktioniert.
Oder Sie probieren es gleich selbst aus.
