KI-Agenten im Mittelstand: Warum viele Projekte scheitern werden – und der kleine Weg, der funktioniert

Zwei Meldungen aus den letzten Monaten passen scheinbar nicht zusammen. Der KI-Index Mittelstand 2026 von Salesforce und dem Deutschen Mittelstands-Bund meldet: Der Einsatz von KI-Agenten im deutschen Mittelstand hat sich binnen eines Jahres fast verdoppelt. Gartner prognostiziert zugleich, dass über 40 Prozent aller Agentic-AI-Projekte bis Ende 2027 wieder abgebrochen werden. Widerspruch? Keiner. Beide Zahlen beschreiben dieselbe Lage: Viele fangen an, wenige haben einen Plan. Und genau dazwischen liegt der Weg, der funktioniert.

Was die Zahlen wirklich sagen

Erst die Fakten. Laut dem im März 2026 veröffentlichten KI-Index Mittelstand nutzt oder testet gut jedes zweite mittelständische Unternehmen (51,2 Prozent) inzwischen KI – ein Plus von 54 Prozent gegenüber dem Vorjahr. KI-Agenten, also Software, die nicht nur Fragen beantwortet, sondern selbstständig Aufgaben abarbeitet, setzen 16,6 Prozent ein. Ein Jahr zuvor war es etwa die Hälfte. Die Erwartungen dahinter sind handfest: 54,4 Prozent der Befragten erhoffen sich effizientere Abläufe, 44 Prozent mehr Produktivität, 41,1 Prozent geringere Kosten.

Dann Gartner: über 40 Prozent der Agenten-Projekte vor dem Abbruch – wegen steigender Kosten, unklarem Geschäftsnutzen und fehlender Risikokontrolle. Dazu ein Detail, das man zweimal lesen sollte: Von den Tausenden Anbietern, die »KI-Agenten« verkaufen, bauen nach Gartner-Schätzung nur rund 130 tatsächlich welche. Der Rest klebt ein neues Etikett auf alte Produkte. Gartner nennt das »Agent Washing«.

Vorweg zu meiner Haltung: Ich arbeite täglich mit diesen Werkzeugen – und rate trotzdem öfter ab, als es Anbietern gefallen dürfte. Ich baue Automationen für kleine Unternehmen und sage genauso oft »das lohnt sich nicht« wie »das bauen wir«. Von diesem Standpunkt aus sind beide Zahlen plausibel.

Woran Agenten-Projekte scheitern

In Gesprächen tauchen immer dieselben vier Muster auf.

Kein Business Case. Die Vorführung hat begeistert, ein Projekt wurde gestartet. Aber niemand kann sagen, welcher Prozess danach wie viel weniger kosten soll. Ohne diese eine Zahl lässt sich nach sechs Monaten nicht beantworten, ob sich das Ganze gelohnt hat. Also wird es beerdigt.

Demo-Zauber. In der Demo liest der Agent eine saubere Beispiel-Rechnung und legt den Vorgang fehlerfrei an. Im Alltag kommt die Rechnung als schief gescanntes PDF, der Lieferant schreibt die Bestellnummer ins Betreff-Feld und der Sonderfall ist die Regel. Der Abstand zwischen Vorführung und Dienstag um 9 Uhr ist das eigentliche Projektrisiko.

Keine Datenbasis. Ein Agent, der Angebote vorbereiten soll, braucht Preise, Artikel und Kundenhistorie – strukturiert und aktuell. Die Realität in vielen Betrieben: Preislisten in drei Excel-Versionen, Aufträge im Mail-Postfach, Kundenwissen im Kopf des Inhabers. Gegen dieses Chaos rechnet kein Agent der Welt an.

Niemand zuständig. Ein Agent ist kein Projekt, das endet. Er läuft, macht Fehler, braucht jemanden, der die Ergebnisse prüft und nachjustiert. Wo diese Rolle fehlt, verwaist das System nach dem ersten Monat.

Auffällig ist, was in dieser Liste fehlt: die Technik. Die Modelle sind gut genug. Es scheitert fast nie am Modell – es scheitert an Prozess, Daten und Verantwortung.

Der Gegenentwurf: ein Prozess, eine Messgröße

Der Weg, der funktioniert, ist unspektakulär. Sie suchen sich nicht die große Vision, sondern einen einzigen nervigen, wiederkehrenden Prozess. Drei Kandidaten, die ich immer wieder sehe:

• E-Mail-Sortierung: Anfragen, Rechnungen, Bewerbungen und Spam landen im selben Postfach. Ein Workflow ordnet zu, leitet weiter und legt ab.
• Rechnungs-Vorstrukturierung: Eingehende Rechnungen werden ausgelesen, benannt, im richtigen Ordner abgelegt und für die Buchhaltung vorbereitet.
• Angebots-Daten zusammenführen: Kundendaten, Preise und Textbausteine aus verschiedenen Quellen landen vorbefüllt in einem Angebotsentwurf.

Dann machen Sie den Prozess messbar, bevor irgendetwas gebaut wird. Wie viele Vorgänge pro Woche? Wie viele Minuten pro Vorgang? Wer macht es heute? Erst mit diesen Zahlen lässt sich hinterher ehrlich sagen, ob die Automation ihr Geld wert war. Wenn die Rechnung schon vorher nicht aufgeht, ist auch das ein Ergebnis – dann lassen wir es bleiben.

Als Werkzeug reicht dafür in den meisten Fällen kein »Agenten-Betriebssystem« aus dem Prospekt, sondern ein Automatisierungswerkzeug wie n8n – Open Source, auf eigener Infrastruktur betrieben. Das hat zwei Vorteile. Ihre Daten bleiben im Haus, statt durch die Cloud eines Anbieters zu laufen, den Sie in zwei Jahren vielleicht wieder loswerden wollen. Und der Workflow ist nachvollziehbar: Sie sehen jeden Schritt, statt einer Blackbox zu vertrauen. Genau solche Automationen baue ich im Rahmen von KI & Automation – klein, dokumentiert und so übergeben, dass sie ohne mich weiterlaufen.

Klein anfangen heißt nicht klein denken

Der erste funktionierende Workflow verändert etwas im Kopf. Das Team sieht: Das ist kein Zauber, das ist ein Ablauf mit klaren Regeln. Danach fallen die nächsten Kandidaten von selbst auf, und jede weitere Automation baut auf sauberen Daten und einer eingespielten Zuständigkeit auf. Das ist der Unterschied zum Leuchtturmprojekt: Es wächst etwas, statt dass etwas zusammenbricht.

Ein Punkt noch, der in vielen Planungen fehlt: Ihre Leute arbeiten längst mit KI – nur eben privat, mit dem eigenen ChatGPT-Konto und Ihren Kundendaten. Warum das riskant ist, habe ich im Beitrag zu Schatten-KI im Unternehmen aufgeschrieben. Die Antwort darauf ist nicht Verbot, sondern Kompetenz: klare Regeln plus eine Schulung, die zeigt, was die Werkzeuge können und was nicht.

Mein Fazit

Die Gartner-Prognose ist keine Absage an KI-Agenten. Sie ist eine Absage an Projekte ohne Plan. Wer mit einer Vision startet, landet mit hoher Wahrscheinlichkeit in den 40 Prozent. Wer mit einem nervigen Prozess, einer Messgröße und einem nachvollziehbaren Werkzeug startet, hat gute Chancen auf die andere Seite der Statistik.

Wenn Sie so einen Prozess im Kopf haben: Im kostenlosen Erstgespräch schauen wir gemeinsam, ob sich die Rechnung trägt. Auch »das lassen wir bleiben« ist ein ehrliches Ergebnis.