AI in the Mittelstand: What Actually Works in 2026
Which use cases reliably deliver, which regularly disappoint, and why the real bottleneck is almost never the model.
This article is written in German. The title and description above have been translated into English.
Die Zahlen klingen zunächst nach Aufholjagd: Laut KfW Research nutzt rund ein Fünftel der mittelständischen Unternehmen KI, bei Unternehmen ab 50 Mitarbeitenden ist es mehr als ein Drittel. Die interessantere Frage ist nicht, wie viele es tun, sondern was davon tatsächlich trägt.
Aus den Gesprächen der letzten Monate lässt sich ein Muster ablesen. Es gibt eine Kategorie von Anwendungsfällen, die zuverlässig funktioniert, und eine, die zuverlässig enttäuscht.
Was funktioniert
Der gemeinsame Nenner der erfolgreichen Fälle ist unspektakulär: Viel Handarbeit trifft auf strukturierte Daten.
Dokumente in Datensätze überführen
Lieferscheine, Rechnungen, Prüfberichte, Bestellungen per E-Mail. Überall dort, wo jemand Informationen aus einem Dokument in ein System abtippt, ist der Fall klar. Die Qualität moderner Modelle reicht dafür längst, der Business Case rechnet sich über die eingesparten Stunden, und das Risiko ist gering, weil ein Mensch das Ergebnis ohnehin bestätigt.
Wissen aus dem eigenen Bestand auffindbar machen
Technische Dokumentation, Serviceberichte, alte Angebote. Die Information ist da, sie ist nur nicht auffindbar. Retrieval über den eigenen Datenbestand löst ein Problem, das Volltextsuche seit zwanzig Jahren nicht löst.
Der Aufwand steckt hier selten im Modell, sondern in der Frage, welche Quellen überhaupt eingebunden werden dürfen und wer was sehen darf.
Vorqualifizierung im Posteingang
Anfragen sortieren, Dringlichkeit einschätzen, Standardfälle vorbereiten. Nicht beantworten, vorbereiten. Der Unterschied entscheidet über die Akzeptanz im Team.
Was enttäuscht
Der Chatbot als Projekt
„Wir brauchen einen Chatbot" ist keine Anforderung, sondern eine Lösungsvermutung. In den meisten Fällen, in denen das der Startpunkt war, stellte sich später heraus, dass das eigentliche Problem woanders lag: bei der Datenqualität, im Prozess oder in einer Zuständigkeit.
Alles, was ungeprüft rausgeht
Sobald ein Modell ohne menschliche Kontrolle nach außen kommuniziert, verschiebt sich das Risiko dramatisch. Der Nutzen dagegen steigt kaum, weil die letzte Bestätigung selten der Engpass ist.
Projekte ohne gerechneten Nutzen
„Wir müssen ja irgendwas mit KI machen" trägt genau bis zum ersten Budgetgespräch. Ohne eine Zahl, die den Aufwand rechtfertigt, endet das Projekt spätestens dann, wenn der ursprüngliche Fürsprecher die Abteilung wechselt.
Der beste Filter für einen KI-Anwendungsfall ist banal: Können Sie ausrechnen, was er spart oder einbringt? Wenn nicht, ist es kein Anwendungsfall, sondern ein Wunsch.
Der unterschätzte Engpass
In fast allen Projekten, die länger dauern als geplant, liegt es nicht am Modell. Es liegt an den Schnittstellen.
Die Daten stecken im ERP, das seit zwölf Jahren läuft. Die Freigabe hängt an einem Prozess, den drei Abteilungen unterschiedlich beschreiben. Die Zuständigkeit für die Datenqualität hat formal niemand.
Das ist keine KI-Frage, sondern eine Digitalisierungsfrage, die durch KI nur sichtbar wird. Wer sie vorher klärt, hat den größeren Teil der Arbeit hinter sich.
Wie man anfängt
Ein Anwendungsfall. Klein genug, dass er in Wochen statt Monaten läuft. Groß genug, dass jemand den Unterschied merkt.
Der Zweck des ersten Projekts ist nicht der Ertrag, sondern die Erfahrung: Wie gut sind unsere Daten wirklich, wie reagiert das Team, wo hakt die Freigabe. Diese Antworten sind mehr wert als das eingesparte Personenjahr in der Präsentation.
Erst danach lohnt die Roadmap. Vorher ist sie geraten.
Further reading
- Architecture
GDPR-Compliant LLM Architectures
Data protection with language models is not a legal question at the end of the project but an architectural decision at the beginning. The four parameters that determine everything.
Read article - Collaboration
Why Fixed-Price Works Contracts Make Consulting Projects More Honest
Day rates reward effort; fixed prices reward clarity. What the German works contract (§ 631 BGB) does to the incentives in a consulting project, and where this model has its limits.
Read article