KI im Mittelstand

KI im kleinen Betrieb: Was mit 5 bis 20 Mitarbeitern wirklich geht

Von Jörg Schröder · 14. September 2026 · 8 Min Lesezeit

Wenn Sie wissen wollen, wie viele kleine Betriebe in Deutschland KI nutzen, bekommen Sie je nach Quelle eine andere Antwort. Die KfW nennt für kleine Unternehmen 19 Prozent. Das Statistische Bundesamt kommt für Betriebe mit 10 bis 49 Beschäftigten auf 23 Prozent. Die Bundesnetzagentur misst 29 Prozent. Das ifo Institut meldet für kleine Unternehmen über 50 Prozent.

Alle vier Zahlen stimmen. Sie stammen aus verschiedenen Erhebungszeiträumen zwischen Ende 2024 und Mitte 2026, sie fragen unterschiedlich und sie zählen unterschiedliche Betriebe. In einem Feld, das sich alle paar Monate verschiebt, macht das einen enormen Unterschied. Wer Ihnen eine einzige Zahl präsentiert, hat entweder nicht nachgesehen oder die genommen, die gerade passt.

Interessanter als die Höhe der Quote ist ohnehin etwas anderes.

Der Größenunterschied verschwindet, wenn man genauer hinsieht

Auf den ersten Blick steigt die KI-Nutzung mit der Betriebsgröße. Die KfW misst 36 Prozent bei Mittelständlern ab 50 Beschäftigten und 19 Prozent bei kleinen Unternehmen. Die Bundesnetzagentur findet 28 Prozent bei Kleinstbetrieben, 29 Prozent bei Betrieben mit 10 bis 49 Beschäftigten und 56 Prozent bei Großunternehmen. Das ist das Bild, das üblicherweise erzählt wird.

Die KfW hat allerdings weitergerechnet und den Effekt kontrolliert: für den Digitalisierungsgrad des Betriebs, für den Anteil der Hochschulabsolventen und für die Innovationsaktivität. Das Ergebnis steht im Bericht als klarer Satz. Nach dieser Kontrolle sind alle gemessenen Unterschiede bei der KI-Nutzung im Vergleich zu Unternehmen mit 5 bis 10 Beschäftigten statistisch nicht signifikant. Die modellierten Wahrscheinlichkeiten liegen bei Betrieben unter 5 Beschäftigten sogar minimal höher als bei Betrieben ab 100.

Übersetzt in die Praxis heißt das: Ihr Betrieb ist nicht deshalb spät dran, weil er klein ist. Er ist spät dran, wenn die Grundlagen fehlen. Wenn Angebote noch in Word getippt und in einem Ordner abgelegt werden, der nur einer Person bekannt ist, dann bringt KI dort wenig, egal bei welcher Mitarbeiterzahl.

Nicht die Betriebsgröße entscheidet über den KI-Einstieg, sondern der digitale Reifegrad. Das ist die gute Nachricht für kleine Betriebe, weil Reifegrad etwas ist, das man sich erarbeiten kann.

Womit kleine Betriebe tatsächlich anfangen

Die KfW hat für den Zeitraum 2022 bis 2024 erhoben, welche KI-Technologien im Mittelstand laufen. Ganz oben stehen zwei, die nichts mit Robotik oder Prognosemodellen zu tun haben:

  • Erzeugung natürlicher Sprache, im gesamten Mittelstand 14 Prozent, bei Betrieben unter fünf Beschäftigten 13 Prozent.
  • Texterkennung und Text Mining, im gesamten Mittelstand 10 Prozent, bei Betrieben unter fünf Beschäftigten 9 Prozent.

Danach folgen mit jeweils rund 5 Prozent Automatisierung und Entscheidungsfindung, Spracherkennung und Bilderkennung. Die physische Bewegung von Maschinen liegt bei 1 Prozent. Die Überschrift der KfW-Studie fasst das treffend zusammen: Es überwiegen einfach zu handhabende Technologien mit breiten Einsatzgebieten.

Für einen Betrieb mit 5 bis 20 Mitarbeitern heißt das konkret: Angebote und Leistungsbeschreibungen aus Stichworten erzeugen. Eingehende Rechnungen und Lieferscheine auslesen, statt sie abzutippen. Protokolle aus Besprechungsnotizen bauen. Wiederkehrende Kundenanfragen vorbereiten. Das sind keine Leuchtturmprojekte, das sind die Stellen, an denen im kleinen Betrieb tatsächlich Zeit liegt.

Bemerkenswert ist auch, wie tief die Nutzung geht. Von den Betrieben, die KI einsetzen, erproben laut Bundesnetzagentur sechs von zehn sie nur in Pilotprojekten oder einzelnen Prozessen. Bei lediglich 6 Prozent spielt KI eine zentrale Rolle im Geschäftsmodell, wobei dieser Wert ausgerechnet bei kleinen Unternehmen mit 10 Prozent am höchsten liegt. Wer klein ist, kann eben schneller umstellen, wenn etwas funktioniert.

Was Betriebe bremst, ist nicht das Geld

Das Statistische Bundesamt hat Betriebe gefragt, die KI in Betracht gezogen und sich dagegen entschieden haben. Bei Betrieben mit 10 bis 49 Beschäftigten sieht die Rangfolge so aus:

  • Fehlendes Wissen: 73 Prozent
  • Unklarheit über rechtliche Folgen: 64 Prozent
  • Bedenken hinsichtlich Datenschutz und Privatsphäre: 60 Prozent
  • Inkompatibilität mit vorhandenen Geräten und Systemen: 46 Prozent
  • Schwierigkeiten mit Verfügbarkeit und Qualität der Daten: 44 Prozent
  • Zu hohe Kosten: 33 Prozent

Kosten stehen an sechster Stelle. Bei kleinen Betrieben liegen fast alle Werte leicht über dem Durchschnitt aller Unternehmen, am deutlichsten beim fehlenden Wissen. Die Bundesnetzagentur kommt mit anderer Fragestellung zu einem ähnlichen Bild: Ganz oben steht mangelnde Zeit mit 66 Prozent, dann fehlende Fachkräfte und fehlendes Knowhow mit 59 Prozent, dann Rechtsunsicherheit mit 54 Prozent. Fehlendes Budget nennen 23 Prozent, mangelnde technische Ausstattung nur 15 Prozent.

Auch bei den Abbrüchen wiederholt sich das Muster. Betriebe, die KI erprobt und wieder eingestellt haben, nennen Zeitmangel mit 59 Prozent und das Nichterreichen der Ziele mit 58 Prozent. Die technische Ausstattung war in 5 Prozent der Fälle das Problem.

Die KfW-Autoren ziehen daraus einen Schluss, der zu unserer Erfahrung passt: Die eigentliche Hürde ist, eine nützliche und zugleich gangbare erste Anwendung überhaupt zu finden. Genau daran scheitern Projekte, nicht an der Technik und selten am Budget. Wie ein Einstieg ohne eigene IT-Mannschaft aussieht, haben wir unter KI einführen ohne eigene IT-Abteilung beschrieben, die Reihenfolge der Prozesse unter welche Prozesse Sie zuerst automatisieren sollten.

Das Thema, über das im kleinen Betrieb niemand spricht

Das ZEW hat 2025 gefragt, wie generative KI in Unternehmen tatsächlich genutzt wird. Die häufigste Form ist mit 56 Prozent die eigenverantwortliche Nutzung durch Beschäftigte, oft über deren private Zugänge. Der Anteil der Unternehmen, die generative KI überhaupt nutzen, liegt deshalb höher als der Anteil, der sie in Produkten und Geschäftsprozessen einsetzt.

Im kleinen Betrieb bedeutet das: KI ist längst da, sie steht nur in keiner Liste. Der Werkstattmeister lässt sich Angebotstexte formulieren, die Bürokraft sortiert Mails vor, der Azubi schreibt Protokolle. Das ist nicht böswillig, das ist Selbsthilfe gegen Zeitmangel. Problematisch wird es bei den Daten, die dabei aus dem Haus gehen, und bei Ergebnissen, die niemand gegenprüft.

Die Lösung ist keine Verbotsliste. Sie ist eine Regelung, die in eine DIN-A4-Seite passt: welche Werkzeuge erlaubt sind, welche Daten nie eingegeben werden, wer bei Zweifeln gefragt wird und wer ein Ergebnis freigibt, bevor es zum Kunden geht. Mehr dazu steht unter Schatten-KI im Mittelstand und im Ratgeber DSGVO-konform mit KI arbeiten.

Wie wir mit kleinen Betrieben anfangen

Aus mehr als 100 BOOSTER-Analysen kennen wir das Muster: Der Einstieg gelingt, wenn ein einziger Vorgang benannt ist, der jede Woche wiederkehrt, heute spürbar Zeit kostet und dessen Ergebnis jemand beurteilen kann. Nicht fünf Ideen parallel, nicht eine Strategie für die nächsten drei Jahre.

  1. Engpass benennen. Welcher Vorgang kostet Sie diese Woche am meisten Zeit, ohne dass er Geld bringt?
  2. Prüfen, ob KI überhaupt nötig ist. Manchmal ist der schnellste Gewinn eine Vorlage, eine klare Zuständigkeit oder ein Formular. Wir beraten mit und ohne KI, weil beides seine Berechtigung hat.
  3. Eine Person benennen, die es ausprobiert. Nicht der Chef nebenbei, sondern jemand, der den Vorgang täglich macht.
  4. Zwei Wochen testen, dann entscheiden. Funktioniert es, wird es zur Regel. Funktioniert es nicht, wird es abgeschaltet, bevor es Gewohnheit wird.

Über 30 Jahre in der Unternehmensführung hat sich eine Sache nicht geändert: Veränderungen halten nur, wenn die Leute sie tragen. Bei KI ist das ausgeprägter als bei jedem Werkzeug davor, weil die Mitarbeiter sofort spüren, ob ihnen etwas abgenommen oder etwas weggenommen werden soll. Wer das Team früh einbindet, spart sich später die Diskussion.

Wie wir vorgehen und was eine Begleitung umfasst, steht auf der Seite KI-Beratung für den Mittelstand. Für kleine Betriebe lässt sich ein Teil davon über die BAFA-Förderung abdecken.

Häufige Fragen

Wie viele kleine Betriebe nutzen KI überhaupt?

Das hängt davon ab, wer wann gefragt hat. Die KfW nennt für kleine Unternehmen 19 Prozent, erhoben im Frühjahr 2025 für den Zeitraum 2022 bis 2024. Das Statistische Bundesamt kommt für Betriebe mit 10 bis 49 Beschäftigten auf 23 Prozent im Jahr 2025. Die Bundesnetzagentur misst 28 bis 29 Prozent für Kleinst- und Kleinunternehmen, erhoben Ende 2024. Neuere Erhebungen liegen deutlich höher. Eine einzelne belastbare Zahl für 2026 gibt es nicht.

Sind kleine Betriebe bei KI wirklich im Nachteil?

Auf den ersten Blick ja, auf den zweiten nicht. Die KfW hat den Größeneffekt herausgerechnet und kontrolliert für Digitalisierungsgrad, Qualifikation und Innovationsaktivität. Danach sind alle gemessenen Unterschiede zwischen den Größenklassen statistisch nicht mehr signifikant. Was zählt, ist der digitale Reifegrad des Betriebs, nicht die Anzahl der Mitarbeiter.

Womit fangen kleine Betriebe bei KI am besten an?

Bei dem, was die Statistik ohnehin ganz oben zeigt: Texte erzeugen und Texte auslesen. In Betrieben mit unter fünf Beschäftigten nutzen 13 Prozent Sprachanwendungen und 9 Prozent Texterkennung. Das sind Angebote, Berichte, Protokolle, Rechnungen und Lieferscheine. Sinnvoll ist ein einziger Anwendungsfall, der jede Woche wiederkehrt und heute spürbar Zeit kostet.

Was hält kleine Betriebe bei KI am häufigsten auf?

Nicht das Geld. Beim Statistischen Bundesamt nennen Betriebe mit 10 bis 49 Beschäftigten fehlendes Wissen mit 73 Prozent als häufigsten Grund, gefolgt von Unklarheit über rechtliche Folgen mit 64 Prozent und Datenschutzbedenken mit 60 Prozent. Zu hohe Kosten stehen mit 33 Prozent erst an sechster Stelle. Die Bundesnetzagentur findet an erster Stelle fehlende Zeit mit 66 Prozent.

Was ist Schatten-KI und warum ist sie im kleinen Betrieb ein Problem?

Schatten-KI bedeutet, dass Mitarbeiter KI-Werkzeuge eigenverantwortlich nutzen, häufig über private Zugänge, ohne dass der Betrieb das geregelt hat. Laut ZEW ist genau das mit 56 Prozent die häufigste Form der Nutzung generativer KI. Das Risiko liegt weniger in der Technik als in den Daten, die dabei das Haus verlassen, und in fehlender Nachvollziehbarkeit der Ergebnisse.

Braucht man für KI im kleinen Betrieb eine IT-Abteilung?

Nein. Die Anwendungen, die im Mittelstand tatsächlich laufen, sind die einfach handhabbaren mit breitem Einsatzgebiet, nicht die tief integrierten Systeme. Gebraucht wird jemand, der den Prozess kennt und Verantwortung übernimmt, und eine Regelung, welche Daten wo eingegeben werden dürfen. Beides lässt sich ohne eigene IT-Abteilung aufsetzen.

In 30 Minuten wissen, wo Ihr Betrieb verliert

Sichern Sie sich Ihre BOOSTER-Analyse. Kostenlos, unverbindlich, 30 Minuten.

BOOSTER-Analyse sichern →