KI im Mittelstand

Microsoft Copilot, ChatGPT oder Claude: Was gehört in den Mittelstand?

Von Jörg Schröder · 26. Oktober 2026 · 8 Min Lesezeit

Diese Frage hören wir inzwischen in fast jedem Erstgespräch: Nehmen wir Microsoft Copilot, ChatGPT oder Claude? Unsere Antwort überrascht die meisten. Die Wahl hängt weniger vom Werkzeug ab als von Ihrem Betrieb, von Ihren Daten und davon, ob Ihre Mitarbeiter wissen, was sie damit tun dürfen. Dieser Beitrag ordnet die Entscheidung ein, nennt die belegte Datenschutzlage der Hersteller und zeigt, welchen Nachweis Sie nach dem EU AI Act führen sollten. Die Angaben der Hersteller haben den Stand 26. Oktober 2026 und sind keine Rechtsberatung.

Der Grundunterschied in einem Absatz

Microsoft Copilot ist in Microsoft 365 eingebaut. Er arbeitet in Word, Excel, Outlook und Teams und greift auf die Inhalte zu, die der jeweilige Nutzer dort sehen darf. ChatGPT von OpenAI und Claude von Anthropic sind dagegen eigenständige Werkzeuge im Browser oder als App. Was dort hineinkommt, bringen Ihre Mitarbeiter selbst mit. Das eine liegt mitten in Ihren Unterlagen, die anderen daneben. Beides hat Vorteile, beides hat Folgen für die Datenlage im Betrieb.

Welches Werkzeug wann passt

Copilot spielt seine Stärke aus, wenn die Arbeit ohnehin in Microsoft 365 stattfindet: Besprechungen zusammenfassen, Mails beantworten, Dokumente aus vorhandenen Unterlagen entwerfen. ChatGPT und Claude sind stark, wenn es um freies Denken geht: Texte entwickeln, Ideen sortieren, Entwürfe gegenlesen, im Dialog an einer Lösung arbeiten. In unseren Projekten sehen wir, dass die Qualität der Ergebnisse selten am Namen des Werkzeugs hängt. Sie hängt an der Frage, die gestellt wird, und an der Prüfung, die danach kommt.

Eine Einschränkung gilt aus unserer Sicht allerdings schon heute: Beim Aufbau agentischer Workflows, also wenn die KI nicht nur antwortet, sondern mehrere Schritte selbstständig erledigt, liegen andere Systeme als Microsoft derzeit deutlich vorn. Das ist unsere Einschätzung aus der Projektarbeit, Stand Oktober 2026, kein Testergebnis, und die Lage verändert sich schnell. Copilot spricht seine Stärke im Alltag in Microsoft 365 aus. Für Abläufe, die ein Agent eigenständig durchläuft, setzen wir andere Werkzeuge ein. Wie solche Agenten im Mittelstand aussehen, steht in KI-Agenten für KMU.

Die Entscheidung nach Betriebstyp

Drei Konstellationen decken fast alle Betriebe ab:

  • Sie arbeiten bereits mit Microsoft 365: Dann liegt Copilot nahe, weil kein zweites System dazukommt. Planen Sie vorher Zeit für die Rechte ein, dazu mehr weiter unten.
  • Sie arbeiten ohne Microsoft 365: Dann liegt Copilot nicht nahe, weil er in Microsoft 365 eingebaut ist. Hier sind ChatGPT, Claude oder ein anderes eigenständiges System der Weg.
  • Gemischte Landschaft: Die Abteilungen arbeiten unterschiedlich, einzelne nutzen schon eigene Zugänge. Hier lohnt sich zuerst die Bestandsaufnahme und erst danach die Wahl.

Der Preisunterschied zwischen den Tarifen spielt in der Praxis selten die Hauptrolle. Aktuelle Tarife stehen beim Hersteller und ändern sich laufend. Teurer wird es, wenn ein Werkzeug gekauft wird, das niemand nutzt oder das ohne Regeln genutzt wird.

Datenschutz: Was die Hersteller tatsächlich sagen

Wir halten uns hier an das, was die Hersteller selbst veröffentlichen. Bei Microsoft heißt es sinngemäß: Eingaben, Antworten und über Microsoft Graph abgerufene Daten werden nicht für das Training der Basismodelle verwendet, und Copilot zeigt nur Organisationsdaten an, für die der einzelne Nutzer mindestens ein Leserecht hat. Für Kunden in der EU gibt es eine EU-Datengrenze. Microsoft weist aber ausdrücklich darauf hin, dass der Datenverkehr zur Verarbeitung durch das Sprachmodell auch außerhalb der EU geleitet werden kann.

Bei ChatGPT Business gibt OpenAI an, dass Geschäftsdaten standardmäßig nicht zum Training genutzt werden und dass ein Datenverarbeitungsvertrag abgeschlossen werden kann. Ob die Daten in der EU liegen, geht aus den von uns gelesenen Herstellerseiten nicht hervor. Das klären Sie vor dem Einsatz direkt beim Anbieter, am besten gemeinsam mit Ihrem Datenschutzbeauftragten.

Bei Claude von Anthropic gilt für die kommerziellen Produkte Team, Enterprise und API: Eingaben und Ausgaben werden laut Anthropic standardmäßig nicht zum Training verwendet. Ausnahmen sind Rückmeldungen, die Nutzer ausdrücklich geben, etwa über die Daumen-Schaltflächen, oder eine anderweitige Zustimmung. Bei Team und Enterprise lässt sich die Rückmeldefunktion in den Organisationseinstellungen abschalten. Anthropic tritt nach eigener Angabe als Auftragsverarbeiter auf, Ihr Betrieb bleibt Verantwortlicher. Der Datenverarbeitungsvertrag mit Standardvertragsklauseln ist Bestandteil der Commercial Terms, eine gesonderte Unterschrift beschreibt Anthropic nicht. Für die privaten Konten Free, Pro und Max gilt er nicht. Zum Datenort nennt die Enterprise-Seite von Anthropic als Datenkontrolle „US-only inference“, eine EU-Region wird dort nicht erwähnt. Die gelesenen Seiten tragen den Stand März bis August 2026. Auch hier klären Sie den Datenort vor dem Einsatz mit dem Anbieter und Ihrem Datenschutzbeauftragten.

Für alle drei gilt: Das private, kostenlose Konto eines Mitarbeiters ist keine Betriebslösung. Wie Sie das sicher aufsetzen, steht im Ratgeber DSGVO-konform mit KI arbeiten.

Vor Copilot: Rechte aufräumen

Weil Copilot nur zeigt, was der Nutzer sehen darf, macht er sichtbar, wie Ihre Ablage tatsächlich aussieht. Liegt die Gehaltsliste in einem Ordner, auf den halb Ihre Belegschaft Zugriff hat, findet Copilot sie auf eine Frage hin genauso wie ein aufmerksamer Mitarbeiter, nur schneller. Prüfen Sie deshalb vor der Einführung, wer auf welche Ordner, Teams und Postfächer zugreifen darf. Das ist keine Copilot-Hürde, sondern eine Aufgabe, die ohnehin fällig war.

Alle Systeme kennen, bei einem bleiben

Wir arbeiten selbst mit allen namhaften KI-Systemen der großen Anbieter. Der laufende Vergleich zeigt uns, welches System wofür am besten ist. Unseren Kunden raten wir trotzdem nicht, jedes Mal ein anderes zu nehmen. Ein freigegebenes Hauptwerkzeug mit klaren Regeln schlägt fünf Werkzeuge ohne Regeln.

Intern nutzen wir manchmal eine Kette, vor allem wenn wir im Dialog mit der KI etwas entwickeln: Die eine KI erstellt den Entwurf, die nächste optimiert ihn oder prüft ihn gegen, die dritte übernimmt den Feinschliff. So kommt das beste Ergebnis zustande. Für Ihren Betrieb ist das Kür, nicht Pflicht. Zuerst brauchen Sie ein Werkzeug, das alle kennen.

Ein Fall aus der Praxis: drei Zugänge, die niemand kannte

In einem Betrieb sprachen wir über die Einführung von KI. Im Gespräch kam heraus, dass sich Mitarbeiter bereits selbst Zugänge zu drei verschiedenen KI-Systemen besorgt hatten. Sie arbeiteten damit für sich, weil sie die Vorteile bei der Effizienz einfach mitnehmen wollten. Niemand hatte das gesteuert, niemand hatte es geregelt. Verantworten muss es das Unternehmen trotzdem.

Das ist kein Disziplinproblem. Die Leute wollten besser arbeiten, und es fehlte ein offizielles Angebot. Warum Verbote dabei nicht helfen, haben wir im Beitrag Schatten-KI im Mittelstand beschrieben. Aus mehr als 100 BOOSTER-Analysen kennen wir das Muster: Wer die Nutzung sichtbar macht und einen Rahmen setzt, gewinnt die Mitarbeiter, statt sie in den Untergrund zu treiben.

Der Nachweis nach dem EU AI Act

Wer KI im Betrieb einsetzt, ist nach dem EU AI Act in der Regel Betreiber. Artikel 4 verlangt seit seiner Neufassung zum 27. Juli 2026, dass Sie Maßnahmen ergreifen, die die Entwicklung der KI-Kompetenz der Personen unterstützen, die in Ihrem Auftrag mit KI arbeiten. Eine ausdrückliche Pflicht, eine Liste erlaubter Programme zu führen, nennt der Artikel nicht. In der Praxis ist diese Liste aber der einfachste Beleg dafür, dass Sie etwas getan haben.

Wir empfehlen dafür drei Bausteine:

  • Eine kurze, schriftliche Nutzungsrichtlinie: Welche Daten dürfen in ein KI-Werkzeug, welche nie, wer prüft die Ergebnisse.
  • Eine Liste der freigegebenen Werkzeuge mit Zuständigem und Einsatzzweck. Wer ein neues Werkzeug möchte, fragt vorher.
  • Eine kurze Schulung mit Teilnahmeliste, die Sie regelmäßig wiederholen.

Diese Bausteine müssen Sie nicht selbst entwerfen. Unter KI-Schulungen bieten wir eine fertig ausgestaltete Schulung an, online oder bei Ihnen im Haus. Der KI-Nachweis bringt dazu den Kurs für Ihre Mitarbeiter, je Teilnehmer eine Teilnahmebestätigung und fünf ausfüllfertige Vorlagen mit: Nutzungsrichtlinie, KI-Inventar (also die Liste Ihrer freigegebenen Werkzeuge), Schulungsplan, Teilnahmebestätigungen und Kenntnisnahme. Bescheinigt werden Teilnahme und Bearbeitungsumfang. Einen staatlich anerkannten Abschluss gibt es für diese Pflicht nicht, auch nicht bei uns. Mit den Vorlagen ist der Nachweis nach unserer Erfahrung ein halber Tag Arbeit.

Damit haben Sie auch beantwortet, welches Werkzeug im Haus gilt: das, was auf der Liste steht. Die Einzelheiten zur Pflicht stehen in unseren Beiträgen zur KI-Kompetenzpflicht und zum EU AI Act im Mittelstand.

Nicht das Werkzeug entscheidet, sondern ob Ihre Leute es sicher und einheitlich einsetzen.

So gehen Sie vor

  1. Bestandsaufnahme: Fragen Sie offen, wer welche KI-Werkzeuge nutzt und wofür. Das Ergebnis überrascht die meisten Geschäftsführer. Nutzen Sie dafür gern unsere kostenlose BOOSTER-Analyse.
  2. Betriebstyp klären: Microsoft 365 ja oder nein, davon hängt ab, ob Copilot überhaupt in Frage kommt.
  3. Rechte und Datenschutz prüfen: Zugriffsrechte aufräumen, Datenverarbeitungsvertrag abschließen, Datenort klären.
  4. Kleiner Pilot: Eine Abteilung, ein Prozess, einige Wochen. Messen Sie, was es bringt, bevor Sie ausrollen. Wie das aussieht, beschreibt KI-Implementierung Schritt für Schritt.
  5. Regeln und Liste festhalten: Richtlinie, freigegebene Werkzeuge, Schulung, Teilnahmeliste. Die fertigen Vorlagen dafür finden Sie im KI-Nachweis.

Förderung für die Einführung

Die Beratung zur KI-Einführung lässt sich über das BAFA fördern, die Lizenzen selbst nicht. Noch in 2026 sind bis zu 3.500 € (z. B. in NRW) bzw. 5.600 € (höher geförderte Regionen und neue Bundesländer) Zuschuss möglich, verteilt auf zwei geförderte Beratungen, je bis zu 1.750 € bzw. 2.800 €. Wie das für Ihren Betrieb aussieht, klären wir im Erstgespräch. Mehr dazu finden Sie unter BAFA-Förderung, die Einordnung der Beratung unter KI-Beratung für den Mittelstand.

Häufige Fragen

Was ist der Unterschied zwischen Microsoft Copilot, ChatGPT und Claude?

Copilot ist in Microsoft 365 eingebaut und arbeitet mit den Inhalten, auf die der jeweilige Nutzer dort Zugriff hat. ChatGPT und Claude sind eigenständige Werkzeuge, in die Sie Inhalte selbst hineingeben. Welches besser passt, hängt vor allem davon ab, ob Ihr Betrieb bereits mit Microsoft 365 arbeitet.

Brauche ich Microsoft 365, um Copilot zu nutzen?

Copilot ist in Microsoft 365 eingebaut und setzt deshalb voraus, dass Ihr Betrieb Microsoft 365 nutzt. Arbeiten Sie ohne Microsoft 365, ist ein eigenständiges Werkzeug wie ChatGPT oder Claude der naheliegende Weg.

Sind unsere Firmendaten sicher, und wird damit trainiert?

Microsoft gibt an, dass Eingaben, Antworten und über Microsoft Graph abgerufene Daten nicht zum Training der Basismodelle verwendet werden. OpenAI gibt für ChatGPT Business und Anthropic für Claude Team und Enterprise an, dass Geschäftsdaten standardmäßig nicht zum Training genutzt werden. In allen Fällen sollten Sie den Datenverarbeitungsvertrag abschließen und den Datenort mit Ihrem Datenschutzbeauftragten klären. Private, kostenlose Konten gehören nicht in den Betrieb.

Kann ich mehrere Werkzeuge parallel nutzen?

Ja. Wir arbeiten selbst mit allen großen Systemen und nutzen sie manchmal nacheinander: Eines erstellt, das zweite optimiert und prüft gegen, das dritte übernimmt den Feinschliff. Für Ihre Mitarbeiter empfehlen wir trotzdem ein freigegebenes Hauptwerkzeug, damit Regeln, Schulung und Nachweis überschaubar bleiben.

Welchen Nachweis brauche ich nach dem EU AI Act?

Artikel 4 verlangt seit der Neufassung zum 27. Juli 2026, dass Sie Maßnahmen ergreifen, die die Entwicklung der KI-Kompetenz Ihrer Mitarbeiter unterstützen. In der Praxis lässt sich das am einfachsten belegen: mit einer schriftlichen Nutzungsrichtlinie samt Liste der freigegebenen Werkzeuge, einer kurzen Schulung und einer Teilnahmeliste.

Wird die Einführung gefördert?

Die Beratung dazu ist über das BAFA-Programm für Unternehmensberatungen förderfähig, die Lizenzen selbst nicht. Noch in 2026 sind bis zu 3.500 € (z. B. NRW) bzw. 5.600 € (höher geförderte Regionen und neue Bundesländer) Zuschuss möglich, verteilt auf zwei geförderte Beratungen. Der Antrag muss vor Beratungsbeginn vorliegen.

In 30 Minuten wissen, wo Ihr Betrieb verliert

Sichern Sie sich Ihre BOOSTER-Analyse. Kostenlos, unverbindlich, 30 Minuten.

BOOSTER-Analyse sichern →