KI und Haftung: Wofür Sie als Geschäftsführer persönlich geradestehen

In den meisten mittelständischen Betrieben ist KI längst im Haus. Selten als beschlossenes Projekt, meistens leise: ein Assistent im Vertrieb, ein Übersetzungswerkzeug im Einkauf, eine Auswertung in der Produktion. Solange alles gutgeht, stellt niemand die Frage, die am Ende zählt. Sie lautet: Wer steht gerade, wenn eine dieser Anwendungen etwas Falsches tut?

Die Antwort ist unbequemer, als viele erwarten. Sie lautet in aller Regel: Sie. Nicht der Anbieter, nicht das Modell, nicht der Mitarbeiter, der die Software gefunden hat. Aus mehr als 100 BOOSTER-Analysen wissen wir, dass genau dieser Punkt in Betrieben am seltensten geklärt ist. Dieser Beitrag ordnet die Lage ein und zeigt, was daraus praktisch folgt.

Was sich gerade verändert

Bis vor Kurzem war KI ein Werkzeug, das antwortet, wenn man es fragt. Sie schreibt einen Text, fasst ein Dokument zusammen, schlägt eine Formulierung vor. Der Mensch bleibt in jedem einzelnen Schritt dazwischen.

Diese Rollenverteilung löst sich gerade auf. KI-Agenten erledigen Aufgaben von Anfang bis Ende, sie greifen dafür auf E-Mails, Dateien und Fachsysteme zu und stoßen selbst Aktionen an. Was das heute wirklich leistet, haben wir im Beitrag KI-Agenten für KMU beschrieben. Für die Verantwortungsfrage ist der Unterschied entscheidend: Ein Werkzeug macht Vorschläge, ein Agent handelt in Ihrem Namen.

Dazu kommt ein zweiter Punkt, der wenig mit KI zu tun hat und trotzdem dazugehört. Ihr Betrieb läuft auf Software, die andere gebaut haben. Deren Schwachstellen sind Ihre Schwachstellen, sobald die Programme bei Ihnen im Einsatz sind.

Der Kern: Verantwortung lässt sich nicht auslagern

Ob zugekaufte Software oder ein selbstständig arbeitender Agent: Sobald etwas in Ihrem Unternehmen arbeitet, sind Sie dafür verantwortlich, was damit geschieht. Diese Verantwortung geht nicht auf den Anbieter über, nur weil er die Technik gebaut hat. Sie geht erst recht nicht auf die KI über, weil eine Software kein Rechtssubjekt ist.

Vertraglich lassen sich Regressansprüche gegen einen Anbieter vereinbaren. Das ist sinnvoll und sollte in jedem Softwarevertrag stehen. Es ändert aber nichts an der ersten Ebene: Nach außen, gegenüber Kunden, Betroffenen und Behörden, steht Ihr Unternehmen ein. Der Regress ist ein zweiter Schritt, der oft langwierig ist und regelmäßig durch Haftungsbegrenzungen im Kleingedruckten gedeckelt wird.

Vertrauen ist gut. Nachweisen können ist Pflicht. Sie müssen belegen können, was Ihre Systeme tatsächlich getan haben, nicht nur, was sie tun sollten.

Ein verbreitetes Missverständnis gehört an dieser Stelle ausgeräumt. Viele Betriebe sagen: „Das läuft bei uns im Haus, also haben wir es unter Kontrolle." Wo Daten liegen, sagt allerdings nichts darüber aus, ob jemand nachvollziehen kann, was passiert ist. Eigenbetrieb ist eine Frage der Datenhoheit. Kontrolle ist eine Frage der Sichtbarkeit.

Die neuen Spielregeln, verständlich sortiert

Zwei europäische Rechtsakte prägen das Thema. Sie werden gerne in einen Topf geworfen, betreffen aber unterschiedliche Rollen.

Der EU AI Act nimmt auch die Anwender in die Pflicht

Der EU AI Act unterscheidet zwischen Anbietern und Betreibern. Betreiber sind alle, die ein KI-System unter eigener Verantwortung einsetzen, also der ganz normale Anwenderbetrieb. Für Betreiber gelten eigene Pflichten: menschliche Aufsicht über die Systeme, Aufbewahrung von Protokollen, Transparenz gegenüber betroffenen Personen und ausreichende KI-Kompetenz der Beschäftigten.

Die Verbote unzulässiger Praktiken und die Pflicht zur KI-Kompetenz gelten bereits seit dem 2. Februar 2025. Seit dem 2. August 2026, also seit wenigen Tagen, ist der Rechtsakt weitgehend umfassend anwendbar. Was beim Kompetenznachweis konkret verlangt wird, steht im Beitrag KI-Kompetenzpflicht ab August 2026.

Der Bußgeldrahmen ist deutlich: bis zu 35 Mio. Euro oder 7 Prozent des weltweiten Jahresumsatzes bei verbotenen Praktiken, bis zu 15 Mio. Euro oder 3 Prozent bei sonstigen Verstößen. Für kleine und mittlere Unternehmen gilt jeweils der niedrigere der beiden Beträge als Obergrenze. Diese Zahlen sind für einen Mittelständler in der Praxis kaum das realistische Szenario. Wichtiger ist die Signalwirkung: Der Gesetzgeber betrachtet den Einsatz von KI als aufsichtspflichtige Tätigkeit.

Der Cyber Resilience Act trifft Hersteller, wirkt aber auf alle

Der Cyber Resilience Act regelt die Sicherheit von Produkten mit digitalen Elementen. Adressat sind Hersteller, Importeure und Händler. Ab dem 11. September 2026 gelten die Melde- und Schwachstellenpflichten, ab dem 11. Dezember 2027 die vollständigen Produktanforderungen einschließlich CE-Kennzeichnung.

Als reiner Anwender trifft Sie der Rechtsakt nicht unmittelbar. Sie profitieren davon, weil eingekaufte Software sicherer werden muss. Entscheidend ist die Abgrenzung, die im Mittelstand oft übersehen wird: Wer eigene Software, ein Kundenportal oder eine vernetzte Maschine mit Steuerungssoftware ausliefert, ist Hersteller im Sinne des Rechtsakts. Wer fremde Software wesentlich verändert, kann ebenfalls in diese Rolle rutschen. Gerade Maschinen- und Anlagenbauer sollten das früh prüfen.

Warum das für Sie persönlich relevant ist

Viele Geschäftsführer gehen davon aus, die GmbH schütze sie in jedem Fall. Bei Pflichtverletzungen stimmt das nicht. § 43 GmbHG verlangt von Geschäftsführern die Sorgfalt eines ordentlichen Geschäftsmanns. Wer diese Sorgfalt verletzt und der Gesellschaft dadurch einen Schaden zufügt, haftet ihr gegenüber persönlich, mit dem eigenen Vermögen.

Auf den KI-Einsatz übertragen heißt das: Die Auswahl der Systeme, die Organisation der Aufsicht und die Frage, ob überhaupt jemand hinsieht, sind Leitungsaufgaben. „Das hat die KI entschieden" ist keine Entlastung. „Dafür ist unser Anbieter zuständig" ebenfalls nicht, weil die Auswahl und Überwachung des Anbieters wiederum Ihre Aufgabe ist.

Die gute Nachricht steckt in derselben Norm. Verlangt wird kein perfektes Ergebnis, sondern ein sorgfältiges Vorgehen. Wer nachweisen kann, dass er die Risiken erfasst, Regeln aufgestellt, Zuständigkeiten benannt und den Betrieb überwacht hat, steht deutlich anders da als jemand, der von der Existenz der Systeme nichts wusste.

Was Sie praktisch brauchen

Aus den Pflichten lässt sich eine kurze Liste ableiten. Sie ist unabhängig davon, welche Werkzeuge Sie einsetzen, und beschreibt vier Fähigkeiten, die Ihr Betrieb haben sollte.

• Sichtbarkeit: Sie wissen, welche KI-Anwendungen im Einsatz sind, wer sie nutzt und auf welche Daten sie zugreifen. Ohne diesen Überblick ist jede weitere Maßnahme Raten.
• Leitplanken und Freigaben: Es ist festgelegt, was ein System selbst entscheiden darf und wo ein Mensch zustimmen muss. Kritische Schritte wie Bestellungen, Zahlungen, Kundenkommunikation oder Änderungen an Stammdaten gehören in die zweite Gruppe.
• Protokoll: Was tatsächlich geschehen ist, wird festgehalten. Das ist Ihr Beleg gegenüber Kunden, Prüfern und Behörden, und im Streitfall Ihr Beleg gegenüber dem Anbieter.
• Rückholbarkeit: Wenn etwas schiefläuft, muss es sich korrigieren lassen. Ein Prozess ohne Rückweg ist ein Prozess, den Sie nicht kontrollieren.

Nichts davon verlangt eine eigene IT-Abteilung. Der erste Durchgang ist Organisationsarbeit: eine Liste der eingesetzten Anwendungen, eine schriftliche Nutzungsrichtlinie, benannte Verantwortliche je System und eine klare Regel, welche Schritte eine Freigabe brauchen. Wer damit anfängt, stellt regelmäßig fest, dass in seinem Haus deutlich mehr KI läuft als vermutet. Wie diese Schatten-KI entsteht und was dagegen hilft, haben wir gesondert beschrieben.

Vier Schritte, die sich in Wochen gehen lassen

1. Bestandsaufnahme. Erfassen Sie, welche KI-Anwendungen im Haus genutzt werden, offiziell und inoffiziell. Fragen Sie die Abteilungen direkt und ohne Drohkulisse, sonst bekommen Sie kein ehrliches Bild.
2. Regeln aufschreiben. Eine KI-Nutzungsrichtlinie auf zwei Seiten: erlaubte Werkzeuge, verbotene Daten, Freigabepflichten, Ansprechpartner. Kurz genug, dass sie gelesen wird.
3. Einen Prozess sauber aufsetzen. Nehmen Sie einen einzigen Anwendungsfall und richten Sie ihn mit Freigaben und Protokoll ein. Daran lernt die Organisation mehr als an jeder Präsentation.
4. Turnus festlegen. Wer schaut wie oft auf die Protokolle und die Liste der Systeme? Ohne Termin passiert es nicht.

Diese Reihenfolge ist bewusst gewählt. Sie beginnt bei der Organisation und endet bei der Technik, nicht umgekehrt. Das ist derselbe Grundsatz wie bei jeder Prozessoptimierung, mit und ohne KI: erst den Ablauf verstehen, dann über Werkzeuge reden.

Was das kostet und was die BAFA übernimmt

Der Einstieg über die BOOSTER-Analyse ist kostenlos. Sie zeigt in rund 30 Minuten, wo Ihr Betrieb Zeit und Geld verliert, und macht dabei sichtbar, welche Systeme heute ungesteuert mitlaufen. Für die anschließende Begleitung ist strategische KI- und Prozessberatung über das BAFA-Programm förderfähig: Noch in 2026 sind bis zu 3.500 € (z. B. NRW) bzw. 5.600 € (höher geförderte Regionen / neue Bundesländer) Zuschuss möglich, verteilt auf zwei geförderte Beratungen, je bis zu 1.750 € bzw. 2.800 €. Wichtig: Der Antrag muss vor Beratungsbeginn vorliegen und der Berater BAFA-gelistet sein. Mehr dazu auf den Seiten KI-Beratung für den Mittelstand und BAFA-Förderung.

KI kommt in Ihr Unternehmen, mit oder ohne Ihre Kontrolle. Der Unterschied zwischen beiden Wegen ist keine Frage der Technik, sondern eine Frage der Führung. Wer sich in den nächsten Wochen einen Nachmittag Zeit nimmt, um die vier Punkte oben zu klären, hat den wesentlichen Teil erledigt.

Häufige Fragen

Wer haftet, wenn eine KI im Unternehmen einen Fehler macht?

Nach außen haftet das Unternehmen, das die KI einsetzt. Der Umstand, dass eine Software oder ein KI-Anbieter den Fehler verursacht hat, ändert daran zunächst nichts. Regressansprüche gegen den Anbieter sind ein zweiter, davon getrennter Schritt und hängen vom Vertrag ab. Für die Geschäftsführung kommt eine zweite Ebene hinzu: Wer die notwendige Aufsicht über eingesetzte Systeme unterlässt und dem Unternehmen dadurch einen Schaden zufügt, kann nach § 43 GmbHG persönlich in Anspruch genommen werden.

Gilt der EU AI Act auch für Unternehmen, die KI nur nutzen?

Ja. Der Rechtsakt unterscheidet zwischen Anbietern und Betreibern, also denen, die KI unter eigener Verantwortung einsetzen. Betreiber trifft eine eigene Pflichtenreihe: menschliche Aufsicht über die Systeme, Aufbewahrung von Protokollen, Transparenz gegenüber betroffenen Personen und ausreichende KI-Kompetenz der Beschäftigten. Diese Pflichten bestehen unabhängig davon, ob die KI selbst entwickelt oder eingekauft wurde.

Welche Fristen gelten beim EU AI Act und beim Cyber Resilience Act?

Beim EU AI Act gelten die Verbote unzulässiger Praktiken und die Pflicht zur KI-Kompetenz der Beschäftigten seit dem 2. Februar 2025. Seit dem 2. August 2026 ist der Rechtsakt weitgehend umfassend anwendbar. Beim Cyber Resilience Act greifen die Melde- und Schwachstellenpflichten ab dem 11. September 2026, die vollständigen Produktanforderungen einschließlich CE-Kennzeichnung ab dem 11. Dezember 2027.

Betrifft der Cyber Resilience Act auch reine Anwender?

Die Pflichten richten sich an Hersteller, Importeure und Händler von Produkten mit digitalen Elementen. Als reiner Anwender sind Sie davon nicht direkt betroffen, spüren die Wirkung aber über die Lieferkette. Wichtig ist die Abgrenzung: Wer eigene Software, Portale oder vernetzte Maschinen mit Software an Kunden liefert oder Fremdsoftware wesentlich verändert, kann selbst in die Herstellerrolle rutschen und damit unmittelbar in die Pflicht.

Wie hoch sind die Bußgelder nach dem EU AI Act?

Für den Einsatz verbotener KI-Praktiken sieht der Rechtsakt Geldbußen bis 35 Mio. Euro oder 7 Prozent des weltweiten Jahresumsatzes vor, je nachdem, welcher Betrag höher ist. Für die Verletzung sonstiger Pflichten liegt der Rahmen bei bis zu 15 Mio. Euro oder 3 Prozent. Für kleine und mittlere Unternehmen gelten die jeweils niedrigeren der beiden Beträge als Obergrenze.

Was muss ein mittelständisches Unternehmen konkret nachweisen können?

Im Kern vier Dinge: welche KI-Systeme im Einsatz sind und wer dafür verantwortlich ist, welche Daten diese Systeme sehen dürfen, wer welche Entscheidung freigegeben hat und was die Systeme tatsächlich getan haben. Für den Anfang genügen ein schriftliches Verzeichnis der eingesetzten Anwendungen, eine KI-Nutzungsrichtlinie, dokumentierte Freigaben für kritische Schritte und ein nachvollziehbares Protokoll. Das ist Organisationsarbeit, keine IT-Großinvestition.

Ist Beratung zu KI-Einsatz und Verantwortung förderfähig?

Ja. Über das BAFA-Programm für Unternehmensberatungen ist strategische KI- und Prozessberatung förderfähig. Noch in 2026 sind bis zu 3.500 € (z. B. NRW) bzw. 5.600 € (höher geförderte Regionen / neue Bundesländer) Zuschuss möglich, verteilt auf zwei geförderte Beratungen, je bis zu 1.750 € bzw. 2.800 €. Der Antrag muss vor Beratungsbeginn vorliegen und der Berater BAFA-gelistet sein.