Im geschäftlichen Alltag dürfte KI angekommen sein. Nach variiert der Nutzungsgrad stark: Die einen freuen sich über schnelle Recherche und nette Tipps, andere denken – weit weg von unserer gemeinnützigen Welt – über automatische Vorstände und selbstgesteuerte Kapitalgesellschaften nach: Kann die Leitung nicht von einer KI übernommen werden?
Nach deutschem Recht ist das nicht möglich. Verantwortung tragen müssen Menschen: Haftbare Rechtssubjekte. Nutzen dürfen sie KI. Welche Pflichten haben Geschäftsleiter (Organ-Geschäftsführer und Vorstände) beim Einsatz von KI im Unternehmen?
Grundsätzlich
KI-Einsatz muss sie den gesetzlichen Anforderungen entsprechen und der Legalitätspflicht genügen. Entscheidungen müssen rechtmäßig sein. Gesetzliche Vorgaben wie KI-VO und DSGVO, arbeitsrechtliche Vorgaben sowie Diskriminierungsverbote, Urheberrecht und mehr sind zu beachten.
Für gemeinnützige Organisationen gilt außerdem: Der Einsatz von KI darf den satzungsmäßigen Zweck nicht unterlaufen. Beispiel: Eine für die freie Wirtschaft entwickelte KI, die zahlungskräftige und zuverlässige Kunden bevorzugt, eignet sich nicht immer für Entscheidungen in einer „helfenden“ Organisation.
Verantwortung
Ob durch den Geschäftsführer oder andere Mitarbeiter eingesetzt: KI-basierte Entscheidungen werden dem Unternehmen in der Regel zugerechnet. Haftung für Fehler kann das die KI nutzende Unternehmen und damit die Geschäftsleitung treffen.
Zwar besteht noch keine gesetzliche Pflicht zum Einsatz von KI. Geschäftsleiter sind aber verpflichtet, die Geschäftsführung an den Zwecken und wirtschaftlichen Interessen des Unternehmens auszurichten. Ab einem gewissen Punkt wird das nur unter Einsatz von KI möglich sein. Irgendwann wird also auch der Verzicht auf KI zum Verstoß gegen das Gebot ordnungsgemäßer Geschäftsführung, z.B. wenn nur so eine konkurrenzfähige Betriebsführung möglich ist. Wer sich andererseits ganz auf KI verlässt, wird sich früher oder später Ärger einhandeln. Keinesfalls zu empfehlen ist es, die Entscheidungen, ob, wie und welche KI zum Einsatz kommt, unkontrolliert den Mitarbeitern zu überlassen.
Maßstäbe
Wie geht es richtig? Eine abschließende rechtliche Antwort gibt es noch nicht. Voraussichtlich wird sich die Rechtsprechung an den schon heute für eine verantwortungsvolle Geschäftsleitung geltenden Grundsätzen orientieren. Folglich muss auch der Einsatz von KI verantwortungsbewusst erfolgen.
Für die Frage, ob Geschäftsleiter für negative Folgen einer Entscheidung haften, deren Konsequenzen nicht völlig absehbar waren, gilt die Business Judgement Rule: Der Geschäftsleiter haftet dann für die Entscheidung nicht, wenn er sie auf Grundlage angemessener Informationen getroffen hat, vernünftigerweise annehmen durfte, zum Wohle des Unternehmens zu handeln, und die Entscheidung zum Zeitpunkt ihrer Fällung vertretbar war.
Die Geschäftsleitung braucht dafür ein angemessenes eigenes Grundverständnis von Funktionsweise und Risiken der eingesetzten KI. Wo dieses nicht vorhanden ist, ist externe Beratung erforderlich.
Eine KI muss sich für die ihr zugedachte Aufgabe eignen, also erwarten lassen, diese zufriedenstellend zu bewältigen. Aus Vergleichen zu Grundsätzen für Mitarbeiter und Berater lässt sich ableiten: Zur Beurteilung der Eignung muss zunächst Klarheit über die gestellte Aufgabe bestehen. Die Eignung für diese Aufgabe muss beurteilt werden. Wie z.B. Beratern müssen dem System ausreichende Information (Training, Datengrundlage) zur Verfügung gestellt werden. Schließlich dürfen Arbeitsergebnisse nicht unbesehen übernommen werden. Sie sind einer Plausibilitätskontrolle zu unterziehen.
Bei grundlegenden oder weitreichenden Entscheidungen darf der Einsatz von Künstlicher Intelligenz nicht unbeachtet mitlaufen. Hier muss die Geschäftsleitung selbst über das Ob und Wie der Nutzung entscheiden. Routineentscheidungen oder klar vorgegebene Abläufe können (unter Wahrung der Organisations- und Überwachungspflichten) stärker automatisiert werden. Es ist zu unterscheiden, ob KI Entscheidungen fällt oder menschliche Entscheidungen unterstützt. Je stärker KI eine Entscheidung vorgibt, desto höher sind die Anforderungen an Prüfung und Kontrolle.
Besonderheiten
Bei KI besteht eine Blackbox-Problematik und es handelt sich um ein „Moving Target“. Arbeits- und Entscheidungsvorgänge von KI sind oft nicht transparent oder überprüfbar. Weder das Trainingsmaterial noch die Parameter der Entscheidungsfindung sind immer umfassend bekannt. Hinzu kommt die laufende Fortentwicklung. Bewertungen müssen also regelmäßig wiederholt werden. Es empfehlen sich:
- Klare Zuständigkeiten für KI‑Themen,
- Regelmäßige Überprüfung eingesetzter Systeme,
- Anpassung an neue rechtliche Vorgaben und
- Dokumentation von Entscheidungen.
Wir unterstützen Sie gerne bei allen Fragen zu KI, Datenschutz sowie Geschäftsleiterpflichten bei der Unternehmensorganisation im Allgemeinen. Jetzt Kontakt aufnehmen!