Gastbeitrag von Prof. Dr. Marco Barenkamp, LL.M. Honorarprofessor für Künstliche Intelligenz und Digitalisierung

Agentische KI trifft operative Entscheidungen ohne menschliche Freigabe im Einzelfall. Für Aufsichtsräte verschiebt sich die Überwachungsaufgabe damit an eine Stelle, für die in vielen Gremien noch keine Routinen existieren.

Prädiktive KI hat prognostiziert, generative KI hat formuliert. In beiden Fällen blieb die Entscheidung allerdings beim Menschen. Nun heben agentische Systeme diese Trennung auf und passen Preise an, steuern Bestellprozesse, priorisieren Kreditanträge oder lösen Transaktionen aus, ohne dass jede einzelne Aktion freigegeben wird. Das Unternehmen delegiert damit echte Entscheidungsbefugnis.

Für die Aufsichtsarbeit ist diese Unterscheidung zentral. Solange KI Analysen liefert, lässt sie sich wie jedes andere Werkzeug überwachen. Sobald sie allerdings selbst handelt, werden Befugnisgrenzen, Eskalationswege und Abschaltmechanismen zum Gegenstand der Überwachungspflicht nach § 111 AktG.

Hinzu kommt eine Eigenschaft, die agentische Systeme von menschlichen Fehlentscheidungen unterscheidet. Ein Mensch irrt einzeln, ein System irrt in Serie, und es meldet sich dabei nicht.

WAS DAS AKTIENRECHT VERLANGT

Die Business Judgment Rule des § 93 Abs. 1 S. 2 AktG schützt unternehmerische Entscheidungen vor persönlicher Haftung nur dann, wenn sie auf angemessener Informationsgrundlage getroffen wurden. Über § 116 AktG gilt derselbe Maßstab für den Aufsichtsrat. Ein Gremium, das der Einführung eines agentischen Systems zustimmt, ohne dessen Entscheidungsbefugnisse, Auditierbarkeit und Eingriffsmöglichkeiten geprüft zu haben, verliert diesen Schutz. Die Pflicht beginnt also nicht erst beim Schadensfall. Sie beginnt bei der Zustimmung.

Wie wenig die Verteidigung trägt, das System habe eben eigenständig gehandelt, haben die Gerichte inzwischen geklärt, auch in Deutschland. Das Oberlandesgericht Hamm verurteilte im Mai 2026 die Betreiberin einer Klinik für ästhetische Medizin zur Unterlassung, nachdem deren Website-Chatbot den beiden Geschäftsführern Facharzttitel zugeschrieben hatte, die sie nicht führen dürfen und die teilweise gar nicht existieren. Der Senat wertete die halluzinierten Auskünfte als irreführende geschäftliche Handlung nach § 5 UWG und rechnete sie dem Unternehmen unmittelbar zu. Der Chatbot sei kein Dritter, hinter dem sich die Betreiberin verstecken könne.

Bemerkenswert ist die Reichweite dieser Begründung. Selbst der Einwand, das System sei ausschließlich mit korrekten Daten trainiert worden, entlastete nicht. Die Revision zum Bundesgerichtshof ist zugelassen, die Richtung der Rechtsprechung aber unverkennbar.

Schon 2024 hatte das Civil Resolution Tribunal in British Columbia im Verfahren Moffatt gegen Air Canada identisch entschieden. Die Fluggesellschaft hatte vorgetragen, ihr Chatbot sei für seine Auskünfte selbst verantwortlich. Das Tribunal wies das zurück und verpflichtete das Unternehmen, für die Falschauskunft einzustehen. Die Zurechnung endet nicht an der Schnittstelle zur Maschine.

Auf Gremienebene gilt dieselbe Logik, und das Hammer Urteil zeigt zugleich, dass die Folgen nicht beim Schadensersatz enden. Abmahnung, Unterlassungsklage und der wettbewerbsrechtliche Vorwurf der Irreführung treffen ein Unternehmen auch dort, wo der einzelne Schaden klein ist.

Auch der Regulierungsrahmen setzt voraus, was viele Unternehmen noch nicht gebaut haben. Artikel 14 der europäischen KI-Verordnung verlangt für Hochrisikosysteme eine wirksame menschliche Aufsicht. Wirksam ist sie allerdings nur, wenn Eingriffsrechte vor der Inbetriebnahme festgelegt sind und nicht erst gesucht werden, wenn das System bereits fehlerhaft arbeitet.

Die Regierungskommission Deutscher Corporate Governance Kodex hat im September 2025 einen Praxis-Impuls zum Einsatz von KI im Aufsichtsrat veröffentlicht und im März 2026 fortgeschrieben. Das Papier beschreibt Anwendungsfälle, Kompetenzanforderungen und Governance-Strukturen und markiert damit eine Erwartungshaltung, hinter die kein Gremium mehr zurückfällt. Was es nicht leisten kann, ist die Urteilsfähigkeit im konkreten Fall. Die entsteht im Gremium selbst, durch systematischen Kompetenzaufbau und durch Mitglieder, die KI-Systeme in operativer Verantwortung erlebt haben.

FÜNF FRAGEN FÜR DIE NÄCHSTE SITZUNG

Wer die Berichterstattung des Vorstands zu agentischen Systemen prüft, braucht keinen Technikkurs, sondern die richtigen Fragen.

1. Welche Entscheidungen trifft das System autonom, und wo liegen die wertmäßigen und sachlichen Grenzen dieser Befugnis?
2. Nach welchen Kriterien eskaliert das System an einen Menschen, und wer ist das konkret?
3. Sind die Entscheidungen des Systems dokumentiert und im Nachhinein prüfbar?
4. Wie wird ein fehlerhaft arbeitendes System im laufenden Betrieb erkannt und gestoppt?
5. Wer im Vorstand verantwortet das System, und in welchem Turnus berichtet diese Person an das Gremium?

Die Antworten gehören ins Protokoll. Wer nachfragt, muss auch festhalten können, dass er nachgefragt hat. Die Dokumentation der eigenen Prüfung ist im Streitfall der Unterschied zwischen einer verteidigungsfähigen Position und einer persönlichen Haftungsfrage.

Agentische KI kündigt ihr Versagen nicht an, daher ist die Frühwarnung keine technische Funktion, sondern eine ureigene Gremienaufgabe. Aufsichtsräte, die Befugnisgrenzen, Eskalationswege und Eingriffsrechte jetzt klären, verschaffen ihren Unternehmen den Spielraum, KI ohne offene Haftungsflanke zu skalieren. Genau dort entscheidet sich, ob die Technologie Wertschöpfung sichert oder Rückstellungen produziert.

Autor: Prof. Dr. Marco Barenkamp, LL.M. Honorarprofessor für Künstliche Intelligenz und Digitalisierung, Hochschule Osnabrück Aufsichtsrat ALBIS Leasing AG | stv. Aufsichtsratsvorsitzender LMIS AG | Beirat TestSolution GmbH Buch: „AI-Governance im Aufsichtsrat”, Springer 2026

Dieser Beitrag erschien zuerst als Gastbeitrag im Handelsblatt.