KI-Compliance in der Aktiengesellschaft

Gliederung

A. Einleitung

I. KI als Chance und Gefahr im Unternehmen

II. Ziel und Struktur der Arbeit

B. Grundlagen der Künstlichen Intelligenz

I. Definition von KI

1. Definitionsprobleme

2. Die Definition in der KI-VO

a) Definition im Kommissionsentwurf

b) Definition aus den Trilog-Verhandlungen

aa) Maschinenbasiertes System

bb) Grad an Autonomie

cc) Anpassungsfähigkeit während des Gebrauchs

dd) Explizite oder implizite Ziele

ee) Ableitung eines Outputs aus einem Input

c) Abgrenzung zu KI-Systemen mit allgemeinem Verwendungszweck

II. Risiken der KI

1. Autonomierisiko

2. Opazitätsrisiko

3. Diskriminierungsrisiko

4. Risiko der Verantwortungslücken

5. Sicherheitsrisiko

6. Rechtsrisiko

C. Compliance in der Aktiengesellschaft

I. Definition und Funktion von Compliance

II. Rechtliche Grundlagen von Compliance

III. Umfang und Inhalte der Compliance-Pflicht

1. Präventive Compliance-Maßnahmen

2. Aufklärende Maßnahmen bei Verdachtsfällen

3. Maßnahmen zur repressiven Sanktionierung von Compliance-Verstößen

D. Einsatz von KI in der Aktiengesellschaft

I. Möglichkeiten des Einsatzes von KI in der Aktiengesellschaft

1. KI in der unternehmerischen Tätigkeit

2. KI im Vorstand

a) als Leitungsorgan

b) Leitungsunterstützender Einsatz

II. Recht zum Einsatz von KI in der Aktiengesellschaft

1. Rechtliche Qualifizierung des KI-Einsatzes

2. Anwendung der Delegationsgrundsätze bei KI-Systemen

a) Unterscheidung zwischen Leitungs- und Geschäftsführungsaufgaben

b) Grundsatz der Leitungsverantwortung des Vorstands

c) Gesetzliche Leitungsaufgaben

3. Art. 22 DSGVO

III. Pflicht zum Einsatz von KI in der Aktiengesellschaft

E. Auswirkungen des Einsatzes von KI auf die Compliance-Pflichten

I. Rechts(erkenntnis)quellen

1. Aktiengesetz (AktG)

2. KI-Verordnung (KI-VO)

a) Überblick zur KI-VO

b) Relevanz der KI-VO aus der Sicht einer AG

3. Weitere Gesetze

4. Soft Law Regelwerke

II. Sorgfaltsmaßstab des Vorstands

1. Analogie von § 80 Abs. 2 und 3 WpHG

2. Heranziehung der ISION-Rechtsprechung

3. Flexibilisierung des Sorgfaltsmaßstabs

III. Pflichten bei der Einführung von KI-Systemen

1. Pflicht zur sorgfältigen Auswahl und Überprüfung des KI-Systems

2. Organisationspflichten

a) Rechtmäßigkeit des KI-Einsatzes

b) Ethische Aspekte des KI-Einsatzes

IV. Pflicht zur Information, Transparenz und Einweisung

1. Informations- und Transparenzpflichten

2. Einweisungspflichten

a) Einweisung des Vorstands

b) Einweisung der Mitarbeitenden

V. Pflicht zur angemessenen Datenausstattung des KI-Systems

VI. Pflicht zur ordnungsgemäßen Überwachung des KI-Systems

1. Facetten der Überwachungspflicht

a) Überwachung der Neutralität und Funktion

b) Überwachung der Risikoentwicklung

c) Überwachung der Cybersicherheit

d) Überwachung von Markt- und Produktentwicklungen

2. Ausgestaltung der Überwachungspflicht

a) Intensität der Überwachung

b) Überwachung der KI „per Design“

c) Menschliche Aufsicht

d) Notfallabschaltung

VII. Pflicht zur Dokumentation

VIII. Pflicht zur Plausibilisierung von KI-Ergebnissen

1. Herangehensweisen zur Plausibilitätsprüfung

2. Umfang der Plausibilitätsprüfung

IX. Pflicht zur Festlegung von Verantwortlichkeiten

1. Verantwortlichkeiten im Rahmen der KI-Haftung

2. Verantwortlichkeiten im Rahmen der Wissensorganisation

F. Fazit

I. Zusammenfassung der Ergebnisse

II. Ausblick

Zielsetzung & Themen

Die vorliegende Arbeit analysiert die rechtlichen Implikationen des Einsatzes von KI-Systemen in Aktiengesellschaften (AG), mit einem besonderen Fokus auf die Compliance-Pflichten des Vorstands. Ziel ist es zu untersuchen, unter welchen Voraussetzungen eine Nutzung rechtlich zulässig ist und wie der Vorstand seine Organisations- und Überwachungspflichten in Bezug auf die spezifischen KI-Risiken erfüllen muss, um Haftungsrisiken zu vermeiden.

• Rechtliche Qualifizierung von KI-Systemen als technisches Hilfsmittel oder Delegationsgegenstand
• Analyse der KI-spezifischen Risiken (Autonomie, Opazität, Diskriminierung, Verantwortungslücken)
• Bestimmung des Sorgfaltsmaßstabs des Vorstands bei der Einführung und Nutzung von KI
• Integration von KI-Anforderungen in die bestehende Compliance-Organisation der AG
• Durchführung von Konformitätsprüfungen und Plausibilisierungsmaßnahmen für KI-Ergebnisse

Auszug aus dem Buch

Zusammenfassung der Kapitel

A. Einleitung: Diese Einleitung führt in das Thema Künstliche Intelligenz als unternehmerisches Trendthema ein und erläutert die Forschungsfrage hinsichtlich der Compliance-Pflichten bei deren Einsatz in Aktiengesellschaften.

B. Grundlagen der Künstlichen Intelligenz: Hier werden Definitionsprobleme und die verschiedenen Kategorien der KI (schwache, starke, Superintelligenz) beleuchtet sowie die spezifischen Risiken wie Autonomie, Opazität und Diskriminierung erörtert.

C. Compliance in der Aktiengesellschaft: In diesem Teil wird die Rolle der Compliance als Schutzfunktion für die AG definiert und ihre rechtliche Herleitung aus den allgemeinen Leitungspflichten des Vorstands dargelegt.

D. Einsatz von KI in der Aktiengesellschaft: Der Abschnitt befasst sich mit den praktischen Anwendungsmöglichkeiten von KI und bewertet die rechtlichen Grenzen für einen Einsatz, insbesondere im Kontext von Vorstandsentscheidungen und Delegationsregeln.

E. Auswirkungen des Einsatzes von KI auf die Compliance-Pflichten: Dieser Hauptteil analysiert, wie sich der Einsatz von KI auf die Sorgfalts- und Organisationspflichten des Vorstands auswirkt und welche neuen Anforderungen sich aus Rechtsquellen wie der KI-Verordnung ergeben.

F. Fazit: Das Fazit fasst die Kernergebnisse der Untersuchung zusammen und gibt einen Ausblick auf die notwendige kontinuierliche Weiterentwicklung der Compliance-Strukturen angesichts der technologischen Dynamik.

Schlüsselwörter

KI-Compliance, Aktiengesetz, Vorstand, Compliance-Organisation, KI-Verordnung, Sorgfaltsmaßstab, Autonomierisiko, Opazitätsrisiko, Diskriminierungsrisiko, Leitungsverantwortung, Plausibilitätsprüfung, Datenqualität, Algorithmus, Risikomanagement, Haftungsrisiko

Häufig gestellte Fragen

Worum geht es in dieser Arbeit grundsätzlich?

Die Arbeit befasst sich mit den Compliance-Anforderungen, die entstehen, wenn Aktiengesellschaften Künstliche Intelligenz einsetzen, und wie der Vorstand dabei seinen Sorgfaltspflichten nachkommen muss.

Was sind die zentralen Themenfelder?

Zu den zentralen Themen gehören die technischen Grundlagen und Risiken von KI, die bestehenden Aktiengesellschafts- und Compliance-Strukturen sowie die Auswirkungen der neuen EU-KI-Verordnung.

Was ist das primäre Ziel der Forschungsfrage?

Die Untersuchung zielt darauf ab, aufzuzeigen, wie KI-Systeme ohne Verletzung von Sorgfaltspflichten in die Managementprozesse einer AG integriert werden können.

Welche wissenschaftliche Methode wird verwendet?

Die Arbeit stützt sich auf eine juristische Analyse unter Berücksichtigung aktueller Gesetzesvorhaben, Rechtsprechung und rechtswissenschaftlicher Literatur.

Was wird im Hauptteil der Arbeit behandelt?

Der Hauptteil analysiert detailliert die Pflichten des Vorstands bei Einführung, Überwachung und Dokumentation von KI-Systemen sowie die Notwendigkeit einer spezifischen Anpassung der Wissensorganisation.

Welche Schlüsselwörter charakterisieren die Arbeit?

KI-Compliance, Aktiengesetz, Vorstand, Risikomanagement, Sorgfaltsmaßstab, Delegation, Transparenz, Opazität und Plausibilitätskontrolle.

Wie unterscheidet sich die KI-Überwachung von herkömmlichen IT-Kontrollen?

KI erfordert aufgrund ihrer Autonomie und Blackbox-Problematik eine intensivere Überwachung, bei der auch das Lernverhalten und die Qualität der Trainingsdaten ständig validiert werden müssen.

Darf eine KI-Software von einer AG als "Vorstandsmitglied" genutzt werden?

Nach geltendem deutschen Aktienrecht (§ 76 Abs. 3 S. 1 AktG) ist die Vorstandsbesetzung zwingend natürlichen Personen vorbehalten, weshalb eine KI-Software nicht als ordentliches Organmitglied fungieren kann.