Der Einsatz von Künstlicher Intelligenz im Gesundheitswesen. Ausgewählte haftungsrechtliche Probleme gegenüber Patienten

Inhaltsverzeichnis

A. Einleitung

B. KI im Überblick

I. Abgrenzung der „schwachen“ KI zur „starken“ KI

1. Expertensysteme

2. Lernende Systeme

II. Einsatz von KI im Gesundheitswesen

1. Anwendungen in der Medizin

2. Einordnung der KI-Systeme als Medizinprodukt

III. Zwischenfazit

C. Ausgewählte haftungsrechtliche Probleme

I. Herausforderungen für das Haftungsrecht

II. Vertragliche Haftung

1. Abschluss eines Behandlungsvertrages durch eine KI

a) Abgabe einer Willenserklärung durch eine KI

b) Zurechnung der Willenserklärung zum Betreiber

aa) Analoge Anwendung der Computererklärung

bb) KI als Erklärungsbote

cc) KI als Vertreter

c) Zwischenfazit

2. Haftung des Betreibers aus §§ 280 Abs. 1 i.V.m. 630a BGB

a) Schuldverhältnis

b) Pflichtverletzungen

c) Vertretenmüssen des Vertragsschuldners

aa) Verletzung von Verkehrs- und Sorgfaltspflichten

bb) Abweichung vom Facharztstandard

cc) Aufklärungsfehler

dd) Zurechnung des Verschuldens Dritter

d) Haftungsbegründende Kausalität

aa) Äquivalente Kausalität

bb) Adäquate Kausalität

e) Beweislast bei voll beherrschbaren Behandlungsfehlern

f) Zwischenfazit

III. Deliktische Haftung / Produkthaftung

1. Haftung der KI aus § 823 Abs. 1 BGB

2. Haftung des Betreibers aus § 823 Abs. 1 BGB

a) Analogie zur vertraglichen Haftung des Betreibers

aa) Zurechnung des Verschuldens Dritter

bb) Beweislast bei voll beherrschbaren Behandlungsfehlern

b) Zwischenfazit

3. Haftung des Betreibers aus § 831 Abs. 1 BGB

4. Haftung des Herstellers aus § 1 ProdHaftG

a) Inanspruchnahme und Herstellerverantwortung

b) KI-Systeme als Produkt im Sinne des ProdHaftG

c) Vorliegen eines Fehlers

aa) Berechtigterweise zu erwartende Sicherheit

bb) Zeitpunkt des Inverkehrbringens

cc) Haftungsentlastung für Entwicklungsfehler

d) Beweislast

e) Zwischenfazit

5. Haftung des Herstellers aus § 823 Abs. 1 BGB

a) Verantwortlichkeit des Herstellers

b) Beweislast

c) Zwischenfazit

D. Mögliche Lösungsansätze

I. Einführung einer digitalen Rechtsperson

1. Abgrenzungsproblematik

2. Fehlende Vermögensfähigkeit

3. Fehlender Wille und fehlende Moralvorstellung

4. Zwischenfazit

II. Einführung einer Gefährdungshaftung des Betreibers

E. Fazit

Zielsetzung & Themen

Die Arbeit untersucht die haftungsrechtlichen Fragestellungen und Probleme, die sich beim Einsatz von Künstlicher Intelligenz im Gesundheitswesen gegenüber Patienten ergeben, und prüft, ob die Forderung nach neuen Haftungsregelungen de lege ferenda notwendig ist oder das bestehende nationale Zivilrecht ausreicht.

• Grundlagen und Definition der Künstlichen Intelligenz sowie ihr Einsatz in der Medizin.
• Analyse der vertraglichen Haftung, insbesondere im Hinblick auf den Behandlungsvertrag und die Zurechenbarkeit von KI-Entscheidungen.
• Untersuchung der deliktischen Haftung und der Produkthaftung des Herstellers.
• Diskussion möglicher Lösungsansätze, wie die Einführung einer digitalen Rechtsperson oder einer Gefährdungshaftung.
• Bewertung der geltenden Rechtslage hinsichtlich der Beweislast und der Kausalität bei KI-induzierten Schäden.

Auszug aus dem Buch

Zusammenfassung der Kapitel

A. Einleitung: Diese Einleitung führt in den digitalen Wandel und die steigende Bedeutung von KI im Gesundheitswesen ein und formuliert die grundlegende Forschungsfrage nach der notwendigen Anpassung des Haftungsrechts.

B. KI im Überblick: Dieses Kapitel definiert den Begriff der Künstlichen Intelligenz, grenzt schwache von starker KI ab und erläutert den Einsatz sowie die regulatorische Einordnung medizinischer KI-Systeme als Medizinprodukte.

C. Ausgewählte haftungsrechtliche Probleme: Der Hauptteil analysiert detailliert die vertragliche Haftung des Betreibers, die deliktische Haftung sowie die Produkthaftung des Herstellers bei KI-Systemen im medizinischen Kontext.

D. Mögliche Lösungsansätze: Hier werden alternative Lösungsansätze für die identifizierten Haftungslücken diskutiert, darunter die Einführung einer digitalen Rechtsperson sowie eine Gefährdungshaftung des Betreibers.

E. Fazit: Das Fazit fasst die Ergebnisse zusammen und kommt zu dem Schluss, dass der aktuelle Rechtsrahmen einer Anpassung bedarf, wobei eine Gefährdungshaftung des Betreibers vorzuziehen ist.

Schlüsselwörter

Künstliche Intelligenz, Haftungsrecht, Behandlungsvertrag, Medizinprodukt, Patientensicherheit, Produkthaftung, KI-Systeme, Vertragsrecht, Beweislast, Zurechnung, Algorithmen, autonomes Handeln, Deliktshaftung, Haftungslücke, Gefährdungshaftung.

Häufig gestellte Fragen

Worum geht es in dieser Arbeit grundsätzlich?

Die Bachelorarbeit untersucht die haftungsrechtlichen Herausforderungen, die entstehen, wenn Künstliche Intelligenz im Gesundheitswesen bei der Behandlung von Patienten eingesetzt wird.

Was sind die zentralen Themenfelder der Arbeit?

Die Schwerpunkte liegen auf der vertraglichen Haftung von Krankenhausträgern, der deliktischen Haftung sowie der Produkthaftung von Herstellern beim Einsatz komplexer, lernender KI-Systeme.

Was ist das primäre Ziel oder die Forschungsfrage?

Es wird untersucht, ob das bestehende nationale Zivilrecht für die besonderen Risiken autonomer KI-Systeme ausreichend vorbereitet ist oder ob der Gesetzgeber neue, spezifische Haftungsregelungen schaffen muss.

Welche wissenschaftliche Methode wird verwendet?

Die Autorin nutzt eine rechtsdogmatische Analyse des geltenden Zivilrechts in Kombination mit einer Auswertung aktueller juristischer Fachliteratur, Rechtsprechung und europäischer Gesetzgebungsdokumente.

Was wird im Hauptteil der Arbeit behandelt?

Der Hauptteil analysiert die Möglichkeiten der Vertragsgestaltung, die Problematik der Zurechnung von Willenserklärungen durch KI, Fragen der Kausalität sowie die Schwierigkeiten bei der Beweislastverteilung für Patienten.

Welche Schlüsselwörter charakterisieren die Arbeit?

Neben dem zentralen Begriff der Künstlichen Intelligenz spielen Rechtsbegriffe wie Haftungslücke, Medizinprodukt, Gefährdungshaftung, Produkthaftung und Beweislastumkehr eine entscheidende Rolle.

Wie bewertet die Autorin die Einführung einer "digitalen Rechtsperson"?

Die Autorin sieht die Einführung einer digitalen Rechtsperson (ePerson) als kritisch an, da dies ethische und grundrechtliche Fragen aufwirft und die praktische Umsetzung aufgrund fehlender Moralvorstellungen und Vermögensfähigkeit von KI schwierig erscheint.

Welche Empfehlung gibt die Autorin für die Zukunft?

Sie empfiehlt, anstelle einer digitalen Rechtsperson eine Gefährdungshaftung des Betreibers einzuführen, die subsidiär zur Produkthaftung wirkt und eine faire Risikoverteilung zwischen Hersteller und Betreiber ermöglicht.