Der Einsatz von Künstlicher Intelligenz im Gesundheitswesen. Ausgewählte haftungsrechtliche Probleme gegenüber Patienten

Inhaltsverzeichnis

• A. Einleitung
• B. KI im Überblick
• Abgrenzung der "schwachen" KI zur "starken" KI
• I. Expertensysteme
• II. Lernende Systeme
• III. Einsatz von KI im Gesundheitswesen
• 1. Anwendungen in der Medizin
• 2. Einordnung der KI-Systeme als Medizinprodukt
• IV. Zwischenfazit
• C. Ausgewählte haftungsrechtliche Probleme
• I. Herausforderungen für das Haftungsrecht
• II. Vertragliche Haftung
• 1. Abschluss eines Behandlungsvertrages durch eine KI
• a) Abgabe einer Willenserklärung durch eine KI
• b) Zurechnung der Willenserklärung zum Betreiber
• aa) Analoge Anwendung der Computererklärung
• bb) KI als Erklärungsbote
• cc) KI als Vertreter
• c) Zwischenfazit
• 2. Haftung des Betreibers aus §§ 280 Abs. 1 i.V.m. 630a BGB
• a) Schuldverhältnis
• b) Pflichtverletzungen
• c) Vertretenmüssen des Vertragsschuldners
• aa) Verletzung von Verkehrs- und Sorgfaltspflichten
• bb) Abweichung vom Facharztstandard
• cc) Aufklärungsfehler
• dd) Zurechnung des Verschuldens Dritter
• d) Haftungsbegründende Kausalität
• aa) Äquivalente Kausalität
• bb) Adäquate Kausalität
• e) Beweislast bei voll beherrschbaren Behandlungsfehlern
• f) Zwischenfazit
• III. Deliktische Haftung / Produkthaftung
• 1. Haftung der KI aus § 823 Abs. 1 BGB
• 2. Haftung des Betreibers aus § 823 Abs. 1 BGB
• a) Analogie zur vertraglichen Haftung des Betreibers
• aa) Zurechnung des Verschuldens Dritter
• bb) Beweislast bei voll beherrschbaren Behandlungsfehlern
• b) Zwischenfazit
• 3. Haftung des Betreibers aus § 831 Abs. 1 BGB
• 4. Haftung des Herstellers aus § 1 ProdHaftG
• a) Inanspruchnahme und Herstellerverantwortung
• b) KI-Systeme als Produkt im Sinne des ProdHaftG
• c) Vorliegen eines Fehlers
• aa) Berechtigterweise zu erwartende Sicherheit
• bb) Zeitpunkt des Inverkehrbringens
• cc) Haftungsentlastung für Entwicklungsfehler
• d) Beweislast
• e) Zwischenfazit
• 5. Haftung des Herstellers aus § 823 Abs. 1 BGB
• a) Verantwortlichkeit des Herstellers
• b) Beweislast
• c) Zwischenfazit
• IV. Mögliche Lösungsansätze
• 1. Einführung einer digitalen Rechtsperson
• 2. Einführung einer Gefährdungshaftung des Betreibers
• E. Fazit

Zielsetzung und Themenschwerpunkte

Die vorliegende Bachelorarbeit befasst sich mit den haftungsrechtlichen Problemen, die sich aus dem Einsatz von Künstlicher Intelligenz (KI) im Gesundheitswesen ergeben. Ziel ist es, die rechtlichen Herausforderungen im Bereich der Haftung gegenüber Patienten im Zusammenhang mit KI-gestützten Behandlungsentscheidungen zu analysieren.

• Haftung für Entscheidungen und Handlungen von KI-Systemen
• Zurechnung von KI-bedingten Fehlern
• Bedeutung von Transparenz und Verantwortlichkeit im Umgang mit KI
• Rechtliche Rahmenbedingungen für die Entwicklung und Anwendung von KI im Gesundheitswesen
• Mögliche Lösungsansätze für die bestehenden Herausforderungen

Zusammenfassung der Kapitel

Die Einleitung liefert eine Einführung in die Thematik und stellt die Relevanz der Untersuchung dar. In Kapitel B wird ein Überblick über den Begriff der Künstlichen Intelligenz gegeben, wobei zwischen "schwacher" und "starker" KI unterschieden und verschiedene Anwendungsgebiete im Gesundheitswesen beleuchtet werden.

Kapitel C untersucht die haftungsrechtlichen Probleme im Detail. Zuerst werden die Herausforderungen für das Haftungsrecht im Kontext von KI diskutiert. Anschließend werden die Haftungsformen der vertraglichen Haftung und der deliktischen Haftung / Produkthaftung in Bezug auf den Einsatz von KI im Gesundheitswesen analysiert. Es werden verschiedene Aspekte, wie der Abschluss eines Behandlungsvertrages durch eine KI, die Zurechnung von Schuld, Beweislast und Haftungsbegründende Kausalität, detailliert betrachtet.

Schlüsselwörter

Künstliche Intelligenz, Gesundheitswesen, Haftungsrecht, Behandlungsvertrag, Deliktische Haftung, Produkthaftung, Zurechnung, Beweislast, Verantwortlichkeit, Transparenz, Rechtliche Rahmenbedingungen, Lösungsansätze

Häufig gestellte Fragen

Wer haftet für Behandlungsfehler durch Künstliche Intelligenz?

Aktuell wird das Handeln von KI-Systemen meist dem Betreiber (z. B. dem Krankenhaus oder Arzt) zugerechnet. Es wird geprüft, ob bestehende Haftungsregeln ausreichen oder neue Gesetze für die Eigenständigkeit von KI-Entscheidungen nötig sind.

Kann eine KI selbstständig einen Behandlungsvertrag abschließen?

Rechtlich gesehen kann eine KI keine eigene Willenserklärung abgeben. Ihr Handeln wird jedoch analog zur "Computererklärung" oder über die Boten- bzw. Vertreterschaft dem menschlichen Betreiber zugerechnet.

Was ist der Unterschied zwischen "schwacher" und "starker" KI in der Medizin?

Schwache KI ist auf spezifische Aufgaben (z. B. Bildanalyse in der Radiologie) spezialisiert. Starke KI, die menschenähnliche kognitive Fähigkeiten besitzt und völlig autonom handelt, existiert derzeit in der medizinischen Praxis noch nicht.

Wie funktioniert die Produkthaftung bei KI-Medizinprodukten?

Hersteller haften nach dem Produkthaftungsgesetz, wenn das KI-System einen Fehler aufweist, der zum Zeitpunkt des Inverkehrbringens bereits angelegt war. Die Beweislast bei komplexen, lernenden Systemen stellt Patienten jedoch oft vor große Herausforderungen.

Gibt es Überlegungen für eine "digitale Rechtsperson"?

Ja, ein Lösungsansatz ist die Einführung einer elektronischen Person (e-person), die eine eigene Haftung übernimmt. Ein anderer Ansatz ist die Gefährdungshaftung des Betreibers, ähnlich wie bei Kraftfahrzeugen.

Welchen Standard muss eine KI bei der Behandlung erfüllen?

Die KI-gestützte Behandlung muss dem aktuellen Facharztstandard entsprechen. Weicht das System ohne medizinische Rechtfertigung davon ab und entsteht ein Schaden, liegt eine Pflichtverletzung vor.