KI-gestützte Personalauswahl in der öffentlichen Verwaltung. Chancen, Herausforderungen und rechtliche Grenzen von künstlicher Intelligenz

Inhaltsverzeichnis

1 Einleitung

2 Grundlagen der künstlichen Intelligenz

2.1 Definition

2.1.1 Unterscheidung in schwache und starke KI

2.1.2 Kritik an den Begrifflichkeiten

2.2 Begriffe, Ausprägungen und technische Möglichkeiten

2.2.1 Algorithmen

2.2.1.1 Fehleranfälligkeit von Algorithmen

2.2.1.1.1 Fehlerhafte Datenbasis

2.2.1.1.2 Modellfehler

2.2.2 Big Data

2.2.3 Neuronale Netze

2.2.4 Maschinelles Lernen und Deep Learning

3 Anwendungsbereiche von Künstlicher Intelligenz

3.1 Künstliche Intelligenz im täglichen Leben

3.2 Künstliche Intelligenz in der Bundesverwaltung

3.3 Künstliche Intelligenz in der Personalauswahl

3.3.1 Kommunikation – Chat-Bots

3.3.2 Stellenanzeigen

3.3.3 Empfehlungssysteme

3.3.4 Auswahlprozess – Parsing und Matching

3.3.5 Text- und Sprachanalysetools

4 Chancen und Herausforderungen von KI in der Personalauswahl

4.1 Effizienzsteigerung und Kostenreduktion durch KI

4.2 Qualitativ hochwertige Entscheidungen durch KI

4.3 Wirkung auf Bewerber

5 Mögliche Diskriminierung durch KI in der Personalauswahl

5.1 Begriff der Diskriminierung

5.2 Diskriminierungsrisiken durch den Einsatz von KI

5.2.1 Diskriminierungsrisiken durch fehlerhafte Datenbasis

5.2.2 Diskriminierungsrisiken durch Algorithmendesign

5.2.3 Diskriminierungsrisiken durch Lernende Algorithmen

5.2.4 Diskriminierungsrisiken durch Active Sourcing

5.2.5 Diskriminierung durch Persönlichkeitstests

5.2.6 Diskriminierung durch Sprachanalyse

6 Rechtliche Rahmenbedingungen des Antidiskriminierungsrechts

6.1 Ziele des AGG

6.2 Anwendungsbereich des AGG

6.2.1 Persönlicher Geltungsbereich

6.2.2 Sachlicher Geltungsbereich

6.3 Benachteiligungen im Sinne des AGG

6.3.1 Unmittelbare Benachteiligung

6.3.1.1 Prüfung des Vorliegens einer unmittelbaren Benachteiligung

6.3.1.1.1 Weniger günstige Behandlung als eine Vergleichsperson

6.3.1.1.2 Benachteiligung wegen eines geschützten Merkmals

6.3.1.1.3 Rechtfertigung der Benachteiligung durch wesentliche berufliche Anforderungen

6.3.2 Mittelbare Benachteiligung

6.3.2.1 Prüfung des Vorliegens einer mittelbaren Benachteiligung

6.3.2.2 Risiko der mittelbaren Diskriminierung bei KI-Systemen

6.3.2.3 Rechtfertigung der mittelbaren Benachteiligung i. S. d. § 3 Abs. 2 AGG

6.3.2.3.1 Rechtmäßiges Ziel

6.3.2.3.2 Geeignetheit, Erforderlichkeit und Angemessenheit

6.3.2.4 Rechtfertigung der mittelbaren Benachteiligung i. S. d. § 8 AGG

6.3.3 Beweislast im Falle von Benachteiligungen

6.3.4 Erleichterung der Beweislast

6.3.5 Umkehr der Beweislast

6.3.6 Bewertung der Erleichterung der Beweislast

6.4 Das AGG auf dem Prüfstand

6.4.1 Ausweitung § 2 AGG

6.4.2 Kollektiver Rechtsschutz

6.4.3 Transparenzpflichten

6.4.4 Testpflichten/Prüfungen

6.4.5 Neuregelung der Beweislastumkehr bei fehlender Prüfung oder Dokumentation

7 Rechtliche Rahmenbedingungen des Datenschutzrechts

7.1 DSGVO

7.2 BDSG

7.3 Verhältnis von DSGVO und BDSG

8 Vereinbarkeit KI-basierter Personalauswahl mit der DSGVO

8.1 Verarbeitung personenbezogener Daten

8.1.1 Verarbeitung anonymisierter Daten

8.1.2 Verarbeitung pseudonymisierter Daten

8.1.3 Grundsätze für die Verarbeitung personenbezogener Daten

8.1.3.1 Rechtmäßigkeit, Verarbeitung nach Treu und Glauben, Transparenz

8.1.3.2 Zweckbindung

8.1.3.3 Zweckänderung

8.1.3.4 Datenminimierung

8.1.3.5 Richtigkeit

8.1.3.6 Speicherbegrenzung

8.1.3.7 Grundsätze und deren Vereinbarkeit mit KI-Anwendungen

8.2 Rechtmäßigkeit der Verarbeitung personenbezogener Daten

8.2.1 Einwilligung

8.2.1.1 Anforderungen an eine Einwilligung

8.2.1.2 Problem der Freiwilligkeit der Willensbekundung im Bewerberkontext

8.2.1.3 Widerruf der Einwilligung

8.2.2 Erforderlichkeit zur Erfüllung von Verträgen

8.2.2.1 Erforderlichkeit

8.2.2.1.1 Verarbeitung zur Erreichung eines legitimen Zwecks geeignet

8.2.2.1.2 Erforderlichkeit

8.2.2.1.3 Angemessenheit

8.2.2.2 Erforderlichkeit von konkreten KI-basierten Personalauswahlsystemen

8.2.2.2.1 Testverfahren

8.2.2.2.2 Active Sourcing

8.2.2.2.3 Sprachanalyse

8.2.2.2.4 Erstellung von Persönlichkeitsprofilen

8.2.3 Die Interessenabwägung

8.2.3.1 Berechtigtes Interesse

8.2.3.2 Interessenabwägung

8.3 Datenschutzfolgeabschätzung

8.3.1 Umfang Datenschutzfolgeabschätzung

8.3.2 Bewertung der Datenschutzfolgeabschätzung

8.4 Wahrung von Betroffenenrechten

8.4.1 Informationspflicht und Recht auf Auskunft

8.4.1.1 Informationspflicht

8.4.1.2 Auskunftsanspruch

8.4.1.3 Umfang der Informationspflicht und des Auskunftsanspruchs bei KI-Systemen

8.4.2 Recht auf Löschung und Vergessenwerden

8.4.3 Recht auf Widerruf der Einwilligung

8.4.4 Recht auf nichtautomatisierte Entscheidungen

8.4.4.1 Definition Automatisierte Entscheidung

8.4.4.2 Rechtliche Wirkung

8.4.4.3 Ausschließliche automatisierte Entscheidung

8.4.4.4 Erlaubnistatbestände

8.4.4.5 Bewertung

8.5 Rechtsdurchsetzung

8.6 Die DSGVO auf dem Prüfstand

8.6.1 Defizite im Datenschutzrecht mit Blick auf KI-basierte Personalauswahl

8.6.2 Regulierungsvorschläge

8.6.3 Bewertung der Regulierungsvorschläge

9 Einhegungsversuche und Strategien für KI

9.1 Entwurf KI-Verordnung

9.1.1 Anwendungsbereich KI-VO-E

9.1.2 Unterscheidung von KI-Systemen nach Risiko für Betroffene

9.1.2.1 Systeme mit inakzeptablen Risiken

9.1.2.2 Systeme mit hohem Risiko

9.1.2.3 Systeme mit geringem oder minimalem Risiko

9.2 Bewertung KI-Verordnung

10 Grenzen von KI-basierter Personalauswahl

11 Ergebnisse und Ausblick

Zielsetzung und Themenfelder

Die vorliegende Masterarbeit untersucht die Chancen und Herausforderungen des Einsatzes von Künstlicher Intelligenz bei der Personalauswahl und beleuchtet dabei kritisch die Einhaltung rechtlicher Rahmenbedingungen. Die zentrale Forschungsfrage fokussiert darauf, ob das bestehende Antidiskriminierungsrecht (AGG) und der Datenschutz (DSGVO) in der Lage sind, einen angemessenen Grundrechtsschutz gegenüber modernen KI-gestützten Bewerberauswahlverfahren zu gewährleisten.

• Grundlagen der KI, unter besonderer Berücksichtigung technischer Wirkweisen und Lernmethoden.
• Möglichkeiten und Anwendungsbereiche von Automatisierung in Auswahlentscheidungen.
• Diskriminierungsrisiken durch fehlerhafte Algorithmen oder Datenbasis.
• Rechtliche Bewertung nach dem Allgemeinen Gleichbehandlungsgesetz (AGG).
• Vereinbarkeit KI-basierter Verfahren mit der Datenschutz-Grundverordnung (DSGVO).

Auszug aus dem Buch

Zusammenfassung der Kapitel

1 Einleitung: Diese Einleitung führt in die Problematik ein, dass die Personalgewinnung in Zeiten des demografischen Wandels zunehmend auf Künstliche Intelligenz setzt, wobei die rechtliche Zulässigkeit und der Bewerberschutz strittig bleiben.

2 Grundlagen der künstlichen Intelligenz: Das Kapitel definiert den Begriff der künstlichen Intelligenz, unterscheidet zwischen schwacher und starker KI und erläutert technische Konzepte wie Algorithmen, Big Data und maschinelles Lernen als Basis der KI-Systeme.

3 Anwendungsbereiche von Künstlicher Intelligenz: Dieser Abschnitt beschreibt den Einsatz von KI im Alltag, in der Bundesverwaltung und konkretisiert die technischen Möglichkeiten im modernen Personalgewinnungsprozess vom Chat-Bot bis zum Matching-Tool.

4 Chancen und Herausforderungen von KI in der Personalauswahl: Hier werden die Vorteile der Effizienzsteigerung und potenziell objektiverer Entscheidungen den Risiken einer Fehleranfälligkeit und der Wirkung auf Bewerber gegenübergestellt.

5 Mögliche Diskriminierung durch KI in der Personalauswahl: Das Kapitel analysiert spezifische Risiken für Diskriminierung durch unzureichende Datenqualität oder algorithmische Fehlkonzeptionen sowie die Auswirkungen von Persönlichkeitstests und Sprachanalysen auf benachteiligte Personengruppen.

6 Rechtliche Rahmenbedingungen des Antidiskriminierungsrechts: Hier erfolgt eine juristische Prüfung der Diskriminierungsrisiken anhand des AGG, wobei Mechanismen der Beweislast und die Rechtfertigung von Entscheidungen bei der KI-basierten Auswahl eingehend erörtert werden.

7 Rechtliche Rahmenbedingungen des Datenschutzrechts: Dieses Kapitel erläutert die Anwendbarkeit der DSGVO und des BDSG auf KI-Systeme und beleuchtet die datenschutzrechtlichen Herausforderungen bei der Datenverarbeitung im HR-Bereich.

8 Vereinbarkeit KI-basierter Personalauswahl mit der DSGVO: Hier wird detailliert geprüft, wie Grundsätze wie Datenminimierung, Zweckbindung und Transparenzpflichten mit dem Einsatz lernender KI-Systeme vereinbar sind und ob die DSFA einen ausreichenden Schutz bietet.

9 Einhegungsversuche und Strategien für KI: Die Autorin gibt einen Überblick über den Entwurf der KI-Verordnung (KI-VO-E) der EU und bewertet deren risikobasierten Ansatz hinsichtlich der praktischen Umsetzung und Schutzwirkung.

10 Grenzen von KI-basierter Personalauswahl: Dieses Kapitel fasst die Herausforderungen des rasanten technologischen Wandels für den bestehenden Rechtsrahmen zusammen und plädiert für einen interdisziplinären Ansatz zur Rechtssicherheit.

11 Ergebnisse und Ausblick: Diese Schlussteil resümiert, dass KI zwar effizienzsteigernde Vorteile bietet, in der öffentlichen Verwaltung jedoch aufgrund ungeklärter Rechtsfragen nur sehr eingeschränkt zu empfehlen ist und hohe Anforderungen an den Datenschutz stellt.

Schlüsselwörter

Künstliche Intelligenz, Personalauswahl, Big Data, Diskriminierung, AGG, Datenschutz-Grundverordnung, Algorithmen, Maschinelles Lernen, Beweislast, Diskriminierungsrisiken, Transparenz, Pseudonymisierung, Arbeitgeberattraktivität, KI-Verordnung, Personalgewinnung

Häufig gestellte Fragen

Worum geht es in dieser Masterarbeit?

Die Arbeit befasst sich mit dem Einsatz von Künstlicher Intelligenz bei der Personalauswahl. Sie untersucht, ob aktuelle rechtliche Rahmenbedingungen wie das Antidiskriminierungsrecht und die Datenschutzvorgaben ausreichen, um Bewerber vor möglichen Diskriminierungen durch automatisierte Systeme zu schützen.

Was sind die zentralen Themenfelder der Analyse?

Zentrale Felder sind die diskriminierungsrechtliche Bewertung von Algorithmen, die komplexen Anforderungen der DSGVO (wie Datenminimierung und Transparenz) sowie die kritische Begutachtung des EU-Entwurfs zur KI-Verordnung.

Welche Forschungsfrage steht im Mittelpunkt?

Die Forschungsfrage lautet, inwiefern das geltende deutsche Antidiskriminierungs- und Datenschutzrecht in der Lage ist, auch bei KI-gestützten Personalauswahlprozessen einen notwendigen Mindeststandard an Grundrechtsschutz zu gewährleisten.

Welche methodische Herangehensweise wird gewählt?

Die Arbeit basiert auf einer juristischen Analyse der bestehenden Rechtslage unter Einbeziehung aktueller Rechtsprechung, Gesetzestexte sowie einer fundierten Auswertung technischer Dokumentationen und fachwissenschaftlicher Literatur zum Recruiting.

Was wird im Hauptteil der Arbeit behandelt?

Der Hauptteil gliedert sich in technische Grundlagen der KI, die Analyse von Diskriminierungsrisiken in algorithmischen Auswahlprozessen sowie eine tiefgehende rechtliche Bewertung der Vereinbarkeit dieser Verfahren mit dem AGG und der DSGVO.

Welche Schlüsselbegriffe charakterisieren die Arbeit?

Die Kernbegriffe sind Künstliche Intelligenz, Personalauswahl, Diskriminierungsrisiken, AGG, Datenschutz-Grundverordnung, Beweislast und algorithmisches Matching.

Warum ist eine "Black Box" bei KI-Systemen ein rechtliches Problem?

Die Black-Box-Symptomatik führt dazu, dass Entscheidungsprozesse für den Menschen und für Betroffene nicht nachvollziehbar sind. Dies erschwert das Geltendmachen von Rechtsansprüchen, da Betroffene oft nicht rekonstruieren können, welche Merkmale zu einer negativen Auswahl geführt haben.

Wie steht die Autorin zu einem generellen "Freibrief" für Arbeitgeber, die KI nutzen?

Die Autorin lehnt einen Freibrief ab. Sie argumentiert, dass Arbeitgeber, wenn sie KI-Systeme einsetzen, die Verantwortung für deren Handeln tragen müssen und dass eine zurechenbare Kenntnis der maschinellen Vorgänge rechtlich notwendig ist, um Schutzlücken für Bewerber zu vermeiden.