KI-gestützte Personalauswahl in der öffentlichen Verwaltung. Chancen, Herausforderungen und rechtliche Grenzen von künstlicher Intelligenz

Inhaltsverzeichnis

• Einleitung
• Grundlagen der künstlichen Intelligenz
  • Definition
  • Unterscheidung in schwache und starke KI
  • Kritik an den Begrifflichkeiten
• Begriffe, Ausprägungen und technische Möglichkeiten
  • Algorithmen
    • Fehleranfälligkeit von Algorithmen
      • Fehlerhafte Datenbasis
      • Modellfehler
  • Big Data
  • Neuronale Netze
  • Maschinelles Lernen und Deep Learning
• Anwendungsbereiche von Künstlicher Intelligenz
  • Künstliche Intelligenz im täglichen Leben
  • Künstliche Intelligenz in der Bundesverwaltung
  • Künstliche Intelligenz in der Personalauswahl
    • Kommunikation - Chat-Bots
    • Stellenanzeigen
    • Empfehlungssysteme
    • Auswahlprozess – Parsing und Matching
    • Text- und Sprachanalysetools
• Chancen und Herausforderungen von KI in der Personalauswahl
• Mögliche Diskriminierung durch KI in der Personalauswahl
  • Begriff der Diskriminierung
  • Diskriminierungsrisiken durch den Einsatz von KI
    • Diskriminierungsrisiken durch fehlerhafte Datenbasis
    • Diskriminierungsrisiken durch Algorithmendesign
    • Diskriminierungsrisiken durch Lernende Algorithmen
    • Diskriminierungsrisiken durch Active Sourcing
    • Diskriminierung durch Persönlichkeitstests
    • Diskriminierung durch Sprachanalyse
• Rechtliche Rahmenbedingungen des Antidiskriminierungsrechts
  • Ziele des AGG
  • Anwendungsbereich des AGG
    • Persönlicher Geltungsbereich
    • Sachlicher Geltungsbereich
  • Benachteiligungen im Sinne des AGG
    • Unmittelbare Benachteiligung
      • Prüfung des Vorliegens einer unmittelbaren Benachteiligung
        • Weniger günstige Behandlung als eine Vergleichsperson
        • Benachteiligung wegen eines geschützten Merkmals
        • Rechtfertigung der Benachteiligung durch wesentliche berufliche Anforderungen
    • Mittelbare Benachteiligung
      • Prüfung des Vorliegens einer mittelbaren Benachteiligung
      • Risiko der mittelbaren Diskriminierung bei KI-Systemen
      • Rechtfertigung der mittelbaren Benachteiligung i. S. d. § 3 Abs. 2 AGG
        • Rechtmäßiges Ziel
        • Geeignetheit, Erforderlichkeit und Angemessenheit
      • Rechtfertigung der mittelbaren Benachteiligung i. S. d. § 8 AGG
      • Beweislast im Falle von Benachteiligungen
      • Erleichterung der Beweislast
      • Umkehr der Beweislast
      • Bewertung der Erleichterung der Beweislast
    • Das AGG auf dem Prüfstand
      • Ausweitung § 2 AGG
      • Kollektiver Rechtsschutz
      • Transparenzpflichten
      • Testpflichten/Prüfungen
      • Neuregelung der Beweislastumkehr bei fehlender Prüfung oder Dokumentation
  • Rechtliche Rahmenbedingungen des Datenschutzrechts
    • DSGVO
    • BDSG
    • Verhältnis von DSGVO und BDSG
  • Vereinbarkeit KI-basierter Personalauswahl mit der DSGVO
    • Verarbeitung personenbezogener Daten
      • Verarbeitung anonymisierter Daten
      • Verarbeitung pseudonymisierter Daten
      • Grundsätze für die Verarbeitung personenbezogener Daten
        • Rechtmäßigkeit, Verarbeitung nach Treu und Glauben, Transparenz
        • Zweckbindung
        • Zweckänderung
        • Datenminimierung
        • Richtigkeit
        • Speicherbegrenzung
        • Grundsätze und deren Vereinbarkeit mit KI-Anwendungen
    • Rechtmäßigkeit der Verarbeitung personenbezogener Daten
      • Einwilligung
        • Anforderungen an eine Einwilligung
        • Problem der Freiwilligkeit der Willensbekundung im Bewerberkontext
        • Widerruf der Einwilligung
      • Erforderlichkeit zur Erfüllung von Verträgen
        • Erforderlichkeit
          • Verarbeitung zur Erreichung eines legitimen Zwecks geeignet
          • Erforderlichkeit
          • Angemessenheit
        • Erforderlichkeit von konkreten KI-basierten Personalauswahlsystemen
          • Testverfahren
          • Active Sourcing
          • Sprachanalyse
          • Erstellung von Persönlichkeitsprofilen
      • Die Interessenabwägung
        • Berechtigtes Interesse
        • Interessenabwägung
      • Datenschutzfolgeabschätzung
        • Umfang Datenschutzfolgeabschätzung
        • Bewertung der Datenschutzfolgeabschätzung
      • Wahrung von Betroffenenrechten
        • Informationspflicht und Recht auf Auskunft
          • Informationspflicht
          • Auskunftsanspruch
          • Umfang der Informationspflicht und des Auskunftsanspruchs bei KI-Systemen
        • Recht auf Löschung und Vergessenwerden
        • Recht auf Widerruf der Einwilligung
        • Recht auf nichtautomatisierte Entscheidungen
          • Definition Automatisierte Entscheidung
          • Rechtliche Wirkung
          • Ausschließliche automatisierte Entscheidung
          • Erlaubnistatbestände
          • Bewertung
        • Rechtsdurchsetzung
        • Die DSGVO auf dem Prüfstand
          • Defizite im Datenschutzrecht mit Blick auf KI-basierte Personalauswahl
          • Regulierungsvorschläge
          • Bewertung der Regulierungsvorschläge
      • Einhegungsversuche und Strategien für KI
        • Entwurf KI-Verordnung

      Zielsetzung und Themenschwerpunkte

      Die Masterarbeit „Big Data, Big Trouble“ untersucht die Chancen und Herausforderungen von künstlicher Intelligenz (KI) im Kontext der Personalauswahl.

      • Definition und Grundbegriffe von KI
      • Technische Möglichkeiten und Ausprägungen von KI-Systemen
      • Anwendungsbereiche von KI in der Personalauswahl
      • Diskriminierungsrisiken durch den Einsatz von KI
      • Rechtliche Rahmenbedingungen im Antidiskriminierungs- und Datenschutzrecht

      Zusammenfassung der Kapitel

      • Einleitung: Diese Einleitung führt in die Thematik der Masterarbeit ein und beschreibt die Relevanz des Themas. Sie erläutert die Problematik, die mit dem Einsatz von KI in der Personalauswahl verbunden ist, und stellt die Forschungsfrage der Arbeit vor.
      • Grundlagen der künstlichen Intelligenz: Dieses Kapitel befasst sich mit der Definition und den Grundbegriffen von KI. Es wird zwischen schwacher und starker KI unterschieden und die Kritik an den Begrifflichkeiten beleuchtet.
      • Begriffe, Ausprägungen und technische Möglichkeiten: Hier werden wichtige Begriffe wie Algorithmen, Big Data, neuronale Netze, maschinelles Lernen und Deep Learning erläutert. Die Funktionsweise und die technischen Möglichkeiten dieser Komponenten werden näher betrachtet.
      • Anwendungsbereiche von Künstlicher Intelligenz: Dieses Kapitel zeigt die vielfältigen Einsatzbereiche von KI auf, von der Anwendung im täglichen Leben bis hin zu ihren Möglichkeiten in der Bundesverwaltung. Der Fokus liegt dabei auf dem Einsatz von KI in der Personalauswahl.
      • Chancen und Herausforderungen von KI in der Personalauswahl: In diesem Kapitel werden die Chancen und Herausforderungen von KI in der Personalauswahl betrachtet. Es werden sowohl die Effizienzsteigerung und Kostenreduktion als auch die potenziellen Risiken und ethischen Fragen beleuchtet.
      • Mögliche Diskriminierung durch KI in der Personalauswahl: Dieses Kapitel analysiert die möglichen Diskriminierungsrisiken, die mit dem Einsatz von KI in der Personalauswahl verbunden sind. Es werden verschiedene Risikofaktoren untersucht, darunter fehlerhafte Datenbasis, Algorithmendesign, Lernende Algorithmen, Active Sourcing, Persönlichkeitstests und Sprachanalyse.
      • Rechtliche Rahmenbedingungen des Antidiskriminierungsrechts: Dieses Kapitel stellt die rechtlichen Rahmenbedingungen des Antidiskriminierungsrechts dar. Es werden die Ziele und der Anwendungsbereich des Allgemeinen Gleichbehandlungsgesetzes (AGG) erläutert und die verschiedenen Arten von Benachteiligungen im Sinne des AGG beschrieben.
      • Rechtliche Rahmenbedingungen des Datenschutzrechts: Dieses Kapitel befasst sich mit den rechtlichen Rahmenbedingungen des Datenschutzrechts. Es werden die Datenschutz-Grundverordnung (DSGVO) und das Bundesdatenschutzgesetz (BDSG) erläutert und das Verhältnis zwischen diesen beiden Rechtsnormen dargestellt.
      • Vereinbarkeit KI-basierter Personalauswahl mit der DSGVO: Dieses Kapitel analysiert die Vereinbarkeit von KI-basierten Personalauswahlsystemen mit den Vorgaben der DSGVO. Es werden die relevanten datenschutzrechtlichen Prinzipien beleuchtet und die Rechtmäßigkeit der Verarbeitung personenbezogener Daten im Kontext der Personalauswahl untersucht.
      • Einhegungsversuche und Strategien für KI: In diesem Kapitel werden verschiedene Einhegungsversuche und Strategien für den Einsatz von KI betrachtet. Es werden insbesondere die Inhalte des Entwurfs der KI-Verordnung beleuchtet, die das Ziel hat, den Einsatz von KI zu regulieren und ethische sowie rechtliche Standards zu etablieren.

      Schlüsselwörter

      Die Masterarbeit fokussiert auf die Bereiche Künstliche Intelligenz (KI), Personalauswahl, Diskriminierung, Antidiskriminierungsrecht, Datenschutzrecht, DSGVO, Algorithmen, Big Data und ethische Aspekte.