Künstliche Intelligenz im Arbeitsalltag

Der Einsatz von Künstlicher Intelligenz (KI) verändert die Arbeitswelt grundlegend. KI-gestützte Rekrutierungstools analysieren Bewerberdaten und schlagen geeignete Kandidaten vor. Sie identifizieren Leistungsstärken und Entwicklungspotenziale der Mitarbeiter, unterstützen das Leistungsmanagement und die Personalentwicklung durch gezielte Maßnahmen, bis hin zum Exit-Management durch eine Kündigungsliste. Diese Technologie verspricht erhebliche Effizienzgewinne und offenbart zugleich ein großes Dilemma. Gary Marcus, ein bekannter KI-Forscher, fasst es in einem Interview zusammen: „Künstliche Intelligenz kann die Welt dümmer machen, indem sie die Entscheidungen von Menschen ersetzt, ohne dass diese verstehen, wie die Entscheidungen getroffen werden.“

Ein zentrales Problem beim Einsatz von KI ist die Intransparenz der Entscheidungsfindung. KI-Systeme, insbesondere solche, die auf komplexen Algorithmen und tiefen neuronalen Netzwerken basieren, treffen Entscheidungen auf Basis von Mustern und Korrelationen in Daten, die selbst für Experten oft nicht vollständig nachvollziehbar sind. Diese Black-Box-Problematik stellt ein erhebliches Risiko dar. Lösungsansätze einer erklärbaren KI, auch bekannt als Explainable AI, sind noch nicht ausreichend, um diese Risiken zu eliminieren. Entscheidungen im Arbeitsverhältnis verlangen zudem ein besonderes Maß an sozialem Feingefühl, das KI nicht abbilden kann. Es bedarf daher stets einer menschlichen Überwachung und Letztentscheidung, wenn Unternehmen KI im Arbeitsverhältnis einsetzen.

Artikel 22 der Datenschutz-Grundverordnung (DSGVO) macht hier zwingende Vorgaben. Er schützt Mitarbeiter vor Entscheidungen, die ausschließlich auf automatisierter Datenverarbeitung durch KI beruhen. Mitarbeiter müssen nicht nur darüber informiert werden, sondern haben auch ein Recht auf menschliche Intervention und eine Erklärung der Entscheidung. Die neue EU-KI-Verordnung betont ebenfalls die Notwendigkeit von Transparenz und menschlicher Überwachung von KI-Systemen, die im Arbeitsverhältnis eingesetzt werden. Wie genau die menschliche Intervention und Letztentscheidung auszugestalten ist, wird gesetzlich nicht im Detail vorgegeben. Es reicht aber nicht, wenn die Personalleitung die Versetzungsliste der KI einfach abhakt. Die automatisierte Entscheidung muss überprüft und gegebenenfalls geändert werden.

Dies erfordert zunächst ein tiefes Verständnis der Entscheidungslogik der KI durch den Menschen. Die konkret nötigen Kenntnisse und Fähigkeiten müssen vorhanden sein oder geschult werden, um die Entscheidungen der KI zu verstehen und zu bewerten. Deshalb müssen auch die Kriterien und Parameter der automatisierten Entscheidung zuvor klar definiert und dokumentiert werden. Kern der menschlichen Überprüfung ist es dann, Verzerrungen und Voreingenommenheit der KI – Bias – und Diskriminierungen in den automatisierten Entscheidungen zu erkennen und zu korrigieren.

Erforderlich ist also eine spezifische Richtigkeits- und Plausibilitätskontrolle des überwachenden Menschen. Er muss sicherstellen, dass die KI-Systeme gemäß den Anweisungen verwendet werden und dass alle Eingabedaten relevant und repräsentativ sind. Der überprüfende Mensch muss schließlich auch einen echten Entscheidungsspielraum haben, die KI-Entscheidung zu ändern. Zum erstmaligen KI-Einsatz im Betrieb sind Arbeitgeber also aufgerufen, das Stellenprofil des „KI-Intervenienten“ zu schaffen und mit qualifizierten und befähigten Mitarbeitern zu besetzen. Nur so ist rechtmäßiger KI-Einsatz möglich.