Was ist beim Einsatz Künstlicher Intelligenz (KI) im Einstellungsverfahren zu beachten?

Die Möglichkeiten, die KI bietet, werden im zunehmenden Maße von Unternehmen auch im Bewerberverfahren (z. B. zur Kommunikation mit (potentiellen) Bewerbern oder die Bearbeitung von Anfragen zum Bewerbungsprozess) eingesetzt.

„Künstliche Intelligenz“ wird als Sammelbegriff für diejenigen Technologien und ihre Anwendungen verstanden, die durch digitale Methoden auf der Grundlage potenziell sehr großer und heterogener Datensätze in einem komplexen und die menschliche Intelligenz gleichsam nachahmenden maschinellen Verarbeitungsprozess ein Ergebnis ermitteln, das ggf. automatisiert zur Anwendung gebracht wird. Die wichtigsten Grundlagen für KI als Teilgebiet der Informatik sind die subsymbolische Mustererkennung, das maschinelle Lernen, die computergerechte Wissensrepräsentation und die Wissensverarbeitung, welche Methoden der heuristischen Suche, der Inferenz und der Handlungsplanung umfasst.¹⁾

Die Bandbreite der KI nutzenden Anwendungen ist enorm. Sie reichen von der einfachen Errechnung von Wegerouten über Bild- und Spracherkennung sowie Bild- und Spracherzeugung bis hin zu überaus komplexen Entscheidungs-, Vorhersage- und Beeinflussungsumgebungen.

Außerdem wird KI zur Sichtung und Bewertung von Bewerbungen genutzt. Da Unternehmen ein berechtigtes Interesse daran haben, sich einen Eindruck von den Bewerbern und ihren Qualifikationen zu verschaffen, kann diese Form der Datenverarbeitung auf Art. 6 Abs. 1 Buchstabe f DSGVO gestützt werden. Ein überwiegendes gegenteiliges Interesse der Bewerber besteht nicht, da diese im Rahmen einer Bewerbung freiwillig ihre personenbezogenen Daten offenlegen. Allerdings sollte aus Transparenzgründen (Art. 5 Abs. 1 Buchstabe a DSGVO) bereits bei der Stellenausschreibung auf den Einsatz von KI und deren Funktionsweise hingewiesen werden.

Achtung: Erfolgt eine vollautomatisierte Absage an Bewerber aufgrund einer KI-Anwendung, handelt es sich um eine automatisierte Einzelentscheidung, die gemäß Art. 22 DSGVO verboten ist. Fällt dagegen der Unternehmer aufgrund eines Rankings der Bewerberdaten durch ein System letztlich selbst die Entscheidung, welche Bewerber zum Vorstellungsgespräch eingeladen werden, so ist der Tatbestand des Art. 22 DSGVO nicht erfüllt.²⁾

Auch beim Einsatz von KI zur Analysierung des Textes des Motivationsschreibens der Bewerbung sowie die Sprache der Kandidaten durch ein automatisiertes Verfahren, um bestimmte Eigenschaften der Persönlichkeit und des Charakters ist Vorsicht geboten. Die KI erstellt in diesem Fall ein Ranking der Kandidaten, welche von den Recruiter, ohne nähere Prüfung, zur Grundlage für die Entscheidung zur Einladung zum Bewerbungsgespräch oder sogar für die Einstellung selbst gemacht wird. Diese Vorgehensweise muss vollumfänglich „erforderlich“ i. S. d § 26 Abs. 1 Satz 1 BDSG für die Begründung des Beschäftigungsverhältnisses sein. Dies muss durch die verantwortliche Stelle nachvollziehbar und überzeugend dargelegt werden. Ferner müssen Vorkehrungen getroffen werden, dass unrichtig generierte personenbezogene Daten korrigiert werden können, die Betroffenen spezifisch über das Ergebnis unterrichtet werden bzw. bei Bedarf die Kandidaten ihren abweichenden Standpunkt darlegen können (siehe Satz 4 des Erwägungsgrundes 71 zur DSGVO). Auch steht den Kandidaten gem. Art. 22 Abs. 1 DSGVO das Recht zu, „nicht einer ausschließlich auf einer automatisierten Verarbeitung – einschließlich Profiling – beruhenden Entscheidung unterworfen zu werden“. Die KI kann somit – wie bereits erwähnt – nur eine Entscheidungshilfe darstellen, mit Vorbehalt der endgültigen Entscheidung durch einen menschlichen Recruiter. Das Kandidatenranking der KI muss somit vor jeder Entscheidung und in jedem Einzelfall „menschlich“ überprüft werden.

Fundstellen:

¹⁾ Empfehlungen der Datenethikkommission für die Strategie Künstliche Intelligenz der Bundesregierung vom 09.10.2018 – abrufbar im Internet unter https://www.bmi.bund.de/SharedDocs/downloads/DE/veroeffentlichungen/themen/it-digitalpolitik/datenethikkommission/empfehlungen-datenethikkommission.pdf;jsessionid=02C51601F16BDBEB9CDEE280186EFA51.2_cid364?__blob=publicationFile&v=3

²⁾ Stellungnahme „Künstliche Intelligenz und ihre Auswirkungen auf den Beschäftigtendatenschutz“ der Gesellschaft für Datenschutz und Datensicherheit e.V. (GDD) – abrufbar im Internet unter https://www.gdd.de/downloads/aktuelles/stellungnahmen/KIundBeschftigtendatenschutz.pdf