Künstliche Intelligenz hält immer mehr Einzug in unser tägliches Leben, sowohl im privaten als auch im geschäftlichen Bereich. In unserer Beitragsreihe Navigating the Future haben wir daher die wichtigsten Aspekte der rechtlichen Regulierung von KI sowie die damit verbundenen Herausforderungen und Chancen bereits näher beleuchtet. Der AI Act zielt darauf ab, den rechtlichen Rahmen für den Einsatz von KI innerhalb der Europäischen Union zu harmonisieren und den sicheren und ethischen Einsatz von KI-Systemen zu gewährleisten. Mittlerweile ist auch das Thema Recruiting, Bewerbungsverfahren und Bewerbungsmanagement mit Hilfe von KI immer präsenter.
Momentan verwenden viele Personalabteilungen KI im Rahmen von Bewerbungsverfahren, indem sie die eingereichten Bewerbungen durch KI-Anwendungen wie ChatGPT analysieren lassen. Dadurch wird durch KI oftmals eine vom menschen unkontrollierte Vorauswahl der Bewerbungen getroffen. Außerdem werden dabei auch sensible personenbezogene Daten in die KI-Anwendung eingepflegt.
Vorteile der KI im Recruiting
KI-Systeme bieten zahlreiche Erleichterungen im Bewerbungsverfahren. Durch die Automatisierung von Routineaufgaben wie der Vorauswahl von Bewerbungen können Personalverantwortliche Zeit sparen und sich auf andere Aspekte des Recruiting-Prozesses konzentrieren. KI kann auch dazu beitragen, eine größere Objektivität in den Auswahlprozess zu bringen, indem sie unbewusste Vorurteile eliminiert, die Menschen bei der Bewertung von Bewerbenden haben könnten.
Bedenken beim Einsatz von KI im Recruiting
Datenschutz
Der Einsatz von KI im Recruiting wirft jedoch erhebliche Datenschutzbedenken auf. Bewerberdaten umfassen oft sensible Informationen, die geschützt werden müssen. Die DSGVO legt strenge Richtlinien für die Verarbeitung personenbezogener Daten fest, einschließlich der Notwendigkeit einer klaren Zustimmung und der transparenten Kommunikation darüber, wie diese Daten verwendet werden. Unternehmen müssen sicherstellen, dass ihre KI-Systeme diese Anforderungen erfüllen, insbesondere wenn es um die Sammlung und Speicherung von Daten geht.
Ferner ist nach der DSGVO eine automatisierte Letztentscheidung gemäß Art. 22 DSGVO in der Regel nicht erlaubt, es sei denn, es ist für einen Vertrag erforderlich, die Einwilligung der betroffenen Person liegt vor oder das Gesetz erlaubt dies ausdrücklich.
KI-Verordnung
Neben der DSGVO ist die neue KI-Verordnung zu beachten. Diese legt ebenfalls strenge Anforderungen an KI-Systeme fest, wenn diese einen direkten Einfluss auf die berufliche Beschäftigung haben. Solche KI-Anwendungen stellen Hochrisiko-KI-Systeme (HRAIS) nach der KI-Verordnung dar.
Wenn im Unternehmen solche Hochrisiko-KI-Systeme eingesetzt werden, gehen damit verschiedene Pflichten einher. Dabei muss ich unterscheiden, ob das HRAIS bereits als Anbieter eingesetzt wird oder lediglich als Nutzer. Außerdem müssen Grundvoraussetzungen vorliegen, damit HRAIS überhaupt eingesetzt werden dürfen.
Ein Unternehmen ist Anbieter nach der KI-Verordnung, wenn das Unternehmen eine KI-Anwendung entwickelt oder entwickeln lässt unter unter eigenem Namen innerhalb der Europäischen Union vertreibt.
Nutzer eines KI-Systems ist ein Unternehmen dann, wenn es für interne Zwecke eine KI-Anwendung innerhalb der Europäischen Union verwendet.
Der Begriff „Entwickeln“
Die Legaldefinition aus der KI-Verordnung ist noch recht unklar. Danach kann unter diesen Begriff bereits eine Weiterentwicklung oder das Finetuning eines KI-Modells fallen. Dies führt dazu, dass der Begriff des „Anbieters“ sehr umfassend ist und ein Unternehmen auch ungewollt Anbieterpflichten erfüllen muss.
Ethische Überlegungen
Neben den rechtlichen Aspekten gibt es auch ethische Bedenken bezüglich der Verwendung von KI im Recruiting. Fragen der Fairness und Transparenz stehen im Vordergrund. Es ist entscheidend, dass alle Bewerbenden gleich behandelt werden und die Entscheidungsfindungsprozesse der KI nachvollziehbar und gerecht sind. Es muss eine Balance gefunden werden zwischen dem Nutzen, den KI-Systeme bieten, und dem Schutz der Rechte der Bewerbenden.
Die verwendeten KI-Systeme müssten dafür diskrimierungsfrei und ausreichend diversifiziert trainiert worden sein.
Zukunftsperspektiven
Die Zukunft des KI-gestützten Recruitings sieht vielversprechend aus, mit stetigen Verbesserungen in der Technologie, die präzisere und effizientere Auswahlprozesse ermöglichen. Gleichzeitig ist es wichtig, Weiterentwicklungen im Bereich der KI auch von Fortschritten im Bereich des Datenschutzes und der ethischen Standards zu begleiten.
Insgesamt eröffnet der Einsatz von KI im Recruiting-Prozess viele Chancen, stellt aber auch eine Herausforderung dar, den Datenschutz und die ethischen Standards zu wahren. Unternehmen, die KI-Technologien einsetzen, müssen proaktiv sicherstellen, dass sie die Privatsphäre der Bewerbenden schützen und faire Auswahlverfahren gewährleisten.
Bildnachweis: KI generiert