Navigating the Future: KI und das Recht auf menschliche Entscheidung

Künstliche Intelligenz hält immer mehr Einzug in unser tägliches Leben, sowohl im privaten als auch im geschäftlichen Bereich. In unserer Beitragsreihe Navigating the Future haben wir daher die wichtigsten Aspekte der rechtlichen Regulierung von KI sowie die damit verbundenen Herausforderungen und Chancen bereits näher beleuchtet. Zunehmend stellt sich die Frage, wie weit diese Technologien gehen dürfen. Insbesondere wenn es um Entscheidungsprozesse geht, die traditionell von Menschen geführt werden. Dieser Blogbeitrag beleuchtet die Bedeutung des Erhalts menschlicher Entscheidung im Zeitalter der KI.

KI in Entscheidungsprozessen

KI-Systeme werden zunehmend in Bereichen eingesetzt, die Entscheidungen erfordern, von medizinischen Diagnosen über Zugang zu Bildungseinrichtungen oder Jobs bis hin zu rechtlichen Urteilen. Diese Systeme können Muster erkennen und Vorschläge machen, die für den menschlichen Verstand schwer zu identifizieren sind. Doch wie viel Vertrauen sollten wir in diese automatisierten Systeme setzen?

Unternehmen stehen dabei ebenfalls im Zentrum der Debatte. Denn diese sind nicht nur an der Entwicklung, sondern auch an der Nutzung der KI-Lösungen beteiligt. Klassische Fallbeispiele aus der Praxis sind die Analyse von Kundendaten, die Bewertung von Lebensläufen, der Einsatz von KI in der Produktion, aber auch die Abschätzung der Zahlungsbereitschaft von Konsumenten durch Algorithmen. Aufgrund der wachsenden Akzeptanz internationaler Standards im Bereich Wirtschaft und Menschenrechte sowie einer stärkeren gesetzgeberischen Regulierung von KI müssen sich Unternehmen bei der Implementierung von KI daher immer stärker mit menschenrechtlichen Aspekten der Technologie auseinandersetzen.

Definition und Anwendung von KI

Laut KI-Verordnung (KI-VO) ist ein „KI-System“,

ein maschinengestütztes System, das für einen in unterschiedlichem Grade autonomen Betrieb ausgelegt ist und das nach seiner Betriebsaufnahme anpassungsfähig sein kann und das aus den erhaltenen Eingaben explizite oder implizite Ziele ableitet, wie Ausgaben wie etwa Vorhersagen, Inhalte, Empfehlungen oder Entscheidungen erstellt werden, die physische oder virtuelle Umgebungen beeinflussen können.

Quelle: https://eur-lex.europa.eu/legal-content/DE/TXT/?uri=CELEX:32024R1689

Im Prinzip ist ein KI-System also eine Software, die maschinenbasiert ist, einen Output liefert, der auf menschlichem Input beruht und Auswirkungen auf die Umgebung hat, in der sie eingesetzt wird.

Ein besonderer Fokus liegt zurzeit auf dem maschinellen Lernen sowie seinen Formen Deep Learning und Reinforcement Learning. Beide Modelle ermöglichen es KI-Systemen, auf Grundlage von Erfahrungen und Feedback aus der Umgebung autonom zu lernen und eigenständige Entscheidungen zu fällen.

Deep Learning

Bei der Bild- und Objekterkennung wird zunehmend Deep Learning eingesetzt. Dies spielt insbesondere in der Medizin eine Rolle, beispielsweise bei der Untersuchung von Röntgenbildern oder CT-Aufnahmen hinsichtlich verdächtiger Muster wie Krebsmetastasen.

Reinforcement Learning

Diese Art der KI-Modelle entwickeln eigenständig Strategien zur Lösung von Problemen. Meist baut das Verfahren auf einem Belohnungs- oder Bestrafungssystem auf und findet zunehmend im autonomen Fahren oder in der Robotik Anwendung.

KI wird in vollkommen unterschiedlichen Lebensbereichen eingesetzt. Anwendungsfälle im Militär, Nachrichtendienst oder bei der Polizei sind genauso häufig und deren Einsatzform im Vorhinein nicht absehbar. Die menschenrechtlichen Risiken, die mit dem Einsatz oder der Entwicklung von KI einhergehen, stehen in einem engen Zusammenhang zu den jeweiligen Anwendungsbereichen.

Recht auf menschliche Entscheidung

Durch den maßgeblichen Einfluss der Entwickler:innen und Betreiber:innen auf das Design und die Implementierung von KI-Systemen ergeben sich konkrete Risiken für die Erfüllung menschenrechtlicher Sorgfaltspflichten. Menschenrechte können verletzt werden, wenn KI-Systeme ohne menschliche Aufsicht und ohne Einverständnis oder Wissen der Betroffenen angewandt werden oder nicht ausreichend transparent sind.

Dies ist besonders relevant in Bereichen, die ethische, moralische und zwischenmenschliche Faktoren beinhalten, die von KI-Systemen oft nicht vollständig verstanden oder berücksichtigt werden können. Dringender Handlungsbedarf entsteht auch in Kontexten, die von Machtasymmetrien gekennzeichnet sind.

Würde

Wird KI im Rahmen der Gesundheitsfürsorge eingesetzt, muss nicht nur auf die Haftungsfrage geachtet werden. Beispiele sind hier die Untersützung bei der Prävention oder Diagnose von Krankheiten sowie bei der Pflege. Ebenso ist eine Abwägung zwischen den medizinischen Vorteilen und Persönlichkeitsrechten erforderlich.

Freiheit

Im Mittelpunkt der Freiheitsdebatte stehen vor allem das Recht auf Achtung des Privatlebens als auch das Recht auf Schutz personenbezogener Daten. Hintergrund ist die Verwendung großer Datenmengen personenbezogener und nicht personenbezogener Daten bei KI-Systemen. Nicht zu vergessen in diesem Zusammenhang sind das Recht auf Gedanken- und Meinungsfreiheit.

Gleichheit

Besonders gefährdet ist das Recht auf Gleichheit. Danach sind alle Menschen vor dem Gesetz gleich und niemand darf aus Gründen wie Geschlecht, Rasse, Alter und ethnischer Herkunft diskriminiert werden. Durch algorithmische Entscheidungen könnten in einer Vielzahl von Sektoren Verzerrungen entstehen. Dies könnte zu einer Beeinträchtigung des Rechts auf Nichtdiskriminierung führen.

Solidarität

Dazu gehören unterschiedliche Rechte wie das Recht auf soziale Sicherheit, faire Arbeitsbedingungen und Umweltschutz. Es wird kontrovers diskutiert, ob KI zu zunehmender Arbeitslosigkeit führen könnte. Somit könnte das Recht auf soziale Sicherheit, faire Arbeitsbedingungen oder Umweltschutz eingeschränkt werden.

Bürgerrechte

KI stellt hinsichtlich einer freien, geheimen und direkten Wahl zunehmend ein Risiko dar. Aufgrund der Verbreitung von Falschinformationen durch KI-Systeme, können Wähler:innen manipuliert werden, so wie bereits bei der Europawahl 2019.

Justiz

KI in der Justiz könnte das Recht auf ein faires Verfahren einschränken. Grundsätzlich hat jede Person das Recht auf einen wirksamen Rechtsbehelf, das Recht auf ein faires Verfahren und das Recht auf Verteidigung. KI-Systeme können auch dahingehend bei Entscheidungen Verzerrungen im System enthalten.

Art. 22 DSGVO

Schon aus der Datenschutz-Grundverordnung geht hervor, dass betroffene Personen nicht einer ausschließlich automatisierten Verarbeitung beruhenden Entscheidung unterworfen werden dürfen. Dadurch soll verhindert werden, dass der Mensch zu einem anonymisierten Objekt degradiert wird.

Wie das Urteil des EuGH aus Dezember 2023 zeigt, ist bereits eine Entscheidung im Sinne des Art. 22 DSGVO dann gegeben, wenn eine automatisierte Errechnung eines Scores im Rahmen des Kreditscorings erstellt wird. Dies gilt aber nur dann, sofern die anschließende Entscheidung gegenüber der betroffenen Person auf dem automatisiert errechneten Scorewert beruht.

Die Entscheidung und ihre Auswirkungen hat Moritz Kolb näher in diesem Blogbeitrag beleuchtet.

KI-Verordnung

Neben die DSGVO tritt auch die KI-VO. Diese verfolgt ein risikobasiertes Regelungsregime mit ansteigendem Gefahr- und Schädigungspotenzial. Aber auch da ist insbesondere bei Hochrisiko-KI-Systemen eine menschliche Ausdifferenzierung und menschliche Aufsicht vorgesehen. Ferner ist eine technische Dokumentation für Hochrisiko-KI-Systeme erforderlich, die unter anderem eine genaue Beschreibung der Trainingsmethoden und Testdatensätze enthalten muss.

Folglich soll auch die KI-Verordnung eine möglichst menschenähnliche Entscheidung der KI-Systeme sicherstellen und schließt die menschliche Aufsicht nicht gänzlich aus.

Herausforderungen und Zukunftsperspektiven

Während das Konzept des Rechts auf menschliche Entscheidung unterstützenswert ist, bringt es auch Herausforderungen mit sich, insbesondere im Hinblick auf die praktische Implementierung. Die Ausbildung von Fachkräften, die sowohl technisch versiert als auch in ethischen Fragen geschult sind, wird entscheidend sein.

Fazit

Das Recht auf menschliche Entscheidung ist ein wesentlicher Grundsatz, um die Integrität und Ethik in einer zunehmend von KI beeinflussten Welt zu wahren. Es fordert von uns allen, sowohl von Technologieentwickler:innen als auch von Anwender:innen, ein tiefes Verständnis und eine sorgfältige Handhabung der Werkzeuge, die wir schaffen und einsetzen. Die Balance zwischen technologischer Effizienz und menschlichem Urteilsvermögen wird eine der großen Herausforderungen unserer Zeit sein.

Es bleibt also die Frage: wieviel entscheidet tatsächlich in Zukunft die KI und wieviel der Mensch?

Bildnachweis: KI generiert

AUTORIN