Navigating the Future: Deutschlands Aufsichtsstruktur für KI

Künstliche Intelligenz hält immer mehr Einzug in unser tägliches Leben, sowohl im privaten als auch im geschäftlichen Bereich. In unserer Beitragsreihe Navigating the Future haben wir daher die wichtigsten Aspekte der rechtlichen Regulierung von KI sowie die damit verbundenen Herausforderungen und Chancen bereits näher beleuchtet. Der AI Act zielt darauf ab, den rechtlichen Rahmen für den Einsatz von KI innerhalb der Europäischen Union zu harmonisieren und den sicheren und ethischen Einsatz von KI-Systemen zu gewährleisten. Deutschland steht nun vor der Aufgabe, innerhalb von 12 Monaten eine behördliche Aufsichtsstruktur für die Einhaltung dieser KI-Verordnung einzurichten.

Update vom 12.03.2025: Referentenentwurf zum KI-Marktüberwachungsgesetz

Bis August 2025 müssen die Mitgliedsstaaten die notwendigen Strukturen für die Marktüberwachung schaffen. Der Referentenentwurf zum KI-Marktüberwachungsgesetz (KIMÜG) gibt Einblicke, wie die Aufsichtsstruktur in Deutschland gestaltet werden könnte.

Zentrales Koordinierungs- und Kompetenzzentrum sowie zentrale Anlauf- und Beschwerdestelle

Dem Entwurf nach soll die Bundesnetzagentur das zentrale Koordinierungs- und Kompetenzzentrum für alle Bereiche werden. Außerdem ist bei ihr eine zentrale Beschwerdestelle und das Innovationszentrum angedacht. Ferner soll die Bundesnetzagentur als Ansprechpartnerin für die europäischen Behörden, also zentrale Anlaufstelle gemäß Art. 70 Abs. 2 S. 3 KI-VO, dienen und wird somit Koordinatorin in der Schnittstelle zu dem EU AI Office.

Unabhängige Marktüberwachungskammer

Speziell für Hochrisiko-KI-Systeme, die von Behörden in den Bereichen Strafverfolgung, Einwanderung und Asyl in Betrieb genommen werden, soll eine unabhängige Marktüberwachungskammer bei der Bundesnetzagentur eingerichtet werden.

Nutzung bestehender Aufsichtsstrukturen

Auch wenn die Bundesnetzagentur in der Aufsicht eine zentrale Rolle spielt, sollen die Behörden, die bereits in vollharmonisierten Bereichen der Produktregulierung zuständige Marktüberwachungsbehörde sind, auch die zuständige Behörde nach der KI-Verordnung sein. Im Bereich für Medizinprodukte zum Beispiel soll auch die Behörde für die Überwachung von Medizinprodukten zuständig für KI in diesen Produkten sein.

Die Deutsche Akkreditierungsstelle ist für die Bewertung und Überwachung von Konformitätsbewertungsstellen vorgesehen, soweit die Bundesnetzagentur notifzierende Behörde ist.

Insgesamt ist eine Kooperation und Zusammenarbeit der zuständigen Marktaufsichtsbehörden und weiterer Behörden, wie die Datenschutzbehörden, das Bundesamt für Sicherheit in der Informationstechnik und das Bundeskartellamt vorgesehen. Durch die vorgesehene Bündelung der Kompetenz bei der Bundesnetzagentur soll diese auch die anderen Behörden unterstützen und ihnen entsprechende Ressourcen zur Verfügung stellen.

KI-Modelle mit allgemeinem Verwendungszweck

Das EU AI Office soll die europaweite Überwachung und Koordination hinsichtlich von KI-Modellen mit allgemeinem Verwendungszweck sicherstellen.

Artikel vom 20.05.2024:

Zuständigkeiten der Datenschutzbehörden

Die Konferenz der unabhängigen Datenschutzaufsichtsbehörden des Bundes und der Länder (DSK) empfiehlt, die Aufsicht über die Einhaltung des AI Acts den Datenschutzaufsichtsbehörden zu übertragen. Diese Behörden sind bereits mit der Überwachung von KI-Systemen betraut, insbesondere wenn diese personenbezogene Daten verarbeiten und verfügen über umfangreiche Erfahrung in der Beratung, Beschwerdebearbeitung und Kooperation auf nationaler und europäischer Ebene. Durch die Zuweisung dieser Zuständigkeit an die Datenschutzbehörden sollen Doppelstrukturen und zusätzlicher Bürokratieaufwand vermieden werden.

Ausnahmen und Besonderheiten

Einige Sektoren sind von dieser allgemeinen Zuständigkeit ausgenommen, darunter der Finanzsektor und der Sektor kritischer Infrastrukturen. In diesen Bereichen sollen spezielle Aufsichtsbehörden die Einhaltung des AI Acts überwachen. Diese sektorale Differenzierung soll sicherstellen, dass die Aufsicht den spezifischen Anforderungen und Risiken der jeweiligen Branchen gerecht wird​.

Einbindung der Bundesbeauftragten für den Datenschutz und die Informationsfreiheit (BfDI)

Die DSK schlägt vor, die Bundesbeauftragte für den Datenschutz und die Informationsfreiheit (BfDI) sowie die Landesdatenschutzbehörden als zentrale Marktüberwachungsbehörden nach dem AI Act zu benennen. Die BfDI soll Deutschland im Europäischen Ausschuss für KI vertreten, um eine einheitliche Anwendung der Verordnung auf europäischer Ebene zu fördern. Diese Einbindung soll sicherstellen, dass die Aufsicht aus einer Hand erfolgt und die Datenschutzgrundrechte gewahrt bleiben.

Ressourcen und Kapazitäten für die KI-Aufsicht

Um ihre Aufgaben effektiv erfüllen zu können, müssen die Datenschutzaufsichtsbehörden mit angemessenen Ressourcen ausgestattet werden. Dies umfasst sowohl finanzielle Mittel als auch personelle Kapazitäten. Nur so können die Behörden die komplexen und vielfältigen Herausforderungen, die der Einsatz von KI mit sich bringt, adäquat bewältigen​.

Fazit

Die geplante behördliche Aufsichtsstruktur für KI in Deutschland sieht vor, die Datenschutzaufsichtsbehörden als zentrale Instanzen zur Überwachung der Einhaltung des AI Acts zu benennen. Diese Behörden bringen die notwendige Erfahrung und Expertise mit, um eine effektive und einheitliche Anwendung der Verordnung zu gewährleisten. Durch die spezifische Zuweisung der Zuständigkeiten und die Bereitstellung ausreichender Ressourcen soll die sichere und ethische Nutzung von KI in Deutschland gefördert werden.

Weitere Informationen finden Sie im vollständigen Positionspapier der DSK auf deren Website.

Einen umfangreichen Einblick in die Regelungen des AI Acts können Sie hier nachlesen.

Bildnachweis: KI generiert

AUTORIN