Verordnung (Eu) 2024/1689 des Europäischen Parlaments und des Rates vom 13. Juni 2024 und der Luxemburgische Gesetzesentwurf Nr. 8476

Drei zentrale Erkenntnisse sind dabei ausschlaggebend:

• Rolle: Wo stehen Sie in der Wertschöpfungskette (Anbieter, Betreiber, Importeur, Händler usw.)?
• Risiko: Welches Risikoniveau hat das System im Hinblick auf seinen Zweck und seinen Nutzungskontext?
• Rückverfolgbarkeit: Welche Governance- und Dokumentationsmaßnahmen sollten eingeführt werden, um die Compliance nachzuweisen und die Haftung zu steuern?

Diese erste einführende Mitteilung, die bewusst pädagogisch angelegt ist, zielt darauf ab, die Grundprinzipien der KI-Verordnung und die ersten praktischen Auswirkungen zu erläutern, mit besonderem Fokus auf die Umsetzung in Luxemburg. 

1. HINTERGRUND – DIE KI-VERORDNUNG VERSTEHEN: WOHER KOMMT SIE UND WOZU DIENT SIE?

Die KI-Verordnung ist die gebräuchliche Bezeichnung für die Verordnung (EU) 2024/1689 des Europäischen Parlaments und des Rates vom 13. Juni 2024 zur Festlegung harmonisierter Vorschriften über künstliche Intelligenz und zur Änderung mehrerer bestehender Verordnungen und Richtlinien (die KI-Verordnung). Es handelt sich um eine EU-Verordnung, d.h. einen Rechtsakt, der in allen EU-Mitgliedstaaten unmittelbar anwendbar ist, ohne dass eine Umsetzung in nationales Recht erforderlich wäre. Die darin festgelegten Pflichten gelten daher unmittelbar für die betroffenen Akteure, vorbehaltlich der im Text vorgesehenen nationalen Durchführungsmaßnahmen, insbesondere hinsichtlich der zuständigen Behörden, der Aufsichts- und Durchsetzungsmechanismen sowie des Sanktionsregimes. Zweck der KI-Verordnung ist es, die Entwicklung, das Inverkehrbringen und die Nutzung von Systemen der künstlichen Intelligenz auf der Grundlage der Risiken, die diese Systeme darstellen können, zu regeln.

Die KI-Verordnung definiert ein „System der künstlichen Intelligenz“ als „ein maschinengestütztes System, das so konzipiert ist, dass es mit unterschiedlichem Grad an Autonomie arbeitet und das nach der Inbetriebnahme Anpassungsfähigkeit aufweisen kann, und das für explizite oder implizite Ziele aus den empfangenen Eingaben ableitet, wie Ausgaben wie Vorhersagen, Inhalte, Empfehlungen oder Entscheidungen erzeugt werden, die physische oder virtuelle Umgebungen beeinflussen können.“ Diese Definition ist bewusst weit gefasst und technologieneutral. Sie zielt nicht auf eine bestimmte Technologie ab, sondern auf eine Funktion: die Fähigkeit eines Systems, auf automatisierte Weise Ausgaben zu erzeugen, die sich auf seine Umgebung auswirken. Infolgedessen können viele im beruflichen Kontext eingesetzte Softwaretools in den Anwendungsbereich der KI-Verordnung fallen, selbst wenn sie im alltäglichen Sprachgebrauch nicht als „künstliche Intelligenz“ bezeichnet werden.

2. NUTZEN DER KI-VERORDNUNG?

Die Verabschiedung der KI-Verordnung erfolgt vor dem Hintergrund tiefgreifender Veränderungen in der digitalen Nutzung. Wie die einleitenden Erwägungsgründe der KI-Verordnung in Erinnerung rufen, ist künstliche Intelligenz keine experimentelle oder marginale Technologie mehr. Sie ist mittlerweile in viele Werkzeuge und Prozesse eingebettet, die das wirtschaftliche, soziale und berufliche Leben unmittelbar prägen. Systeme der künstlichen Intelligenz werden heute eingesetzt, um Entscheidungen in einer Vielzahl von Bereichen zu automatisieren oder zu unterstützen, wie z.B. bei der Einstellung und Personalverwaltung, beim Zugang zu wesentlichen Dienstleistungen, bei der Bewertung individueller Situationen und bei der Entscheidungsunterstützung in sensiblen Bereichen. Diese Nutzungen können sehr greifbare Auswirkungen auf die betroffenen Personen haben, sei es hinsichtlich des Zugangs zu einer Stelle, einer Dienstleistung oder einem Recht. Gleichzeitig bestreitet der EU-Gesetzgeber nicht die erheblichen Vorteile, die mit der Entwicklung der künstlichen Intelligenz verbunden sind. Erwägungsgrund (4) der KI-Verordnung stellt ausdrücklich fest, dass künstliche Intelligenz eine sich schnell entwickelnde Familie von Technologien ist, die zu einem breiten Spektrum wirtschaftlicher, ökologischer und gesellschaftlicher Vorteile beiträgt, und erläutert, dass durch die Verbesserung von Vorhersagen, die Optimierung von Abläufen und Ressourcenallokation und die Personalisierung digitaler Lösungen die Nutzung künstlicher Intelligenz zentrale Wettbewerbsvorteile bieten und sozial und ökologisch vorteilhafte Ergebnisse unterstützen kann.

Diesbezüglich können Systeme der künstlichen Intelligenz gemäß der KI-Verordnung erhebliche Vorteile für Einzelpersonen, Unternehmen und die Gesellschaft insgesamt bringen, insbesondere durch die Verbesserung von Vorhersagen, die Optimierung von Abläufen und Ressourcenallokation und die Personalisierung digitaler Lösungen in vielen wirtschaftlichen und sozialen Sektoren. Sie können auch zu Zielen von allgemeinem Interesse beitragen, wie einer besseren Gesundheitsversorgung, Krankheitsvorbeugung, erhöhter Sicherheit und der Förderung ökologischer Nachhaltigkeit. Es ist jedoch wichtig, die spezifischen Risiken nicht zu übersehen, die bestimmte Nutzungen künstlicher Intelligenz für die Grundrechte und die Werte der Union darstellen können.

Diese Risiken betreffen insbesondere die Undurchsichtigkeit bestimmter automatisierter Entscheidungen, die Schwierigkeit, die von einem KI-System erzeugten Ergebnisse zu verstehen oder anzufechten, Verzerrungen, die Daten oder Modelle beeinträchtigen können, sowie Fragen der Systemsicherheit und -zuverlässigkeit. Diesbezüglich erinnert Erwägungsgrund (5) der KI-Verordnung daran, dass „[s]olche Schäden materieller oder immaterieller Art sein können, einschließlich physischer, psychischer, gesellschaftlicher oder wirtschaftlicher Schäden.“ Vor der Verabschiedung der KI-Verordnung wurden diese Fragen durch allgemeine Vorschriften des bestehenden Rechts behandelt, wie Datenschutz, Verbraucherschutz oder Produktsicherheitsvorschriften. Obwohl diese Regelungsrahmen weiterhin anwendbar bleiben, wurden sie nicht speziell als Antwort auf die Besonderheiten der künstlichen Intelligenz konzipiert.

Diese Situation schuf ein gewisses Maß an Rechtsunsicherheit, sowohl für betroffene Personen als auch für Unternehmen, und barg die Gefahr divergierender Ansätze in den einzelnen Mitgliedstaaten. Als Reaktion darauf hat die Europäische Union beschlossen, durch einen spezifischen, horizontalen und harmonisierten Rechtsrahmen einzugreifen, der in allen Mitgliedstaaten unmittelbar anwendbar ist. Wie Erwägungsgrund (1) der KI-Verordnung feststellt, zielt dieser Rahmen darauf ab, „das Funktionieren des Binnenmarktes zu verbessern“, die Einführung einer menschenzentrierten und vertrauenswürdigen künstlichen Intelligenz zu fördern und ein hohes Schutzniveau für Gesundheit, Sicherheit und in der „Charta der Grundrechte der Europäischen Union verankerte Grundrechte, einschließlich Demokratie, Rechtsstaatlichkeit und Umweltschutz“ zu gewährleisten und gleichzeitig Innovation zu unterstützen. In diesem Sinne verfolgt die KI-Verordnung einen risikobasierten Ansatz, der Systeme der künstlichen Intelligenz nach dem Risikoniveau unterscheidet, das sie voraussichtlich darstellen, und folglich nach den Auswirkungen, die sie auf Gesundheit, Sicherheit und Grundrechte haben können.

Diese Architektur, die der Leitfaden der KI-Verordnung ist, ermöglicht es, die sensibelsten Nutzungen strenger zu regulieren, während für Anwendungen mit geringem Risiko ein leichterer Rahmen beibehalten wird.