Navigation durch die KI-Gesetzgebung der EU: Meilensteine, Geschichte und zukünftige Ziele

Künstliche Intelligenz (KI) hat Industrien, Volkswirtschaften und Gesellschaften auf der ganzen Welt in kürzester Zeit revolutioniert. Die Europäische Union (EU) hat sowohl das enorme Potenzial als auch die inhärenten Risiken der KI-Technologie erkannt und umfassende Rechtsvorschriften zur Regelung der Entwicklung und Nutzung von KI erlassen. Im Folgenden wird Rob Nidschelm auf die Meilensteine, die Geschichte und die Ziele der neuen KI-Gesetzgebung der EU eingehen, ihre Beziehung zu anderen regulatorischen Rahmenwerken (wie GDPR, NIS2 und DORA) untersuchen und ähnliche Initiativen außerhalb der EU prüfen.

Eine kurze Geschichte der KI-Gesetzgebung in der EU

Die gesetzgeberischen Bemühungen der EU im Bereich der KI begannen in den späten 2010er Jahren und zielten darauf ab, Innovationen zu fördern und gleichzeitig die Rechte und die Sicherheit der Bürger zu schützen. Zu den wichtigsten Meilensteinen gehören:

• April 2018: Die Europäische Kommission hat die Europäische Strategie für Künstliche Intelligenz vorgestellt, die sich auf die Verstärkung öffentlicher und privater Investitionen in KI, die Vorbereitung auf sozioökonomische Veränderungen und die Gewährleistung eines angemessenen ethischen und rechtlichen Rahmens konzentriert.
• Dezember 2018: Verabschiedung des koordinierten Plans für Künstliche Intelligenz, der die Zusammenarbeit zwischen den Mitgliedstaaten fördert, um die Wirkung von KI-Investitionen auf EU- und nationaler Ebene zu maximieren.
• April 2019: Die Hochrangige Expertengruppe für KI veröffentlicht die Ethik-Leitlinien für vertrauenswürdige KI, in denen Grundsätze wie Transparenz, Rechenschaftspflicht und menschliche Aufsicht dargelegt werden.
• Februar 2020: Veröffentlichung des Weißbuchs zur Künstlichen Intelligenz durch die Europäische Kommission, in dem politische Optionen vorgeschlagen werden, um eine vertrauenswürdige und sichere Entwicklung von KI in Europa zu ermöglichen.
• April 2021: Einführung des Vorschlags für ein Gesetz über künstliche Intelligenz (KI-Gesetz), mit dem ein Rechtsrahmen für KI geschaffen werden soll, der ein Gleichgewicht zwischen Innovation und dem Schutz der Grundrechte schafft.

Zum Verständnis des Gesetzes über künstliche Intelligenz

Das vorgeschlagene KI-Gesetz ist ein wegweisender Rechtsakt, mit dem KI-Technologien auf der Grundlage ihrer potenziellen Risiken reguliert werden sollen. Es verfolgt einen risikobasierten Ansatz und kategorisiert KI-Systeme, um ein angemessenes Maß an Regulierung zu gewährleisten, ohne Innovationen zu ersticken.

An der Spitze der Hierarchie stehen KI-Systeme, die ein "inakzeptables Risiko" darstellen. Diese werden aufgrund ihres Potenzials, die Sicherheit, den Lebensunterhalt oder die Grundrechte zu bedrohen, rundheraus verboten. Dazu gehören Systeme, die das menschliche Verhalten manipulieren, um den freien Willen der Nutzer zu umgehen, oder die soziale Kontrolle durch Regierungen ermöglichen.

Als nächstes folgen "Hochrisiko"-KI-Anwendungen, die strengen Auflagen unterliegen, bevor sie vermarktet werden können. Diese Systeme werden in der Regel in kritischen Sektoren wie Gesundheitswesen, Verkehr und Strafverfolgung eingesetzt. Zu diesen Standards gehören die Durchführung von Risikobewertungen, die Sicherstellung qualitativ hochwertiger Datensätze, die Führung von Protokollen über Aktivitäten und die Ermöglichung einer menschlichen Aufsicht.

Systeme mit "begrenztem Risiko" sind solche mit besonderen Transparenzpflichten. Zum Beispiel müssen Chatbots die Nutzer darüber informieren, dass sie mit einer Maschine interagieren, um eine informierte Zustimmung zu gewährleisten.

Schließlich können KI-Systeme mit "minimalem Risiko" entwickelt und eingesetzt werden, die ohne zusätzliche rechtliche Anforderungen den bestehenden Rechtsvorschriften unterliegen.

Das AI-Gesetz im Verhältnis zu DSGVO, NIS2 und DORA

Das KI-Gesetz existiert nicht im luftleeren Raum; es ergänzt und überschneidet sich mit anderen wichtigen EU-Rechtsrahmen, wodurch ein kohärentes Umfeld für die Technologie-Governance geschaffen wird.

Die Allgemeine Datenschutzverordnung (DSGVO), die seit Mai 2018 in Kraft ist, ist das Fundament des Datenschutzes und des Schutzes der Privatsphäre in der EU. Das KI-Gesetz baut auf den Grundsätzen der GDPR auf, indem es sich mit der Datenqualität und der Governance in KI-Systemen befasst. Beide Verordnungen legen den Schwerpunkt auf den Schutz personenbezogener Daten, Transparenz und die Rechte des Einzelnen. So müssen KI-Systeme beispielsweise die Datenminimierung und die rechtmäßige Verarbeitung sicherstellen, was den Anforderungen der DSGVO entspricht.

Die Richtlinie über die Netz- und Informationssicherheit 2 (NIS2 ) zielt darauf ab, die Cybersicherheit in der gesamten EU zu stärken und kritische Sektoren und wesentliche Dienste abzudecken. Das KI-Gesetz entspricht der NIS2, indem es sicherstellt, dass KI-Systeme, insbesondere solche mit hohem Risiko, sicher und widerstandsfähig gegen Cyberbedrohungen sind. Diese Einheit ist von entscheidender Bedeutung, da KI-Systeme zu Zielen oder Werkzeugen für Cyberangriffe werden könnten, die möglicherweise die Sicherheit und die Privatsphäre gefährden.

Das Digital Operational Resilience Act (DORA ) konzentriert sich auf die Fähigkeit des Finanzsektors, IKT-bedingten Störungen zu widerstehen und sich von ihnen zu erholen. Das KI-Gesetz ergänzt DORA, indem es sicherstellt, dass die im Finanzwesen eingesetzten KI-Systeme zuverlässig und sicher sind. Gemeinsam fördern sie die operative Widerstandsfähigkeit und legen den Schwerpunkt auf Risikomanagement, Meldung von Vorfällen und eine solide Aufsicht.

Durch die Angleichung des KI-Gesetzes an die Datenschutz-Grundverordnung, NIS2 und DORA schafft die EU ein einheitliches regulatorisches Umfeld, das Datenschutz, Cybersicherheit und betriebliche Widerstandsfähigkeit berücksichtigt und ein vertrauenswürdiges Ökosystem für die Entwicklung und den Einsatz von KI fördert.

Ziele der neuen AI-Gesetzgebung

Mit den KI-Rechtsvorschriften der EU sollen mehrere Hauptziele erreicht werden. Ein Hauptziel ist der Schutz der Grundrechte und der Sicherheit, indem sichergestellt wird, dass KI-Systeme so entwickelt und genutzt werden, dass Grundsätze wie Nichtdiskriminierung, Privatsphäre und Datenschutz eingehalten werden.

Die Förderung einer vertrauenswürdigen KI ist ein weiteres zentrales Ziel. Durch die Festlegung klarer Regeln und Standards soll das Vertrauen der Öffentlichkeit in KI-Technologien gestärkt werden, was eine wesentliche Voraussetzung für deren Annahme und Akzeptanz ist. Die EU möchte auch Innovationen fördern, indem sie einen Binnenmarkt für rechtmäßige, sichere und vertrauenswürdige KI-Anwendungen schafft. Damit soll die Marktfragmentierung begrenzt und Rechtssicherheit für Unternehmen und Innovatoren geschaffen werden.

Die Gewährleistung von Transparenz und Rechenschaftspflicht ist entscheidend. Die Gesetzgebung schreibt Transparenzmaßnahmen vor, z. B. die Offenlegung, wann Einzelpersonen mit KI-Systemen interagieren, und die Gewährleistung, dass die Systeme überprüfbar und rechenschaftspflichtig sind. Diese Offenheit soll die Nutzer befähigen und das Vertrauen der Öffentlichkeit in KI-Technologien erhalten.

Auswirkungen auf Unternehmen

Für Unternehmen, die in der EU tätig sind oder mit den Daten von EU-Bürgern zu tun haben, bietet das KI-Gesetz sowohl Herausforderungen als auch Chancen. Unternehmen müssen ihre KI-Systeme bewerten, um ihre Risikokategorie zu bestimmen und sicherzustellen, dass sie mit den einschlägigen Verpflichtungen übereinstimmen. Dies kann erhebliche Anpassungen ihrer Entwicklungs- und Einführungsprozesse erfordern.

Compliance-Anforderungen könnten notwendige Investitionen in neue Systeme und Prozesse bedeuten, insbesondere für diejenigen, die risikoreiche KI-Systeme einsetzen. Klare Vorschriften können jedoch ein stabiles Umfeld für Innovationen schaffen und Investitionen in KI-Technologien fördern, die konform und vertrauenswürdig sind. Da die EU häufig Präzedenzfälle bei den Regulierungsstandards setzt (wie bei der Datenschutz-Grundverordnung), werden Unternehmen von einer Angleichung an die EU-Vorschriften profitieren und sich möglicherweise einen Wettbewerbsvorteil auf den globalen Märkten verschaffen.

Ähnliche Gesetzgebung außerhalb der EU

Die Anerkennung der tiefgreifenden Auswirkungen von KI ist nicht auf Europa beschränkt; weltweit entwickeln Länder ihre eigenen Rahmenwerke zur Regulierung von KI, was einen weltweiten Trend zu einer verantwortungsvollen KI-Governance widerspiegelt.

In den Vereinigten Staaten wurde ein sektoraler Ansatz gewählt, bei dem verschiedene Bundesbehörden Leitlinien für ihre jeweiligen Bereiche herausgeben. Der Algorithmic Accountability Act (Gesetz zur Rechenschaftspflicht von Algorithmen) wurde vorgeschlagen, um Unternehmen zu verpflichten, die Auswirkungen automatisierter Entscheidungssysteme zu bewerten und etwaige Risiken zu mindern. Auch wenn dieses Gesetz noch nicht in Kraft getreten ist, zeigt es doch, dass das Bewusstsein für die Notwendigkeit einer KI-Aufsicht wächst.

Das Vereinigte Königreich arbeitet nach dem Brexit an einer KI-Strategie mit Schwerpunkt auf einer innovationsfreundlichen Regulierung. Das Vereinigte Königreich plant die Einführung eines Rechtsrahmens, der Innovationen fördert und gleichzeitig die mit KI verbundenen Risiken angeht. Dieser Ansatz soll die Position des Vereinigten Königreichs als führendes Land in der KI-Entwicklung mit der Notwendigkeit des Schutzes der öffentlichen Interessen in Einklang bringen.

In China hat die Regierung Vorschriften für KI erlassen, die sich insbesondere auf die Datensicherheit und die ethische Nutzung von KI konzentrieren. Chinas Ansatz kombiniert eine strenge staatliche Aufsicht mit einem aggressiven Streben nach technologischer Führerschaft in der KI. Die Vorschriften betonen die Notwendigkeit, dass KI mit sozialen Werten und nationalen Sicherheitsinteressen in Einklang gebracht werden muss.

Die kanadische Regierung hat ein Gesetz über künstliche Intelligenz und Daten (Artificial Intelligence and Data Act - AIDA) vorgeschlagen, das die Entwicklung und den Einsatz von KI-Systemen mit großen Auswirkungen regeln und sicherstellen soll, dass diese verantwortungsvoll entwickelt und eingesetzt werden. Das Gesetz würde Organisationen dazu verpflichten, Maßnahmen zur Risikominderung zu ergreifen und Überwachungsmechanismen einzurichten.

In Australien hat die Regierung das KI-Ethik-Rahmenwerk veröffentlicht, das freiwillige Grundsätze enthält, die Unternehmen und Regierungen bei der Konzeption, Entwicklung und Umsetzung von KI unterstützen sollen. Sie sind zwar nicht rechtsverbindlich, spiegeln aber das Engagement Australiens wider, die Sicherheit und Zuverlässigkeit von KI-Technologien zu gewährleisten.

In Japan hat die Regierung die sozialen Grundsätze der menschenzentrierten KI gefördert, die sich auf Prinzipien wie Menschenrechte, Datenschutz und die Förderung von Innovationen konzentrieren. Japans Ansatz betont die harmonische Koexistenz von Menschen und KI und zielt darauf ab, das öffentliche Vertrauen und die Akzeptanz zu fördern.

In Brasilien prüft die Regierung derzeit den Rechtsrahmen für künstliche Intelligenz, der Grundsätze, Rechte und Pflichten für die Entwicklung und Anwendung von KI festlegen soll. Der Rahmen konzentriert sich auf die Förderung von Innovationen bei gleichzeitiger Wahrung der ethischen Standards und Grundrechte.

In Südafrika hat die Regierung im Rahmen des wachsenden Interesses des afrikanischen Kontinents an KI damit begonnen, das Potenzial von KI und die notwendigen regulatorischen Maßnahmen zu untersuchen. Die Präsidialkommission für die vierte industrielle Revolution hat empfohlen, einen umfassenden politischen und rechtlichen Rahmen für KI zu entwickeln, der sich auf integratives Wachstum und ethische Überlegungen konzentriert.

Diese Initiativen kommen von allen Kontinenten und unterstreichen eine globale Bewegung hin zur Schaffung eines Rechtsrahmens, der Innovation mit ethischen Erwägungen und Risikomanagement in Einklang bringt. Der Ansatz jedes Landes spiegelt seinen einzigartigen sozioökonomischen Kontext, seine Rechtstraditionen und strategischen Prioritäten wider und trägt zu einer vielfältigen globalen Landschaft der KI-Governance bei.

Blick in die Zukunft

Das KI-Gesetz ist noch in der Diskussion und kann noch geändert werden. Es muss sowohl vom Europäischen Parlament als auch vom Rat genehmigt werden, bevor es Gesetz wird. Nach der Verabschiedung wird den Beteiligten eine Übergangsfrist eingeräumt, um sich an die neuen Vorschriften anzupassen. Die Integration mit der Datenschutz-Grundverordnung, NIS2 und DORA unterstreicht den ganzheitlichen Regulierungsansatz der EU, der sicherstellt, dass KI-Systeme nicht nur innovativ, sondern auch sicher, transparent und unter Wahrung der Rechte des Einzelnen sind.

Wichtigste Erkenntnisse

• Die EU ist mit dem vorgeschlagenen KI-Gesetz Vorreiter bei der Schaffung einer umfassenden KI-Gesetzgebung.
• Das KI-Gesetz ergänzt andere Vorschriften wie die Datenschutz-Grundverordnung, NIS2 und DORA und schafft einen kohärenten Rahmen für Datenschutz, Cybersicherheit und betriebliche Widerstandsfähigkeit.
• Bei einem risikobasierten Ansatz werden KI-Systeme in unannehmbare, hohe, begrenzte und minimale Risiken eingeteilt.
• Die Gesetzgebung zielt darauf ab, die Grundrechte zu schützen, das Vertrauen zu fördern, die Innovation zu unterstützen und Transparenz zu gewährleisten.
• Die Unternehmen müssen sich darauf vorbereiten, die neuen Verpflichtungen zu erfüllen, was sich auf die Entwicklungs- und Einführungsstrategien auswirken kann.
• Ähnliche Regulierungsbemühungen sind weltweit im Gange, was die weltweite Anerkennung der Notwendigkeit einer verantwortungsvollen KI-Governance widerspiegelt.
• Für Organisationen, die von diesen Änderungen betroffen sind, ist es von entscheidender Bedeutung, informiert zu bleiben und sich mit dem Gesetzgebungsprozess zu befassen.

Wenn Unternehmen die Geschichte und die Ziele der KI-Gesetzgebung der EU und ihre Beziehung zu anderen rechtlichen Rahmenbedingungen verstehen, können sie sich in dem neuen rechtlichen Umfeld effektiv zurechtfinden und zur Entwicklung von KI-Technologien beitragen, die sowohl innovativ als auch mit gesellschaftlichen Werten vereinbar sind.

Wenn Sie mehr darüber erfahren möchten, was der KI-Rahmen der EU für Sie bedeutet, wenden Sie sich bitte an einen unserer engagierten Experten. Wir helfen Ihnen, Ihr Unternehmen auf die oben beschriebenen Änderungen vorzubereiten und KI auf legale und ethisch verantwortungsvolle Weise zu nutzen.