Defining the Future: The AI Act's Potential in equitably Safeguarding Fundamental Rights and Promoting AI Innovation

Marinos Emmanouil Kalpakos

doi:10.5771/2568-9185-2023-1-128

Contents
- Chapter Expand | CollapseAuthorsPage
- 1–2 Titelei/Inhaltsverzeichnis 1–2
- 3–5 Editorial 3–5
- 6–50 Macht und Autonomie. Ein Theorierahmen für die Analyse der Plattformisierung journalistischer Medien Pascal Schneiders Pascal Schneiders 6–50
- 51–96 Aktualität? Breitenwirkung? Suggestivkraft? Eine Prüfung zentraler juristischer Annahmen zur Sonderrolle des Fernsehens auf Basis kommunikationswissenschaftlicher Forschung Carsten Reinemann, Lisa Zieringer, Alina Jakob Carsten Reinemann, Lisa Zieringer, Alina Jakob 51–96
- 97–127 Die Regulierung der Medienintermediäre durch den MStV Emil Brandenburg Emil Brandenburg 97–127
- 128–172 Defining the Future: The AI Act's Potential in equitably Safeguarding Fundamental Rights and Promoting AI Innovation Marinos Emmanouil Kalpakos Marinos Emmanouil Kalpakos 128–172
- 173–175 Rezension 173–175
- 176–185 Zeitschriftenlese 176–185
Durchsuchen Sie das Werk
Geben Sie ein Keyword in die Suchleiste ein
Access

UFITA Archiv für Medienrecht und Medienwissenschaft , page 128 - 172

Defining the Future: The AI Act's Potential in equitably Safeguarding Fundamental Rights and Promoting AI Innovation

Autoren

Marinos Emmanouil Kalpakos

DOI
- doi.org/10.5771/2568-9185-2023-1-128
- ISSN: 2568-9185
- ISSN online: 2942-3511
Zusammenfassung

Die jüngsten Fortschritte im Bereich der Künstlichen Intelligenz (KI) bieten ein breites Spektrum an zugleich aufregenden Möglichkeiten und lauernden Gefahren, weshalb es eines differenzierten, auf den Menschen ausgerichteten regulatorischen Ansatzes bedarf. Mit ihrem verbindlichen KI-Rechtsrahmen (AI Act) ist die EU die erste Organisation, die sich dieser Herausforderung stellt. Im vorliegenden Aufsatz soll die komplexe Zielsetzung dieses grundlegenden KI-Rechtsrahmens auf EU-Ebene untersucht werden, Innovation zu fördern und gleichzeitig die Grundrechte zu schützen. Dabei werden sowohl die Vorgeschichte des Rechtsakts, einschließlich der dem Vorschlag der Europäischen Kommission vorausgegangenen einschlägigen Strategiepapiere, als auch sein Werdegang – die Verhandlungen und Änderungsvorschläge, die abschließende Trilog-Sitzung am 6. Dezember 2024 und die dabei erzielte vorläufige Einigung sowie seine Billigung durch den COREPER und den IMCO- sowie den LIBE-Ausschuss und die endgültige Abstimmung im Europäischen Parlament am 13. März 2024 – beleuchtet. Einzig durch die Nachvollziehung seines legislativen Werdegangs sowie der entsprechenden Rahmenbedingungen kann dieser Rechtsakt, der eines der einschneidendsten Gesetzespakete auf europäischer Ebene darstellen dürfte, umfassend verstanden, ausgelegt und umgesetzt werden. Der Aufsatz zielt darauf ab, eine Lücke in der wissenschaftlichen Diskussion um den AI Act zu schließen, deren Gegenstand bislang lediglich die Bewertung des Schutzes der Grundrechte sowie die Beurteilung von Kosteneffizienzbelangen waren. Konkret soll ein praktischer Ansatz verfolgt werden, der eine Konsolidierung des Gesetzgebungsprozesses sowie eine Bewertung des Gesamtpotenzials des KI-Rechtsrahmens zur Sicherung der Grundrechte bei gleichzeitiger Aufrechterhaltung der Innovation im KI-Bereich umfasst. Dabei soll der Fragestellung nachgegangen werden, wie der KI-Rechtsrahmen einen ausreichenden Schutz der Grundrechte bieten kann, ohne dass es zu Beeinträchtigungen der Innovation im KI-Bereich oder zu einer übermäßigen Belastung von Unternehmen kommt. Die Struktur des Aufsatzes soll eine umfassende Analyse des Rechtsakts im Hinblick auf eine Bearbeitung der genannten Fragestellung bieten. Im Abschnitt zum Überblick (II.) werden der historische Hintergrund der KI sowie die wichtigsten Strategiepapiere beleuchtet, die zum Vorschlag des KI-Rechtsrahmens geführt haben, wodurch eine Quelle für künftige retrospektive Forschung geschaffen wird. Zudem werden zentrale Aspekte des ursprünglichen Kommissionsvorschlags, der als Entwurf für eine Produktsicherheitsverordnung vorgestellt wurde, aufgezeigt, die einer Überprüfung bedürfen, und ein Zusammenhang zum Schutz der Grundrechte hergestellt. Im Abschnitt zum Stand der Gesetzgebung und zu verbleibenden Problemen (III.) werden die Ergebnisse des Gesetzgebungsprozesses bis hin zur Bestätigung des vereinbarten endgültigen Entwurfs durch den IMCO- und den LIBE-Ausschuss am 13. Februar 2024 und der darauffolgenden Zustimmung des Europäischen Parlaments einen Monat später präsentiert. Dabei werden die wichtigsten neuen Elemente aufgeführt, die mit den ausgehandelten Abänderungen implementiert wurden, wobei weiterhin bestehende mögliche Probleme in Bezug auf den Geltungsbereich des Rechtsakts, den Mechanismus für seine Durchsetzung und seine Zukunftssicherheit identifiziert und mit möglichen Risiken für Innovation und Grundrechte in Verbindung gebracht werden. Im Abschnitt zur Ausgewogenheit (IV.) werden Vorschläge unterbreitet, mit denen die im vorherigen Abschnitt identifizierten Schwachstellen angegangen und ein ausgewogenes Verhältnis zwischen dem Schutz der Grundrechte und der Innovation geschaffen werden können. Im abschließenden Abschnitt (V.) werden die Ergebnisse zusammengefasst und die Antwort auf die zugrunde liegende Fragestellung formuliert, wobei Raum für zukünftige Diskussionen gelassen werden soll.

Abstract

The recent advancements in the realm of Artificial Intelligence (AI) feature a landscape filled with exciting prospects and lurking dangers in equal measure, necessitating a nuanced, human-centred regulatory approach. The EU is the first organisation to have undertaken this challenge with binding law through its AI Act. This paper delves into the complex task of this founding stone of EU AI law to balance promoting innovation and safeguarding fundamental rights. It addresses both the Act’s pre-history – encompassing the relevant policy documents before the European Commission's proposal – and its history, which includes the negotiations and amendments leading up to the final trilogue session on the 6th of December 2023 and the consequential provisional agreement, followed by its approval by COREPER and the IMCO and LIBE committees and its final upvoting in the European Parliament on the 13th of March 2024. Keeping track of the Act’s legislative journey, including the context in which said journey evolved, shall be crucial in order to comprehensively understand, interpret, and apply what is expected to be one of Europe’s most impactful pieces of legislation to date. The paper aims to bridge a gap in scholarly discussion around the AI Act, which has so far focused solely on evaluating fundamental rights protection or assessing cost-efficiency, providing a practical approach that consolidates the legislative process and appraises the AI Act’s overall potential in protecting fundamental rights, while equitably maintaining AI innovation. The research question it seeks to answer is: How can the AI Act promise sufficient fundamental rights protection without compromising AI innovation and overburdening enterprises? The paper is structured to provide a comprehensive analysis of the Act in view of answering the research question. The Overview section (II.) will give the historical background of AI and track the main policy documents that led to the AI Act’s proposal offering a source also for retrospective research in future. It will also identify specific key points of the Commission’s original proposal that call for examination and establish its connection to fundamental rights protection, in view of being presented as a product safety regulation. The section on the Legislative State of the Art and Remaining Pitfalls (III.) will present the fruits the legislative process has yielded up until the confirmation of the agreed final draft by the IMCO and LIBE committees on the 13th of February 2024 and its subsequent approval in the Parliament a month later. It will enumerate the main points introduced with the negotiated amendments to then identify still existing potential pitfalls with regards to the Act’s scope, enforcement mechanism and future proofness, and how this creates weaknesses for innovation and fundamental rights. The Balancing section (IV.) offers suggestions to counter the weaknesses that were identified in the previous part, uncovering the balancing point between fundamental rights protection and innovation. Finally, the paper will conclude (V.) by summarising the findings and the answer to the research question while leaving room for future discussion.
Share