Der EU-KI-Gesetzgebungsprozess markiert einen zentralen Wendepunkt in der digitalen Regulierung, mit dem die Europäische Union nicht nur innovative Technologien regieren, sondern auch die Grundlagen für eine globale Wettbewerbsfähigkeit legen möchte. Der AI Act, ein zentraler Bestandteil dieser Politik, wird oft als Meilenstein für den Schutz fundamentaler Rechte gefeiert, doch hinter dieser Fassade tobt ein heftiger Streit zwischen regulatorischem Anspruch und industrieller Realität. In diesem Bericht werde ich die Spannungen und Herausforderungen analysieren, die sich aus der Einführung des AI Act ergeben, und den Leser mit ins Feld nehmen, um die Komplexität dieser Angelegenheit zu verstehen.

Der AI Act als zentraler Bestandteil der EU-KI-Strategie

Der AI Act ist ein zentraler Bestandteil der europäischen KI-Strategie, die darauf abzielt, sowohl Innovation als auch Sicherheit zu fördern. Das Gesetz zielt darauf ab, Risiken, die durch künstliche Intelligenz entstehen können, zu minimieren, gleichzeitig aber die Wettbewerbsfähigkeit europäischer Akteure zu stärken. Die Definition von KI-Systemen und die Risikoklassifizierung sind dabei zentrale Elemente, die jedoch eine beträchtliche Debatte auslösen.

Kritikpunkte an der Definition von KI-Systemen und Risikoklassifizierung

Branchenverbände, insbesondere im Versicherungswesen, kritisieren die Definition von KI-Systemen als zu umfassend. Sie argumentieren, dass einfache Softwaresysteme oft als hochriskant eingestuft werden, obwohl sie keine signifikanten Risiken bergen. Diese pauschale Kategorisierung könne Innovation hemmen, indem sie Unternehmen mit unnötigen bürokratischen Hürden belastet. Ein besonderes Problem stellt die Regulierung von General Purpose AI (GPAI) dar, wie sie in Systemen wie ChatGPT verwendet wird. Da diese Systeme keinen spezifischen Zweck haben, passen sie schlecht in das vierstufige Risikosystem des AI Act, was zu Rechtsunsicherheit führt.

Politische Dynamik und der 'AI Omnibus'

Die politische Dynamik um den 'AI Omnibus' verdeutlicht den Druck, den die Industrie auf die Gesetzgebung ausübt. Dieser Vorschlag zielt darauf ab, das Inkrafttreten der Vorschriften für Hochrisiko-KI um 15 Monate zu verschieben, was Kritiker als Sieg der Lobbyinteressen über den regulatorischen Anspruch sehen. Die European Center for Non-Profit Law (ECNL) warnt vor einem Schutzvakuum, da die Entfernung kritischer Informationen aus dem öffentlichen Register die Transparenz geschwächt wird. Der Draghi-Bericht zur Wettbewerbsfähigkeit und aggressives Lobbying der Tech-Industrie gelten als treibende Kräfte hinter dieser Deregulierung. Big-Tech-Lobbygruppen wie die CCIA begrüßen die Verzögerung, während Verbraucherschützer warnen, dass Tech-Giganten durch verzögerte Regeln diskriminierende Entscheidungen bei Kreditvergaben oder Versicherungen begünstigt werden könnten.

Praktische Compliance-Herausforderungen

Praktische Herausforderungen zeigen sich insbesondere im Umgang mit Open-Source-Modellen. Obwohl Ausnahmen für bestimmte GPAI-Modelle unter spezifischen Lizenzen existieren, gelten diese Befreiungen nur auf der Modellebene und nicht für alle Verpflichtungen. Anbieter bleiben weiterhin für Copyright-Compliance und Transparenz bei Trainingsdaten verantwortlich. Bis zum 2. August 2026 müssen Wasserzeichen nach C2PA-Standard implementiert werden, was zu Rechtsunsicherheit führt, da technische Standards oft vage bleiben. Die Gleichstellung von Open-Source-Anbietern mit proprietären Anbietern wird als ungerecht empfunden, da sie gleiche Pflichten tragen müssen, ohne denselben Zugang zu Ressourcen zu haben.

Kritik an der Definition von High-Risk-Systemen

Politische Akteure wie Axel Voss kritisieren die Definition von 'High-Risk-Systemen' als untauglich und fordern eine Änderung. Er betont, dass das Ziel des AI Act die Stärkung des Wettbewerbs sein sollte, nicht primär der Verbraucherschutz, um europäische Innovation gegenüber den USA zu fördern. Die Unschärfe der Regulierung wird bemängelt, da konkrete technische Evaluierungsstandards fehlen. Europa gilt im Vergleich zu US-Giganten und chinesischen Alternativen als chancenlos, wobei auch europäische Akteure wie Mistral durch ausländische Investitionen ihre Unabhängigkeit verlieren könnten. Es wird argumentiert, dass Regulierung allein nicht reicht; Europa müsse die öffentlichen Fördermittel drastisch erhöhen, um im Wettbewerb bestehen zu können.

Externe Perspektiven auf Sicherheitsdebatten

Externe Perspektiven werfen ein kritisches Licht auf die Sicherheitsdebatten. Yoshua Bengios Konzept der 'vertrauenswürdigen' Auditoren wird als kulturell exklusiv kritisiert, das marginalisierte Gruppen ausschließt. Die Kritik warnt vor 'Regulatory Capture', bei dem sich Regulierungsbehörden von der Industrie abhängig machen und den Wettbewerb zu Lasten des Open-Source-Sektors verzerren. Es wird argumentiert, dass 'Security through Obscurity' keine echte Sicherheit bietet, während Open Source durch globale, unabhängige Prüfung robuster ist.

Gegenargumente und Gleichgewichte

Gegenargumente relativieren die Kritik am AI Act erheblich. Die EU hat durch den KI-Omnibus Fristverlängerungen eingeführt und den Umfang hochriskanter KI-Systeme reduziert, was die regulatorische Belastung im Vergleich zum ursprünglichen Entwurf senkt. Erste Praxisberichte aus dem WealthTech-Bereich ab März 2026 zeigen konkrete organisatorische Anpassungen und Kostenstrukturen auf, die nicht nur als reine Bürokratie, sondern auch als strategische Investition in Compliance-Infrastruktur wahrgenommen werden. Während einige Quellen den Akt als Innovationshemmnis für Open-Source-Entwickler kritisieren, betonen andere Parallelen zur DSGVO und sehen darin hilfreiche Leitplanken für robustes KI-Governance. Ein politischer Kurswechsel wird beschrieben, der unter dem Deckmantel der Wettbewerbsfähigkeit Schutzstandards abbaut, um mit den USA und China zu konkurrieren. Die Regulierung von General-Purpose AI bleibt ein zentraler Fokus, wobei spezifische Erkenntnisse zur Umsetzung noch ausstehen. Der reale Bedarf liegt in der Abwägung zwischen technischer Machbarkeit, historischen regulatorischen Erfahrungen und aktuellen Marktbedürfnissen.

Offene Fragen und Zukunftsaspekte

Offene Fragen bleiben bestehen: Wie wird die Transparenz bei geschwächten Registrierungspflichten gewährleistet? Welche Auswirkungen hat die Verschiebung auf den Verbraucherschutz? Und wie kann Europa seine Innovationskraft stärken, ohne fundamentale Rechte zu opfern? Die Antwort liegt in einer differenzierten Umsetzung, die sowohl technologische Realitäten als auch ethische Standards berücksichtigt. Nur so kann der AI Act sein Potenzial entfalten und gleichzeitig die Wettbewerbsfähigkeit Europas sichern.

— Twight Sterling, Sigil & Spark