EU KI-Verordnung: Was der neue AI Act für Betriebe bedeutet

Mit dem AI Act hat die Europäische Kommission am 1. August 2024 das weltweit erste umfassende Gesetz zur Regulierung von Künstlicher Intelligenz (KI) verabschiedet. Die Regelungen treten ab Februar 2025 schrittweise in Kraft und sehen unter anderem eine Kennzeichnungspflicht für KI-generierte Inhalte vor. Nachfolgend ein Überblick.

Hintergrund

Die Entwicklung von KI-Technologien schreitet immer schneller voran und bietet enorme Chancen für Betriebe und ihre Mitarbeiterinnen und Mitarbeiter. Der neue Rechtsrahmen soll dafür sorgen, dass der Einsatz dieser Technologien sicher und transparent erfolgt. Wichtig dabei: Die Verpflichtungen richten sich nicht nur an die Entwickler von KI-Systemen, sondern auch an deren gewerbliche Nutzer.

Das Risikobasierte System

Die KI-Verordnung führt ein abgestuftes Regulierungssystem ein, das sich am Risikograd der eingesetzten KI-Systeme orientiert. Viele gängige Anwendungen wie z.B. ChatGPT fallen in die Kategorie mit minimalem Risiko und unterliegen nur grundlegenden Transparenzanforderungen. Vorsicht ist jedoch bei KI-Systemen u.a. im Personalbereich geboten. Diese werden häufig als Hochrisikosysteme eingestuft.

KI mit „annehmbarem Risiko“ wird verboten

Ab Februar 2025 sind bestimmte KI-Anwendungen grundsätzlich verboten:

• Systeme zur Manipulation des menschlichen Verhaltens, die psychischen oder physischen Schaden verursachen können
• KI-gestützte „Social Scoring“ Systeme, die Menschen basierend auf ihrem Verhalten oder persönlichen Merkmalen bewerten
• Biometrische Echtzeit-Identifizierungssysteme im öffentlichen Raum (z.B. automatische Gesichtserkennung)

Vorsicht bei KI-Systemen im Personalbereich

Einige KI-Systeme werden als „hochriskant“ eingestuft werden. Dies betrifft vor allem den Personalbereich.

Im Personalbereich

• Recruiting-Software, die Bewerbungen automatisch filtert oder bewertet
• KI-gestützte Leistungsbewertungssysteme
• Systeme zur automatisierten Personalplanung und -einsatz
• Tools zur Überwachung oder Analyse von Mitarbeiterverhalten

In der Aus- und Weiterbildung

• Systeme zur automatischen Bewertung von Prüfungen
• KI-gestützte Lernfortschrittskontrolle
• Tools zur Erkennung von Täuschungsversuchen

In der Produktsicherheit

• KI-Komponenten in Maschinen und Anlagen
• Qualitätskontrollsysteme mit KI-Unterstützung
• Predictive Maintenance Systeme

Pflichten für Hochrisikosysteme

Der Einsatz von Hochrisiko-KI-Systemen bringt umfangreiche Verpflichtungen mit sich. Im Mittelpunkt steht ein kontinuierliches Risikomanagement, das potenzielle Risiken frühzeitig erkennt und minimiert. Die Verordnung verlangt zudem eine lückenlose Dokumentation aller Systemprozesse.

Darüber hinaus müssen betroffene Personen über den Einsatz von KI-Systemen klar informiert werden. Es gilt der Grundsatz der menschlichen Kontrolle, d.h. automatisierte Entscheidungen dürfen nicht ohne menschliche Kontroll- und Eingriffsmöglichkeit getroffen werden. Darüber hinaus müssen Unternehmen die Genauigkeit ihrer Systeme regelmäßig überprüfen, mögliche Verzerrungen der Ergebnisse überwachen und ihre Systeme kontinuierlich verbessern.

Generative KI und Standardanwendungen

Für häufig verwendete KI-Systeme wie ChatGPT, Midjourney oder ähnliche Systeme gelten weniger strenge Regeln. Hier müssen lediglich Transparenz- und Urheberrechtspflichten eingehalten werden. Dies beinhaltet unter anderem die Kennzeichnung von KI-generierten Inhalten und die Einhaltung von Copyright- und Lizenzbestimmungen.

Zeitplan und Übergangsfristen

Die Umsetzung erfolgt schrittweise:

• Ab Februar 2025: Verbot bestimmter KI-Anwendungen mit unannehmbaren Risiko
• Ab August 2025: Transparenzanforderungen für generative KI
• Ab August 2026: Vollständige Anwendung aller Vorschriften

Für Hochrisikosysteme, etwa im Personalbereich, gilt eine verlängerte Übergangsfrist von 36 Monaten.

Konsequenzen bei Verstößen

Die Verordnung sieht empfindliche Strafen vor:

• Bis zu 35 Mio. Euro oder 7% des weltweiten Jahresumsatzes bei verbotenen Systemen
• Bis zu 15 Mio. Euro oder 3% bei Verstößen gegen andere Verpflichtungen
• Bis zu 7,5 Mio. Euro oder 1,5% bei falschen Angaben

Ausblick

Die neue KI-Verordnung mag auf den ersten Blick komplex erscheinen, bietet aber auch einen klaren Rahmen für den sicheren und rechtskonformen Einsatz von KI. Die EU-Mitgliedstaaten sind nun verpflichtet, den AI Act in nationales Recht umzusetzen. Nutzen Sie die Übergangsfristen, um Ihre Systeme und Prozesse anzupassen und lassen Sie sich gegebenenfalls zu konkreten Rechtsfragen beraten.

Das könnte Sie ebenfalls interessieren: E-Rechnungspflicht ab 2025: Alles, was Sie wissen müssen (ecovis.com)