Die KI-Verordnung: Neue Herausforderungen und Chancen für Unternehmen

Die Europäische Union hat mit der Verordnung zur Regulierung von Künstlicher Intelligenz (KI-Verordnung oder AI-Act) einen wegweisenden Schritt zur Harmonisierung des KI-Einsatzes in der EU unternommen.

Ab dem 2. Februar 2025 treten erste Teile dieser Verordnung in Kraft, was Unternehmen vor neue Herausforderungen stellt.

Kernpunkte der KI-Verordnung

Die KI-Verordnung zielt darauf ab, den Einsatz vertrauenswürdiger KI-Systeme zu fördern und deren Regelungen in der EU zu vereinheitlichen. Als hybrides Regelwerk kombiniert sie Elemente des Produktsicherheitsrechts mit einer Technikfolgenabschätzung, um den spezifischen Risiken von KI-Technologien gerecht zu werden.

Risikobasierter Ansatz

Die Verordnung klassifiziert KI-Systeme in verschiedene Risikokategorien:

• Untragbares Risiko: Verbotene Praktiken
• Hohes Risiko: Strenge Auflagen
• Begrenztes Risiko: Transparenzanforderungen
• Minimales Risiko: Keine zusätzlichen Anforderungen

Zeitlicher Rahmen

• Februar 2025: Inkrafttreten der Bestimmungen zu verbotenen Praktiken und KI-Kompetenz
• August 2026: Vollständige Anwendbarkeit der meisten Bestimmungen

KI-Kompetenz als Schlüsselfaktor

Ein zentraler Aspekt der KI-Verordnung ist die Forderung nach „ausreichender KI-Kompetenz“ gemäß Artikel 4 KI-VO.

Unternehmen müssen folgendes leisten (ab Februar 2025!):

• KI-Systeme verstehen und bewerten können
• Risiken und Chancen von KI-Anwendungen einschätzen
• Datenschutz- und ethische Aspekte berücksichtigen
• Beschäftigte im Umgang mit KI-Systemen schulen.

Sanktionen bei Verstößen

Die KI-Verordnung sieht bei Verstößen erhebliche Sanktionen vor, die den Bußgeldern der DSGVO ähneln. Die Strafen sind gestaffelt und richten sich nach der Schwere des Verstoßes sowie der Größe des Unternehmens. Teils gehen sie sogar über den DSGVO-Rahmen hinaus:

Bußgeldrahmen

Die KI-Verordnung sieht folgende maximale Bußgelder vor:

• Bis zu 30 Millionen Euro oder 6% des weltweiten Jahresumsatzes (der höhere Wert gilt) für schwerwiegende Verstöße. (Einsatz verbotener KI-Praktiken; Nichteinhaltung von Datengouvernanz- und Datenmanagementpraktiken)
• Bis zu 20 Millionen Euro oder 4% des weltweiten Jahresumsatzes für mittelschwere Verstöße. (Nichteinhaltung anderer Verpflichtungen im Zusammenhang mit KI-Systemen; Bereitstellung unrichtiger, unvollständiger oder irreführender Informationen an benannte Stellen und zuständige nationale Behörden)
  Bis zu 10 Millionen Euro oder 2% des weltweiten Jahresumsatzes für leichtere Verstöße.
  (z.B. Nichterfüllung von Informationspflichten gegenüber Nutzern)

Ein Ignorieren der Anforderungen der Verordnung ist Unternehmern demnach nicht zu empfehlen…

Handlungsempfehlungen

Um einen rechtskonformen KI-Einsatz sicherzustellen, sollten Unternehmen folgende Schritte unternehmen:

• Bestandsaufnahme: Identifizierung aller KI-Systeme im Unternehmen
• Datenschutzbezug feststellen: Prüfung der Verarbeitung personenbezogener Daten
• Risikoanalyse: Bewertung potenzieller Risiken der eingesetzten Systeme
• Handlungsbedarf ableiten: Feststellung von DSFA-Pflichten, Transparenz- und Dokumentationsanforderungen
• KI-Kompetenz aufbauen: Benennung und Ausbildung von Fachpersonen gemäß Art. 26 KI-VO
• KI-Richtlinie erstellen: Entwicklung einer organisationsweiten Richtlinie für den KI-Einsatz mit klaren Anweisungen an Beschäftigte.

Entwicklung einer KI-Richtlinie

Eine effektive KI-Richtlinie sollte zumindest folgende Aspekte umfassen:

• Zulässige Einsatzzwecke und -bereiche für KI
• Verantwortlichkeiten und Zuständigkeiten
• Verfahren zur Risikobewertung und -minimierung
• Datenschutz- und Datensicherheitsanforderungen
• Schulungs- und Sensibilisierungsmaßnahmen für Beschäftigte

Zusätzliche empfohlene Maßnahmen

• Entwicklung eines umfassenden Schulungsprogramms
• Ernennung eines KI-Beauftragten oder Erweiterung bestehender Rollen
• Einbindung des Datenschutzbeauftragten bei KI-Anwendungen mit personenbezogenen Daten
• Implementierung von Prozessen zur regelmäßigen Überprüfung und Dokumentation des KI-Einsatzes

Zusammenfassend lässt sich feststellen:

Die KI-Verordnung stellt Unternehmen vor neue Herausforderungen, bietet aber auch Chancen zur Stärkung der Wettbewerbsfähigkeit und des Vertrauens bei Kunden und Partnern. Eine proaktive Herangehensweise an die Umsetzung der Verordnung, insbesondere im Bereich der KI-Kompetenz, ist entscheidend für einen erfolgreichen und rechtskonformen Einsatz von KI-Systemen in der Zukunft.

Wir unterstützen Sie gerne bei der Umsetzung der Anforderungen und beim Aufbau der erforderlichen KI-Kompetenz – sprechen Sie uns einfach unverbindlich an!