© Adobe Stock/terovesalainen

Im Infoblatt „Rechtliche Rahmenbedingungen der KI-Nutzung“ des Mittelstand-Digital Zentrums Handel können mittelständische Unternehmen erfahren, wie Unternehmen Künstliche Intelligenz im Rahmen der europäischen KI-Verordnung sicher und rechtskonform nutzen können – inklusive Praxisbeispiele und Handlungsempfehlungen.

Am 21. Mai 2024 wurde mit der KI-Verordnung (EU AI Act) ein einheitlicher Rechtsrahmen für die Entwicklung, den Einsatz und die Nutzung Künstlicher Intelligenz (KI) in der Europäischen Union geschaffen, weitere zugehörige Bestimmungen treten seitdem schrittweise in Kraft. Diese europäische KI-Verordnung definiert dabei vier Risikokategorien für KI-Systeme, für die unterschiedlich strenge Bestimmungen gelten: unannehmbares, hohes, begrenztes und minimales Risiko. Diese Bestimmungen reichen von einem Verbot über strenge und eingeschränkte Regulierungen bis hin zur freien Nutzbarkeit. Unternehmen sollten frühzeitig prüfen, in welche Risikokategorie ihre KI-Anwendungen fallen, um rechtzeitig alle regulatorischen Anforderungen zu erfüllen und die Chancen einer verantwortungsvollen KI-Nutzung optimal auszuschöpfen.

Welche Unternehmen und Organisationen sind von der KI-Verordnung betroffen?

Grundsätzlich gilt die KI-Verordnung für alle Unternehmen, die KI-Systeme entwickeln, bereitstellen oder nutzen, sofern diese in der EU angewendet werden, oder deren Ergebnisse Personen in der EU betreffen. Ein besonderer Fokus liegt dabei auf den Bereichen Datenschutz (DSGVO), Urheberrecht, Markenrecht sowie den Transparenzpflichten.

Seit dem 2. Februar 2025 gilt für Unternehmen, die unter die KI-Verordnung fallen außerdem: Sie müssen sicherstellen, dass Mitarbeitende, die mit KI-Systemen arbeiten, über grundlegende Kenntnisse im Umgang mit der Technologie verfügen („KI-Kompetenz“). Dazu gehören neben der Ermittlung des Schulungsbedarfes fachspezifische Weiterbildungen und Auffrischungskurse. Obwohl die KI-Verordnung hier keine explizite Dokumentationspflicht vorschreibt, ist es für Unternehmen ratsam, ihre Schulungsmaßnahmen zu dokumentieren.

Bei Nichteinhaltungen der geltenden Regeln können auf Unternehmen hohe Geldstrafen zukommen. Die Regulierung durch die KI-Verordnung stellt Unternehmen zwar vor neue Herausforderungen, schafft aber gleichzeitig eine notwendige Vertrauensbasis für den breiten Einsatz von KI in der Gesellschaft.

Das vollständige Infoblatt mit Einblicken, was sich hinter den Risikokategorien verbirgt sowie weiteren Informationen und Handlungsempfehlungen zu KI-Kompetenz in Unternehmen finden Sie hier.

Mehr vom Mittelstand-Digital Zentrum Handel