Mit dem Inkrafttreten der KI-Verordnung (EU AI Act) im Februar müssen Unternehmen, die Künstliche Intelligenz (KI) entwickeln oder einsetzen, neue regulatorische Anforderungen beachten. Insbesondere für kleine und mittlere Unternehmen (KMU) bedeutet dies, interne Prozesse und die Nutzung von KI-Systemen anzupassen. Dieser Artikel zeigt, wie Sie diese Anforderungen erfüllen und Ihre KI-Projekte rechtssicher gestalten.
Worum geht es beim EU AI Act?
Der EU AI Act ist eine Verordnung, die einen risikobasierten Ansatz verfolgt. KI-Systeme werden in vier Risikoklassen eingeteilt: minimale, begrenzte, hohe und inakzeptable Risiken. Jede Kategorie hat unterschiedliche Anforderungen. Hochrisiko-KI-Systeme – etwa solche, die im Personalmanagement oder in kritischen Infrastrukturen eingesetzt werden – unterliegen strengen Dokumentations- und Konformitätsprüfungen.
Wie erfolgt die Klassifizierung von KI-Systemen?
Der erste Schritt bei der Analyse eines KI-Systems ist die Einordnung in eine Risikokategorie. Die Klassifizierung basiert auf dem vorgesehenen Zweck des Systems und den potenziellen Risiken für Einzelpersonen und Gesellschaft. Anbieter müssen:
-
Die Zweckbestimmung dokumentieren: Definieren Sie den vorgesehenen Einsatzbereich klar und eindeutig.
-
Funktionen des Systems analysieren: Prüfen Sie, ob das System verbotene Funktionen gemäß Art. 5 des EU AI Acts aufweist (z. B. manipulative Techniken oder Echtzeit-Biometrieüberwachung).
-
Risikoklasse bestimmen: Basierend auf Anhang III des EU AI Acts wird festgelegt, ob das System als Hochrisiko-KI eingestuft wird. Bereiche wie Gesundheitswesen, Personalmanagement oder kritische Infrastruktur führen oft zu einer solchen Einstufung.
Neue Pflichten ab Februar: Fokus auf Schulung und Transparenz
Ein zentraler Aspekt der neuen Vorschriften ist die Einführung und der Nachweis eines verpflichtenden „KI-Basis-Kompetenz-Trainings“ für Mitarbeitende, die KI-Systeme betreiben oder entwickeln. Dieses Training soll sicherstellen, dass Anwender die Funktionsweise und potenziellen Risiken der eingesetzten KI verstehen. Die Schulung umfasst Themen wie:
-
Grundlagen der KI: Aufbau und Funktionsweise von KI-Systemen.
-
Regulatorische Anforderungen: Einhaltung der Transparenz- und Sicherheitsvorgaben.
-
Verantwortungsvolle Nutzung: Umgang mit ethischen Fragestellungen und Bias.
Diese Maßnahme soll nicht nur die Compliance sicherstellen, sondern auch das Vertrauen in KI-Technologien stärken.
