Chancen und Risiken der KI-Nutzung in Ihrem Unternehmen
Über 60 Prozent aller Beschäftigten in Deutschland nutzen bereits KI am Arbeitsplatz. Dies geschieht sehr wahrscheinlich auch in Ihrem Unternehmen – wie eine Studie des Bundesministeriums für Arbeit und Soziales (BMAS) zeigt, und meist ohne offizielle Einführung durch die Arbeitgeber.
Seit der Einführung von ChatGPT ist generative KI für jede/n zugänglich und ermöglicht ungeahnte Effizienzsteigerungen: Präsentationen erstellen, Dokumente analysieren, Werbeanzeigen oder Webseiten gestalten – all das geht blitzschnell, einfach und oft kostenlos.
⚠️ Aber Vorsicht, die informelle Nutzung von KI und fehlende KI-Kompetenz im Team birgt erhebliche Risiken:
-
Bei Verstößen gegen die KI-VO, DSGVO, AGG, Urheber- oder Wettbewerbsrecht drohen Bußgelder, Unterlassungs- und Schadensersatzansprüche.
Beispiel: Die KI sortiert ohne menschliche Aufsicht Bewerber aus.
-
Verletzungen von Geschäftsgeheimnissen stellen erhebliche Risiken dar.
Beispiel: Upload unternehmensinterner Dokumente und Anweisung (Prompt) zur Zusammenfassung.
-
Auch der Ruf des Unternehmens und das Vertrauen der Kundschaft können durch unsachgemäßen Umgang mit KI nachhaltig beschädigt werden.
Müssen nun alle Mitarbeitenden zur KI-Kompetenz geschult werden?
Seit dem 2. Februar 2025 verlangt Art. 4 der KI-Verordnung, dass Unternehmen, die KI-Systeme anbieten oder betreiben, Maßnahmen zu ergreifen, um die KI-Kompetenz ihrer Mitarbeitenden sicherzustellen.
Die nationalen Marktüberwachungsbehörden beginnen ab dem 2. August 2026 mit der Überwachung und Durchsetzung der Vorschriften. Sie können Sanktionen und andere Maßnahmen verhängen, wenn gegen Artikel 4 verstoßen wird, wobei ein verhältnismäßiger Ansatz verfolgt wird.
💡Die KI-VO schreibt keine konkreten Maßnahmen wie eine allgemeine Schulungspflicht für alle Mitarbeitenden zur KI-Kompetenz vor.
Aus der Definition des Art. 3 Nr. 56 KI-VO lässt sich aber ableiten, dass „KI-Kompetenz“ sowohl grundlegende technische Kenntnisse zur Funktionsweise von Künstlicher Intelligenz (KI) als auch ein Bewusstsein für Chancen, Gefahren und mögliche Schäden durch KI umfasst. Ebenso fallen bestehende ethische und rechtliche Rahmenbedingungen unter den Begriff.
So gehen Sie es richtig an:
- Entwicklung interner Richtlinie zur KI-Nutzung. Mit einer Richtlinie wird zunächst die KI-Nutzung in Ihrem Unternehmen verboten. Gleichzeitig werden in einem engen, klar definierten Rahmen Ausnahmen von diesem Verbot erlaubt.
- Schulungen und Trainings nach Bedarf durchführen. Unternehmen können dabei selbstverständlich auf interne Expertise zurückgreifen, sofern diese vorhanden ist. Das bedeutet: Mitarbeitende mit fundiertem KI-Wissen können als Trainer:innen für ihre Kolleg:innen fungieren. (Ein Zertifikat über die KI-Kompetenz ist nicht erforderlich. Organisationen sollten aber interne Aufzeichnungen über Schulungen und/oder andere Initiativen führen.)
- Die Benennung eines KI-Beauftragten kann zur KI-Kompetenz beitragen, ist aber nicht verpflichtend.
Die Maßnahmen zur KI-Kompetenz sollten individuell auf Ihr Unternehmen, das jeweilige KI-System, dessen konkrete Nutzung und das jeweilige Risikoniveau abgestimmt sein. So benötigen beispielsweise Personalabteilungen, die KI zur Bewertung von Bewerbungen einsetzen, andere Schulungsinhalte als Mitarbeitende im Einkauf oder in der Produktion.
Auch angesichts des Unterschieds zwischen KI-Systemen und der Tatsache, dass der Wissens- und Erfahrungsstand sowie die allgemeine und berufliche Bildung Ihrer Mitarbeitenden variieren können, können unterschiedliche Ausbildungsniveaus oder Lernansätze angemessen sein.
Häufige Frage:
„Mein Team nutzt ChatGPT nur zum Verfassen von Werbetexten oder zur Übersetzung von Texten. Müssen wir die Anforderungen an die KI-Kompetenz gemäß Artikel 4 des KI-Gesetzes erfüllen? „
Antwort: Ganz klar – ja! Sie sollten über die spezifischen Risiken, zum Beispiel mögliche Halluzinationen, informiert sein.
Bei der offiziellen Einführung von KI in Ihrem Unternehmen und der Schulung Ihres Teams unterstütze ich Sie gerne. Ich freue mich über Ihre Kontaktaufnahme.
