KI-Nutzung im Unternehmen: Schulungspflicht für Mitarbeitende

Unternehmen haben die Pflicht, ihre Mitarbeitenden in Sachen KI zu schulen. Das schreibt der AI Act der EU vor. Zur Umsetzung hat die EU-Kommission eine FAQ veröffentlicht. Bestimmte Fragen bleiben weiterhin offen, aber zumindest einige Punkte werden dadurch klarer.

Schneller Überblick: Vorgaben zur KI-Kompetenzpflicht

KI-Kompetenz:

• Mit KI-Kompetenzpflicht ist eine Vorschrift der EU gemeint. Sie steht in Artikel 4 der EU-Verordnung zur Künstlichen Intelligenz, AI Act oder KI-Verordnung genannt.

• Kern der KI-Kompetenzpflicht: Wer in seinem Unternehmen KI-Systeme betreibt oder anbietet, muss bei den Mitarbeitenden und anderen Personen, die die KI nutzen, für die erforderliche Kompetenz sorgen. Zu der gehören neben technischem Wissen auch der Einsatzkontext und die Zielgruppe der KI-Systeme.

• Die Vorgaben wurden durch eine FAQ-Liste der EU-Kommission weiter ausgeführt. Allerdings bleibt trotzdem vieles offen.

Die Kernpunkte der FAQ:

• Es gibt keine Bagatellgrenze bei der KI-Kompetenzpflicht. Auf das nötige Know-how muss bereits dann geachtet werden, wenn Mitarbeitende die Geschäftskorrespondenz oder Werbetexte mit Hilfe von ChatGPT formulieren.

• Geschult werden müssen neben Beschäftigten auch andere Personen, die für das Unternehmen KI-Systeme nutzen, zum Beispiel freiberufliche Auftragnehmer.

• Die FAQ legen keine bestimmten Fortbildungsformate oder -inhalte fest. Deren Gestaltung hängt flexibel von den Umständen ab. Sie machen aber klar, dass in der Regel Schulungen erforderlich

• Die Schulungsinhalte sollten sich daran orientieren, wie und wozu KI konkret genutzt wird und außerdem am individuellen Risiko. Der risikobasierte Ansatz bedeutet zum Beispiel, dass der KI-Einsatz für Heilbehandlungen oder bei finanziellen Dienstleistungen zu höheren Schulungsanforderungen führt.

• Verstöße gegen die Kompetenzpflicht wie fehlende Schulungen können grundsätzlich zu Bußgeldern und anderen Sanktionen führen. Für deren Festlegung sind die einzelnen EU-Länder verantwortlich. Die zuständigen Überwachungsstellen sollen ab dem 2. August 2026 aktiv werden, auch in Deutschland.

• Daneben sind Schadenersatzklagen Betroffener möglich, wenn inkompetenter Umgang mit KI Schäden verursacht.

Weitere Infos zur KI-Verordnung: Der AI Act enthält neben der KI-Kompetenzpflicht viele weitere Regelungen. Einen Überblick liefert der Beitrag „Der AI Act: EU-Verordnung für Unternehmen, die KI nutzen“.

Arbeitgeberpflicht: KI-Kompetenz der Mitarbeitenden gewährleisten

Schon 2024 hat die EU mit dem AI Act Vorschriften zur KI-Nutzung im Betrieb erlassen. Der Artikel 4 dieser KI-Verordnung betrifft eine Kompetenz- und Schulungspflicht für Mitarbeitende. Dieser Artikel ist seit dem 02. Februar 2025 EU-weit in Kraft.

Trotzdem war lange unklar, was die Kompetenzpflicht in der Praxis bedeutet. Der Regelungstext sagt nur, dass die „technischen Kenntnisse“, die „Erfahrung“ und die „Aus- und Weiterbildung“ der Arbeitskräfte berücksichtigt werden sollen, außerdem „der Kontext“ des KI-Einsatzes und die „Personen oder Personengruppen“, um die es geht.

Definiert wird KI-Kompetenz in Artikel 3 Nr. 56. Demnach geht es um „Fähigkeiten, Kenntnisse und Verständnis“ von „Anbietern, Anwendern und Betroffenen“, um KI-Systeme rechtmäßig einzusetzen und sich der „Chancen und Risiken“ von KI sowie möglicher Schäden bewusst zu sein.

All das ist reichlich unkonkret. Im Mai 2025 hat die EU-Kommission die Vorschriften zur KI-Kompetenz durch ihre FAQ-Sammlung präzisiert. Eine direkt umsetzbare Liste an konkreten Anforderungen ergibt sich daraus nicht. Trotzdem klärt das Dokument zumindest einige der Fragen.

Die FAQ selbst sind keine verbindliche Vorschrift. Sie entsprechen eher einer Stellungnahme oder Auslegungshilfe. Trotzdem sind die Hinweise für Unternehmen, die KI einsetzen, wichtig – und das ist mittlerweile die Norm.

Klarstellungen zur KI-Kompetenzpflicht in den FAQ der EU-Kommission

• Es geht nicht nur um Beschäftigte. Die Kompetenz muss auch bei anderen Personen gewährleistet sein, die für oder im Auftrag eines Unternehmens KI-Systeme nutzen, wie Auftragnehmer, Dienstleister oder Klienten sowie die Beschäftigten entsprechender Unternehmen.

• Die Kompetenzpflicht umfasst nicht nur KI-Systeme mit hohem Risiko, etwa im Gesundheitsbereich. Bereits wenn Mitarbeitende nur mit ChatGPT Werbetexte formulieren oder Formulierungen übersetzen, sollte der Arbeitgeber sicherstellen, dass sie über mögliche Probleme informiert sind. Die FAQ erwähnen dabei das Halluzinieren generativer KI wie unzutreffende Tatsachenbehauptungen.

• Zur KI-Kompetenz gehört als Minimalanforderung, dass die Mitarbeitende oder anderen Personen verstehen, was KI ist und wie sie funktioniert, welche KI im jeweiligen Unternehmen wofür und in Bezug auf welche Zielgruppe eingesetzt wird und welche Chancen und Risiken sich dadurch ergeben. Entscheidend ist außerdem das Risiko-Niveau, das der KI-Einsatz erreicht.

• Darüber hinaus übersetzen die FAQ die geforderte KI-Kompetenz nicht in eine Liste konkreter, allgemeinverbindlicher Anforderungen, die für alle Anbieter und Betreiber verbindlich wäre. Stattdessen soll die Umsetzung flexibel die jeweiligen Gegebenheiten reflektieren. Es ist auch zulässig, verschiedene Levels an gefordertem Wissen vorzugeben.

• Arbeitgeber sind den FAQ zufolge nicht verpflichtet, bei ihren Mitarbeitenden den Wissensstand in Sachen KI systematisch zu erfassen, solange eine ausreichende KI-Kompetenz gewährleistet ist. Es gibt auch keine explizite Pflicht, die KI-Kompetenz per Zertifikat zu belegen. Unternehmen wird jedoch empfohlen, Maßnahmen wie KI-Trainings zu dokumentieren.

• KI-Schulungen sind gemäß der Frage-Antwort-Sammlung zwar nicht direkt verpflichtend. In der Regel führt jedoch kein Weg an Schulungsmaßnahmen vorbei. Das gilt besonders dann, wenn es um KI-Systeme mit erhöhten Risiken geht.

• Für KI-Schulungen wird kein bestimmtes Format vorgeschrieben. Es gibt auch keine besonderen Branchenregelungen. Stattdessen verweist die Kommission auf die englischsprachige Praxisfall-Sammlung „Living Repository of AI Literacy Practices“. Darin werden beispielhaft die Strategien zur KI-Kompetenz in 28 internationalen Unternehmen dargestellt. Dazu gehören mit EnBW ein großes und mit dem Studio Deussen auch ein kleineres Unternehmen aus Deutschland.

• Ein KI-Beauftragter analog zum Datenschutzbeauftragten im Betrieb ist nicht erforderlich.

• Die KI-Kompetenzpflicht gilt seit dem 2. Februar 2025. Die EU-Länder haben jedoch bis zum 02. August 2026 Zeit, die vom AI Act geforderten Marktaufsichtsbehörden ins Leben zu rufen. Ab diesem Datum beginnt die Überwachung der KI-Kompetenzpflicht, einschließlich möglicher Bußgelder und anderer Sanktionen bei Verstößen. Die Form der Überwachung und die konkreten Sanktionen gestalten die Mitgliedstaaten selbst aus.

• Wenn mangelnde KI-Kompetenz von Mitarbeitenden zu Schäden führt, bietet Art. 4 der EU-KI-Verordnung auch eine Grundlage für Schadenersatzansprüche. Für die ist das nationale Zivilrecht entscheidend, in Deutschland also das BGB.

Fazit: Kein Grund zu Aktionismus, aber ein Thema für Arbeitgeber

Wer auf ein klar ausformuliertes und direkt umsetzbares Pflichtenheft in Sachen KI-Kompetenz gehofft hatte, wird von den FAQ der EU-Kommission enttäuscht sein. Eine verbindliche Liste von Schulungsinhalten oder Prüfungsanforderungen lässt sich daraus nicht ableiten.

Klar wird allerdings, dass künstliche Intelligenz nicht nur Änderungen in der Betriebsorganisation und für bestimmte Aufgaben bringt. Sie stellt auch das Personalmanagement vor Herausforderungen. Passende Fortbildungen zu KI, in denen effiziente Prompt trainiert und die technologische Hintergründe sowie soziale Risiken beleuchtet werden, sind gut investiertes Geld. Arbeitgeber sollten belegen können, dass sie ihre KI-Kompetenzpflicht ernst nehmen und dafür Lösungen bereitstellen.

Lektüretipps

Weiterführende Informationen zu Rechts- und Businessthemen finden Sie im orgaMAX-Blog und im Newsletter-Archiv:

• Barrierefreiheit-Pflicht ab Juli 2025 – für Online-Shops, Produkte und Dienstleistungen

• Rundfunkbeitrag für Unternehmen: Wann und wie viel zahlen Selbstständige?

• Influencer und Content Creator: Gründung, Steuern und Sozialversicherung

• Digitales Kaufrecht: Verkauf von elektronischen Waren, Dienstleistungen, Inhalten

• Digitalisierung von Mitarbeiter-Unterlagen: das Ende der Übergangsfrist

• ChatGPT & Co. im Geschäftsalltag: Es drohen rechtliche Fallen

• Video-Überwachung im Unternehmen: ist das legal?

• E-Rechnungen verschicken und empfangen mit orgaMAX Buchhaltung

• Belegmanagement automatisieren mit orgaMAX Online

• OCR-Texterkennung praktisch erklärt