Gilt Artikel 4 auch für kleine Unternehmen? Die häufigsten Fragen zur KI-Kompetenzpflicht

Stand: 15. September 2026. Dieser Beitrag ist eine Einordnung aus der Praxis, keine Rechtsberatung.

Die kurze Antwort vorweg: Ja. Artikel 4 der KI-Verordnung kennt keine Größenschwelle, die Pflicht, für KI-Kompetenz im Team zu sorgen, gilt für den Zwölf-Personen-Betrieb genauso wie für den Konzern. Das betrifft fast alle: Nach der KMU-Definition der EU-Kommission sind 99 % aller Unternehmen klein oder mittelgroß. Was mit der Unternehmensgröße skaliert, ist nicht das Ob, sondern der angemessene Aufwand. Die häufigsten Fragen dazu, kurz beantwortet.

Frage	Kurze Antwort
Wir nutzen nur ChatGPT und Copilot, betrifft uns das?	Ja. Wer KI-Werkzeuge beruflich nutzt, ist Betreiber.
Gibt es Ausnahmen unter 50 Mitarbeitenden?	Nein. Klein zu sein senkt den angemessenen Aufwand, nicht die Pflicht.
Reicht eine einmalige Schulung?	Kaum. Das Bemühen muss aktuell und dokumentiert sein.
Müssen alle Mitarbeitenden erfasst werden?	Alle, die mit KI arbeiten, passend zur Rolle. Zwei oder drei Rollencluster reichen.
Was passiert, wenn wir erstmal nichts tun?	Kein eigenes Bußgeld, aber Nachfragen von Aufsicht, Kunden und Prüfern.
Was ist der kleinste sinnvolle erste Schritt?	Ein Inventar der genutzten Tools und eine erste Messung an echten Aufgaben.

Artikel 4 macht keinen Unterschied zwischen groß und klein. Der Aufwand darf ihn machen.

Wir nutzen nur ChatGPT und Copilot, betrifft uns das trotzdem?

Ja. Die Pflicht trifft Anbieter und Betreiber von KI-Systemen. Betreiber ist nach Art. 3 Nr. 4 der KI-Verordnung, wer ein KI-System in eigener Verantwortung beruflich verwendet, und das ist jedes Unternehmen, dessen Mitarbeitende mit KI-Werkzeugen arbeiten, gekaufte Standardtools eingeschlossen. Entscheidend ist nicht, ob Sie KI entwickeln, sondern dass mit ihr gearbeitet wird. Die Pflicht gilt seit dem 2. Februar 2025. Und sie betrifft mehr Betriebe, als viele annehmen: Laut Statistischem Bundesamt nutzten 2025 bereits 23 % der Unternehmen mit 10 bis 49 Beschäftigten KI, bei 50 bis 249 Beschäftigten waren es 36 %.

Gibt es Ausnahmen für Unternehmen unter 50 Mitarbeitenden?

Für Artikel 4 nicht. Die Entlastung steckt woanders: Mit der Omnibus-Verordnung (EU) 2026/1744, in Kraft seit dem 27. Juli 2026, hat der Gesetzgeber den Wortlaut ausdrücklich mit Blick auf kleinere Unternehmen geändert, Erwägungsgrund 8 nennt den Compliance-Aufwand gerade für kleinere Betriebe als Grund. Seither müssen Anbieter und Betreiber Maßnahmen ergreifen, die die KI-Kompetenz ihres Personals fördern, ein bestimmtes Niveau muss niemand garantieren. Zu berücksichtigen sind laut Artikel 4 technische Kenntnisse, Erfahrung, Ausbildung und der Einsatzkontext. Von einem kleinen Betrieb mit gelegentlicher KI-Nutzung wird also ein anderes Maß an Maßnahmen erwartet als von einem Unternehmen, das Kundenkommunikation im großen Stil mit KI erstellt. Die EU-Kommission formuliert es so: Es gibt keine Einheitslösung und keine vorgeschriebenen Schulungen. Klein zu sein reduziert den angemessenen Aufwand, es hebt die Pflicht nicht auf.

Reicht eine einmalige Schulung?

Kaum. Artikel 4 verlangt, KI-Kompetenz zu fördern, und ein ernsthaftes Bemühen muss aktuell sein. Eine einzelne Schulung von vor zwei Jahren, ohne Ergebnisdokumentation und ohne Folgemaßnahme, wird diese Messlatte kaum erreichen. Die Kommission empfiehlt in ihren Fragen und Antworten zur KI-Kompetenz interne Aufzeichnungen über Schulungen und andere Maßnahmen, ein Zertifikat ist nicht nötig. Bloßes Verweisen auf die Gebrauchsanweisung der Tools hält sie dagegen für wenig wirksam. Dass die meisten Betriebe noch am Anfang stehen, zeigt die TÜV-Weiterbildungsstudie 2026: 27 % der Unternehmen ab 20 Beschäftigten haben ihre Beschäftigten im Umgang mit KI geschult, 2024 waren es 12 %. Ein schlanker, wiederkehrender Prozess erreicht die Messlatte auch im kleinen Unternehmen.

Müssen wirklich alle Mitarbeitenden erfasst werden?

Alle, die in Ihrem Auftrag mit KI arbeiten oder mit ihr in Berührung kommen, aber eben passend zu ihrer Rolle. Praktisch heißt das für kleine Unternehmen: zwei, drei Rollencluster bilden statt individueller Programme, und die Anforderungen pro Cluster in je einem Satz festhalten. Vergessen Sie dabei die Werkzeuge nicht, die nie freigegeben wurden: Laut Bitkom-Umfrage vom Oktober 2025 unter Unternehmen ab 20 Beschäftigten ist die Nutzung privater KI-Tools in 8 % der Unternehmen weit verbreitet, in weiteren 17 % gibt es Einzelfälle, und 17 % vermuten sie, ohne es zu wissen. Die 7-Schritte-Checkliste beschreibt das Vorgehen im Detail.

Was passiert, wenn wir erstmal nichts tun?

Ein eigenes Bußgeld für fehlende KI-Kompetenz sieht die KI-Verordnung nicht vor: Artikel 99 führt Artikel 4 nicht unter den bußgeldbewehrten Pflichten. Seit dem 2. August 2026 überwacht in Deutschland aber die Bundesnetzagentur die Einhaltung der Verordnung. Sie ist zugleich Beschwerdestelle und kann nachfragen, welche Maßnahmen ergriffen und dokumentiert wurden. Die Behörde ist trotzdem selten das erste Problem. In der Praxis fragt der Markt früher: Ausschreibungen, Konzernkunden und Wirtschaftsprüfer verlangen zunehmend einen Nachweis über KI-Kompetenz. Das Institut der Wirtschaftsprüfer empfiehlt in seinem Knowledge Paper zum AI Act, die neuen Anforderungen in bestehende Governance- und Compliance-Strukturen zu integrieren. Gerade kleinere Zulieferer bekommen diese Anforderung von großen Kunden weitergereicht. Wer dann mit leeren Händen dasteht, verliert keinen Prozess, sondern einen Auftrag.

Was ist der kleinste sinnvolle erste Schritt?

Zwei Dinge, beide in Tagen statt Monaten machbar: ein ehrliches Inventar, welche KI-Tools tatsächlich genutzt werden, auch die nie freigegebenen, und eine erste Messung, wie das Team echte Aufgaben mit KI bearbeitet. Kostenlose Orientierung gibt es beim KI-Service-Desk der Bundesnetzagentur, der Factsheets für KMU und Start-ups bereithält, und im Living Repository der EU-Kommission mit Praxisbeispielen anderer Unternehmen. Damit existiert bereits, was die meisten noch nicht haben: ein dokumentierter Anfang. Laut Bitkom boten 2025 noch 43 % der Unternehmen ab 20 Beschäftigten gar keine KI-Schulungen an.

Fazit

Artikel 4 macht keinen Unterschied zwischen groß und klein, der Aufwand darf ihn machen. Für ein kleines Unternehmen ist die Pflicht kein Projektberg, sondern ein schlanker Rhythmus: wissen, was genutzt wird, messen, wo das Team steht, das Ergebnis festhalten, wiederholen. Das ist weniger Arbeit als die Ausschreibung, die man ohne Nachweis verliert.

Quellen

Alle Quellen mit direktem Link zum Original.

1. AI Act Explorer: Artikel 4 KI-Kompetenz: aktueller deutscher Wortlaut nach der Omnibus-Änderung.
2. Verordnung (EU) 2026/1744 im Amtsblatt: der Digital Omnibus on AI mit dem neuen Artikel 4 und Erwägungsgrund 8, in Kraft seit 27. Juli 2026.
3. Verordnung (EU) 2024/1689 auf EUR-Lex: Volltext der KI-Verordnung, Definitionen von Anbieter und Betreiber in Artikel 3.
4. EU-Kommission: AI literacy, Questions and Answers: kein Zertifikat nötig, interne Aufzeichnungen empfohlen, Aufsicht seit August 2026.
5. EU-Kommission: Living Repository zu KI-Kompetenz: Praxisbeispiele von Unternehmen, ohne Konformitätsvermutung.
6. AI Act Explorer: Artikel 99 Sanktionen: Bußgeldtatbestände, in denen Artikel 4 nicht aufgeführt ist.
7. Bundesnetzagentur: Pressemitteilung vom 29. Juli 2026: Rolle als Marktüberwachungs- und Beschwerdestelle für die KI-Verordnung.
8. Bundesnetzagentur: KI-Service-Desk: Beschwerdestelle, KI-Compliance-Kompass und Factsheets für KMU.
9. EU-Kommission: KMU-Definition: Schwellenwerte und der Anteil von 99 % aller Unternehmen.
10. Statistisches Bundesamt: KI-Nutzung nach Beschäftigtengrößenklassen 2025: 23 % bei 10 bis 49, 36 % bei 50 bis 249, 57 % ab 250 Beschäftigten.
11. Bitkom: Beschäftigte nutzen vermehrt Schatten-KI, Oktober 2025: Verbreitung privater KI-Tools in Unternehmen ab 20 Beschäftigten.
12. Bitkom: Durchbruch bei Künstlicher Intelligenz, 2025: 43 % ohne Schulungsangebot, 8 % schulen alle Beschäftigten.
13. TÜV-Weiterbildungsstudie 2026 bei Haufe: 27 % der Unternehmen haben Beschäftigte zu KI geschult, 2024 waren es 12 %.
14. IDW: Knowledge Paper zum AI Act: Empfehlung, die Anforderungen in Governance- und Compliance-Strukturen zu integrieren.