KI-Verordnung: was der EU AI Act für Betreiber im Mittelstand bedeutet

Die KI-Verordnung, auf Englisch AI Act, ist die Verordnung (EU) 2024/1689 und regelt KI-Systeme nach ihrem Risiko. Für Unternehmen, die KI nutzen, ohne sie selbst zu entwickeln, ist die Last meist überschaubar: Entscheidend sind die eigene Rolle, der Zweck jeder Anwendung und das Wissen der Beschäftigten.

KI-Verordnung: Rahmen und Zeitplan in Kürze

Die Verordnung ist am 1. August 2024 in Kraft getreten und gilt unmittelbar in allen Mitgliedstaaten. Sie folgt einem risikobasierten Ansatz mit vier Stufen: verbotene Praktiken, Hochrisiko-Systeme, Anwendungen mit Transparenzpflichten und Anwendungen mit geringem Risiko. Ihre Pflichten werden gestaffelt wirksam. Seit dem 2. Februar 2025 gelten die Verbote nach Artikel 5 und die Regel zur KI-Kompetenz nach Artikel 4, seit dem 2. August 2025 die Pflichten für KI-Modelle mit allgemeinem Verwendungszweck. Weitere Pflichten folgen gestaffelt.

Mit der Verordnung (EU) 2026/1744 hat die EU einzelne Vorschriften und Fristen nachträglich angepasst. Maßgeblich ist deshalb die jeweils aktuelle Fassung, nicht ein älterer Zeitplan aus einer Präsentation. In Deutschland übernimmt die Bundesnetzagentur die zentrale Rolle als Marktüberwachungsbehörde und Anlaufstelle; ihr KI-Service-Desk bietet gerade kleinen und mittleren Unternehmen Orientierung.

Betreiber oder Anbieter: die Rollenfrage zuerst

Anbieter ist, wer ein KI-System entwickelt oder entwickeln lässt und es unter eigenem Namen oder eigener Marke in Verkehr bringt oder in Betrieb nimmt. Betreiber ist, wer ein KI-System in eigener Verantwortung verwendet; ausgenommen ist die rein persönliche, nicht berufliche Nutzung. Ein Unternehmen, das einen eingekauften Assistenten im Kundenservice oder eine Belegerkennung in der Buchhaltung einsetzt, ist damit Betreiber.

Die Rolle kann wechseln. Wer seinen Namen oder seine Marke auf ein bereits in Verkehr gebrachtes Hochrisiko-System setzt, es wesentlich verändert oder den Zweck eines Systems so ändert, dass es in den Hochrisiko-Bereich fällt, übernimmt die Pflichten eines Anbieters. Auch eine selbst gebaute Anwendung mit eingebundenem Sprachmodell, die unter eigenem Namen in Betrieb geht, kann eine Anbieterrolle begründen. Diese Einordnung gehört an den Anfang eines Vorhabens.

Drei Prüffragen für jede Anwendung

Für die Einordnung genügt zunächst ein kurzes Verzeichnis: Anwendung, Anbieter, Zweck, Datenarten, verantwortliche Person. Zu jedem Eintrag werden drei Fragen beantwortet:

1. Fällt der Zweck unter eine verbotene Praxis? Ein Beispiel: Software, die aus Stimme oder Mimik auf die Gefühlslage von Beschäftigten schließt, ist am Arbeitsplatz grundsätzlich untersagt; Ausnahmen bestehen nur aus medizinischen Gründen oder aus Gründen der Sicherheit.
2. Liegt der Einsatz in einem Hochrisiko-Bereich? Für mittelständische Unternehmen ist vor allem das Personalwesen relevant: Systeme, die Bewerbungen sichten, Kandidaten bewerten oder Entscheidungen über Beförderung und Kündigung beeinflussen. Auch die Prüfung der Kreditwürdigkeit natürlicher Personen zählt dazu.
3. Entsteht eine Transparenzpflicht? Betreiber müssen etwa offenlegen, wenn sie mit KI täuschend echte Bild-, Ton- oder Videoinhalte erzeugen, und Betroffene informieren, wenn ein System Emotionen erkennt oder Personen biometrisch kategorisiert.

Die meisten Büroanwendungen – Textentwürfe, Zusammenfassungen, das Sortieren eingehender E-Mails – beantworten alle drei Fragen mit Nein. Für sie bleibt im Kern die Pflicht zur KI-Kompetenz.

Pflichten im Hochrisiko-Fall

Setzt ein Unternehmen ein Hochrisiko-System ein, kommen für den Betreiber konkrete Aufgaben hinzu:

• das System entsprechend der Betriebsanleitung des Anbieters verwenden;
• die menschliche Aufsicht Personen übertragen, die dafür die nötige Kompetenz, Ausbildung und Befugnis haben – das Prinzip dahinter beschreibt Human-in-the-Loop;
• den Betrieb überwachen und bei Risiken oder schwerwiegenden Vorfällen Anbieter und Behörde informieren;
• die automatisch erzeugten Protokolle angemessen lange aufbewahren;
• als Arbeitgeber die betroffenen Beschäftigten und ihre Vertretung vor dem Einsatz am Arbeitsplatz informieren.

Die DSGVO gilt daneben unverändert. Verarbeitet das System personenbezogene Daten über einen externen Dienst, braucht es weiterhin einen Vertrag zur Auftragsverarbeitung.

Wo die KI-Verordnung überschätzt und wo sie unterschätzt wird

Überschätzt wird sie, wenn jedes Chat-Werkzeug als Hochrisiko gilt oder wenn für die Kompetenz der Beschäftigten eine Schulung mit amtlichem Nachweis oder ein eigens ernannter KI-Beauftragter vorausgesetzt wird. Beides verlangt die Verordnung vom typischen Betreiber nicht.

Unterschätzt wird sie an drei Stellen: bei Personalsoftware, die unauffällig Bewerbungen vorsortiert, bei eigenen Anwendungen, die unter eigenem Namen an Kunden gehen, und bei der Dokumentation der eigenen Entscheidungen. Verstöße können empfindliche Bußgelder nach sich ziehen, gestaffelt nach Art des Verstoßes. Dieser Beitrag ist keine Rechtsberatung; die Einordnung eines konkreten Systems gehört zu Fachanwälten oder zur zuständigen Aufsicht.

Wie wir die Verordnung im Projekt berücksichtigen

In unseren Projekten ist die Einordnung ein Arbeitsschritt vor der Umsetzung: Wir erfassen die vorhandenen Anwendungen in einem Verzeichnis, klären die Rolle des Unternehmens und benennen Personalsoftware oder eigene Produkte mit KI-Funktion ausdrücklich als Prüffälle für Fachanwälte. Wo ein System im Betrieb Entscheidungen vorbereitet, bauen wir Freigabe und Protokoll gleich mit ein. Den Zugang zu Sprachmodellen bündeln unsere Anwendungen über ein eigenes Gateway mit harter Kostengrenze. Den Anfang macht die KI-Beratung.