EU AI Act für KI-Agenten im Mittelstand: Welche Pflicht gilt für welchen Einsatz?

Seit dem 2. August 2026 gilt die Transparenzpflicht des EU AI Act. Ein Chatbot, der sich nicht als KI zu erkennen gibt, ist seitdem kein Schönheitsfehler mehr, sondern ein Verstoß. Gleichzeitig ist die Verordnung für die allermeisten Einsatzfälle im Mittelstand deutlich weniger aufwendig, als die Bußgeldrahmen vermuten lassen: Ein Telefonassistent braucht einen Hinweis zu Gesprächsbeginn, eine Rechnungsverarbeitung braucht geschultes Personal und aus der KI-Verordnung sonst nichts, und nur wer Bewerber vorsortiert oder Bonität prüft, betreibt ein Hochrisiko-System mit echten Dokumentationspflichten.

Dieser Beitrag ordnet zehn typische Einsatzfälle der Risikoklasse, der konkreten Pflicht, dem Stichtag und der verantwortlichen Rolle zu. Die Tiefe zu den beiden Pflichten, die jeden treffen, steht in eigenen Beiträgen: zur KI-Kompetenzpflicht nach Artikel 4 und zur Kennzeichnungspflicht nach Artikel 50.

Das Wichtigste in Kürze: Der EU AI Act (Verordnung (EU) 2024/1689) sortiert KI-Systeme nach Risiko. Für Chatbots, Telefonassistenten und WhatsApp-Agenten gilt seit dem 2. August 2026 die Transparenzpflicht nach Artikel 50. Für Backoffice-Automatisierung ohne Entscheidungen über Menschen gilt nur die Kompetenzpflicht nach Artikel 4, und die gilt seit dem 2. Februar 2025. Hochrisiko nach Anhang III sind im Mittelstand fast nur Personalvorauswahl, Leistungsbewertung und Bonitätsprüfung; deren Betreiberpflichten nach Artikel 26 gelten nach dem Digital Omnibus (Verordnung (EU) 2026/1744, in Kraft seit 27. Juli 2026) erst ab dem 2. Dezember 2027. Emotionserkennung am Arbeitsplatz ist seit Februar 2025 verboten.

Welche Pflicht gilt für welchen Einsatz?

Die Verordnung fragt nicht, welche Technik ein System nutzt, sondern was es tut und über wen es entscheidet. Dieselbe Sprachmodell-Schnittstelle kann in einem Fall minimales Risiko sein und im nächsten ein Hochrisiko-System. Deshalb steht am Anfang keine Definition, sondern eine Zuordnung:

Zwei Dinge fallen an der Tabelle auf. Erstens: Die Pflicht, die jeden trifft, steht nicht in der Zeile mit dem höchsten Risiko, sondern in jeder Zeile: Artikel 4 verlangt seit Februar 2025 von jedem Betreiber, dass sein Personal weiß, was es einsetzt. Zweitens: Die drei Hochrisiko-Zeilen betreffen alle Entscheidungen über Menschen, nicht über Vorgänge. Wer KI auf Rechnungen, Anfragen und Termine loslässt, bleibt in den unteren Klassen. Wer sie auf Bewerber, Beschäftigte oder Kreditnehmer loslässt, nicht.

Wer ist Anbieter, wer Betreiber?

Der Anbieter entwickelt das System oder bringt es unter eigenem Namen in Verkehr. Der Betreiber setzt es in eigener Verantwortung ein. Ein Mittelständler mit Chatbot ist fast immer Betreiber, der Chatbot-Dienstleister der Anbieter.

Die Grenze verschiebt sich in zwei Schritten. Wer ein fremdes System unter eigenem Namen oder eigener Marke in Verkehr bringt, ist nach Artikel 3 Nummer 3 Anbieter, unabhängig von der Risikoklasse. Für Hochrisiko-Systeme ergänzt Artikel 25: Wer ein solches System wesentlich verändert oder die Zweckbestimmung eines Systems so ändert, dass daraus ein Hochrisiko-System wird, übernimmt die Anbieterpflichten. Wer also einen Standard-Chatbot nimmt und ihn zur Bewerbervorauswahl umbaut, ist nicht mehr nur Betreiber.

Für die Rollenverteilung im Alltag heißt das: Der Anbieter schuldet die technische Dokumentation, die Kennzeichnung der Interaktion nach Art. 50 Abs. 1, die maschinenlesbare Kennzeichnung generierter Inhalte und bei Hochrisiko die Konformitätsbewertung. Der Betreiber schuldet den Einsatz nach Betriebsanleitung, eine eingeschaltete Kennzeichnung im laufenden Betrieb, die Schulung des eigenen Personals und das Inventar der eingesetzten Systeme. Keine dieser Pflichten lässt sich an die andere Seite delegieren.

Was seit wann gilt

Die Verordnung ist am 1. August 2024 in Kraft getreten und wird gestaffelt wirksam:

Für die Praxis im Mittelstand folgt daraus eine klare Reihenfolge: Kennzeichnung und Schulung sind fällig und überprüfbar. Die Vorbereitung auf Hochrisiko-Pflichten hat bis Dezember 2027 Zeit gewonnen, aber wer heute ein Bewerber-Screening einführt, sollte es so bauen, als gälten die Pflichten schon, denn nachträglich lassen sich Protokollierung und Aufsicht schwer einziehen.

Die sechs Pflichten, die im Mittelstand zählen

1. Kennzeichnung (Art. 50)

Wer mit einem KI-System interagiert, muss das erfahren, es sei denn, es ist aus den Umständen für eine verständige Person offensichtlich. Im Chatbot gehört der Hinweis in die erste Nachricht, im Telefonassistenten an den Gesprächsanfang, im WhatsApp-Agenten in die Begrüßung. Ein Satz genügt: "Sie sprechen mit dem KI-Assistenten von [Firmenname]. Auf Wunsch verbinde ich Sie jederzeit mit einer Mitarbeiterin oder einem Mitarbeiter." Was bei generierten Bildern, Audio und Text zusätzlich gilt, steht im Beitrag zur Kennzeichnungspflicht.

2. Kompetenz (Art. 4)

Anbieter und Betreiber müssen nach besten Kräften sicherstellen, dass ihr Personal über ausreichende KI-Kompetenz verfügt. Eine Zertifizierung ist nicht vorgeschrieben, eine dokumentierte Schulung mit Datum, Inhalt und Teilnehmern ist der übliche Nachweis. Die Pflicht gilt seit dem 2. Februar 2025 und ist die am häufigsten übersehene. Details, auch dazu, was nicht droht, im Beitrag zur KI-Kompetenzpflicht.

3. Inventar

Die Verordnung schreibt kein KI-Inventar wörtlich vor, aber ohne eines lässt sich keine der übrigen Pflichten belegen. Pro System: Anbieter und Modell, Einsatzzweck, verarbeitete Datenarten, Risikoklasse nach der Tabelle oben, Datenflüsse, verantwortliche Person. Eine Tabelle mit sechs Spalten reicht.

4. Anbieterprüfung

Vor dem Vertrag: Liegt die technische Dokumentation des Anbieters vor, gibt es einen Auftragsverarbeitungsvertrag nach Artikel 28 DSGVO, wo werden die Daten verarbeitet, werden Eingaben zum Training verwendet. Anbieter von KI-Modellen mit allgemeinem Verwendungszweck sind seit August 2025 zu Dokumentation und Transparenz verpflichtet; als Betreiber fordern Sie diese Unterlagen an und legen sie zum Inventar.

5. DSGVO neben AI Act

Der AI Act ersetzt die DSGVO nicht und überschneidet sich nur teilweise mit ihr. Die DSGVO regelt personenbezogene Daten, der AI Act regelt das System, auch wenn es keine personenbezogenen Daten verarbeitet. Konkret kommen zur DSGVO hinzu: die Kennzeichnung, die Schulung und das Inventar. Was bleibt, sind Auftragsverarbeitung, Rechtsgrundlage und Information der Betroffenen, etwa für aufgezeichnete Telefonate.

6. Überwachung im Betrieb

Betreiber von Hochrisiko-Systemen müssen den Betrieb überwachen und schwerwiegende Vorfälle melden. Für alle anderen Systeme ist die Überwachung keine Verordnungspflicht, aber die Voraussetzung dafür, dass Kennzeichnung und Eskalation im Alltag funktionieren: Welche Gespräche werden wie lange gespeichert, wer sieht sie durch, wie kommt ein falsch beantworteter Fall zu einem Menschen. Wer diese drei Fragen beantworten kann, hat die Aufsicht, die § 130 OWiG ohnehin von jeder Geschäftsleitung verlangt.

Was kostet ein Verstoß?

Artikel 99 staffelt die Bußgelder nach der Schwere des Verstoßes; es gilt jeweils der höhere Wert, bei kleinen und mittleren Unternehmen der niedrigere:

In Deutschland ist nach dem Durchführungsgesetz (KI-MIG), das seit dem 29. Juli 2026 gilt, die Bundesnetzagentur die zentrale Marktüberwachungsbehörde. Für die Praxis wichtiger als die Behörde ist die Gegenseite im Alltag: Ein Kunde, der nach der Kennzeichnung fragt, ein Bewerber, der wissen will, ob eine Maschine seine Unterlagen sortiert hat, ein Betriebsrat, der nach der Betriebsvereinbarung fragt. Diese Fragen kommen vor der Behörde, und sie kommen sicher.

Checkliste: Wo stehen Sie?

Jedes Nein ist eine offene Aufgabe.

• Der Chatbot gibt sich in der ersten Nachricht als KI zu erkennen
• Der Telefonassistent sagt es zu Gesprächsbeginn
• Der WhatsApp-Agent sagt es in der Begrüßung
• Es gibt eine Liste aller eingesetzten KI-Systeme mit Risikoklasse und verantwortlicher Person
• Das Personal ist geschult, und die Schulung ist mit Datum, Inhalt und Teilnehmern dokumentiert
• Mit jedem KI-Anbieter besteht ein Auftragsverarbeitungsvertrag, und die technische Dokumentation liegt vor
• Die Datenschutzerklärung nennt die eingesetzten Systeme und Anbieter
• Aufzeichnungen und Protokolle haben eine festgelegte und begründete Aufbewahrungsfrist
• Der Weg vom Assistenten zum Menschen ist festgelegt und getestet
• Kein eingesetztes System bewertet Bewerber, Beschäftigte oder Bonität, oder es ist als Hochrisiko-System erfasst und vorbereitet

Häufige Fragen

Wir nutzen einen Chatbot von einem externen Anbieter. Bin ich vom AI Act betroffen? Ja, als Betreiber. Der Anbieter liefert die Kennzeichnungsfunktion und seine technische Dokumentation; Sie müssen die Kennzeichnung einschalten, Ihr Personal nach Artikel 4 schulen und das System in Ihrem KI-Inventar führen. Wer den Chatbot unter eigenem Namen anbietet, ist nach Artikel 3 Nummer 3 selbst Anbieter; bei Hochrisiko-Systemen regelt Artikel 25 den Rollenwechsel zusätzlich, etwa bei einer Zweckänderung.

Gilt der AI Act auch, wenn wir nur ChatGPT für Texte und E-Mails nutzen? Ja. Wer ein KI-System beruflich einsetzt, ist Betreiber und muss seit dem 2. Februar 2025 für ausreichende KI-Kompetenz seines Personals sorgen. Eine Kennzeichnungspflicht für die Texte kommt nur hinzu, wenn sie veröffentlicht werden, um die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse zu informieren, und niemand sie vor der Veröffentlichung prüft. Für interne E-Mails und Angebote greift sie nicht.

Ist unser KI-Telefonassistent ein Hochrisiko-System? Nein, solange er Anrufe annimmt, Termine bucht, Anfragen aufnimmt und weiterleitet. Das ist ein Fall für die Transparenzpflicht nach Artikel 50: Der Anrufer muss zu Gesprächsbeginn erfahren, dass er mit einer KI spricht. Hochrisiko wäre der Assistent erst, wenn er Notrufe klassifiziert oder über den Zugang zu Leistungen entscheidet, die in Anhang III stehen.

Was gilt, wenn KI Bewerbungen vorsortiert? Das ist ein Hochrisiko-System nach Anhang III Nummer 4. Für Betreiber gelten dann die Pflichten aus Artikel 26: Nutzung nach der Betriebsanleitung des Anbieters, Aufsicht durch geschulte Personen, Aufbewahrung der Protokolle für mindestens sechs Monate und Information der Beschäftigten und ihrer Vertretung vor der Inbetriebnahme. Der ursprüngliche Stichtag 2. August 2026 wurde durch den Digital Omnibus (Verordnung (EU) 2026/1744, in Kraft seit 27. Juli 2026) auf den 2. Dezember 2027 verschoben. Die Mitbestimmung des Betriebsrats nach § 87 BetrVG gilt unabhängig davon schon heute.

Wer kontrolliert die Einhaltung in Deutschland? Nach dem deutschen Durchführungsgesetz (KI-MIG), in Kraft seit dem 29. Juli 2026, ist die Bundesnetzagentur die zentrale Marktüberwachungsbehörde, soweit keine andere Stelle zuständig ist; die Datenschutzaufsicht behält ihre Zuständigkeit für die DSGVO. Für die meisten Mittelständler ist in der Praxis der erste Kontakt nicht die Behörde, sondern ein Kunde oder Bewerber, der nach der Kennzeichnung oder der Rechtsgrundlage fragt.

Was kostet ein Verstoß? Artikel 99 staffelt die Bußgelder: bis 35 Millionen Euro oder 7 Prozent des weltweiten Jahresumsatzes bei verbotenen Praktiken, bis 15 Millionen Euro oder 3 Prozent bei Verstößen gegen die übrigen Pflichten, bis 7,5 Millionen Euro oder 1 Prozent bei falschen Angaben gegenüber Behörden. Für kleine und mittlere Unternehmen gilt jeweils der niedrigere der beiden Werte.

Fazit

Der EU AI Act ist für den Mittelstand keine Konformitätsbewertung, sondern eine Sortieraufgabe: Welches System tut was, und über wen entscheidet es. Für die Systeme, die Anfragen, Anrufe und Belege bearbeiten, endet die Aufgabe bei Kennzeichnung, Schulung und Inventar. Für die wenigen, die über Menschen entscheiden, beginnt sie dort erst.

Bei der Auswahl eines Anbieters lohnt es sich, genau diese Punkte vorab schriftlich zu verlangen: die eingebaute Kennzeichnung nach Art. 50, Angaben zum Ort der Verarbeitung und die Dokumentation, die für Inventar und Anbieterprüfung gebraucht wird. Ob ein geplanter Einsatz in eine der Hochrisiko-Zeilen fällt, sollte vor der Beauftragung geklärt sein und nicht erst im laufenden Projekt.

Das ist keine Rechtsberatung. Die Zuordnung eines konkreten Systems zu einer Risikoklasse und die Auslegung einzelner Vorschriften gehören zum Anwalt, insbesondere bei Hochrisiko-Anwendungen.

Quellen

• Verordnung (EU) 2024/1689 (EU AI Act, deutsche Fassung) - EUR-Lex
• Verordnung (EU) 2026/1744 (Digital Omnibus zur KI-Verordnung) - EUR-Lex
• Artikel 4: KI-Kompetenz - artificialintelligenceact.eu
• Artikel 3: Begriffsbestimmungen - artificialintelligenceact.eu
• Artikel 25: Verantwortlichkeiten entlang der KI-Wertschöpfungskette - artificialintelligenceact.eu
• Artikel 26: Pflichten der Betreiber von Hochrisiko-KI-Systemen - artificialintelligenceact.eu
• Artikel 50: Transparenzpflichten - artificialintelligenceact.eu
• Anhang III: Hochrisiko-KI-Systeme - artificialintelligenceact.eu
• Artikel 99: Geldbußen - artificialintelligenceact.eu
• Gesetz zur Marktüberwachung und Innovationsförderung von künstlicher Intelligenz (KI-MIG), BGBl. 2026 I Nr. 223 - Gesetze im Internet
• Umsetzungsleitfaden zur KI-Verordnung (Version 2.0) - Bitkom e.V.
• BSI - Sicherheit von KI-Systemen - Bundesamt für Sicherheit in der Informationstechnik