Lieferantenbewertung nach AI Act und DSGVO: Was KMU von KI-Anbietern verlangen sollten

Das Wichtigste in Kürze: Eine eigene Pflicht zur Lieferantenbewertung enthält der AI Act für Unternehmen, die KI nur einsetzen, nicht; Prüfpflichten gegenüber dem Anbieter haben dort Einführer und Händler von Hochrisiko-Systemen (Artikel 23 und 24). Die Auswahlpflicht steht in Artikel 28 Absatz 1 DSGVO: Wer personenbezogene Daten von einem Anbieter in seinem Auftrag verarbeiten lässt, darf nur mit Anbietern arbeiten, die hinreichende Garantien bieten. Aus dem AI Act kommen drei Prüfpunkte dazu: Ihre Rolle als Anbieter oder Betreiber, der KI-Hinweis nach Artikel 50 und die Verbote nach Artikel 5, etwa die Emotionserkennung bei Beschäftigten. Bis Januar 2027 folgen das neue Produkthaftungsgesetz am 9. Dezember 2026 und das Ende der Wechselentgelte nach dem Data Act am 12. Januar 2027.

Das Wort Lieferantenbewertung stammt aus Einkauf und Qualitätsmanagement: Wer Lieferanten ohnehin nach festen Kriterien bewertet, will wissen, was bei einem KI-Anbieter dazukommt. Laut der KI-Studie des Bitkom vom 14. September 2026 setzen 57 Prozent der Unternehmen ab 20 Beschäftigten KI ein. Bei ihnen stehen die Anforderungen an den Datenschutz mit 66 Prozent an der Spitze der Hindernisse, 45 Prozent sorgen sich, dass Unternehmensdaten in falsche Hände gelangen. 37 Prozent aller befragten Unternehmen gehen davon aus, als Anwender vom AI Act betroffen zu sein, weitere 34 Prozent prüfen das derzeit.

Dieser Leitfaden sortiert, welche Prüfung Pflicht ist, woher sie kommt und welche Unterlagen Sie sich vor der Unterschrift zeigen lassen sollten. Zur Einordnung: ArkeonTech ist selbst KI-Anbieter und sitzt bei solchen Bewertungen auf der anderen Seite des Tischs.

Verlangt der AI Act eine Lieferantenbewertung?

Nicht ausdrücklich. Wer ein KI-System nur einsetzt, ist nach Artikel 3 Nummer 4 Betreiber, und für Betreiber sieht die Verordnung keine Bewertung des Lieferanten vor. Prüfpflichten gegenüber dem Anbieter haben Einführer und Händler von Hochrisiko-Systemen: Sie kontrollieren vor dem Vertrieb CE-Kennzeichnung, Konformitätserklärung und Betriebsanleitung (Artikel 23 Absatz 1, Artikel 24 Absatz 1).

Um eine Prüfung kommen Sie trotzdem nicht herum, aus drei Gründen. Erstens entscheidet Ihre Rolle, ob Sie die Pflichten eines Anbieters oder eines Betreibers tragen; wer ein System entwickeln lässt, kann selbst Anbieter sein. Zweitens brauchen Chatbots und Telefonassistenten den KI-Hinweis nach Artikel 50, und je nach Rolle schulden Sie ihn selbst. Drittens verbietet Artikel 5 nicht nur das Anbieten, sondern auch die Verwendung bestimmter Systeme, seit dem 2. Februar 2025 etwa die Ableitung von Emotionen am Arbeitsplatz.

Für Betreiber von Hochrisiko-Systemen nach Anhang III kommen ab dem 2. Dezember 2027 eigene Pflichten hinzu (Artikel 26): das System nach der Betriebsanleitung verwenden, die menschliche Aufsicht Personen mit der nötigen Kompetenz übertragen, automatisch erzeugte Protokolle mindestens sechs Monate aufbewahren und die betroffenen Beschäftigten und ihre Vertretung vor dem Einsatz am Arbeitsplatz informieren. Im Mittelstand betrifft das vor allem Systeme, die Bewerbungen sichten oder Bewerber bewerten (Anhang III Nummer 4). Für Hochrisiko-Systeme, die vor dem 2. Dezember 2027 in Verkehr gebracht oder in Betrieb genommen wurden, gilt die Verordnung, abgesehen von den Verboten nach Artikel 5, nur, wenn ihre Konzeption danach erheblich verändert wird (Artikel 111 Absatz 2).

Die Bußgelder zeigen die Gewichtung: Für verbotene Praktiken drohen bis zu 35 Millionen Euro oder 7 Prozent des weltweiten Jahresumsatzes, für Verstöße gegen die Betreiberpflichten und gegen Artikel 50 bis zu 15 Millionen Euro oder 3 Prozent. Für KMU gilt jeweils der niedrigere der beiden Beträge (Artikel 99 Absatz 3, 4 und 6).

Welche Gesetze schreiben die Prüfung tatsächlich vor?

Die Datenschutz-Grundverordnung, und zwar für jeden Dienst, der personenbezogene Daten in Ihrem Auftrag verarbeitet, nicht erst für KI. Mit einem solchen Anbieter dürfen Sie nach Artikel 28 Absatz 1 DSGVO nur arbeiten, wenn er hinreichende Garantien für geeignete technische und organisatorische Maßnahmen bietet. Für Unternehmen, die unter NIS2 fallen, kommt das BSI-Gesetz dazu.

Was das konkret heißt, regelt Artikel 28 an mehreren Stellen. Der Vertrag zur Auftragsverarbeitung muss unter anderem festlegen, dass der Anbieter nur auf Ihre dokumentierte Weisung verarbeitet, Sie bei der Datenschutz-Folgenabschätzung unterstützt und Ihnen Überprüfungen ermöglicht (Absatz 3 Buchstaben a, f und h). Weitere Auftragsverarbeiter darf er nur mit Ihrer Genehmigung einsetzen; bei einer allgemeinen Genehmigung muss er Sie über jede geplante Änderung informieren, und Sie können widersprechen (Absatz 2). Verstöße gegen Artikel 28 kosten bis zu 10 Millionen Euro oder 2 Prozent des weltweiten Jahresumsatzes (Artikel 83 Absatz 4). Sitzt ein Anbieter in den USA, trägt das EU-US Data Privacy Framework nur, wenn er in der offiziellen Liste zertifiziert ist; sonst braucht es etwa Standardvertragsklauseln (Artikel 44 ff.).

Zwei Punkte sind bei KI-Diensten besonders. Die Datenschutzkonferenz rät in ihrer Orientierungshilfe vom 6. Mai 2024 zu prüfen, ob Ein- und Ausgaben zum Training verwendet werden und ob sich das ausschließen lässt; geht das nicht und sind personenbezogene Daten betroffen, braucht es dafür eine eigene Rechtsgrundlage (Randnummer 24). Und Kundensupport mittels KI steht auf ihrer Muss-Liste für die Datenschutz-Folgenabschätzung (Nummer 11). Weil Sie dafür Informationen zur Funktionsweise brauchen, ist nach der Orientierungshilfe schon bei der Auswahl darauf zu achten, dass der Anbieter sie liefert (Randnummer 40).

Wer selbst unter NIS2 fällt, hat seit dem 6. Dezember 2025 eine zweite Grundlage. Besonders wichtige und wichtige Einrichtungen, zu den wichtigen zählen Unternehmen in den Sektoren der Anlagen 1 und 2 des BSI-Gesetzes mit mindestens 50 Beschäftigten oder jeweils mehr als 10 Millionen Euro Jahresumsatz und Bilanzsumme, müssen die Sicherheit der Lieferkette in ihr Risikomanagement aufnehmen und die Umsetzung dokumentieren (§ 28 Absatz 2, § 30 Absatz 1 und 2 Nummer 4 BSIG). Für Berufsgeheimnisträger kommt § 203 StGB hinzu; welche Bezugswege für Sprachmodelle dann tragen, beschreibt der Artikel zum LLM-Hosting nach § 203 StGB.

Wann werden Sie selbst zum Anbieter?

Wenn Sie ein KI-System entwickeln lassen und es unter Ihrem Namen oder Ihrer Marke in Betrieb nehmen (Artikel 3 Nummer 3). Wer ein fertiges Produkt unverändert nutzt, bleibt Betreiber. Bei Hochrisiko-Systemen reicht schon Ihr Name auf einem fremden System oder eine wesentliche Veränderung. Und wer die Zweckbestimmung eines Systems, das nicht als hochriskant eingestuft ist, so ändert, dass es zum Hochrisiko-System wird, etwa einen Standard-Chatbot zur Bewerbervorauswahl umbaut, wird ebenfalls Anbieter (Artikel 25 Absatz 1).

Die zweite Zeile ist der Fall, den viele unterschätzen: Wer einen Chatbot bauen lässt und unter eigenem Namen betreibt, kauft nicht nur eine Dienstleistung ein, sondern übernimmt die Pflichten des Anbieters. Einzelheiten zum KI-Hinweis stehen im Leitfaden zur Kennzeichnungspflicht nach Artikel 50.

Baut Ihr System ein Sprachmodell ein, sind Sie zugleich nachgelagerter Anbieter (Artikel 3 Nummer 68): Der Modellanbieter muss Ihnen seit dem 2. August 2025 Informationen zu Fähigkeiten und Grenzen des Modells bereitstellen (Artikel 53 Absatz 1 Buchstabe b, Anhang XII), bei Modellen, die schon vorher auf dem Markt waren, ab dem 2. August 2027 (Artikel 111 Absatz 3). Ausgenommen sind Modelle unter einer freien und quelloffenen Lizenz, deren Gewichte, Architektur und Nutzungshinweise öffentlich sind, sofern sie kein systemisches Risiko bergen (Artikel 53 Absatz 2). Hält sich ein Modellanbieter nicht daran, können Sie als nachgelagerter Anbieter Beschwerde einlegen; die Aufsicht über die Modellanbieter liegt beim KI-Büro der Kommission (Artikel 88 Absatz 1, Artikel 89 Absatz 2). Die Liste der Kommission nennt 22 Unterzeichner des Verhaltenskodex für solche Modelle, darunter OpenAI, Anthropic, Google, Microsoft und Mistral AI (Stand 7. Oktober 2026); xAI hat nur das Kapitel zur Sicherheit unterzeichnet. Im Kapitel zur Transparenz sagen die Unterzeichner zu, Zusatzfragen nachgelagerter Anbieter spätestens nach 14 Tagen zu beantworten, außer in Ausnahmefällen. Betreibern, die ein fertiges Produkt nutzen, schuldet der Modellanbieter diese Informationen nicht.

Welche Nachweise sollten Sie vom KI-Anbieter verlangen?

Die zehn Punkte ergeben sich aus AI Act, DSGVO, Data Act und Produkthaftung. Die Reihenfolge zählt: zuerst die Rolle, weil sie bestimmt, wer welche Pflicht trägt, dann KI-Hinweis und Datenschutz, zuletzt Wechsel und Haftung. Lassen Sie sich jeden Punkt schriftlich geben; eine mündliche Zusage hilft Ihnen bei einer Prüfung durch die Aufsicht nicht.

Bei Telefonassistenten lohnt der Blick auf die Funktionsliste besonders. Die Leitlinien der Kommission zu den verbotenen Praktiken (C(2025) 5052) nennen als Beispiel ein Callcenter, das per Kamera und Stimmerkennung die Emotionen seiner Beschäftigten verfolgt, etwa Ärger: verboten (Randnummer 254). Dieselbe Auswertung bei den Anrufern fällt nicht unter dieses Verbot. Sie ist aber Emotionserkennung: Als Betreiber müssen Sie die Anrufer seit dem 2. August 2026 darüber informieren (Artikel 50 Absatz 3), und Systeme zur Emotionserkennung stehen in Anhang III Nummer 1 Buchstabe c unter den Hochrisiko-Systemen, für die ab dem 2. Dezember 2027 eigene Pflichten gelten. Die Datenschutzkonferenz nennt genau diesen Fall, ein Callcenter, das die Stimmungslage der Anrufer automatisiert auswertet, als Beispiel für eine Pflicht zur Folgenabschätzung. Eine Stimmungsanalyse, die nur den Inhalt geschriebener Texte auswertet, beruht dagegen nicht auf biometrischen Daten und ist keine Emotionserkennung im Sinne der Verordnung (Randnummer 251, Artikel 3 Nummer 39).

Welche Termine kommen bis Ende 2027?

Vier Termine verschieben die Prüfliste. Am 2. Dezember 2026 greifen neue Verbote und eine Kennzeichnungsfrist der KI-Verordnung, am 9. Dezember das neue Produkthaftungsgesetz, am 12. Januar 2027 das Ende der Wechselentgelte nach dem Data Act. Am 2. Dezember 2027 folgen die Betreiberpflichten für Hochrisiko-Systeme.

Der Data Act gilt seit dem 12. September 2025 für Datenverarbeitungsdienste und erfasst ausdrücklich auch Software als Dienst (Erwägungsgrund 81). Verträge müssen den Wechsel regeln: eine Kündigungsfrist für die Einleitung des Wechsels von höchstens zwei Monaten, danach höchstens 30 Kalendertage Übergang mit Unterstützung, den Export aller exportierbaren Daten und eine Abruffrist von mindestens 30 Tagen (Artikel 25 Absatz 2). Bis zum 12. Januar 2027 darf der Anbieter für den Wechsel höchstens die Kosten berechnen, die ihm dadurch unmittelbar entstehen, danach nichts mehr (Artikel 29). Feste Vertragslaufzeiten bleiben erlaubt, ebenso verhältnismäßige Sanktionen bei vorzeitiger Kündigung; sie zählen nicht als Wechselentgelt, der Anbieter muss sie aber vor Vertragsschluss nennen (Artikel 2 Nummer 36, Artikel 29 Absatz 4, Erwägungsgrund 89). Für Dienste, deren meiste zentrale Funktionen auf einen einzelnen Kunden zugeschnitten sind und die nicht im größeren Maßstab über den Dienstleistungskatalog angeboten werden, entfällt das Entgeltverbot, die Vertragsklauseln bleiben (Artikel 31 Absatz 1); Testzugänge sind ganz ausgenommen (Artikel 31 Absatz 2).

Auch beim Produkthaftungsgesetz zählt, unter wessen Namen ein System läuft: Hersteller ist auch, wer ein Produkt entwerfen oder herstellen lässt oder durch seinen Namen oder seine Marke auf dem Produkt als Hersteller auftritt (§ 3). Was das für Anwender und mögliche Hersteller bedeutet, steht im Artikel zur neuen Produkthaftung ab Dezember 2026.

Was tun, wenn der Anbieter das Modell wechselt?

Neu prüfen, denn ein Modellwechsel ändert meist mehr als die Qualität der Antworten. Holt der Anbieter das neue Modell von einem anderen Modellanbieter, ist das in der Regel ein neuer Unterauftragsverarbeiter. Bei einer allgemeinen Genehmigung muss er Sie vorher informieren, und Sie können widersprechen; bei einer Einzelgenehmigung braucht er Ihre Zustimmung (Artikel 28 Absatz 2 DSGVO).

Mit dem Modell wechseln oft Verarbeitungsort und Speicherdauer, damit ändern sich Grundlagen Ihrer Folgenabschätzung. Und weil ein anderes Modell anders antwortet, gehört vor der Umstellung ein Test mit Ihren häufigsten Anfragen dazu, beim Telefonassistenten auch der KI-Hinweis am Gesprächsanfang. Sind Sie selbst Anbieter, brauchen Sie außerdem die Dokumentation des neuen Modellanbieters.

Eine feste Frist für die Neubewertung nennt keines der Gesetze. Sinnvoll sind deshalb feste Anlässe: ein neuer Unterauftragsverarbeiter, geänderte Nutzungsbedingungen zum Training, ein Sicherheitsvorfall beim Anbieter, eine neue Funktion wie die Stimmungsanalyse und ein Termin vor jeder Vertragsverlängerung.

Gibt es Vorlagen für die Bewertung?

Ja, drei öffentliche und kostenlose. Die Orientierungshilfe der Datenschutzkonferenz vom 6. Mai 2024 widmet ihr erstes Kapitel der Auswahl von KI-Anwendungen. Die EU-Mustervertragsklauseln für die Beschaffung von KI gibt es für Hochrisiko-Systeme und in einer vereinfachten Fassung. Für eingebaute Sprachmodelle enthält der von der Kommission veröffentlichte Verhaltenskodex ein Musterformular zur Modelldokumentation.

Die Mustervertragsklauseln (MVK-KI) stammen aus der von der Kommission unterstützten Community of Practice für die Beschaffung von KI. Sie sind für öffentliche Auftraggeber geschrieben und laut ihrem Kommentar eine dynamische Arbeitsunterlage (Fassung vom 12. Februar 2025). Für andere Organisationen eignen sie sich nach dem Kommentar nicht; Teile davon lassen sich aber nutzen, wenn man für jede Klausel prüft, ob sie passt. Selbst bei Systemen ohne Risiko empfiehlt der Kommentar Vereinbarungen zu Risikomanagement, Daten, technischer Dokumentation und Gebrauchsanweisung sowie zu den Rechten an den Datensätzen; diese können nach dem Kommentar das Risiko verringern, vom Lieferanten abhängig zu werden. Das Musterformular zur Modelldokumentation gehört zum Verhaltenskodex und betrifft Sie nur, wenn Sie selbst Anbieter sind.

Welche Fragen Sie einer Agentur vor dem ersten Gespräch stellen sollten, steht in der Checkliste zur Beauftragung einer KI-Agentur, die Pflichten je Einsatzart im Leitfaden zum EU AI Act für KMU.

Häufige Fragen

Welche Vorschriften für Chatbots, Telefonassistenten und WhatsApp-Bots im Einzelnen gelten, zeigen die Rechtstabellen auf den Seiten zum KI-Chatbot, zum KI-Telefonassistenten und zur WhatsApp-KI. Das ist keine Rechtsberatung; für die Prüfung eines konkreten Vertrags bleibt der Fachanwalt die richtige Adresse.

Quellen

• EUR-Lex: Verordnung (EU) 2024/1689 über künstliche Intelligenz, konsolidierte Fassung vom 27. Juli 2026 - mit den Änderungen durch die Verordnung (EU) 2026/1744; Begriffe (Art. 3), Verbote (Art. 5), Einführer, Händler, Wertschöpfungskette und Betreiber (Art. 23 bis 26), Transparenz (Art. 50), Modellanbieter (Art. 53, Anhang XII), Aufsicht und Beschwerde (Art. 88, 89), Übergang und Geltung (Art. 111, 113), Bußgelder (Art. 99), Hochrisiko-Bereiche (Anhang III)
• EUR-Lex: Verordnung (EU) 2016/679, Datenschutz-Grundverordnung - Auftragsverarbeitung (Art. 28), Folgenabschätzung (Art. 35), Drittlandübermittlung (Art. 44 ff.), Bußgelder (Art. 83)
• EUR-Lex: Verordnung (EU) 2023/2854, Data Act - Begriff Wechselentgelt (Art. 2 Nr. 36), Wechsel zwischen Datenverarbeitungsdiensten (Art. 23 bis 31), Geltung ab 12. September 2025 (Art. 50), Software als Dienst und feste Laufzeiten (Erwägungsgründe 81 und 89)
• Bundesrat: Gesetzesbeschluss zur Modernisierung des Produkthaftungsrechts, Drucksache 584/26 vom 9. Oktober 2026 - Herstellerbegriff (§ 3), Übergangsvorschrift (§ 23), Inkrafttreten 9. Dezember 2026
• Gesetze im Internet: § 30 BSI-Gesetz, Risikomanagementmaßnahmen und § 28 BSI-Gesetz, besonders wichtige und wichtige Einrichtungen - Sicherheit der Lieferkette, Schwellenwerte; in Kraft seit 6. Dezember 2025
• EU-Kommission: Leitlinien zu verbotenen KI-Praktiken, C(2025) 5052 - Emotionserkennung am Arbeitsplatz und im Callcenter (Rn. 251 und 254)
• EU-Kommission: Verhaltenskodex für KI-Modelle mit allgemeinem Verwendungszweck - Liste der Unterzeichner (Stand 7. Oktober 2026), Kapitel Transparenz mit Musterformular und 14-Tage-Zusage (Maßnahme 1.2)
• Datenschutzkonferenz: Orientierungshilfe Künstliche Intelligenz und Datenschutz vom 6. Mai 2024 - Auswahl von KI-Anwendungen, Training (Rn. 24), Informationen für die Folgenabschätzung (Rn. 40)
• Datenschutzkonferenz: Liste der Verarbeitungstätigkeiten, für die eine DSFA durchzuführen ist, Version 1.1 - Nr. 11, Kundensupport mittels KI und Stimmungsauswertung im Callcenter
• Public Buyers Community: Aktualisierte EU-Mustervertragsklauseln für KI (MVK-KI) - Fassung für Hochrisiko-Systeme, vereinfachte Fassung und Kommentar vom 12. Februar 2025
• Data Privacy Framework: Liste der zertifizierten Organisationen - Prüfung, ob ein US-Anbieter unter den Angemessenheitsbeschluss fällt
• Bitkom: Erstmals nutzt die Mehrheit der Unternehmen KI vom 14. September 2026 - 603 Unternehmen ab 20 Beschäftigten, KI-Nutzung, Hindernisse und Betroffenheit vom AI Act