Auftragsverarbeitung bei KI-Diensten: was in den Vertrag gehört

Sobald ein KI-Dienst personenbezogene Daten verarbeitet — Kundennamen in E-Mails, Bewerberdaten, Patientendaten, Mitarbeiterdaten in einer Anfrage — braucht es einen Vertrag zur Auftragsverarbeitung. Nicht irgendeinen, sondern einen, der die Pflichtangaben aus Artikel 28 DSGVO enthält. Viele Betriebe merken erst bei einer Anfrage des Datenschutzbeauftragten oder im Audit, dass dieser Vertrag fehlt oder unvollständig ist.

Das Problem entsteht selten aus Nachlässigkeit, sondern aus Tempo: Ein Team probiert ein KI-Tool aus, es funktioniert, es bleibt im Einsatz — und der Vertrag wird nie nachgeholt. Dieser Beitrag zeigt, was in diesen Vertrag gehört, wo die typischen Lücken liegen und wann ein KI-Anbieter überhaupt Auftragsverarbeiter ist.

Die kurze Antwort

Ein Vertrag zur Auftragsverarbeitung (AVV) mit einem KI-Anbieter muss mindestens enthalten: Gegenstand und Dauer der Verarbeitung, Art und Zweck, die Kategorien betroffener Personen und Daten, die Pflichten und Rechte des Verantwortlichen sowie die in Artikel 28 Absatz 3 DSGVO aufgezählten Punkte — darunter Weisungsgebundenheit, Vertraulichkeit, technische und organisatorische Maßnahmen, Regeln für Unterauftragsverarbeiter, Unterstützung bei Betroffenenrechten, Löschung oder Rückgabe nach Vertragsende und Nachweispflichten. Besonders wichtig bei KI-Diensten: eine klare Aussage, ob Eingaben zum Training des Modells verwendet werden — im Zweifel muss das vertraglich ausgeschlossen sein. Fehlt der AVV komplett, ist die Nutzung des Dienstes mit personenbezogenen Daten ein Verstoß, unabhängig davon, wie gut die technische Umsetzung sonst ist.

Wer den Vertrag nicht selbst prüfen kann oder will, sollte das vor dem produktiven Einsatz klären lassen — nicht danach.

Wann ein KI-Anbieter überhaupt Auftragsverarbeiter ist

Nicht jeder Einsatz von KI löst die Pflicht zum AVV aus. Entscheidend ist, ob personenbezogene Daten verarbeitet werden und wer über Zweck und Mittel der Verarbeitung entscheidet.

• Auftragsverarbeitung liegt vor, wenn dein Unternehmen entscheidet, wozu die Daten verarbeitet werden (z. B. Kundenanfragen automatisch beantworten), und der KI-Anbieter das nach deinen Weisungen technisch umsetzt.
• Keine Auftragsverarbeitung liegt vor, wenn keine personenbezogenen Daten in den Dienst gelangen — etwa bei einem internen Tool, das ausschließlich anonymisierte Kennzahlen verarbeitet.
• Eine gesonderte Prüfung braucht es, wenn der Anbieter Daten für eigene Zwecke nutzt, etwa um sein Modell zu trainieren. Dann ist er möglicherweise nicht mehr reiner Auftragsverarbeiter, sondern (Mit-)Verantwortlicher — ein deutlich komplexerer Fall, der in der Regel vermieden werden sollte.

Die praktische Konsequenz: Bevor ein KI-Tool an echten Kunden- oder Mitarbeiterdaten arbeitet, muss geklärt sein, welcher der drei Fälle vorliegt. Das ist keine Formalie, sondern die Grundlage dafür, welchen Vertrag du überhaupt brauchst.

Die Pflichtpunkte im Vertrag

Die folgende Tabelle zeigt die wichtigsten Inhalte nach Artikel 28 Absatz 3 DSGVO und was sie bei einem KI-Dienst konkret bedeuten.

| Vertragspunkt | Bedeutung bei KI-Diensten | |---|---| | Gegenstand, Dauer, Art und Zweck der Verarbeitung | Konkret benennen, z. B. „Verarbeitung von Kundenanfragen zur automatischen Antwortformulierung", nicht pauschal „KI-Dienstleistungen" | | Kategorien betroffener Personen und Daten | Kunden, Bewerber, Mitarbeiter, Patienten — je nach Einsatzfall einzeln auflisten | | Weisungsgebundenheit | Der Anbieter darf Daten ausschließlich nach dokumentierter Weisung verarbeiten, nicht für eigene Zwecke | | Vertraulichkeitsverpflichtung | Für alle Personen, die beim Anbieter Zugriff auf die Daten haben | | Technische und organisatorische Maßnahmen (TOM) | Verschlüsselung, Zugriffskontrollen, Speicherort — sollten als Anlage konkret beschrieben sein, nicht nur behauptet | | Regelung zu Unterauftragsverarbeitern | Wer sind die Subdienstleister (Cloud-Hosting, Modellanbieter), und wie wird informiert, wenn sich das ändert | | Trainingsausschluss | Ausdrückliche Zusage, dass Eingaben nicht zum Training des Modells verwendet werden | | Löschung oder Rückgabe nach Vertragsende | Fristen und Nachweis der Löschung | | Unterstützungspflichten | Der Anbieter muss bei Betroffenenanfragen, Datenschutz-Folgenabschätzungen und Meldungen mithelfen | | Nachweis- und Kontrollrechte | Möglichkeit, die Einhaltung der Vereinbarung zu prüfen, etwa über Auditberichte |

Fehlt einer dieser Punkte, ist der Vertrag lückenhaft — das heißt nicht automatisch, dass der Anbieter unseriös ist, aber es bedeutet Nacharbeit, bevor der Dienst produktiv genutzt wird.

Der Punkt, der bei KI-Diensten am häufigsten übersehen wird

Bei klassischer Auftragsverarbeitung — einem Buchhaltungs-Tool, einem CRM — ist relativ klar, was mit den Daten passiert: Sie werden gespeichert, verarbeitet, irgendwann gelöscht. Bei KI-Diensten kommt eine zusätzliche Frage dazu, die viele Standardverträge nicht beantworten: Fließen die Eingaben in das Training zukünftiger Modellversionen ein?

Manche Anbieter schließen das für zahlende Geschäftskunden standardmäßig aus, andere nur auf Anfrage, wieder andere gar nicht. Diese Zusage gehört nicht in eine Marketingaussage, sondern in den Vertragstext — denn nur dort ist sie einklagbar. Bei kostenlosen oder privaten Tarifen desselben Anbieters gilt oft eine andere Regelung als beim Geschäftskonto. Wer ein KI-Tool im Unternehmen einführt, sollte deshalb genau prüfen, unter welchem Tarif es läuft, nicht nur, welcher Anbieter dahintersteht.

Ein zweiter häufig übersehener Punkt: Unterauftragsverarbeiter. Viele KI-Anbieter setzen selbst wieder auf Cloud-Infrastruktur oder Basismodelle anderer Unternehmen auf. Der Vertrag muss offenlegen, wer diese Subdienstleister sind und wo sie die Daten verarbeiten — das führt direkt zur Frage des Serverstandorts, die wir in einem eigenen Beitrag behandeln.

Eine kurze Checkliste vor der Unterschrift

Bevor ein KI-Dienst produktiv mit personenbezogenen Daten arbeitet, lohnt sich ein kurzer Abgleich:

• Liegt überhaupt ein AVV vor, oder nur die allgemeinen Geschäftsbedingungen des Anbieters?
• Ist der Trainingsausschluss ausdrücklich im Vertrag genannt, nicht nur in einem FAQ oder Blogpost des Anbieters?
• Sind die technischen und organisatorischen Maßnahmen als konkrete Anlage beigefügt, nicht nur pauschal zugesichert?
• Sind alle Unterauftragsverarbeiter benannt, und wird über Änderungen informiert?
• Ist geregelt, was bei Vertragsende mit den Daten passiert — Löschung mit Frist oder Rückgabe?
• Gilt der Vertrag für den tatsächlich genutzten Tarif, oder nur für eine andere (z. B. kostenpflichtige Enterprise-)Version des Produkts?

Wer diese sechs Punkte vor dem produktiven Start prüft, deckt die meisten Lücken ab, die sonst erst bei einer Anfrage des Datenschutzbeauftragten auffallen — dann aber mit laufenden Prozessen, die kurzfristig umgestellt werden müssen.

Ein Beispiel aus der Praxis

Ein Personaldienstleister mit rund 20 Mitarbeitenden wollte Bewerberprofile automatisiert aus eingehenden Lebensläufen zusammenfassen lassen. Der ausgewählte KI-Dienst hatte zwar einen AVV im Standardformat, aber ohne konkrete Anlage zu den technischen und organisatorischen Maßnahmen und ohne Aussage zum Trainingsausschluss. Vor dem produktiven Start wurde der Anbieter aufgefordert, beides nachzuliefern — eine Anlage mit TOM und eine ausdrückliche Zusage, dass Bewerberdaten nicht ins Training einfließen. Erst danach ging der Ablauf live. Die Verzögerung betrug rund zwei Wochen — deutlich weniger, als eine spätere Nachbesserung unter Zeitdruck gekostet hätte.

Wo Automatisierung an eine Grenze stößt

Nicht jeder Vertrag lässt sich vereinfachen. Wenn ein Anbieter den Trainingsausschluss nicht vertraglich zusichern will oder kann, ist das ein Ausschlusskriterium für den Einsatz mit personenbezogenen Daten — unabhängig davon, wie gut das Tool sonst funktioniert. Und ein AVV ersetzt keine eigene Prüfung: Die Verantwortung für die Datenverarbeitung bleibt beim Unternehmen, das die Daten einbringt, auch wenn ein externer Dienst sie verarbeitet. Wer hier nur den Vertrag unterschreibt und nicht auch intern klärt, welche Daten überhaupt in den Dienst gelangen dürfen, hat rechtlich nichts gewonnen.

Der nächste Schritt

Wenn du ein KI-Tool einführen willst und unsicher bist, ob ein bestehender oder angebotener AVV ausreicht, lohnt sich ein Blick auf die konkreten Anlagen, nicht nur auf den Vertragstext selbst. Wie wir Auftragsverarbeitung in eigenen Projekten handhaben und welche Fragen wir Kunden dazu stellen, steht auf der Seite KI-Agentur.

Verwandtes Thema: Welche Daten wo verarbeitet werden dürfen, hängt eng mit dem Serverstandort zusammen — dazu mehr im Beitrag Wo dürfen die Daten liegen? EU-Server, eigene Hardware, Ausland.