Recht und Datenschutz
Brauche ich für KI einen AVV, und was muss darin stehen?
Dieser Text wurde mit KI erstellt.
Ein Ratgeber von sicherAI. Wir bieten selbst eine KI für Heilpraxen an. So entsteht dieser Ratgeber
Kurz gesagt
Verarbeitet ein KI-Anbieter personenbezogene Daten in Ihrem Auftrag, brauchen Sie mit ihm einen Auftragsverarbeitungsvertrag (AVV) nach Art. 28 DSGVO. Der AVV ist aber keine Erlaubnis, Gesundheitsdaten zu verarbeiten (Art. 9 DSGVO). Im AVV müssen unter anderem Gegenstand, Dauer, Art und Zweck der Verarbeitung, Ihre Weisungen, die Schutzmaßnahmen und das Löschen oder Zurückgeben der Daten am Ende geregelt sein. Bei KI prüfen Sie zusätzlich, ob das Trainieren mit Ihren Eingaben vertraglich ausgeschlossen ist, wie lange Eingaben gespeichert bleiben und welche Unterauftragsverarbeiter an welchem Ort arbeiten.
Inhalt
Was ist ein Auftragsverarbeitungsvertrag?
Ein Auftragsverarbeitungsvertrag (AVV) ist der Vertrag, mit dem sich ein Dienstleister verpflichtet, personenbezogene Daten nur in Ihrem Auftrag und nach Ihren Weisungen zu verarbeiten. Die Pflicht dazu steht in Art. 28 der Datenschutz-Grundverordnung (DSGVO).
Die DSGVO unterscheidet zwei Rollen. Verantwortlicher ist, wer über die Zwecke und Mittel einer Verarbeitung entscheidet (Art. 4 Nr. 7 DSGVO), etwa eine Praxis, die einen KI-Dienst für ihre Schreibarbeit einsetzt. Auftragsverarbeiter ist eine Stelle, die „personenbezogene Daten im Auftrag des Verantwortlichen verarbeitet“ (Art. 4 Nr. 8 DSGVO), etwa der Anbieter dieses KI-Dienstes. Personenbezogen sind alle Informationen, die sich auf eine identifizierte oder identifizierbare natürliche Person beziehen, also auf einen Menschen. Identifizierbar ist eine Person zum Beispiel über einen Namen, eine Kennnummer oder Standortdaten (Art. 4 Nr. 1 DSGVO).
Nach Art. 28 Abs. 1 DSGVO arbeitet ein Verantwortlicher nur mit Auftragsverarbeitern, die „hinreichend Garantien“ für geeignete technische und organisatorische Maßnahmen bieten. Bevor Sie die ersten personenbezogenen Daten in einen solchen Dienst eingeben, schließen Sie den AVV ab, denn nach Art. 28 Abs. 3 DSGVO erfolgt die Verarbeitung auf seiner Grundlage.
Wann brauchen Sie einen AVV für eine KI?
Sobald ein KI-Anbieter personenbezogene Daten in Ihrem Auftrag verarbeitet, brauchen Sie mit ihm einen AVV. Bei einer KI aus der Cloud trifft das häufig zu, wenn Eingaben, hochgeladene Dateien oder Antworten Angaben zu erkennbaren Personen enthalten (Orientierungshilfe der Datenschutzkonferenz, Rn. 32). Schon ein Name in einer Terminbestätigung, die Sie von der KI formulieren lassen, ist eine solche Angabe.
Ein AVV deckt allerdings nur die Verarbeitung ab, die der Anbieter in Ihrem Auftrag vornimmt. Für eigene Zwecke darf ein Auftragsverarbeiter nichts verarbeiten, hält der Europäische Datenschutzausschuss fest (Leitlinien 07/2020, Rn. 81). Bestimmt er unter Verstoß gegen die DSGVO selbst über Zwecke und Mittel, gilt er für diese Verarbeitung als Verantwortlicher (Art. 28 Abs. 10 DSGVO). Das Schulungs- und Beratungsunternehmen Gesellschaft für Datenschutz mbH wendet das in einem Beitrag zu ChatGPT auf OpenAI an: Eine Auftragsverarbeitung liegt danach nur vor, wenn OpenAI die eingegebenen Daten nicht auch für eigene Zwecke weiterverarbeitet, etwa zum Trainieren seines Modells (Beitrag vom 8. April 2025, laut Seitendaten geändert am 22. April 2026).
Wichtig: Ein Kürzel statt des Namens macht Daten nicht anonym, solange es sich einer Person zuordnen lässt. Für eine Praxis, die das Kürzel zuordnen kann, sind solche pseudonymisierten Daten nach Erwägungsgrund 26 DSGVO Informationen über eine identifizierbare Person. Ob das auch für den Anbieter gilt, hängt nach einem Urteil des Gerichtshofs der Europäischen Union vom 4. September 2025 vom Einzelfall ab (C-413/23 P, Rn. 86, zu den gleich auszulegenden Regeln für Stellen der Europäischen Union, Rn. 52; Stand: 6. November 2026). Für anonyme Informationen gelten die Grundsätze des Datenschutzes nicht.
Gibt es bei Chat-Apps einen AVV?
Für die privaten Tarife von ChatGPT und Claude nennen die hier verlinkten Seiten von OpenAI und Anthropic keinen AVV. Für ihre geschäftlichen Angebote, darunter die Programmierschnittstelle (API) für eigene Anwendungen, sehen beide einen AVV vor (Stand: 6. November 2026).
Nach seiner Seite zum Datenschutz für Unternehmen kann OpenAI diesen Vertrag, den „Zusatz zur Datenverarbeitung“ („Data Processing Addendum“), mit Kunden von ChatGPT Business, ChatGPT Enterprise und der API abschließen. Daten aus diesen Angeboten nutzt OpenAI danach standardmäßig nicht zum Trainieren seiner Modelle, außer Sie stimmen ausdrücklich zu. Daten aus den privaten Tarifen nutzt OpenAI nach derselben Seite auch dafür (Fassung vom 8. Januar 2026). Das lässt sich nach der Hilfeseite von OpenAI für neue Gespräche in den Einstellungen abschalten. Gespräche, zu denen Sie trotzdem eine Rückmeldung geben, etwa mit dem Daumen-Symbol, darf OpenAI weiter nutzen; bei ChatGPT Business und ChatGPT Enterprise erlaubt eine solche Rückmeldung das Trainieren nicht (Stand: 6. November 2026).
Bei Anthropic gelten für die Angebote für Privatpersonen, etwa Claude.ai und Claude Pro, die Verbraucherbedingungen. Sie schließen eine gewerbliche oder geschäftliche Nutzung aus. Eingaben und Antworten darf Anthropic danach zum Trainieren der Modelle nutzen, wenn Sie das nicht in den Kontoeinstellungen abschalten. Das Abschalten gilt nicht für Gespräche, zu denen Sie eine Rückmeldung geben, und nicht für Inhalte, die zur Sicherheitsprüfung markiert sind (Fassung vom 8. Oktober 2025, Stand: 6. November 2026).
Die Geschäftsbedingungen von Anthropic vom 17. Juni 2025 gelten unter anderem für die API und nach einem Hilfeartikel auch für die Tarife Team und Enterprise von Claude. Sie binden das „Data Processing Addendum“ vom 24. Februar 2025 ein, in dem Anthropic als Auftragsverarbeiter auftritt, und schließen das Trainieren mit Kundeninhalten vertraglich aus. Gespräche mit einer Rückmeldung, etwa mit dem Daumen-Symbol, darf Anthropic nach einem weiteren Hilfeartikel trotzdem zum Trainieren nutzen; in den Tarifen Team und Enterprise lässt sich die Rückmeldefunktion für die Organisation abschalten (Stand: 6. November 2026).
Nennen die aktuellen Bedingungen Ihres Tarifs keinen AVV, geben Sie dort keine Angaben zu erkennbaren Personen ein.
Was muss nach Art. 28 DSGVO im AVV stehen?
Jeder AVV beschreibt nach Art. 28 Abs. 3 DSGVO die Verarbeitung und legt die Pflichten des Anbieters fest. Zur Beschreibung gehören Gegenstand und Dauer, Art und Zweck, die Art der personenbezogenen Daten, die Kategorien betroffener Personen sowie Ihre Pflichten und Rechte als Verantwortlicher. Bei den Pflichten muss der Vertrag insbesondere vorsehen, dass der Anbieter
- die Daten nur auf Ihre dokumentierte Weisung verarbeitet, auch bei Übermittlungen in ein Drittland, also einen Staat außerhalb des Europäischen Wirtschaftsraums, außer das Recht der Europäischen Union oder eines Mitgliedstaats verpflichtet ihn dazu (lit. a),
- dafür sorgt, dass die zur Verarbeitung befugten Personen zur Vertraulichkeit verpflichtet sind oder einer gesetzlichen Verschwiegenheitspflicht unterliegen (lit. b),
- alle Maßnahmen nach Art. 32 DSGVO ergreift (lit. c),
- weitere Auftragsverarbeiter nur unter den Bedingungen der Absätze 2 und 4 einsetzt (lit. d),
- Sie bei Anträgen betroffener Personen unterstützt, etwa auf Auskunft oder Löschung (lit. e),
- Sie bei den Pflichten aus Art. 32 bis 36 DSGVO unterstützt, zum Beispiel bei der Meldung einer Datenpanne, also einer Verletzung des Schutzes personenbezogener Daten (lit. f),
- nach dem Ende der Leistungen alle Daten nach Ihrer Wahl löscht oder zurückgibt und vorhandene Kopien löscht, außer das Recht der Europäischen Union oder eines Mitgliedstaats verpflichtet ihn zur Speicherung (lit. g),
- Ihnen die nötigen Nachweise gibt und Überprüfungen einschließlich Inspektionen ermöglicht (lit. h).
Technische und organisatorische Maßnahmen (TOM) sind die Schutzvorkehrungen, die Art. 32 DSGVO verlangt, etwa Pseudonymisierung und Verschlüsselung.
Unterauftragsverarbeiter, in der DSGVO „weitere Auftragsverarbeiter“, sind Dienstleister, die Ihr Anbieter seinerseits für die Verarbeitung einsetzt. Er darf sie nur mit Ihrer vorherigen gesonderten oder allgemeinen schriftlichen Genehmigung hinzuziehen. Bei einer allgemeinen Genehmigung informiert er Sie über jede beabsichtigte Änderung, damit Sie Einspruch erheben können (Art. 28 Abs. 2 DSGVO). Jedem weiteren Auftragsverarbeiter muss er dieselben Datenschutzpflichten auferlegen. Erfüllt dieser sie nicht, haftet Ihnen gegenüber der erste Auftragsverarbeiter (Art. 28 Abs. 4 DSGVO).
Was sollten Sie bei KI-Diensten zusätzlich prüfen?
Bei KI-Diensten prüfen Sie zusätzlich das Trainieren mit Ihren Eingaben, die Speicherdauer und die Orte, an denen die Unterauftragsverarbeiter des Anbieters, also seine eigenen Dienstleister, Daten verarbeiten.
Training heißt, dass ein Anbieter Eingaben nutzt, um seine Modelle weiterzuentwickeln. Das wäre ein eigener Zweck des Anbieters, während ein Auftragsverarbeiter Ihre Daten nur auf Ihre dokumentierte Weisung verarbeiten darf (Art. 28 Abs. 3 lit. a DSGVO). Suchen Sie deshalb im AVV und in den Bedingungen Ihres Tarifs nach einer Klausel, die das Trainieren mit Kundeninhalten ausdrücklich ausschließt.
Art. 28 Abs. 3 lit. g DSGVO regelt nur das Löschen oder Zurückgeben nach dem Ende der Leistungen. Wie lange der Anbieter Eingaben und Antworten während der Laufzeit aufbewahrt, legt die Vorschrift nicht fest. Steht diese Frist weder im AVV noch in den Bedingungen, fragen Sie den Anbieter danach.
Erfundenes Beispiel: Eine Heilpraktikerin prüft vor dem ersten Einsatz eines KI-Dienstes den AVV Punkt für Punkt. Bei den Unterauftragsverarbeitern steht ein Rechenzentrumsbetreiber, aber kein Ort. Auf Nachfrage nennt der Anbieter einen Staat außerhalb des Europäischen Wirtschaftsraums und als Grundlage Vertragsklauseln der Europäischen Kommission. Sie legt die Antwort mit dem AVV ab und prüft die Orte erneut, sobald der Anbieter einen neuen Unterauftragsverarbeiter meldet.
Checkliste für den AVV eines KI-Dienstes
- Ist das Trainieren mit Ihren Eingaben vertraglich ausgeschlossen, auch für Rückmeldungen zu einzelnen Antworten?
- Nennt der Vertrag, wie lange Eingaben und Antworten gespeichert bleiben und bis wann sie nach Vertragsende gelöscht sind?
- Gibt es eine Liste der Unterauftragsverarbeiter mit dem Ort, an dem jeder von ihnen Daten verarbeitet?
- Regelt der AVV, wie der Anbieter Sie über einen neuen Unterauftragsverarbeiter informiert und wie Sie Einspruch erheben?
- Nennt der AVV für Übermittlungen in ein Drittland die Grundlage nach Kapitel V DSGVO?
- Erwähnt der AVV bei den Datenarten Gesundheitsdaten, oder schließt er sie aus?
- Liegt dem AVV eine Beschreibung der technischen und organisatorischen Maßnahmen (TOM) bei?
- Meldet der Anbieter eine Datenpanne unverzüglich, wie es Art. 33 Abs. 2 DSGVO verlangt, und an eine Adresse, die Sie regelmäßig lesen?
- Haben Sie den AVV mit Fassung und Datum abgelegt?
Was ersetzt ein AVV nicht?
Ein AVV ist keine Erlaubnis, Gesundheitsdaten zu verarbeiten, und er nimmt Ihnen Ihre eigenen Pflichten als Verantwortlicher nicht ab. Er regelt nur, wie der Anbieter mit Ihren Daten umgeht.
Gesundheitsdaten gehören nach Art. 9 DSGVO zu den besonderen Kategorien personenbezogener Daten. Abs. 1 untersagt ihre Verarbeitung, Abs. 2 nennt die Ausnahmen, und ein AVV gehört nicht dazu. Am einfachsten geben Sie der KI keine Angaben, über die man auf eine Person schließen kann.
Eine Übermittlung in ein Drittland braucht neben Ihrer Weisung eine Grundlage nach Kapitel V DSGVO (Art. 44). Das sind etwa ein Angemessenheitsbeschluss der Europäischen Kommission (Art. 45) oder Standarddatenschutzklauseln, also von der Kommission erlassene Vertragsklauseln (Art. 46 Abs. 2 lit. c).
Eine berufliche Schweigepflicht gilt neben dem AVV weiter. Die Vertraulichkeit nach Art. 28 Abs. 3 lit. b DSGVO betrifft nur die Personen, die beim Anbieter Daten verarbeiten dürfen.
Häufige Fragen
Was unterscheidet einen AVV von einer Datenschutzerklärung?
Der AVV ist ein Vertrag zwischen Ihnen und dem Anbieter: Er bindet den Anbieter an Ihre Weisungen und legt seine Pflichten fest (Art. 28 Abs. 3 DSGVO). Die Datenschutzerklärung informiert dagegen die Menschen, deren Daten Sie verarbeiten, unter anderem über Zwecke, Rechtsgrundlage und gegebenenfalls die Empfänger ihrer Daten (Art. 13 und 14 DSGVO). Zu diesen Empfängern zählt auch der KI-Anbieter als Auftragsverarbeiter, denn Empfänger ist nach Art. 4 Nr. 9 DSGVO auch eine Stelle, die kein Dritter ist, und der Auftragsverarbeiter ist nach Art. 4 Nr. 10 DSGVO kein Dritter.
Muss ein AVV auf Papier geschlossen werden?
Nein. Art. 28 Abs. 9 DSGVO verlangt, dass der Vertrag schriftlich abgefasst ist, „was auch in einem elektronischen Format erfolgen kann“. Ein AVV, den Sie online abschließen und als Datei ablegen, ist also möglich.
Gibt es KI ohne Datenweitergabe?
Ohne Weitergabe an einen Anbieter kommt nur eine KI aus, die vollständig auf eigenen Geräten läuft. Bei einer KI aus der Cloud verarbeitet der Anbieter Ihre Eingaben auf seinen Systemen, damit das Modell antworten kann. Ein AVV verpflichtet ihn, sie nur nach Ihren Weisungen zu verarbeiten; welche Angaben Sie eingeben, entscheiden Sie selbst.
Wer schließt den AVV ab, die Praxis oder ihre Beschäftigten?
Den AVV schließt der Verantwortliche ab, in der Regel also die Praxis, für die der KI-Dienst arbeitet. Beschäftigte, die den Dienst für die Praxis nutzen, brauchen in der Regel keinen eigenen AVV, denn nach Art. 29 DSGVO dürfen sie Daten nur auf Weisung des Verantwortlichen verarbeiten.
Quellen
- Amt für Veröffentlichungen der Europäischen Union: Verordnung (EU) 2016/679 (Datenschutz-Grundverordnung), konsolidierter Text mit Berichtigungen (eur-lex.europa.eu), abgerufen am
- Amt für Veröffentlichungen der Europäischen Union: Verordnung (EU) 2016/679 (Datenschutz-Grundverordnung), Amtsblatt L 119 vom 4. Mai 2016, mit Erwägungsgründen (eur-lex.europa.eu), abgerufen am
- Amt für Veröffentlichungen der Europäischen Union: Beschluss des Gemeinsamen EWR-Ausschusses Nr. 154/2018 vom 6. Juli 2018 (eur-lex.europa.eu), abgerufen am
- Gerichtshof der Europäischen Union: Urteil des Gerichtshofs (Erste Kammer) vom 4. September 2025, Rechtssache C-413/23 P (eur-lex.europa.eu), abgerufen am
- Europäischer Datenschutzausschuss: Leitlinien 07/2020 zu den Begriffen „Verantwortlicher“ und „Auftragsverarbeiter“ in der DSGVO, Version 2.0 (www.edpb.europa.eu), abgerufen am
- Konferenz der unabhängigen Datenschutzaufsichtsbehörden des Bundes und der Länder: Künstliche Intelligenz und Datenschutz, Orientierungshilfe vom 6. Mai 2024, Version 1.0 (www.datenschutzkonferenz-online.de), abgerufen am
- OpenAI: Enterprise-Datenschutz bei OpenAI (openai.com), abgerufen am
- OpenAI: How your data is used to improve model performance (help.openai.com), abgerufen am
- Anthropic: Consumer Terms of Service (www.anthropic.com), abgerufen am
- Anthropic: Commercial Terms of Service (www.anthropic.com), abgerufen am
- Anthropic: Data Processing Addendum (www.anthropic.com), abgerufen am
- Anthropic: Does Anthropic Act as a Data Processor or Controller? (privacy.claude.com), abgerufen am
- Anthropic: Is my data used for model training? (privacy.claude.com), abgerufen am
- Gesellschaft für Datenschutz mbH: ChatGPT, Datenschutz und Auftragsverarbeitungsvertrag (gesellschaft-datenschutz.de), abgerufen am
ChatGPT ist eine Marke von OpenAI. Claude ist eine Marke von Anthropic.
Über diesen Ratgeber
- Herausgeber
- sicherAI (Impressum)
- Unser Interesse
- Wir bieten selbst eine KI für Heilpraxen an und nutzen dafür Modelle mehrerer Hersteller, darunter einige, die unsere Ratgeber nennen. Der Ratgeber enthält keine Ranglisten. Aussagen über andere Anbieter stützen sich auf die genannten Quellen.
- Entstehung
- Dieser Text wurde mit KI erstellt.
- Stand der Quellen
- Stand der Rechtslage
- Grenzen
- Dieser Ratgeber gibt einen allgemeinen Überblick und ersetzt keine Beratung im Einzelfall.
- Fehler melden
- Schreiben Sie uns über die Angaben im Impressum.