Zum Inhalt springen

KI und Sicherheit

Was unterscheidet frei verfügbare Chatbots von KI mit Vertrag?

Dieser Text wurde mit KI erstellt.

Stand 11 Minuten Lesezeit

Ein Ratgeber von sicherAI. Wir bieten selbst eine KI für Heilpraxen an. So entsteht dieser Ratgeber

English version

Kurz gesagt

Der Unterschied zwischen frei verfügbaren Chatbots und KI mit Vertrag liegt für Ihre Daten vor allem im Vertragsrahmen, nicht im Modell. Er entscheidet, wofür der Anbieter Ihre Eingaben nutzen darf und wer die Konten verwaltet: Bei einem privaten Konto gelten Nutzungsbedingungen für Privatpersonen, bei einem Geschäftstarif eigene Geschäftsbedingungen und, sofern abgeschlossen, ein Vertrag zur Auftragsverarbeitung (AVV) nach Art. 28 DSGVO. Derselbe Anbieter kann beides anbieten, und ein bezahlter Tarif ist nicht automatisch ein Geschäftstarif mit AVV. Ohne passenden Vertrag gehören keine Patientendaten in den Chatbot eines Anbieters, und auch mit Vertrag bleiben Art. 9 DSGVO und die Schweigepflicht zu klären.

Inhalt

Worin unterscheiden sich KI-Dienste wirklich?

KI-Dienste unterscheiden sich für Ihre Praxis vor allem im Vertragsrahmen. Der Vertragsrahmen umfasst alle Bedingungen und Verträge für Ihr Konto. Ein KI-Dienst ist ein Chatbot oder ein anderes Angebot mit künstlicher Intelligenz (KI), das auf Ihre Eingabe hin Text erzeugt. Sein Sprachmodell hat nach Angaben des Bundesamts für Sicherheit in der Informationstechnik (BSI) Muster aus großen Datenmengen gelernt. Wofür der Anbieter Ihre Eingaben verwenden kann, wie lange er sie speichert und wer die Konten verwaltet, legt der Vertragsrahmen fest.

Die Datenschutz-Grundverordnung (DSGVO) kennt dafür zwei Rollen. Verantwortlicher ist, wer über Zwecke und Mittel einer Verarbeitung entscheidet; Auftragsverarbeiter ist, wer personenbezogene Daten im Auftrag des Verantwortlichen verarbeitet (Art. 4 Nr. 7 und 8 DSGVO). Nutzt Ihre Praxis einen externen KI-Dienst für eigene Zwecke, handelt dessen Anbieter nach der Orientierungshilfe der Datenschutzkonferenz (DSK) als „verlängerter Arm“ der Praxis (Randnummer 32). Dann liegt häufig eine Auftragsverarbeitung vor, für die Art. 28 Abs. 3 DSGVO einen Vertrag zur Auftragsverarbeitung (AVV) verlangt.

Die Rolle des Auftragsverarbeiters passt nach einem Beitrag der Website „Gesellschaft für Datenschutz“ nur, wenn der Anbieter die Eingaben nicht auch für eigene Zwecke nutzt, etwa zum Trainieren. Bestimmt ein Auftragsverarbeiter unter Verstoß gegen die DSGVO selbst über Zwecke und Mittel, gilt er insoweit als Verantwortlicher (Art. 28 Abs. 10 DSGVO).

Welche drei Arten von KI-Diensten gibt es?

Nach dem Vertragsrahmen lassen sich drei Arten unterscheiden: das private Konto in einer Chat-App, der Geschäftstarif mit Vertrag zur Auftragsverarbeitung (AVV) und das eigene oder lokale System. Frei verfügbare Chatbots gehören zur ersten Art. Ein lokales System läuft auf einem eigenen Rechner oder Server der Praxis.

MerkmalPrivates KontoGeschäftstarif mit AVVEigenes oder lokales System
VertragsgrundlageNutzungsbedingungen für PrivatpersonenGeschäftsbedingungen mit AVVKein Vertrag mit einem KI-Anbieter
Rolle des AnbietersLegt in seinen Bedingungen fest, wofür er Eingaben nutztVerarbeitet grundsätzlich nach Weisung der PraxisKein KI-Anbieter beteiligt; bei Betrieb ausschließlich zu eigenen Zwecken ist die Praxis in der Regel allein verantwortlich
Training mit EingabenJe nach Bedingungen, teils abwählbarIm Vertrag geregeltEntscheidet die Praxis
KontenJede Person für sichZentral durch die PraxisDurch die Praxis oder einen Dienstleister, mit dem ein AVV nötig sein kann

Derselbe Anbieter kann private Konten und Geschäftstarife anbieten, etwa OpenAI (Stand: 6. November 2026). ChatGPT für Privatpersonen regeln die Nutzungsbedingungen für Europa. Nach der Datenschutzrichtlinie für Europa in der Fassung vom 24. August 2026 ist OpenAI dabei selbst Verantwortlicher; für Inhalte, die OpenAI im Auftrag von Kundinnen und Kunden seiner Business-Angebote verarbeitet, gilt sie nicht. Einen Zusatz zur Datenverarbeitung, also einen AVV, kann OpenAI nach eigener Angabe für ChatGPT Business, ChatGPT Enterprise und die Programmierschnittstelle (API) abschließen, über ein Formular (Enterprise-Datenschutz bei OpenAI).

Ob ein Dienst Eingaben für eigene Zwecke nutzt, steht in seinen Bedingungen; Größe oder Bekanntheit sagen darüber nichts.

Was regelt ein Vertrag zur Auftragsverarbeitung?

Ein Vertrag zur Auftragsverarbeitung (AVV) bindet den Anbieter an die Weisungen Ihrer Praxis und legt fest, wie er mit personenbezogenen Daten umgeht. Den Mindestinhalt schreibt Art. 28 Abs. 3 DSGVO vor; für eine Praxis zählen vor allem diese Pflichten des Anbieters:

  • Weisung: Er verarbeitet die Daten „nur auf dokumentierte Weisung“ der Praxis (Art. 28 Abs. 3 lit. a DSGVO), auch bei einer Übermittlung in ein Drittland, also einen Staat außerhalb des Europäischen Wirtschaftsraums.
  • Vertragsende: Er löscht die Daten nach Wahl der Praxis oder gibt sie zurück, soweit keine Pflicht zur Speicherung besteht.

Der Vertrag muss schriftlich vorliegen, ein elektronisches Format genügt (Art. 28 Abs. 9 DSGVO). Er klärt die Rollen, ersetzt aber keine Rechtsgrundlage für die Verarbeitung und eine etwaige Übermittlung an den Anbieter (vgl. Orientierungshilfe der Datenschutzkonferenz, Rn. 48).

Was passiert mit Ihren Eingaben?

Bei einem KI-Dienst im Internet gehen Ihre Eingaben an den Anbieter. Ob er sie auch zum Trainieren nutzt und wie lange er sie aufbewahrt, legen Vertrag und Einstellungen fest. Das Bundesamt für Sicherheit in der Informationstechnik (BSI) nennt in „Generative KI-Modelle“ die Möglichkeit, „dass das betreibende Unternehmen auf die Daten zugreift und sie gegebenenfalls zum weiteren Training des Modells nutzt“ (S. 14).

Bei privaten Konten erlauben die Bedingungen von OpenAI und Anthropic das Training mit Inhalten, solange die Person es nicht in den Kontoeinstellungen abwählt (Fassungen vom 16. Januar 2026 und 8. Oktober 2025). Auch nach der Abwahl können bei beiden Inhalte ins Training gehen, zu denen die Person eine Rückmeldung gibt (Hilfeartikel von OpenAI, Stand: 6. November 2026). Anthropic nennt zusätzlich Inhalte, die für eine Sicherheitsprüfung markiert sind (Fassung vom 8. Oktober 2025).

Bei den Geschäftstarifen von OpenAI und Anthropic ist es umgekehrt. OpenAI verwendet Daten aus ChatGPT Business, ChatGPT Enterprise und der API nach eigener Angabe standardmäßig nicht zum Trainieren, außer die Kundin oder der Kunde stimmt ausdrücklich zu (Enterprise-Datenschutz bei OpenAI, Stand: 6. November 2026). Bei Anthropic schließen die „Commercial Terms of Service“ (Fassung vom 17. Juni 2025) das Training mit Kundeninhalten aus, Rückmeldungen ausgenommen (Privacy Center, Stand: 6. November 2026). Das muss nicht für jeden Geschäftstarif gelten; prüfen Sie deshalb den Vertrag Ihres Anbieters.

Die Datenschutzkonferenz (DSK) nennt Anwendungen „vorzugswürdig“, die Ein- und Ausgabedaten nicht zu Trainingszwecken verwenden (Orientierungshilfe, Rn. 24). Als datenschutzfreundliche Voreinstellung nennt sie, Training und Verlauf schon beim Einrichten eines Kontos abzuschalten (Rn. 43).

Wer verwaltet die Konten im Team?

Bei einem Geschäftstarif verwaltet die Praxis die Konten zentral, bei privaten Konten entscheidet jede Person allein. Bei ChatGPT Business etwa erhalten Administratorinnen und Administratoren auf gewöhnliche private Gespräche der Teammitglieder nicht automatisch Zugriff (Hilfeartikel von OpenAI, Stand: 6. November 2026). Die Seite Enterprise-Datenschutz sagt dagegen, dass sie Gespräche einsehen, exportieren und löschen können (Fassung vom 8. Januar 2026). Was sie können, hängt von der Konfiguration der Organisation und dem geltenden Recht ab (weiterer Hilfeartikel, Stand: 6. November 2026); klären Sie das vorab.

Die Datenschutzkonferenz (DSK) empfiehlt, dass Arbeitgeberinnen und Arbeitgeber Geräte und Konten für die berufliche KI-Nutzung stellen (Orientierungshilfe, Rn. 41). Läuft die Anwendung nicht auf eigenen Servern, sollen die Konten keine Namen von Beschäftigten tragen; zur Anmeldung nennt die DSK eine Funktions-E-Mail-Adresse, also eine Adresse für eine Aufgabe wie den Empfang (Rn. 42).

Erfundenes Beispiel: Eine kleine Heilpraxis nutzt einen Geschäftstarif mit Vertrag zur Auftragsverarbeitung für Aushänge und Website-Texte. Jedes Teammitglied hat ein Konto ohne Klarnamen. Verlässt die Aushilfe am Empfang die Praxis, sperrt die Inhaberin dieses Konto. Was dann mit den Gesprächen geschieht und wer sie noch sehen kann, hat sie vorab anhand von Tarif und Einstellungen geklärt.

Ist ein bezahlter Tarif automatisch geschäftlich?

Nein, ein bezahlter Tarif ist nicht automatisch ein Geschäftstarif mit Vertrag zur Auftragsverarbeitung (AVV). Auf der Preisseite von ChatGPT stehen Free, Go, Plus und Pro unter „Privatperson“, Business und Enterprise unter einem eigenen Reiter (Stand: 6. November 2026). Business-Pläne gibt es danach erst ab zwei Nutzerinnen oder Nutzern.

Bei Anthropic gelten für Angebote für Unternehmen wie Claude for Work und die Claude-API die „Commercial Terms of Service“ mit dem „Data Processing Addendum“ (Privacy Center von Anthropic, Stand: 6. November 2026). Nach den „Consumer Terms of Service“ in der Fassung vom 8. Oktober 2025 gelten sie nicht für Claude Pro, auch wenn eine Organisation den Tarif nutzt. Diese Fassung richtet sich an Verbraucherinnen und Verbraucher im Europäischen Wirtschaftsraum und schließt eine kommerzielle oder geschäftliche Nutzung aus.

Gut zu wissen: Die Namen von Tarifen ändern sich. Suchen Sie deshalb nach dem Dokument zur Auftragsverarbeitung, bei OpenAI „Zusatz zur Datenverarbeitung“, bei Anthropic „Data Processing Addendum“ (Stand: 6. November 2026). Klären Sie, ob es für Ihren Tarif gilt und Ihre Eingaben im Chat abdeckt. Ist das nicht eindeutig, fragen Sie vor der Eingabe personenbezogener Daten beim Anbieter nach. Prüfen Sie den aktuellen Stand, bevor Sie entscheiden.

Welche Daten passen zu welchem Vertragsrahmen?

Für Texte ohne Bezug zu einer Person verlangt Art. 28 DSGVO keinen Vertrag zur Auftragsverarbeitung (AVV); personenbezogene Daten gehören in der Regel nur in einen Geschäftstarif mit AVV oder in ein eigenes System, und für Angaben zur Gesundheit gilt zusätzlich Art. 9 DSGVO. Für eine Praxis heißt das:

  • Aushang zu den Sprechzeiten: Er nennt keine Person, ein AVV ist für die Eingabe in der Regel nicht nötig.
  • Name einer Aushilfe im Dienstplan: personenbezogene Daten ohne Bezug zu einer Behandlung, also in der Regel Geschäftstarif mit AVV oder eigenes System, dazu eine Rechtsgrundlage.
  • Angaben zur Gesundheit: Nach Art. 9 Abs. 1 DSGVO ist es untersagt, sie zu verarbeiten, soweit keine Ausnahme nach Art. 9 Abs. 2 greift (Stand: 6. November 2026); dazu kommen Fragen der Schweigepflicht. Schon der Name mit einem Termin in einer Praxis kann dazu zählen, denn Gesundheitsdaten schließen nach Art. 4 Nr. 15 DSGVO die Erbringung von Gesundheitsdienstleistungen ein, wenn daraus Informationen über den Gesundheitszustand hervorgehen.

Wichtig: Namen und Anschriften zu entfernen, reicht nach der Datenschutzkonferenz (DSK) in der Regel nicht. Aus dem Zusammenhang lässt sich unter Umständen erkennen, um wen es geht (Rn. 49). Am einfachsten geben Sie der KI keine Angaben, über die man auf eine Person schließen kann.

Bevor Patientendaten in einen KI-Dienst gehen, klären Sie diese Punkte:

  • Sie haben geprüft, ob die Aufgabe auch ohne Bezug zu einer Person geht.
  • Für den Tarif gilt ein AVV, den Sie abgeschlossen haben und der die Arten Ihrer Daten erfasst, auch Angaben zur Gesundheit.
  • Der Vertrag regelt, ob der Anbieter Eingaben für eigene Zwecke nutzt und wie lange er sie speichert.
  • Sie wissen, wo der Dienst die Daten verarbeitet und ob sie in ein Drittland gehen.
  • Die Praxis stellt die Konten und kann Zugänge sperren.
  • Es gibt eine Rechtsgrundlage, für Angaben zur Gesundheit eine Ausnahme nach Art. 9 Abs. 2 DSGVO.
  • Sie haben geklärt, was die Schweigepflicht für die Eingabe bedeutet.
  • Sie informieren betroffene Personen über die Verwendung von deren Daten (DSK, Rn. 48).
  • Sie haben geprüft, ob eine Datenschutz-Folgenabschätzung nach Art. 35 DSGVO nötig ist, also eine Bewertung der Risiken vorab (DSK, Rn. 39).

Häufige Fragen

Reicht ChatGPT Plus für die Arbeit in der Praxis?

Für Patientendaten zählt, ob für den Tarif ein Vertrag zur Auftragsverarbeitung gilt, der auch Angaben zur Gesundheit erfasst; dazu kommen eine Ausnahme nach Art. 9 Abs. 2 DSGVO und die Schweigepflicht. Einen Vertrag zur Auftragsverarbeitung, den Zusatz zur Datenverarbeitung, nennt OpenAI auf den hier verlinkten Seiten für ChatGPT Business, ChatGPT Enterprise und die API, für Eingaben in ChatGPT Plus dagegen nicht; ob er Angaben zur Gesundheit erfasst, regeln seine Anlagen (Stand: 6. November 2026). Auf der Preisseite heißt es (Stand: 6. November 2026): „Die Pläne Go, Free und Plus sind für die Nutzung durch Einzelpersonen konzipiert.“

Brauche ich für jede KI einen Vertrag zur Auftragsverarbeitung?

Ein Vertrag zur Auftragsverarbeitung ist nötig, sobald ein Anbieter personenbezogene Daten in Ihrem Auftrag verarbeitet (Art. 28 Abs. 3 DSGVO). Geben Sie nur allgemeine Texte ohne Bezug zu einer Person ein, etwa einen Text für den Praxisflyer, entsteht diese Pflicht für die Eingabe in der Regel nicht. Im Alltag geraten aber leicht Namen oder Termine in eine Eingabe; legen Sie deshalb vorab fest, welcher Dienst für welche Daten in Frage kommt.

Speichern alle KI-Dienste meine Eingaben?

Nicht jeder KI-Dienst bewahrt Eingaben gleich lange auf; Dauer und Zweck stehen in Vertrag, Datenschutzhinweisen und Einstellungen. Bei ChatGPT Business etwa bleiben Gespräche nach Angaben von OpenAI standardmäßig gespeichert, bis die Person sie löscht oder eine geltende Aufbewahrungsregel der Organisation sie entfernt (Hilfeartikel, Stand: 20. Oktober 2026); gelöschte Gespräche entfernt OpenAI laut der Seite „Enterprise-Datenschutz“ innerhalb von 30 Tagen, außer eine längere Aufbewahrung ist gesetzlich vorgeschrieben oder zum Schutz vor Schaden erforderlich (Stand: 6. November 2026). Ob eine Praxis bei Business selbst eine Frist setzen kann, klären Sie vorab: Die Seite „Enterprise-Datenschutz“ sagt, dass Administratorinnen und Administratoren die Dauer festlegen können, das Schulungsangebot OpenAI Academy nennt eine eigene Frist nur für Enterprise (beides Stand: 6. November 2026).

Ist eine lokale KI eine Lösung?

Eine lokale KI kann für Praxen eine Lösung sein, die den Betrieb leisten können: Läuft ein Sprachmodell vollständig auf einem eigenen Rechner oder Server, erhält kein KI-Anbieter die Eingaben. Betreibt die Praxis es ausschließlich zu eigenen Zwecken, ist sie nach der Datenschutzkonferenz (DSK) in der Regel allein verantwortlich (Rn. 32). Das Bundesamt für Sicherheit in der Informationstechnik nennt in „Generative KI-Modelle“ hohe technische Anforderungen auch für den Betrieb solcher Modelle (S. 13); nach der DSK muss eine lokale KI zudem die Anforderungen erfüllen, die generell für IT-Systeme gelten, etwa an die Sicherheit (Rn. 44).

Quellen

  1. Amt für Veröffentlichungen der Europäischen Union: Verordnung (EU) 2016/679 (Datenschutz-Grundverordnung), ABl. L 119 vom 4.5.2016 (eur-lex.europa.eu), abgerufen am
  2. Konferenz der unabhängigen Datenschutzaufsichtsbehörden des Bundes und der Länder (DSK): Künstliche Intelligenz und Datenschutz, Orientierungshilfe vom 6. Mai 2024, Version 1.0 (www.datenschutzkonferenz-online.de), abgerufen am
  3. Bundesamt für Sicherheit in der Informationstechnik (BSI): Künstliche Intelligenz (www.bsi.bund.de), abgerufen am
  4. Bundesamt für Sicherheit in der Informationstechnik (BSI): Generative KI-Modelle – Chancen und Risiken für Industrie und Behörden, Version 2.0 vom 17. Januar 2025 (www.bsi.bund.de), abgerufen am
  5. OpenAI: Nutzungsbedingungen für Europa (openai.com), abgerufen am
  6. OpenAI: EU-Datenschutzrichtlinie (openai.com), abgerufen am
  7. OpenAI: Zusatz zur Datenverarbeitung von OpenAI (openai.com), abgerufen am
  8. OpenAI: Enterprise-Datenschutz bei OpenAI (openai.com), abgerufen am
  9. OpenAI: How your data is used to improve model performance (help.openai.com), abgerufen am
  10. OpenAI: Data access for your managed ChatGPT account (help.openai.com), abgerufen am
  11. OpenAI: Admin controls, security, and compliance for plugins and apps (help.openai.com), abgerufen am
  12. OpenAI: Data governance and compliance (academy.openai.com), abgerufen am
  13. OpenAI, Kopie: Internet Archive: Chat and file retention in ChatGPT (Archivkopie vom 20. Oktober 2026) (web.archive.org), abgerufen am
  14. OpenAI: Pläne und Preise (chatgpt.com), abgerufen am
  15. Anthropic: Consumer Terms of Service (www.anthropic.com), abgerufen am
  16. Anthropic: Commercial Terms of Service (www.anthropic.com), abgerufen am
  17. Anthropic: How do I view and sign your Data Processing Addendum (DPA)? (privacy.claude.com), abgerufen am
  18. Anthropic: Is my data used for model training? (kommerzielle Produkte) (privacy.claude.com), abgerufen am
  19. Gesellschaft für Datenschutz mbH: ChatGPT und Auftragsverarbeitung (gesellschaft-datenschutz.de), abgerufen am

ChatGPT ist eine Marke von OpenAI. Claude ist eine Marke von Anthropic.

Über diesen Ratgeber

Herausgeber
sicherAI (Impressum)
Unser Interesse
Wir bieten selbst eine KI für Heilpraxen an und nutzen dafür Modelle mehrerer Hersteller, darunter einige, die unsere Ratgeber nennen. Der Ratgeber enthält keine Ranglisten. Aussagen über andere Anbieter stützen sich auf die genannten Quellen.
Entstehung
Dieser Text wurde mit KI erstellt.
Stand der Quellen
Stand der Rechtslage
Grenzen
Dieser Ratgeber gibt einen allgemeinen Überblick und ersetzt keine Beratung im Einzelfall.
Fehler melden
Schreiben Sie uns über die Angaben im Impressum.