Datenschutz bei KI-Scribes: Die konkrete Prüfcheckliste

Beim Datenschutz eines KI-Scribes zählt der gesamte Weg einer Aufnahme von der Erfassung über Übertragung, Transkription, Dokumenterstellung, Speicherung und Support bis zur Löschung. Zu prüfen sind die Rollen nach DSGVO, die Rechtsgrundlage für Gesundheitsdaten nach Art. 9, der Auftragsverarbeitungsvertrag samt Unterauftragsverarbeitern, Speicher- und Verarbeitungsorte, Löschfristen je Datenart und die Regeln für Modelltraining. Maßgeblich sind der konkrete Einsatz, der gewählte Tarif und die aktuellen Vertragsunterlagen. Die gesetzlichen Pflichten im Einzelnen erläutert der Beitrag zum Rechtsrahmen für KI-Scribes.

Welche Daten verarbeitet ein KI-Scribe?

Ein KI-Scribe verarbeitet mehr als das Audio. Dazu gehören Transkript, generiertes Dokument, Metadaten, Diagnosen, Kontaktdaten und Nutzungsprotokolle. Die Prüfung beginnt beim Ablauf. Wird das gesamte Gespräch gespeichert oder nur ein Teil? Gibt es einen Meeting-Bot, eine mobile App oder einen Browserzugriff mit eigenen Datenflüssen?

Auch Nebenwege wie Fehlerprotokolle, Analysewerkzeuge, Supporttickets, Backups und Exportziele gehören in die Datenkarte, also die Übersicht aller Datenarten und ihrer Wege. Wenn das Audio im Nutzerkonto gelöscht ist, können Transkript, Supportauszug oder Sicherungskopie weiter bestehen. Die Datenkarte verbindet deshalb jede Datenart mit Zweck, Empfänger und Löschfrist.

Wer ist Verantwortlicher, wer Auftragsverarbeiter?

Die Praxis oder Klinik ist in der Regel Verantwortliche, der Scribe-Anbieter Auftragsverarbeiter. Maßgeblich ist, wer Zwecke und wesentliche Mittel der Verarbeitung bestimmt, nicht die Überschrift des Vertrags. Die EDPB-Leitlinien 07/2020 erläutern diese Abgrenzung. Nutzt der Anbieter Daten für eigene Zwecke wie Modelltraining, wird er insoweit selbst verantwortlich.

Gesundheitsdaten gehören nach Art. 9 DSGVO zu den besonderen Kategorien personenbezogener Daten. Neben einer Grundlage nach Art. 6 braucht ihre Verarbeitung eine Ausnahme nach Art. 9 Abs. 2. Informationspflichten, Zweckbindung und Datenminimierung gehören ebenfalls zur Einsatzprüfung. Primärquelle ist der offizielle DSGVO-Rechtstext. Welche Grundlage für die Behandlungsdokumentation trägt, erklärt der Rechtsrahmen-Beitrag.

Welche Unterlagen sollten Sie beim Anbieter anfordern?

Die wichtigsten Unterlagen sind der Auftragsverarbeitungsvertrag mit Anlagen, die Unterauftragsverarbeiterliste und eine Beschreibung der technischen und organisatorischen Maßnahmen. Die Tabelle ordnet jedem Prüffeld einen Nachweis zu.

Welche Unterlagen sollten Sie beim Anbieter anfordern?

Prüffeld	Konkreter Nachweis oder Frage
Vertragsparteien	Genaue Anbieter- und Kundengesellschaft
Auftragsverarbeitung	AVV (englisch DPA) samt Anlagen
Unterauftragsverarbeiter	Liste, Aufgaben, Standorte und Änderungsverfahren
Schweigepflicht	Im medizinischen Einsatz Verpflichtung des Anbieters und seiner Unterauftragsverarbeiter zur Geheimhaltung nach § 203 StGB
Datenfluss	Speicherorte, Verarbeitungsorte und Zugriffsmöglichkeiten
Sicherheit	Technische und organisatorische Maßnahmen, Rollen und Zugriffsschutz
Löschung	Fristen je Datenart einschließlich Backups
Training	Verbindliche Regeln für Modellverbesserung und Zweitverwendung
Export und Rechte	Auskunft, Berichtigung, Löschung und Datenbereitstellung
Vorfälle	Meldewege, Kontaktstelle und Zusammenarbeit

Jede Unterlage braucht Datum und Geltungsbereich. Ein AVV für einen Enterprise-Tarif kann andere Bedingungen enthalten als ein kostenloses Konto. Fehlt eine Angabe in den öffentlichen Unterlagen, gehört sie auf die Liste der Fragen an den Anbieter. Die Pflichtinhalte des Vertrags nach Art. 28 DSGVO zählt der Abschnitt zum Auftragsverarbeitungsvertrag auf.

Im medizinischen Einsatz kommt die Schweigepflicht nach § 203 StGB hinzu. Verpflichten Sie den Anbieter schriftlich zur Geheimhaltung. Unterbleibt das und offenbart der Anbieter ein Geheimnis unbefugt, macht sich die behandelnde Fachperson selbst strafbar (§ 203 Abs. 4 Satz 2 Nr. 1 StGB). Setzt der Anbieter Unterauftragsverarbeiter ein, muss er auch diese verpflichten (Nr. 2). Wann die Weitergabe an mitwirkende Dienstleister erlaubt ist, erklärt der Abschnitt zur Schweigepflicht.

Reicht ein EU-Speicherort aus?

Ein EU-Speicherort allein reicht nicht. „Hosting in der EU“ beschreibt nur, wo Daten ruhen. Ebenso wichtig sind die Orte der Verarbeitung, die Unterauftragsverarbeiter für Spracherkennung und Sprachmodelle, der Support und administrative Zugriffe. Fließen Daten in Drittländer, braucht jede Drittlandübermittlung eine eigene Grundlage, etwa einen Angemessenheitsbeschluss oder Standardvertragsklauseln.

Für den medizinischen Einsatz gilt eine engere Grenze. Verarbeiten Vertragsarztpraxen, Krankenhäuser oder andere Leistungserbringer der gesetzlichen Krankenversicherung Gesundheitsdaten in der Cloud, genügen Standardvertragsklauseln nicht. Nach § 393 SGB V sind dann nur Deutschland, die EU, die gleichgestellten EWR-Staaten und die Schweiz sowie Drittstaaten mit Angemessenheitsbeschluss zulässig. Ein US-Empfänger muss dafür nach dem EU-US Data Privacy Framework zertifiziert sein. Außerhalb des Anwendungsbereichs von § 393 SGB V, etwa bei Meetingnotizen in Unternehmen, bleiben Standardvertragsklauseln eine zulässige Grundlage.

Fragen Sie deshalb nach den konkreten Empfängern und vertraglichen Mechanismen, nicht nur nach dem Firmensitz. Viele Anbieter betreiben mehrere Regionen. Für das eigene Konto zählen die verbindlich vereinbarte Region und die Datenarten, die dort verbleiben. Speicher- und Verarbeitungsorte aller Anbieter stehen nebeneinander in der Vergleichstabelle.

Darf der Anbieter mit den Daten Modelle trainieren?

Ob ein Anbieter mit Kundendaten trainieren darf, regelt der Vertrag für den konkret genutzten Dienst und Tarif. Die Zusage „Wir trainieren nicht mit Ihren Daten“ muss erkennbar Audio, Transkript, Dokument, Feedback und Supportinhalte umfassen. Zu unterscheiden sind die Verarbeitung für den Auftrag, die Qualitätssicherung und die Nutzung für eigene Produktverbesserung.

Klären Sie, ob eine Einstellung nur optional ist oder vertraglich zugesichert wird. Dazu gehören auch die Ankündigung von Änderungen und die Frage, ob Unterauftragsverarbeiter dieselben Pflichten übernehmen. Eine Marketingseite dient der Recherche. Für die Entscheidung zählt die verbindliche vertragliche Regelung.

Welche Sicherheitsfunktionen gehören zum Arbeitsablauf?

Zum sicheren Betrieb gehören Benutzerrollen, Mehrfaktor-Authentifizierung, Schutz vor Zugriff auf fremde Fälle, kontrollierte Freigabelinks, Sitzungsprotokolle und Exportrechte. Ein weitergegebener Ergebnislink kann eine sichere Verarbeitung im Alltag unterlaufen. Organisationsregeln und Produkttest gehören deshalb zusammen.

Testen Sie den Ablauf zuerst mit inszenierten oder eigens freigegebenen Daten. Kontolöschung, Export und Betroffenenrechte lassen sich an einem dokumentierten Szenario prüfen. Bei Gesundheitsdaten ist in der Regel eine Datenschutz-Folgenabschätzung nötig. Das Prüfergebnis nennt Zuständigkeit, offene Punkte und Versionsstand der Unterlagen.

Wie bewertet ScribeIndex Datenschutzangaben?

ScribeIndex wertet für jeden Anbieter die veröffentlichten Unterlagen aus, also Datenschutzerklärung, Auftragsverarbeitungsvertrag, Unterauftragsverarbeiterliste, Trust Center und Compliance-Seiten, soweit vorhanden, und hält jede Angabe mit Quelle und Abrufdatum fest. Zertifizierungen stehen mit ihrem Geltungsbereich, denn ein Zertifikat für das Rechenzentrum eines Cloud-Anbieters sagt noch nichts über die Anwendung, mit der Sie arbeiten. Ob der Einsatz in Ihrer Praxis rechtmäßig ist, hängt von Ihrem Ablauf, Ihrem Tarif und Ihren Verträgen ab. Dieses Urteil kann Ihnen ScribeIndex nicht abnehmen. Jedes Anbieterprofil zeigt aber, welche Fragen der Hersteller beantwortet und welche Unterlagen für Ihren Einsatz noch fehlen. Das Vorgehen beschreibt die Datenschutzprüfung in der Methodik.