So testet ScribeIndex
Jede Kategorie hat einen eigenen Korpus, eine annotierte Referenz und Kennzahlen, die zur Aufgabe passen. Alle Anbieter einer Testreihe bearbeiten dieselben Fälle nach demselben Protokoll.
12 Korpora · 10.430 Testläufe · Stand 20. Oktober 2026
Kurzfassung
ScribeIndex misst KI-Dokumentation auf festen, deutschsprachigen Korpora mit geprüfter, vorab eingefrorener Referenz. Audiotranskripte und wortnahe allgemeine oder juristische Diktate werden über die Wortfehlerrate bewertet, klinische und andere erstellte Dokumente über Referenzfakten (Fakten-F1). Untertitel werden zusätzlich auf Zeitzuordnung, Lesegeschwindigkeit und Zeilenstruktur geprüft, Textausarbeitungen auf die Umsetzung gesprochener Anweisungen. Bei allgemeinen und juristischen Diktaten zählen korrekte Namen, Zahlen, Parteien, Beträge und Fristen mit, bei Audiotranskripten und Meetings die Sprecherzuordnung.
Dazu kommen aufgabenspezifische Fehler, Verarbeitungszeit, Abschlussquote und die aus allen gezählten Fehlern geschätzte Nacharbeit. Jeder Fall läuft zwei- bis dreimal. Die 95-%-Konfidenzintervalle stammen aus einem gepaarten Cluster-Bootstrap über die Szenarien. Anteile aus Zählern, etwa Fehler- und Trefferquoten, erhalten ein Wilson-Intervall mit Designeffekt. Eingesetzte KI-Modelle werden aus Herstellerquellen recherchiert, per Modellabgleich geprüft und anhand unabhängiger Modellbenchmarks eingeordnet.
Testreihen und Korpora
| Testreihe | Korpus | Szenarien | Audio gesamt | Anbieter | Läufe |
|---|---|---|---|---|---|
| Audiotranskription | de-audio-v1 v1.0 | 44 | 22,1 h | 9 | 1.188 |
| Allgemeine Diktate | de-buero-diktat-v1 v1.0 | 40 | 2,3 h | 6 | 720 |
| Juristische Diktate | de-recht-diktat-v1 v1.0 | 40 | 4,1 h | 4 | 480 |
| Sprachgestützte Textausarbeitung | de-voice-writing-v1 v1.0 | 40 | 2,7 h | 5 | 600 |
| Ärztliche Gesprächsdokumentation | de-klinik-v1 v1.0 | 48 | 9,7 h | 11 | 1.584 |
| Psychotherapeutische Sitzungsdokumentation | de-therapie-v1 v1.0 | 36 | 28,8 h | 12 | 1.296 |
| Anamneseberichte | de-anamnese-v1 v1.0 | 24 | 24,1 h | 3 | 144 |
| Pflegedokumentation | de-pflege-v1 v1.0 | 40 | 3,9 h | 3 | 360 |
| Medizinische Spracherkennung | de-diktat-v1 v1.0 | 62 | 5,2 h | 9 | 1.674 |
| Meeting-Scribes | de-meeting-v1 v1.0 | 38 | 25,3 h | 14 | 1.064 |
| Live-Untertitel | de-live-untertitel-v1 v1.0 | 30 | 17,7 h | 6 | 360 |
| Untertitel für Videodateien | de-untertitel-v1 v1.0 | 40 | 13,5 h | 8 | 960 |
Allgemeine deutschsprachige Audioaufnahmen (de-audio-v1)
Interviews, Vorträge mit Fragerunde, Gruppengespräche sowie Telefon- und Remoteaufnahmen mit zwei bis vier Personen, in Standardsprache und regionalen Varianten aus Deutschland, Österreich und der Schweiz.
- Szenarien: 44 ausgewertet von 46, 2 vor Testbeginn ausgeschlossen
- Dauer je Fall: 6 min bis 1 h 28 min, Median 24 min
- Sprecher: 2 bis 4
- Audioformate: FLAC, 48 kHz, mono · AAC-LC (M4A), 44,1 kHz, mono · Opus (WebM), 48 kHz, mono · PCM 24 Bit (WAV), 48 kHz, 2 Kanäle · G.711 A-law (WAV), 8 kHz, mono
- Referenz: Version 1.0: 187.746 Wörter.
- Referenzprüfung: Wortlaut und Sprecherwechsel entstehen als Sprechvorlage vor der Aufnahme. Der automatische Abgleich mit dem Gesprochenen ergibt die zeitlichen Sprechersegmente. Unverständliche Stellen werden markiert und vom Wortvergleich ausgenommen.
- Auswertung: Version 1.0, Normalisierung de-allg-wer, Version 1.0, Protokoll 1.0, 3 Läufe je Szenario
- Unsicherheit: Gepaarter Cluster-Bootstrap, Clustereinheit Szenario, 2.000 Ziehungen, Perzentilintervall, Seed 1146018123
- Testzeitraum: 2. und 3. Quartal 2026
- Prüfsummen: Manifest:
3bfaff5fa8338156ad4c6bef800ed2cec7c625802242a9f638e07991384aeffc· Referenz:903e4e0cc118b16f9d63c460d4f5845b497a1f1d276c2c82b9a2294b542018b4· Ziehungsliste:f8a6a79fd7ce74ec952adb5978dd20f46986d1fd5dc8a1502862be03c2f8e886
Ausschlüsse vor Testbeginn
audio-038Eine mitwirkende Person widerrief die Einwilligung zur Nutzung der Aufnahme.audio-041Referenz enthielt mehr als 5 % unverständliche Passagen.
Aufnahmeart: Interview (16), Vortrag mit Fragerunde (9), Gruppengespräch (8), Telefon oder Remote (11)
Aussprache: Standarddeutsch (22), Regional (Deutschland) (9), Österreichisch (5), Schweizerisch gefärbt (4), Nicht muttersprachlich (4)
Aufnahmequalität: Nahmikrofon, ruhig (17), Telefon- oder Konferenzqualität (11), Hintergrundlärm (8), Raumhall (8)
Allgemeine Diktate für Büro und Beruf (de-buero-diktat-v1)
Vierzig Geschäftsdiktate von unter einer Minute bis zehn Minuten Länge mit E-Mails, Notizen, Namen, Terminen, Zahlen und Selbstkorrekturen. Jedes Diktat wird als wortnaher Text in eine leere Zielanwendung geschrieben.
- Szenarien: 40 ausgewertet von 40
- Dauer je Fall: 1 min bis 10 min, Median 3 min
- Sprecher: 1
- Audioformate: PCM 24 Bit (WAV), 48 kHz, mono
- Referenz: Version 1.0: 17.836 Wörter. Personen- und Firmennamen: 160 · Zahlenangaben: 238 · Diktatbefehle: 147 · Selbstkorrekturen mit geänderter Angabe: 69 · Bearbeitungsanweisungen: 12
- Referenzprüfung: Der Wortlaut entsteht als Sprechvorlage vor der Aufnahme. Nach der Aufnahme wird die Vorlage automatisch mit dem Gesprochenen abgeglichen, abweichende Stellen werden an der Aufnahme geprüft und die Referenz vor den Anbieterdurchläufen eingefroren.
- Auswertung: Version 1.0, Normalisierung de-allg-wer, Version 1.0, Protokoll 1.0, 3 Läufe je Szenario
- Unsicherheit: Gepaarter Cluster-Bootstrap, Clustereinheit Szenario, 2.000 Ziehungen, Perzentilintervall, Seed 2217701174. Anteile aus Zählern mit Wilson-Intervall und Designeffekt
- Testzeitraum: 3. und 4. Quartal 2026
- Prüfsummen: Manifest:
be86355a52a9e6e6ac547fa75797ca0c34d34b998965c77efe431e8cac1bf200· Referenz:2f3f1976d19c5059b932063bd9b929c3ad3df1d749efd78e0060e5b1364c5f41· Ziehungsliste:5b6419a32e9fc2e489a2dae6029ddcb9e755388234d69b65a19df934ad0bdabc
Textart: E-Mail (12), Geschäftsnotiz (10), Zahlen und Namen (10), Selbstkorrekturen (8)
Aussprache: Standarddeutsch (20), Regional (Deutschland) (8), Österreichisch (6), Schweizerisch gefärbt (6)
Aufnahmequalität: Nahmikrofon, ruhig (32), Nahmikrofon mit spontanen Korrekturen (8)
Juristische Diktate (de-recht-diktat-v1)
Vierzig juristische Diktate mit Schriftsatzausschnitten, Aktenvermerken, Parteien, Normzitaten, Aktenzeichen, Fristen und Beträgen. Verglichen wird die gelieferte wortnahe Fassung ohne juristische Ergänzungen.
- Szenarien: 40 ausgewertet von 40
- Dauer je Fall: 1 min bis 18 min, Median 5 min
- Sprecher: 1
- Audioformate: PCM 24 Bit (WAV), 48 kHz, mono
- Referenz: Version 1.0: 31.733 Wörter. Normzitate und Aktenzeichen: 347 · Frist- und Datumsangaben: 213 · Parteien und Rollen: 338 · Geldbeträge: 174 · Diktatbefehle: 333 · Selbstkorrekturen mit geänderter Angabe: 85 · Bearbeitungsanweisungen: 36
- Referenzprüfung: Der Wortlaut entsteht als Sprechvorlage vor der Aufnahme. Nach der Aufnahme wird die Vorlage automatisch mit dem Gesprochenen abgeglichen, abweichende Stellen werden an der Aufnahme geprüft und die Referenz vor den Anbieterdurchläufen eingefroren. Rubrik legal-errors-v1, Version 1.0.
- Auswertung: Version 1.0, Normalisierung de-legal-wer, Version 1.0, Protokoll 1.0, 3 Läufe je Szenario
- Unsicherheit: Gepaarter Cluster-Bootstrap, Clustereinheit Szenario, 2.000 Ziehungen, Perzentilintervall, Seed 5519911. Anteile aus Zählern mit Wilson-Intervall und Designeffekt. Bei Diensten mit seltenen schwerwiegenden Fehlern wird ihr Anteil für das Score-Intervall aus einer Beta-Verteilung gezogen.
- Testzeitraum: 2. und 3. Quartal 2026
- Prüfsummen: Manifest:
2e856c64cf093797ea7a7b27b4ac15e541a33528e55d943bde123a02d67c7e83· Referenz:686a87e5af4681ab48fa6d1b65481ec57e9d04c2ef6bb6c22a5023b47bea5732· Ziehungsliste:1045b46bde817656db5bc6b6b8be5c8a0aa04f1b4670527079e1ac9da69ba920
Textart: Schriftsatz (14), Aktenvermerk (10), Zahlen und Namen (10), Selbstkorrekturen (6)
Aussprache: Standarddeutsch (20), Regional (Deutschland) (8), Österreichisch (6), Schweizerisch gefärbt (6)
Aufnahmequalität: Nahmikrofon, ruhig (34), Nahmikrofon mit spontanen Korrekturen (6)
Sprachgestützte Textausarbeitung (de-voice-writing-v1)
Vierzig gesprochene Rohentwürfe für E-Mails, Aufgabenbeschreibungen und strukturierte Notizen. Fakten und vorgegebene Anweisungen zu Ton, Reihenfolge, Format und spontanen Änderungen werden getrennt bewertet.
- Szenarien: 40 ausgewertet von 40
- Dauer je Fall: 1 min bis 10 min, Median 4 min
- Sprecher: 1
- Audioformate: PCM 24 Bit (WAV), 48 kHz, mono
- Referenz: Version 1.0: 20.776 Wörter, 871 Referenzfakten. Vorab festgelegte Schreibanweisungen: 251
- Referenzprüfung: Wortlaut und Fakten entstehen als Sprechvorlage vor der Aufnahme. Nach der Aufnahme wird die Vorlage automatisch mit dem Gesprochenen abgeglichen, abweichende Stellen werden an der Aufnahme geprüft und die Referenz vor den Anbieterdurchläufen eingefroren. Rubrik writing-facts-v1, Version 1.0.
- Auswertung: Version 1.0, ohne Wortnormalisierung (Faktenabgleich), Protokoll 1.0, 3 Läufe je Szenario
- Unsicherheit: Gepaarter Cluster-Bootstrap, Clustereinheit Szenario, 2.000 Ziehungen, Perzentilintervall, Seed 3301926752. Anteile aus Zählern mit Wilson-Intervall und Designeffekt
- Testzeitraum: 2. bis 4. Quartal 2026
- Prüfsummen: Manifest:
a2194236d0c043d838b24210574c7bf8a3c918cbe1bcce4db693e95b675ca2e2· Referenz:2d895d782442beec8769e48974bf2d650e4c80f2b6555d633e58c77a5a161833· Ziehungsliste:175bb08bcec3d46df9a7e79d3383ed75fd39e092bfc7ebe4823aec3915a1820a
Zieltext: E-Mail (16), Strukturierte Notiz (12), Aufgabenbeschreibung (12)
Aussprache: Standarddeutsch (20), Regional (Deutschland) (8), Österreichisch (6), Schweizerisch gefärbt (6)
Auftrag: Ausarbeitung mit vorab festgelegter Zielstruktur (40)
Ärztliche Behandlungsgespräche (de-klinik-v1)
Im Rollenspiel geführte Behandlungsgespräche mit zwei bis vier Personen, darunter Erstanamnese, Verlauf, Medikationsbesprechung, Befundbesprechung und kurzes psychiatrisches Erstgespräch. Die Gespräche liegen als unterschiedliche Raum- und Smartphoneaufnahmen vor.
- Szenarien: 48 ausgewertet von 50, 2 vor Testbeginn ausgeschlossen
- Dauer je Fall: 6 min bis 40 min, Median 9 min
- Sprecher: 2 bis 4
- Audioformate: AAC-LC (M4A), 48 kHz, mono · PCM 24 Bit (WAV), 48 kHz, 2 Kanäle
- Referenz: Version 1.0: 71.893 Wörter, 1.379 Referenzfakten. Annotierte medizinische Fachkonzepte: 1.169 · Medikationsangaben (Wirkstoff, Dosis, Einheit, Einnahme): 207 · Verneinte oder ausdrücklich bestätigte Befunde: 274 · Zeitliche Referenzangaben: 313 · Fakten mit erforderlicher Quellenzuordnung: 722
- Referenzprüfung: Atomare Fakten und Relevanzmenge werden mit der Gesprächsvorlage festgelegt und nach der Aufnahme am Gesprochenen bestätigt. Unklare Stellen prüft eine Fachperson, danach wird die Referenz eingefroren. Rubrik clinical-facts-v1, Version 1.0.
- Auswertung: Version 1.0, ohne Wortnormalisierung (Faktenabgleich), Protokoll 1.0, 3 Läufe je Szenario
- Unsicherheit: Gepaarter Cluster-Bootstrap, Clustereinheit Szenario, 2.000 Ziehungen, Perzentilintervall, Seed 2234884632. Anteile aus Zählern mit Wilson-Intervall und Designeffekt. Bei Diensten mit seltenen schwerwiegenden Fehlern wird ihr Anteil für das Score-Intervall aus einer Beta-Verteilung gezogen.
- Testzeitraum: 2. und 3. Quartal 2026
- Prüfsummen: Manifest:
07e4ff2bb9cb21c1b350d732b5e593f4f1830354a230c75954136f03552f7ba5· Referenz:9ddba13742d943cd28b478c231a53d71ed064e1ba7681896e21faedfe2bb2207· Ziehungsliste:f630f8568c719864793b7aacf8e58f4627c6b7bdcdf5f3730abfda50ad6bfb37
Ausschlüsse vor Testbeginn
klinik-016Einwilligung zur Nutzung der Aufnahme vor Testbeginn widerrufen.klinik-033Relevanzmenge auch nach fachlicher Durchsicht nicht eindeutig festlegbar.
Gesprächsform: Erstanamnese (11), Verlaufsgespräch (12), Medikationsbesprechung (8), Befundbesprechung (10), Kurzes psychiatrisches Erstgespräch (7)
Fachrichtung: Allgemeinmedizin (14), Innere Medizin (10), Pädiatrie (6), Orthopädie (6), Neurologie (5), Psychiatrie (7)
Aufnahme: Raummikrofon, ruhig (20), Smartphone auf dem Tisch (17), Hintergrundgeräusche (11)
Sprecherzahl: Zwei Personen (29), Drei Personen (13), Vier Personen (6)
Psychotherapeutische Sitzungen (de-therapie-v1)
Im Rollenspiel geführte Therapiesitzungen aus Verhaltenstherapie, tiefenpsychologisch fundierter Therapie und systemischen Paar- oder Familiengesprächen. 17 der 36 Sitzungen enthalten Aussagen zu Selbstgefährdung oder Schutzfaktoren.
- Szenarien: 36 ausgewertet von 36
- Dauer je Fall: 37 min bis 59 min, Median 47 min
- Sprecher: 2 bis 4
- Audioformate: PCM 24 Bit (WAV), 48 kHz, mono
- Referenz: Version 1.0: 185.226 Wörter, 1.108 Referenzfakten. Annotierte medizinische Fachkonzepte: 395 · Medikationsangaben (Wirkstoff, Dosis, Einheit, Einnahme): 25 · Verneinte oder ausdrücklich bestätigte Befunde: 145 · Zeitliche Referenzangaben: 323 · Fakten mit erforderlicher Quellenzuordnung: 636 · Risikorelevante Referenzaussagen: 57
- Referenzprüfung: Dokumentationsrelevante Fakten und Risikoaussagen werden mit der Gesprächsvorlage festgelegt und nach der Aufnahme am Gesprochenen bestätigt. Risikoaussagen prüft immer eine Fachperson. Rubrik clinical-facts-v1, Version 1.0.
- Auswertung: Version 1.0, ohne Wortnormalisierung (Faktenabgleich), Protokoll 1.0, 3 Läufe je Szenario
- Unsicherheit: Gepaarter Cluster-Bootstrap, Clustereinheit Szenario, 2.000 Ziehungen, Perzentilintervall, Seed 3733937332. Anteile aus Zählern mit Wilson-Intervall und Designeffekt. Bei Diensten mit seltenen schwerwiegenden Fehlern wird ihr Anteil für das Score-Intervall aus einer Beta-Verteilung gezogen.
- Testzeitraum: 2. und 3. Quartal 2026
- Prüfsummen: Manifest:
62780a1c05eb9562aa4bdbee3b73aedcf448ce0e8e6ba5fd85d7e17baa3b4bd8· Referenz:62c50ae99e53e02e016470714f0a6524d90a92407fe393d48adae95f19a8ee2a· Ziehungsliste:0c35a46bc36056c43d2f55385441679c130a0d1ef5bcb7bd6cb2f19411cef23a
Verfahren: Verhaltenstherapie (15), Tiefenpsychologisch fundiert (12), Systemisch (Paar oder Familie) (5), Erstgespräch und Probatorik (4)
Risikoinhalt: Mit Risikoaussagen (17), Ohne Risikoaussagen (19)
Lange Anamnesegespräche (de-anamnese-v1)
Lange, im Rollenspiel geführte Anamnesegespräche mit fiktiven Personen, wechselnden zeitlichen Ebenen, Angehörigenbeiträgen, Dolmetschenden und Angaben, die einander ausdrücklich widersprechen. Zielausgabe ist ein ausführlicher gegliederter Bericht.
- Szenarien: 24 ausgewertet von 25, 1 vor Testbeginn ausgeschlossen
- Dauer je Fall: 37 min bis 1 h 25 min, Median 1 h
- Sprecher: 2 bis 4
- Audioformate: PCM 24 Bit (WAV), 48 kHz, 2 Kanäle
- Referenz: Version 1.0: 143.354 Wörter, 3.963 Referenzfakten. Annotierte medizinische Fachkonzepte: 1.143 · Medikationsangaben (Wirkstoff, Dosis, Einheit, Einnahme): 153 · Verneinte oder ausdrücklich bestätigte Befunde: 418 · Zeitliche Referenzangaben: 914 · Fakten mit erforderlicher Quellenzuordnung: 2.593 · Markierte erforderliche Detailfakten: 2.383 · Erforderliche Berichtsabschnitte: 438 · Annotierte Widerspruchspaare: 51
- Referenzprüfung: Detailfakten mit Quelle und Zeitbezug, Widerspruchspaare und Pflichtabschnitte werden mit der Gesprächsvorlage festgelegt und nach der Aufnahme am Gesprochenen bestätigt. Rubrik anamnesis-facts-v1, Version 1.0.
- Auswertung: Version 1.0, ohne Wortnormalisierung (Faktenabgleich), Protokoll 1.0, 2 Läufe je Szenario
- Unsicherheit: Gepaarter Cluster-Bootstrap, Clustereinheit Szenario, 2.000 Ziehungen, Perzentilintervall, Seed 4114781480. Anteile aus Zählern mit Wilson-Intervall und Designeffekt. Bei Diensten mit seltenen schwerwiegenden Fehlern wird ihr Anteil für das Score-Intervall aus einer Beta-Verteilung gezogen.
- Testzeitraum: 2. und 3. Quartal 2026
- Prüfsummen: Manifest:
fd43d74a52c8f38d1962a41126bf5f14f7d1f35990ef9e325e5a5c9b4a8e750e· Referenz:f29faa81a90ca61e58fc49886c47b58ec1ff812e17abf3c5ffd0a6f9c54a8417· Ziehungsliste:507123a351cd2e8740278c579658de54ed5f0b6c9b5e1c6d7d6e788ac20cc2a3
Ausschlüsse vor Testbeginn
anamnese-009Aufnahme vorzeitig abgebrochen, Gespräch unvollständig.
Gesprächskonstellation: Einzelgespräch (13), Mit Angehörigen (6), Mit Dolmetschenden (5)
Kontext: Psychiatrische Anamnese (8), Psychosomatische Anamnese (6), Neurologische Anamnese (4), Internistische Langanamnese (3), Sozialmedizinische Begutachtung (3)
Widersprüchliche Angaben: Mit annotierten Widersprüchen (22), Ohne annotierte Widersprüche (2)
Pflegedokumentation (de-pflege-v1)
Nachgesprochene Pflegeberichte, Vitalwerte mit Maßnahmen, Schichtübergaben zu mehreren versorgten Personen und im Rollenspiel geführte pflegerische Aufnahmegespräche aus stationärer Altenpflege, ambulanter Pflege und Krankenhausstationen. Alle versorgten Personen sind fiktiv.
- Szenarien: 40 ausgewertet von 41, 1 vor Testbeginn ausgeschlossen
- Dauer je Fall: 1 min bis 28 min, Median 2 min
- Sprecher: 1 bis 3
- Audioformate: PCM 24 Bit (WAV), 48 kHz, mono
- Referenz: Version 1.0: 27.264 Wörter, 1.224 Referenzfakten. Annotierte medizinische Fachkonzepte: 410 · Medikationsangaben (Wirkstoff, Dosis, Einheit, Einnahme): 100 · Verneinte oder ausdrücklich bestätigte Befunde: 190 · Zeitliche Referenzangaben: 307 · Fakten mit erforderlicher Quellenzuordnung: 578 · Vitalwerte mit Einheit und Messzeitpunkt: 143 · Diktatbefehle: 30 · Selbstkorrekturen mit geänderter Angabe: 10 · Bearbeitungsanweisungen: 4
- Referenzprüfung: Fakten, Vitalwerte und Personenzuordnung werden mit der Gesprächsvorlage festgelegt. Abweichende Stellen werden vor dem ersten Anbieterlauf an der Aufnahme geprüft. Rubrik nursing-facts-v1, Version 1.0.
- Auswertung: Version 1.0, ohne Wortnormalisierung (Faktenabgleich), Protokoll 1.0, 3 Läufe je Szenario
- Unsicherheit: Gepaarter Cluster-Bootstrap, Clustereinheit Szenario, 2.000 Ziehungen, Perzentilintervall, Seed 1588450526. Anteile aus Zählern mit Wilson-Intervall und Designeffekt. Bei Diensten mit seltenen schwerwiegenden Fehlern wird ihr Anteil für das Score-Intervall aus einer Beta-Verteilung gezogen.
- Testzeitraum: 2. und 3. Quartal 2026
- Prüfsummen: Manifest:
7502ed0b4f30247995e97f03b1a7a0cd3f54907c6b780831019a233cbd092a84· Referenz:81561a613839ad570ef1ff39ee99889d0210625a97c37e39de452ea787a783ad· Ziehungsliste:d4572266c17fe472c4e040fee447b07920271bd3b5b3838b241e77b8839549a9
Ausschlüsse vor Testbeginn
pflege-028Eine mitwirkende Person nannte in der Übergabe versehentlich echte Namen. Die Aufnahme wurde vor der Referenzfreigabe zurückgezogen.
Dokumentationsanlass: Pflegebericht nach der Versorgung (14), Vitalwerte und Maßnahmen (12), Schichtübergabe (8), Pflegerisches Aufnahmegespräch (6)
Einsatzbereich: Stationäre Altenpflege (16), Ambulante Pflege (12), Krankenhausstation (12)
Aufnahme: Smartphone in der Hand, Umgebungsgeräusche (34), Smartphone auf dem Tisch (6)
Medizinische Diktate (de-diktat-v1)
Nachgesprochene ärztliche Diktate aus sieben Fachrichtungen zu fiktiven Patientinnen und Patienten, mit Befunden, Medikation und Verneinungen. Dazu kommen gesprochene Anweisungen, also Diktatbefehle, spontane Selbstkorrekturen und gelegentliche Bearbeitungsanweisungen zu früheren Stellen des Diktats. Die Aufnahmen entstehen mit Headset oder Tischmikrofon, teils mit Hintergrundgeräuschen oder als komprimierte Diktiergerätedateien.
- Szenarien: 62 ausgewertet von 64, 2 vor Testbeginn ausgeschlossen
- Dauer je Fall: 1 min bis 15 min, Median 5 min
- Sprecher: 1
- Audioformate: PCM 24 Bit (WAV), 48 kHz, mono · MP3 128 kbit/s, 44,1 kHz, mono · AAC-LC (M4A), 44,1 kHz, mono
- Referenz: Version 1.0: 34.387 Wörter, 2.235 Referenzfakten. Annotierte medizinische Fachkonzepte: 3.735 · Medikationsangaben (Wirkstoff, Dosis, Einheit, Einnahme): 254 · Verneinte oder ausdrücklich bestätigte Befunde: 369 · Zeitliche Referenzangaben: 485 · Fakten mit erforderlicher Quellenzuordnung: 805 · Diktatbefehle: 442 · Selbstkorrekturen mit geänderter Angabe: 84 · Bearbeitungsanweisungen: 30
- Referenzprüfung: Diktattext und Fakten entstehen als Sprechvorlage vor der Aufnahme. Nach der Aufnahme wird das Gesprochene automatisch mit der Vorlage abgeglichen, abweichende Stellen werden an der Aufnahme geprüft und die Referenz vor dem ersten Anbieterlauf eingefroren. Rubrik clinical-facts-v1, Version 1.0.
- Auswertung: Version 1.0, Normalisierung de-med-wer, Version 1.0, Protokoll 1.0, 3 Läufe je Szenario
- Unsicherheit: Gepaarter Cluster-Bootstrap, Clustereinheit Szenario, 2.000 Ziehungen, Perzentilintervall, Seed 4214870755. Anteile aus Zählern mit Wilson-Intervall und Designeffekt. Bei Diensten mit seltenen schwerwiegenden Fehlern wird ihr Anteil für das Score-Intervall aus einer Beta-Verteilung gezogen.
- Testzeitraum: 2. und 3. Quartal 2026
- Prüfsummen: Manifest:
6768f28bb70c0457e31c2eaafd4f3c498c05b4aec26501537825bbaa22733060· Referenz:18772162e86230bce7cfb8a2f52f90244df2b1cdf52bdb6a646494dd3596dbb9· Ziehungsliste:1feb69fb1f1a9ee5134ab583a5bf6a80625f840f53d2d833da91149ac9f1550a
Ausschlüsse vor Testbeginn
diktat-023Die sprechende Person nannte versehentlich einen echten Namen. Die Aufnahme wurde vor der Referenzfreigabe zurückgezogen.diktat-057Endgültige Angabe einer Selbstkorrektur auch nach Prüfung der Aufnahme nicht eindeutig hörbar.
Fachrichtung: Innere Medizin (13), Allgemeinmedizin (11), Orthopädie und Unfallchirurgie (10), Radiologie (9), Kardiologie (8), Neurologie (7), Gynäkologie (4)
Aussprache: Standarddeutsch (27), Regional (Deutschland) (13), Österreichisch (9), Schweizerisch gefärbt (6), Nicht muttersprachlich (7)
Aufnahmebedingung: Ruhiger Raum, Headset (22), Ruhiger Raum, Tischmikrofon (14), Hintergrundgeräusche (15), Komprimierte Aufnahme (11)
Besprechungen und Gesprächsprotokolle (de-meeting-v1)
Projektbesprechungen, Teamabstimmungen, Kundentermine, Interviews und Fachdiskussionen mit zwei bis acht Personen, als reine Videokonferenz oder als hybride Besprechung mit Teilnehmenden im Raum und aus der Ferne. Eingespielt wird über virtuelle Konferenzteilnehmende.
- Szenarien: 38 ausgewertet von 40, 2 vor Testbeginn ausgeschlossen
- Dauer je Fall: 13 min bis 1 h 27 min, Median 37 min
- Sprecher: 2 bis 8
- Audioformate: PCM 24 Bit (WAV), 48 kHz, 2 Kanäle · Opus (WebM), 48 kHz, mono
- Referenz: Version 1.0: 194.653 Wörter, 1.442 Referenzfakten. Referenzbeschlüsse: 151 · Referenzaufgaben (Tätigkeit, Zuständigkeit, Frist): 228 · Aufgaben mit ausdrücklich genannter Zuständigkeit: 166 · Aufgaben mit ausdrücklich genannter Frist: 117
- Referenzprüfung: Fakten, Beschlüsse und Aufgaben mit Tätigkeit, Zuständigkeit und Frist werden mit der Gesprächsvorlage festgelegt. Sprechersegmente entstehen aus dem automatischen Abgleich von Aufnahme und Vorlage, unklare Stellen werden an der Aufnahme geprüft. Rubrik meeting-facts-v1, Version 1.0.
- Auswertung: Version 1.0, Normalisierung de-allg-wer, Version 1.0, Protokoll 1.0, 2 Läufe je Szenario
- Unsicherheit: Gepaarter Cluster-Bootstrap, Clustereinheit Szenario, 2.000 Ziehungen, Perzentilintervall, Seed 4134088586. Anteile aus Zählern mit Wilson-Intervall und Designeffekt
- Testzeitraum: 2. und 3. Quartal 2026
- Prüfsummen: Manifest:
1a25115bb8a34e284f1d01d3860260a21cb8f5847004facb1596738bbac7ddab· Referenz:eab8be0ab42fa45d7c98cb94b1a700dfc141ed5d7e96d67f4d9349c7d3a84d70· Ziehungsliste:3ee50ed01707c6c0c1902b3d172d67b6fe4b33360c81d07433d846f0fcbe3781
Ausschlüsse vor Testbeginn
meeting-012Sprecherreferenz wegen Übersprechen zweier Raummikrofone nicht belastbar.meeting-029Teilnehmende widerriefen die Nutzung der Aufnahme.
Gesprächsart: Projektbesprechung (10), Teamabstimmung (9), Kundentermin (7), Interview (6), Fachdiskussion (6)
Aufnahme: Videokonferenz (26), Hybrid (Raum und Remote) (12)
Sprecherzahl: Fünf bis acht Personen (18), Drei bis vier Personen (11), Zwei Personen (9)
Deutsche Live-Untertitel (de-live-untertitel-v1)
Dreißig deutschsprachige Aufnahmen aus Vortrag, Webinar, Podiumsdiskussion und Pressekonferenz, in Echtzeit eingespielt. Bewertet werden der endgültige Untertiteltext, nachträgliche Änderungen der Anzeige und der Zeitversatz je Wort zum Ton beim Publikum. Die Übertragungsverzögerung wird separat erfasst und zählt nicht. Übersetzung gehört nicht dazu.
- Szenarien: 30 ausgewertet von 30
- Dauer je Fall: 8 min bis 1 h 29 min, Median 29 min
- Sprecher: 1 bis 5
- Audioformate: PCM 24 Bit (WAV), 48 kHz, mono
- Referenz: Version 1.0: 149.654 Wörter. Referenzwörter mit Zeitgrenze: 149.654
- Referenzprüfung: Der Wortlaut entsteht als Sprechvorlage vor der Aufnahme, die Zeitgrenzen erst an der Aufnahme. Nach der Aufnahme wird die Vorlage automatisch mit dem Gesprochenen abgeglichen, abweichende Stellen werden an der Aufnahme geprüft und die Referenz vor den Anbieterdurchläufen eingefroren.
- Auswertung: Version 1.0, Normalisierung de-subtitle-wer, Version 1.0, Protokoll 1.0, 2 Läufe je Szenario
- Unsicherheit: Gepaarter Cluster-Bootstrap, Clustereinheit Szenario, 2.000 Ziehungen, Perzentilintervall, Seed 3355895643. Anteile aus Zählern mit Wilson-Intervall und Designeffekt
- Testzeitraum: 2. und 3. Quartal 2026
- Prüfsummen: Manifest:
82acc1a0ff5f8f62ab47815747ab1a96383fb705780eb9597c1d3c51a6b044aa· Referenz:12f7090789671983e962a05c01cb6abb03849e6536dc9afde6de15f11454f43b· Ziehungsliste:0f26e97bd0626cfdf95f5dee7a05315be56e31165714a518399326f79379755a
Format: Vortrag (10), Webinar (8), Podiumsdiskussion (7), Pressekonferenz (5)
Aussprache: Standarddeutsch (16), Regional (Deutschland) (6), Österreichisch (4), Schweizerisch gefärbt (4)
Einspielung: Echtzeit über virtuellen Audioeingang (30)
Deutsche Videountertitel (de-untertitel-v1)
Vierzig deutschsprachige Videos aus Interview, Tutorial, Vortrag und Reportage. Bewertet werden die exportierten SRT- oder WebVTT-Dateien nach Sprachinhalt, zeitlicher Abdeckung und Lesbarkeit, ohne Übersetzung.
- Szenarien: 40 ausgewertet von 40
- Dauer je Fall: 3 min bis 59 min, Median 18 min
- Sprecher: 1 bis 2
- Audioformate: H.264 MP4, AAC-LC, 48 kHz, 2 Kanäle
- Referenz: Version 1.0: 95.928 Wörter. Referenz-Untertitelsegmente: 9.816
- Referenzprüfung: Der Wortlaut entsteht als Sprechvorlage vor der Aufnahme, die Zeitgrenzen erst an der Aufnahme. Nach der Aufnahme wird die Vorlage automatisch mit dem Gesprochenen abgeglichen, abweichende Stellen werden an der Aufnahme geprüft und die Referenz vor den Anbieterdurchläufen eingefroren.
- Auswertung: Version 1.0, Normalisierung de-subtitle-wer, Version 1.0, Protokoll 1.0, 3 Läufe je Szenario
- Unsicherheit: Gepaarter Cluster-Bootstrap, Clustereinheit Szenario, 2.000 Ziehungen, Perzentilintervall, Seed 1605653364. Anteile aus Zählern mit Wilson-Intervall und Designeffekt
- Testzeitraum: 2. und 3. Quartal 2026
- Prüfsummen: Manifest:
a35c5ee698d61b365b97c82257195aeb72edbd47eab9da548608335d37899941· Referenz:6ec7f71b2989eb19791326360ba6649b7c8c020915a316303d8763a8f58b2d45· Ziehungsliste:22c41832e7f4054b58c4911e41b1b961649b0482f9f511ad72891e68023bafbc
Videoart: Interview (12), Tutorial (12), Vortrag (10), Reportage (6)
Aussprache: Standarddeutsch (20), Regional (Deutschland) (8), Österreichisch (6), Schweizerisch gefärbt (6)
Bildformat: 1920 × 1080, 25 Bilder/s (40)
Gemeinsame Grundlagen
Die Korpora umfassen 24 bis 62 ausgewertete Szenarien je Testreihe. Das reicht, um Anbieter auf identischen Fällen zu vergleichen. Alle Fachrichtungen, Dialekte, Aufnahmesituationen und Arbeitsabläufe kann ein Korpus dieser Größe nicht abbilden. Deshalb stehen bei jedem Korpus Strata und Fallzahlen, damit Sie sehen, wie nah die Testfälle an Ihrem eigenen Alltag liegen.
Identische Eingaben und geprüfte Referenz
Alle Anbieter einer Testreihe erhalten dieselbe Korpusdatei als digitales Signal. Im medizinischen Diktat und in der ärztlichen Gesprächsdokumentation bekommt jeder Dienst, der die Aufgabe per Dateiupload anbietet, genau diese Datei als Upload. In den übrigen Testreihen wird der Weg getestet, den der Hersteller als Hauptweg beschreibt. Bieten Hersteller Aufnahme und Upload gleichrangig an, wird der Upload getestet. Dienste, deren Hauptweg der Datei-Upload ist, bekommen dort ebenfalls die Datei. Alle übrigen nehmen sie in Echtzeit über einen virtuellen Mikrofoneingang auf. Browser- und Desktop-Anwendungen erhalten diesen Eingang direkt, mobile Apps laufen dafür in einer emulierten Geräteumgebung. Die Aufnahmesituation mit Tischmikrofon, Sprechabstand und Störgeräuschen steckt in den Korpusaufnahmen selbst. So verarbeiten alle Dienste exakt dasselbe Signal. Live-Lauf und Dateiupload sind getrennte Messstrecken für die Verarbeitungszeit, Zeiten werden nur innerhalb derselben Messstrecke verglichen. Die Qualität wird gemeinsam verglichen, weil alle Dienste dieselbe Korpusdatei erhalten.
Bei Aufgaben mit erstelltem Dokument, also Gesprächsnotizen, Berichten und Protokollen, erhält jeder Dienst die vorab festgelegte ScribeIndex-Vorlage, wenn der getestete Zugang frei bearbeitbare Vorlagen erlaubt. Sonst läuft er mit der Standardvorlage des Herstellers. Diktate und Textausarbeitungen laufen ohne Dokumentvorlage, nur mit dem Arbeitsauftrag. Erzeugt ein Produkt den Text nur über eine Vorlage, gilt dafür dieselbe Regel. Die verwendete Vorlage steht in der Testkonfiguration. Audioformat, Abtastrate, Kanäle, Dauer und Konvertierungen sind dokumentiert. Produktversion, Sprache, Vorlage und Zusatzangaben werden für jeden Lauf festgehalten. Nicht unterstützte Fälle und abweichende Testwege werden ausgewiesen.
Sprechvorlage und vorgesehene Inhalte entstehen vor der Aufnahme. Jeder Testfall hat eine Vorlage mit Wortlaut, Sprecherwechseln und den dokumentationsrelevanten Angaben. Versprecher, Selbstkorrekturen und Füllwörter sind darin bereits vorgesehen. Nach der Aufnahme wird das Gesprochene automatisch mit der Vorlage abgeglichen. Weicht eine Stelle ab, wird sie an der Aufnahme geprüft und die Referenz an das tatsächlich Gesagte angepasst oder die Stelle neu aufgenommen. Die endgültige Referenz wird so anhand der Aufnahme geprüft und vor dem ersten Anbieterlauf eingefroren. Alle Läufe verwenden diese eine Fassung. Maßstab ist immer die hörbare Aufnahme.
Bewertet wird automatisch nach festen Regeln, ohne Sprachmodell. Wortnahe Ausgaben werden Wort für Wort mit der Referenz abgeglichen. Bei Dokumenten mit freiem Wortlaut richtet ein regelbasierter Textabgleich Ausgabe und Referenz Absatz für Absatz und Satz für Satz aneinander aus. Verglichen werden Wortstämme statt Wortformen. Zahlwörter, Ziffern und Abkürzungen werden vereinheitlicht, inhaltstragende Begriffe wiegen stärker als allgemeine Wörter. Damit lassen sich Angaben auch zuordnen, wenn sie anders formuliert, an eine andere Stelle verschoben, auf mehrere Sätze verteilt oder in einem Satz zusammengefasst sind. Werte, Einheiten, Verneinungen samt ihrer Reichweite, Seitenangaben, Zeitbezüge und Personen werden anschließend einzeln geprüft. Aussagen ohne Grundlage in der Aufnahme zählen als unbelegt. Grenzfälle, etwa ob eine Umformulierung zulässig ist, entscheidet eine fachliche Prüfung an der Aufnahme. Diese Entscheidungen werden festgehalten und bei jeder erneuten Auswertung gleich angewendet. Dieselbe Ausgabe ergibt deshalb immer dasselbe Ergebnis.
Unklare Zuordnungen werden anhand der Aufnahme und der festgelegten Rubrik fachlich geprüft. Die Entscheidung gilt für alle Anbieter gleich. Unverständliche Stellen erhalten eine Markierung und zählen nicht als Fehler. Schweregrade werden nur in Testreihen mit eigener Schweregrad-Rubrik bewertet, also bei medizinischen und juristischen Aufgaben. Die Schwereklasse jeder Referenzangabe wird zusammen mit der Referenz festgelegt.
Normalisierungs- und Abgleichregeln werden vor dem ersten Anbieterlauf eingefroren und an Varianten mit bekannter Bewertung geprüft, darunter zulässige Umformulierungen und gezielt verfälschte Angaben. So kann keine Regel nachträglich zugunsten eines Anbieters ausfallen, dessen Ergebnis schon bekannt ist. Rohtexte bleiben erhalten. Zulässige Schreibvarianten werden vereinheitlicht, Bedeutungsfehler bleiben Fehler. Kein Anbieter erhält eine Optimierung für einzelne Testfälle. Eine neue Produktversion erfordert einen neuen, gekennzeichneten Lauf.
Testzeiträume und Testfälle
ScribeIndex testet über reguläre Kundenkonten. Jede Messung erfasst die Leistung unter den Bedingungen des getesteten Zugangs. Verwendete Produktversion, Einstellungen und Verarbeitungszeiten sind je Lauf dokumentiert.
Für aussagekräftige Vergleiche über mehrere Testzeiträume bleiben Aufnahmen, Sprechvorlagen und Referenzen intern. Lägen sie offen, ließe sich ein System gezielt auf genau diese Fälle abstimmen, und spätere Läufe ließen sich an Stimmen, Fallgruppen und Wortschatz wiedererkennen und bevorzugt bedienen, etwa mit stärkeren Modellen oder mehr Rechenleistung. Testzeiträume erscheinen als Quartal, um die Zuordnung einzelner Läufe zu bestimmten Kundenkonten zu erschweren. Bei laufenden Quartalen grenzt das Veröffentlichungsdatum den Zeitraum zusätzlich ein.
Aus den veröffentlichten Zählern, Nennern und Formeln lassen sich Quoten und Scores nachrechnen. Korpusbeschreibungen mit Strata und Fallzahlen, Testkonfigurationen und Prüfsummen dokumentieren die Grundlage der Messungen.
Wissenschaftliche Einrichtungen, akkreditierte Prüfstellen und öffentlich bestellte Sachverständige erhalten Aufnahmen, Referenzen und Auswertungsprotokolle auf Anfrage unter Vertraulichkeitsvereinbarung und können jede Auswertung unabhängig nachprüfen.
Zu jedem Korpus veröffentlicht ScribeIndex drei SHA-256-Prüfsummen. Die erste gilt dem Manifest, also der Liste aller Aufnahmen mit ihren Metadaten. Die zweite gilt der Referenz, die dritte der Ziehungsliste des Bootstraps. Eine Prüfsumme wirkt wie ein digitaler Fingerabdruck. Sie verrät nichts über den Inhalt, identifiziert die Daten aber eindeutig. Ändert sich auch nur ein einziges Zeichen in einer Datei, entsteht eine völlig andere Prüfsumme.
Jede veröffentlichte Messung ist so fest an einen dokumentierten Stand der Aufnahmen, Referenzen und Stichproben gebunden. Wer die Testdaten einsieht, etwa eine akkreditierte Prüfstelle, kann mit den Prüfsummen feststellen, ob sie seit der Veröffentlichung unverändert sind. Ein ausgetauschter Fall oder eine geänderte Referenz fiele dabei auf.
Zugang zu eingebundenen Systemen
Die Redaktion kauft Tarife und Lizenzen selbst oder nutzt Zugänge, die Praxen, Kliniken und Pflegeeinrichtungen aus dem Umfeld von ScribeIndex bereitstellen. Dienste innerhalb einer Praxis-, Pflege- oder Kliniksoftware, individuell eingerichtete Systeme und langfristige Lizenzverträge testet ScribeIndex über eine Einrichtung, die das Produkt bereits nutzt. Sobald ein solcher Zugang besteht, läuft die Testreihe, und der Modellabgleich folgt mit der ersten Messung. Bis dahin bietet das Anbieterprofil die recherchierten Produkt-, Datenschutz- und Technikangaben, und die Testseite nennt die Voraussetzung für eine Messung. Testzugang unter regulären Nutzungsbedingungen
Wiederholung und Unsicherheit
Jeder Fall läuft dreimal je System, bei Meetings, Anamnesegesprächen und Live-Untertiteln zweimal. Veröffentlicht wird das gepoolte Ergebnis aller abgeschlossenen Läufe, nicht der beste Lauf. Ausgewertet wird automatisch anhand der eingefrorenen Referenz und der festgehaltenen Entscheidungen zu Grenzfällen, für alle Dienste nach denselben Regeln.
Ein gepaarter Cluster-Bootstrap liefert die Konfidenzintervalle für den Score, die Hauptkennzahl der Inhaltsqualität (Wortfehlerrate oder Fakten-F1), die übrigen Fehlerraten je Wort, Zeichen oder Sprechzeit einschließlich DER, Zeit- und Mengenwerte und die Nacharbeit. Gezogen werden ganze Szenarien mit allen Läufen, damit Wörter und Wiederholungen eines Gesprächs nicht als unabhängige Beobachtungen zählen. Alle Anbieter einer Testreihe verwenden dieselben Ziehungen. Je Korpus sind Clustereinheit, Zahl der Ziehungen, Intervallverfahren, Zufallsseed und die Prüfsumme der Ziehungsliste festgehalten (siehe Korpusangaben oben). Zähler werden je Ziehung gepoolt, die Quote wird danach berechnet. Das Verfahren folgt Bisani und Ney (2004), Dror et al. (2018) und Peyrard et al. (2021). Bei der Nacharbeit zeigt das Intervall die Auswahl der Testfälle, nicht die Zeitannahmen der Schätzung.
Anteile aus Zählern, von Fehlerarten über Trefferquoten bis zu schwerwiegenden Fehlern, erhalten bei allen Diensten ein Wilson-Intervall. Je Kennzahl und Testreihe gilt so ein einziges Verfahren. Der Bootstrap liefert bei seltenen Ereignissen entartete Intervalle, zum Beispiel 0,0–0,0 % bei null schwerwiegenden Fehlern. Seine Grenzen hängen außerdem davon ab, auf welchen Aufnahmen die Ereignisse liegen.
Läufe und Einheiten derselben Aufnahme sind nicht unabhängig. Das Intervall nutzt deshalb den effektiven Stichprobenumfang n / DEFF mit dem Designeffekt DEFF = 1 + (m − 1) · ICC (Korn und Graubard 1998). m ist die mittlere Clustergröße des Dienstes, also die Einheiten einer Aufnahme mal seine abgeschlossenen Läufe. Bei schwerwiegenden Fehlern ist die Einheit das Dokument je Lauf, m ist dort die Zahl der Läufe je Aufnahme.
Die Intraklassenkorrelation ICC gibt an, wie stark Fehler innerhalb einer Aufnahme zusammenhängen. Aus den wenigen Ereignissen eines Dienstes lässt sie sich nicht stabil schätzen (Adams et al. 2004). Deshalb gilt je Testreihe und Kennzahl eine gemeinsame ICC aller Dienste (Donner und Klar 1994). Für schwerwiegende Fehler sind die Ereignisse auch in einer ganzen Testreihe zu selten. Ihre ICC gilt gemeinsam für alle Testreihen mit derselben Schweregrad-Rubrik, also für alle medizinischen Testreihen zusammen und für das juristische Diktat allein. Der ANOVA-Schätzer für binäre Daten wird innerhalb jedes Dienstes einer Testreihe angesetzt, über alle zusammengefasst und auf 0 bis 1 begrenzt (Ridout, Demétrio und Firth 1999). Unterschiede zwischen Diensten zählen so nicht als Streuung zwischen Aufnahmen. Der Punktwert eines Dienstes hängt nicht von den übrigen Diensten ab. Bei gleichem Nenner aus denselben Aufnahmen liegen beide Wilson-Grenzen eines Dienstes mit weniger Ereignissen nie über denen eines Dienstes mit mehr.
Stammen die Ereignisse oder Nicht-Ereignisse aller Dienste zusammen aus weniger als fünf Dienst-Aufnahme-Paaren, bei schwerwiegenden Fehlern über alle Testreihen der Rubrik aus weniger als zehn, gilt ICC = 1, und jede Aufnahme zählt einmal (Killip, Mahfoud und Pearce 2004). Auf den Testseiten steht das Verfahren am Intervall.
Für den ScribeIndex-Score wird in jeder Bootstrap-Ziehung der vollständige Score mit den Gewichten des Bewertungsmodells neu berechnet. Daraus entsteht sein 95-%-Intervall. Alle Dienste einer Testreihe nutzen dieselben Ziehungen über die Aufnahmen. Die Differenz der Scores je Ziehung ergibt deshalb auch ein Intervall für den Abstand zweier Dienste (Gillick und Cox 1989). Bei seltenen schwerwiegenden Fehlern, also weniger als fünf Ereignissen oder solchen aus weniger als fünf Aufnahmen, liefert der Bootstrap für ihren Anteil kaum Streuung. In jeder Ziehung stammt dieser Anteil dann je Dienst aus einer Beta-Verteilung (Jeffreys) mit n / DEFF und demselben Designeffekt wie an der Kennzahl. Differenzen in diesem Teilwert sind nicht gepaart. Bei null oder wenigen schwerwiegenden Fehlern reicht das Score-Intervall vor allem nach unten, weil eine Stichprobe dieser Größe seltene Fehler übersehen haben kann. Liegt der Anteil nahe an der Bezugsgröße, bei der dieser Teilwert null erreicht, reicht es vor allem nach oben. Das Score-Intervall und das Intervall des Abstands gelten für den jeweiligen Korpus und das veröffentlichte Bewertungsmodell. Sie stehen auf den Testseiten und in den Direktvergleichen neben dem Score.
Ranglisten und Direktvergleiche ordnen nach dem ScribeIndex-Score. In Tabellen ist je Kennzahl der beste angezeigte Wert hervorgehoben, im Direktvergleich der bessere der beiden. Zeigen mehrere Dienste denselben besten Wert, sind alle hervorgehoben, beim ScribeIndex-Score keiner. Im Direktvergleich gelten Verarbeitungszeit und Zeitversatz erst ab einem Drittel Abstand als besser, die Abschlussquote wird nicht hervorgehoben. Wo eine Kennzahl ein 95-%-Intervall hat, steht es unter dem Wert. Getrennte Intervalle zweier Dienste belegen einen Unterschied, überlappende schließen ihn nicht aus (Schenker und Gentleman 2001). Für den ScribeIndex-Score steht das Intervall der gepaarten Differenz in den Direktvergleichen und in den Datensätzen.
Laufzeit, Ausfälle und Nacharbeit
Verarbeitungszeiten werden mit Start- und Endpunkt veröffentlicht. Bei Live-Diktat beginnt die Messung mit dem Ende des letzten Wortes, bei der Textausarbeitung mit dem Ende des gesprochenen Auftrags, bei Medical Scribes mit dem Beenden der Aufnahme, bei Meetings mit dem Ende der Gesprächserfassung und bei Datei-Uploads mit dem Uploadstart. Bei lokal verarbeiteten Dateien beginnt die Messung mit dem Start der Verarbeitung auf dem Testrechner. Median (p50) und 95. Perzentil (p95) beziehen sich auf erfolgreiche Läufe. Bei Live-Untertiteln beschreiben sie den absoluten Zeitversatz zwischen dem Ende eines Wortes im Ton beim Publikum und der ersten korrekten Anzeige dieses Wortes. Zu frühe und verspätete Anzeigen zählen gleichermaßen. Die Übertragungsverzögerung des Tons wird separat ausgewiesen und fließt nicht in den Score ein.
Alle gestarteten Läufe bilden den Nenner der Abschlussquote. Ein Lauf gilt als abgebrochen, wenn nach der doppelten Aufnahmedauer, mindestens aber 60 Minuten nach dem Startpunkt der Zeitmessung, kein vollständiges Ergebnis vorliegt. Bei Live-Untertiteln gilt er als abgebrochen, wenn 60 Sekunden nach dem ersten für das Publikum hörbaren Wort keine Untertitel erscheinen. Fehlgeschlagene Uploads, Timeouts und leere Ausgaben werden mit Grund protokolliert. Ein abgebrochener Lauf wird nicht wiederholt, auch nicht nach einem Serverfehler, und zählt als Ausfall. So zeigt die Abschlussquote die Zuverlässigkeit, die Nutzer im Alltag erleben. Im Score wiegt sie 5 %. Ausgefallene Läufe gehen nicht in Inhaltsqualität, schwerwiegende Fehler und Nacharbeit ein. Deshalb steht die Abschlussquote auf jeder Testseite zusätzlich als eigene Kennzahl. Nicht messbare Eigenschaften bleiben ohne Wert.
Nacharbeit ist eine Schätzung und keine gestoppte Zeit. ScribeIndex fasst die automatisch gezählten Fehler jeder abgeschlossenen Ausgabe zu Korrekturstellen zusammen und rechnet für jede Stelle die Arbeitsschritte bis zur Zielfassung mit festen Zeiten, die für alle Dienste gleich sind. Nicht enthalten ist die einmalige, vollständige Durchsicht, die auch ein von Hand oder von einem Schreibdienst erstelltes Ergebnis braucht, also bei Dokumenten und Diktaten das Durchlesen, bei wortgetreuen Transkripten das Abhören der Aufnahme und bei Untertiteln das Abspielen mit den Untertiteln. Diese Durchsicht fällt mit und ohne KI gleich an, deshalb zeigt die Nacharbeit nur die Zeit, die die Fehler eines Dienstes zusätzlich kosten. Ein fehlerfreies Ergebnis hat keine Nacharbeit, bei Live-Untertiteln bleibt nur das einmalige Verschieben der Datei. Warte- und Verarbeitungszeit zählen nicht dazu.
Studien, die diese Durchsicht messen oder herausrechnen, zeigen ihre Größe. Für die Nachbearbeitung automatischer Redetranskripte im isländischen Parlament sagt eine Regression der Bearbeitungszeit auf die Editierdistanz selbst bei fehlerfreier Erkennung das 2,56-Fache der Audiodauer voraus. Bei 12,6 % Editierdistanz wäre die Nachbearbeitung je Wort so schnell gewesen wie die der bisher von Hand erstellten Transkripte, erst darunter schneller (Fong et al. 2018). In einer Vergleichsstudie mit deutschen Interviews brauchte auch das von einer erfahrenen Schreibkraft getippte Transkript eine Durchsicht von 3:10 Minuten je 3 Minuten Audio, also etwa die Länge der Aufnahme (Wollin-Giering et al. 2024). Zählte die Nacharbeit diese Durchsicht mit, sähen Dienste mit wenigen und mit vielen Fehlern fast gleich aus, obwohl sie sich gerade darin unterscheiden.
Die Zielfassung ist je Aufgabe vorab festgelegt und für alle Dienste gleich. Ein Dokument gibt die dokumentationsrelevanten Inhalte korrekt wieder, ein wortnahes Transkript den gesprochenen Wortlaut und ein Diktat den gemeinten Text, in dem alle gesprochenen Anweisungen umgesetzt sind. Bei KI-überarbeiteter Ausgabe bleiben zulässige Umformulierungen stehen, korrigiert werden falsch erkannte und inhaltlich veränderte Wörter. Untertitel halten zusätzlich die Timing- und Lesbarkeitsvorgaben ein. Stil wird nicht nachbearbeitet. Die Qualitätswerte wie Fakten-F1, Wortfehler und schwerwiegende Fehler beziehen sich immer auf die ursprüngliche Ausgabe des Dienstes, nicht auf das korrigierte Ergebnis. Die Nacharbeit eines Dienstes in einer Testreihe ist die Summe der geschätzten Minuten aller abgeschlossenen Ausgaben, geteilt durch die Summe ihrer Audiostunden. Angezeigt wird sie je Testfall, also je Diktat, Sitzung oder Video, zusammen mit der durchschnittlichen Aufnahmedauer der Testreihe. Für den Score gilt der Wert je 60 Minuten Aufnahme, damit kurze und lange Aufnahmen vergleichbar bleiben.
Fehler, zwischen denen höchstens zwei richtige Wörter liegen, bilden eine Korrekturstelle, denn sie werden in einem Zug geprüft und korrigiert. Ein falsch erkanntes Medikament zählt in den Kennzahlen als Wortfehler, fehlender Fakt und Medikationsfehler, korrigiert wird es einmal. Bei Untertiteln ist jeder Untertitel mit Wortfehlern eine Stelle. Liegen zwischen Fehlern über eine Untertitelgrenze hinweg höchstens zwei richtige Wörter, bilden sie zusammen eine Stelle. In erstellten Dokumenten bilden aufeinanderfolgende fehlende Angaben eine Lücke. Eine unbelegte Aussage, die eine Referenzangabe verfälscht, ist mit dieser Angabe eine Stelle. Hinzugefügte und nicht relevante Aussagen werden gelöscht. Fehlerarten wie Medikation, Verneinung oder Zuordnung, Detailangaben und schwerwiegende Fehler erzeugen keine eigene Nacharbeit. Diese Fehler stehen in eigenen Kennzahlen und werden an der Stelle des betroffenen Worts oder der betroffenen Angabe korrigiert.
Wortgetreue Transkripte und Untertitel werden beim Abhören korrigiert. Für jede Stelle rechnet die Schätzung mit Anhalten, Zurückspringen, Nachhören mit kurzem Vorlauf, Entscheiden, Setzen des Cursors, Ändern und Weiterspielen. Liegen weitere Stellen dicht daneben, dauert das Nachhören länger, weil gehäufte Fehler auf eine schwer verständliche Passage zeigen. Ist eine Passage so fehlerhaft, dass Neuschreiben schneller geht, wird sie im Tempo des Abtippens neu geschrieben. Falsch zugeordnete Sprechzeit wird abschnittsweise richtiggestellt. Jeder Abschnitt kostet das Erkennen der Stimme und das Umbenennen der Kennung, eine falsche Grenze zusätzlich das Teilen des Absatzes. Liegt der Abschnitt an einer Wortstelle, kostet er keine eigene Unterbrechung der Wiedergabe. Fehlen die Sprecherkennungen ganz, gilt das für jeden Sprecherwechsel. Verpasste und fälschlich erkannte Sprache zählt schon über die Wortfehler.
Bei Untertiteln für Videodateien kommen Timing und Lesbarkeit hinzu. Falsch getimte Untertitel werden einzeln korrigiert. Wird das teurer als die Neuanlage aller Zeiten, rechnet die Schätzung mit der Neuanlage, und die bis dahin verlorene Zeit zählt wie beim Neuanfang mit. Ein Untertitel mit zu vielen oder zu langen Zeilen oder zu hoher Lesegeschwindigkeit lässt sich mit einem anderen Zeilenumbruch allein nicht beheben. Er wird geteilt und bekommt eine neue Grenze. Hat er weder einen Wort- noch einen Timingfehler, kostet das eine eigene Unterbrechung der Wiedergabe. Bei Live-Untertiteln wird die exportierte Untertiteldatei bis zum Zielprofil der Videodateien korrigiert. Dafür wird die ganze Datei einmal um den Median der Verzögerung verschoben, danach folgt das Timing je Untertitel wie bei Videodateien. Eine gleichmäßige Verzögerung ändert die Nacharbeit deshalb nicht. Je stärker die Verzögerung um den Median schwankt, desto mehr Untertitel brauchen danach eine eigene Timingkorrektur. Rechtzeitigkeit und Stabilität der Anzeige gehen in die Inhaltsqualität ein, nicht in die Nacharbeit. Ein falsches Wort zählt einmal, als Stelle seines Untertitels in der Datei.
Diktate und erstellte Dokumente werden gelesen, nachgehört wird nur, wo das Gedächtnis nicht reicht. Wer selbst gesprochen hat, braucht nach der Schätzung die Aufnahme an jeder fünften Stelle. Das gilt für Diktate, Textausarbeitung und selbst gesprochene Pflegeeinträge. Wer beim Gespräch dabei war, braucht sie an jeder zweiten Stelle. Das gilt für Arztgespräche, Psychotherapie, Anamnese, das pflegerische Aufnahmegespräch und Meetings. In Diktaten verdoppelt sich dieser Anteil an Stellen, die eine Angabe verfälschen, im medizinischen Diktat also an jedem betroffenen Referenzfakt, im allgemeinen an Namen und Zahlen und im juristischen an Parteien, Beträgen, Fristen und Normzitaten. In erstellten Dokumenten verdoppelt er sich an verfälschten Angaben, in Meetings auch an falschen Zuständigkeiten und Fristen. Bei Gesprächen werden verfälschte Angaben damit immer nachgeprüft, bei Meetings zuerst im Transkript.
Die Stelle in der Aufnahme wird gefunden, indem sich der Suchbereich nach jeder Hörprobe halbiert. Bei Diktaten folgt der Text der Reihenfolge der Aufnahme, die Suche beginnt deshalb an der anteiligen Stelle. In erstellten Dokumenten ohne Zeitmarken umfasst die Suche die ganze Aufnahme. Verlinkt ein Produkt jede Aussage mit ihrer Stelle in der Aufnahme, führt ein Klick zur Belegstelle, eine fehlende Angabe wird zwischen den verlinkten Nachbaraussagen gesucht. Mit Kapitelmarken beginnt die Suche im Kapitel. Danach folgen das Hören der Belegstelle und das Schreiben der fehlenden Wörter im Tempo der Bezugsgröße. Ein fehlender Fakt kostet deshalb ein Vielfaches der Zeit eines einzelnen falsch erkannten Wortes. Ein fehlender Pflichtabschnitt kostet das Einfügen der Überschrift, ein nicht aufgelöster Widerspruch die Prüfung beider Angaben in der Aufnahme und eine kurze Klarstellung.
Bei Meetings werden fehlende Angaben, Beschlüsse und Aufgaben zuerst im eigenen Transkript gesucht. Stehen die Suchwörter dort richtig, genügt das Lesen der Stelle im Transkript statt des Hörens. Sonst folgt die Suche in der Aufnahme, und die erfolglose Suche im Transkript zählt mit. Für eine Zuständigkeit muss im Transkript zusätzlich die Sprecherkennung stimmen. Jede gefundene Aufgabe mit falscher oder erfundener Zuständigkeit oder Frist ist eine Korrekturstelle. Transkript-WER und DER erzeugen keine eigene Nacharbeit, korrigiert wird das Protokoll.
Bei Diktaten kostet ein verschluckter Diktatbefehl, also ein fehlendes Satzzeichen oder ein fehlender Absatz, eine Entscheidung und einen Tastendruck. Stehen gebliebene Befehlswörter sind Einfügungen. Im allgemeinen Diktat werden sie wie Wortfehler korrigiert. Im medizinischen und juristischen Diktat und in selbst gesprochenen Pflegeeinträgen werden sie gelöscht, und die Gliederung wird gesetzt. Wie Selbstkorrekturen und Bearbeitungsanweisungen zählen, beschreiben die Methodik des medizinischen Diktats und die Methodik der Diktiersoftware. In der Nacharbeit kostet jede nicht umgesetzte Anweisung einen eigenen Posten und keine zusätzliche Wortstelle. Bei KI-überarbeiteten Diktaten kosten zulässige Umformulierungen nichts, korrigiert werden verbliebene Erkennungsfehler und inhaltlich veränderte Angaben. Bei der Textausarbeitung kostet eine nicht umgesetzte Anweisung das Neufassen einer Angabe von im Mittel rund 20 Wörtern, wie eine Lücke ohne Blick in die Aufnahme.
Die Nacharbeit hat keine Obergrenze. Kostet die Korrektur mehr als das Selbstschreiben, rechnet die Schätzung mit einem Neuanfang nach einem Zehntel der Arbeit aus Korrektur und Durchsicht, und die bis dahin verlorene Zeit zählt mit. Nahe dieser Grenze ist die Entscheidung unscharf, die Schätzung gewichtet dann beide Wege. Die Nacharbeit kann deshalb über der Bezugsgröße liegen, der Teilwert Korrekturaufwand ist dann 0. Je dichter Fehler liegen, desto mehr Fehler teilen sich eine Korrekturstelle. Die Zeit je Fehler sinkt dann, die Nacharbeit insgesamt steigt weiter.
Die Zeiten der Bedienschritte stammen aus dem Keystroke-Level-Modell (Card, Moran und Newell 1980), das Tipptempo aus Dhakal et al. (2018) und das Abtipptempo fremder Aufnahmen aus Wollin-Giering et al. (2024). Die Abfolge der Schritte, die Hördauern und das Suchverfahren hat ScribeIndex festgelegt. Für ein wortgetreues Transkript mit 17,4 % WER ergibt die Schätzung ohne die Durchsicht das 2,6-Fache der Aufnahmedauer. Sponholz et al. (2025) messen in ihrem Arbeitsablauf bei derselben WER das 2,31-Fache mit einmaligem Abhören, abzüglich dieses Abhörens rund das 1,3-Fache. Die Schätzung rechnet für jede Stelle Anhalten, Zurückspringen und Korrigieren bis zur Zielfassung. Die Studie misst einen eigenen Arbeitsablauf mit anderen Schritten.
| Arbeitsschritt | Zeit | Grundlage |
|---|---|---|
| Beim Lesen entscheiden, Cursor setzen, weiterlesen | 3,7 s je Stelle | Card, Moran und Newell (1980) |
| Beim Abhören anhalten, zurückspringen, entscheiden, Cursor setzen, weiterspielen | 5,5 s je Stelle | Card, Moran und Newell (1980) |
| Stelle nachhören | Dauer der Stelle plus 2 s Vorlauf, je weiterer Stelle innerhalb von 4 s ein Viertel länger | Festlegung von ScribeIndex |
| Wort tippen | 1,16 s je Wort | 51,6 Wörter je Minute (Dhakal et al. 2018) |
| Passage oder Angabe beim Lesen neu schreiben | Tempo der Bezugsgröße je Wort | Bezugsgröße der Aufgabe |
| Passage beim Abhören neu schreiben | 1,55 s je Wort | Abtipptempo der Bezugsgröße für Audiotranskripte (Wollin-Giering et al. 2024) |
| Stelle in der Aufnahme suchen | 5,65 s je Halbierung, bis ein Fenster von 15 s oder die Belegstelle erreicht ist, mit Zeitmarke je Aussage ein Klick, mit Kapitelmarken nur im Kapitel von 5 Minuten | Card, Moran und Newell (1980), Hörprobe von 3 s festgelegt |
| Belegstelle einer Angabe hören | Sprechzeit der Angabe | Annotation der Referenz |
| Im eigenen Meetingtranskript suchen | 15 s | Suchwort tippen und Treffer lesen, Festlegung von ScribeIndex |
| Sprecherabschnitt richtigstellen | Stimme erkennen bis 3 s, Kennung umbenennen 2,0 s, Absatz teilen 1,5 s | Card, Moran und Newell (1980), Hördauer festgelegt |
| Untertitelzeit korrigieren | 6,0 s, ohne Wortfehler im Untertitel 2,4 s mehr für eine eigene Unterbrechung (erkennen, anhalten, zurückspringen, weiterspielen) | Card, Moran und Newell (1980), 2 s Hören festgelegt |
| Alle Untertitelzeiten neu anlegen | 2,4 s je Untertitel | Timinganteil der 4 s je Untertitel in der Bezugsgröße |
| Nicht lesbaren Untertitel teilen und neu timen | 7,5 s, ohne Wort- oder Timingfehler im Untertitel 2,4 s mehr für eine eigene Unterbrechung | Card, Moran und Newell (1980), 2 s Hören (Schätzung) |
| Live-Untertiteldatei verschieben | 30 s je Datei | Festlegung von ScribeIndex |
| Verfälschte Angabe berichtigen | Wert und Einheit neu, 2 Wörter im Tempo der Bezugsgröße | Festlegung von ScribeIndex |
| Aussage markieren und löschen | 0,6 s | Card, Moran und Newell (1980) |
| Fehlendes Satzzeichen oder fehlenden Absatz setzen | eine Taste, 0,23 s | 51,6 Wörter je Minute mit fünf Anschlägen je Wort (Dhakal et al. 2018) |
| Fehlenden Pflichtabschnitt einfügen | 10 s | Festlegung von ScribeIndex |
| Widerspruch klarstellen | Belegstellen beider Angaben suchen und hören, 12 Wörter im Tempo der Bezugsgröße | Festlegung von ScribeIndex |
| Fehlenden Beschluss oder fehlende Aufgabe schreiben | 15 Wörter im Tempo der Bezugsgröße | Festlegung von ScribeIndex |
| Neu beginnen | nach einem Zehntel der Arbeit aus Korrektur und Durchsicht, die verlorene Zeit zählt mit | Festlegung von ScribeIndex |
Preise stehen mit Tarifbedingungen, Abrechnungseinheit und Prüfdatum beim Anbieter.
Kennzahlen und Formeln
| Kennzahl | Berechnung | Aussage |
|---|---|---|
| Wortfehlerrate (WER) | (S + D + I) / N | Ersetzungen, Auslassungen und Einfügungen je Referenzwort nach Normalisierung. Niedriger ist besser. |
| Zeichenfehlerrate (CER) | Zeichenabstand / Referenzzeichen | Robuster gegenüber Komposita und Schreibvarianten als die WER. |
| Faktenpräzision | TP / (TP + FP) | Anteil korrekter, relevanter Fakten an allen ausgegebenen Fakten. Beide Arten falsch positiver Aussagen senken sie. |
| Falsche oder unbelegte Aussagen | FP_u / (TP + FP) | Aussagen, die der Aufnahme widersprechen oder sich nicht auf sie stützen. Das ist der schwere Teil der FP. Zutreffende, aber nicht dokumentationsrelevante Aussagen (FP_r) zählen getrennt und gelten nicht als inhaltlicher Fehler. |
| Fakten-Recall | TP / (TP + FN) | Anteil der dokumentationsrelevanten Referenzfakten, die korrekt im Ergebnis stehen. |
| Fakten-F1 | 2TP / (2TP + FP + FN) | Harmonisches Mittel aus Präzision und Recall. Hauptkennzahl für alle erstellten Dokumente und für medizinische Diktate. |
| Diarization Error Rate (DER) | (FA + Miss + Verwechslung) / Sprechzeit | Fehlerhaft zugeordnete Sprechzeit. Liefert ein Dienst Sprecherkennungen ohne eigene Zeitmarken, bestimmt ScribeIndex die Zeitmarken durch erzwungene Ausrichtung (Forced Alignment) des gelieferten Texts an der Aufnahme. Die DER berechnet ScribeIndex daraus wie bei allen anderen Diensten, mit verpasster und fälschlich erkannter Sprache und Fehlern an Segmentgrenzen. |
| Schwerwiegende Fehler | Ausgaben mit ≥ 1 Fehler / Ausgaben | Fehler mit möglichen Folgen für eine Behandlung oder einen Rechtsvorgang. Medizinisch etwa falsche Dosis, verlorene Verneinung, falsche Seite oder erfundener Befund. Im juristischen Diktat etwa falsche Frist, vertauschte Partei, falscher Betrag oder falsches Normzitat. Erfasst in Testreihen mit Schweregrad-Rubrik. Im juristischen Diktat legt die Referenz wie in der Medizin für jede Angabe fest, ob ein Fehler an ihr schwerwiegend sein kann, bei Parteien, Beträgen und Fristen fast immer, bei Normzitaten selten. Eine Ausgabe zählt einmal, auch bei mehreren Fehlern. Die Zähler je Fehlerart wie Medikation oder Verneinung enthalten auch Abweichungen ohne solche Folgen, etwa eine fehlende Einnahmezeit bei sonst richtiger Dosis. |
| Nacharbeit | Minuten je 60 min Audio | Geschätzte Nacharbeit aus den gezählten Fehlern bis zur Zielfassung, ohne die einmalige Durchsicht, die jedes Ergebnis auch ohne KI braucht. |
| Verarbeitungszeit | p50 und p95 | Median und 95. Perzentil der Zeit bis zum nutzbaren Ergebnis. Bei Live-Untertiteln der absolute Zeitversatz je korrekt erkanntem Wort zum Ton beim Publikum. |
S Ersetzungen · D Auslassungen · I Einfügungen · N Referenzwörter · TP korrekt zugeordnete Fakten · FP = FP_u + FP_r, falsche oder unbelegte (u) und zutreffende, aber nicht relevante (r) Ausgabefakten · FN fehlende oder falsch wiedergegebene Referenzfakten · FA fälschlich erkannte Sprache · Miss nicht erkannte Sprache
Zählregeln
Ausgabefakten und Referenzfakten werden nach Deduplizierung eins zu eins zugeordnet. Die Zuordnung prüft Person, Zeitbezug, Polarität, Wert und Einheit. Eine Umformulierung ändert nichts am Treffer, solange die Aussage vollständig erhalten bleibt. Eine verfälschte Wiedergabe zählt doppelt, als FP für die falsche Aussage und als FN für den fehlenden korrekten Fakt. Ist ein Nenner null, bleibt die Quote undefiniert und wird nicht als 0 % oder 100 % angezeigt.
Die Korpus-WER summiert Ersetzungen, Auslassungen und Einfügungen über alle Dateien und teilt durch alle Referenzwörter. Lange Aufnahmen wiegen dadurch stärker als kurze. Der Mittelwert der Datei-WER ist eine andere Größe und wird nicht als Hauptwert verwendet. Alignment und Fehlerzählung folgen dem NIST Scoring Toolkit (sclite).
Enthält eine Ausgabe keine Sprecherkennungen, wertet ScribeIndex sie für die DER wie eine Ausgabe mit einem einzigen Sprecher, wie es die übliche DER-Bewertung tut. Die DER ist dann der Anteil der Sprechzeit aller Personen außer der am längsten sprechenden, dazu verpasste und fälschlich erkannte Sprache. Bei wortgetreuen Transkripten kostet in der Nacharbeit jeder Sprecherwechsel das Erkennen der Stimme, das Teilen des Absatzes und das Setzen einer Kennung. Neben dem Wert steht „ohne Sprecherkennungen“.
Normalisierung für die deutsche WER
Vor dem Wortabgleich durchlaufen Referenz und Ausgabe dieselbe Normalisierung. Jede Testreihe nutzt ein eigenes, vor dem ersten Lauf eingefrorenes Profil. Für medizinische Diktate ist das de-med-wer, für allgemeine Diktate, Meetings und Audiotranskription de-allg-wer, für juristische Diktate de-legal-wer und für Untertitel de-subtitle-wer. Die erste Regel, die Schreibung, gilt für alle Profile. Nur die Profile für Transkripte und Diktate vereinheitlichen auch Komposita, Zahlen, Abkürzungen und Füllwörter. Untertitel bleiben in ihrer sichtbaren Schreibweise, die Regel dazu steht am Ende der Liste.
- Schreibung. Alle Wörter werden kleingeschrieben und nach Unicode-NFC vereinheitlicht, ß und ss gelten als gleich. Satzzeichen werden entfernt, außer sie tragen Bedeutung in Zahlen (Dezimalkomma, Uhrzeit).
- Komposita. Getrennt, zusammen oder mit Bindestrich geschriebene Komposita gelten als ein Wort, wenn die Bestandteile übereinstimmen („Kniegelenk-Erguss“, „Kniegelenkerguss“).
- Zahlen. Zahlwörter und Ziffern werden vereinheitlicht („fünf“ und „5“), ebenso Einheiten („Milligramm“ und „mg“). Ein anderer Zahlenwert bleibt ein Fehler, „5 mg“ und „50 mg“ werden nie gleichgesetzt.
- Abkürzungen. Gängige Fachabkürzungen und ihre Langform gelten nach einer festen Liste je Testreihe als gleich („V. a.“ und „Verdacht auf“, „Abs.“ und „Absatz“).
- Füllwörter. Häsitationen wie „äh“ und „ähm“ werden aus der Referenz entfernt, ausgegebene Häsitationen zählen nicht als Fehler. Sinntragende Wörter bleiben im Vergleich.
- Diktatbefehle (nur Diktate). Gesprochene Befehle wie „Punkt“, „neue Zeile“ oder „Absatz“ zählen nicht als Wörter. Bleiben sie als Text in der Ausgabe stehen, sind es Einfügungen. Das gilt auch für Dienste ohne Diktatbefehle. Bei ihnen steht unter „Umgesetzte Diktatbefehle“ „Nicht unterstützt“ statt eines Werts. Sprachbefehle, die nur markierten Text überarbeiten, zählen nicht als Diktatbefehle.
- Gesprochene Anweisungen (allgemeine und juristische Diktate). Die Referenz ist der gemeinte Text. Verworfene Angaben einer Selbstkorrektur und die Wörter einer Bearbeitungsanweisung zählen nicht als Referenzwörter. Stehen sie in der Ausgabe, sind es Einfügungen. Die WER dieser Testreihen entspricht deshalb nicht der WER, die Hersteller für ihre Spracherkennung angeben. Die Zählung je Art beschreibt die Methodik der Diktiersoftware.
- Normzitate (nur juristische Diktate). Vereinbarte Schreibvarianten gelten als gleich („§ 823 Abs. 1 BGB“ und „Paragraf 823 Absatz 1 BGB“). Ein anderer Absatz, ein anderes Gesetz oder ein anderes Aktenzeichen bleibt ein Fehler.
- Untertiteldateien (nur Untertitel). Verglichen wird der zusammengeführte Untertiteltext. Zeitmarken, Segmentnummern und Formatangaben der SRT- oder WebVTT-Datei zählen nicht als Wörter. Zahlen, Abkürzungen und Komposita werden nicht vereinheitlicht, weil die Referenz die Schreibweise der fertigen Untertitel festlegt. Eine abweichende Schreibweise müsste vor der Veröffentlichung korrigiert werden. „fünf Milligramm“ statt „5 mg“ zählt deshalb als Fehler.
Match Error Rate und Word Information Lost nach Morris et al. (2004) lassen sich aus den veröffentlichten Zählern S, D, I und N berechnen. Die Transkript-WER der Meetings vergleicht das verkettete Transkript ohne Sprecherzuordnung. Sprecherfehler misst getrennt die DER, mit 250 ms Toleranz und ohne Toleranz. Eine sprecherbezogene WER wie die cpWER aus CHiME-6 würde Erkennungs- und Zuordnungsfehler in einer Zahl vermischen.
In der medizinischen Spracherkennung beruht die Inhaltsqualität bei jeder Ausgabeform auf Fakten-F1. Die WER steht dort mit Zählern auf der Testseite, geht aber weder in den Score noch in die Rangfolge ein. Bei KI-überarbeiteter Ausgabe zeigt sie nur, wie weit der Text vom Wortlaut abweicht. Gewollte Korrekturen zählen dort mit. Fehlerereignisse, betroffene Fakten und Dokumente mit mindestens einem schwerwiegenden Fehler haben jeweils eigene Zähler und Nenner. Gesprochene Anweisungen wie Diktatbefehle, Selbstkorrekturen und Bearbeitungsanweisungen zählen über ihre Folgen im Fakten-F1, in der Nacharbeit und bei den schwerwiegenden Fehlern. Die Anteile umgesetzter Anweisungen stehen daneben als eigene Kennzahlen.
ScribeIndex-Score
Der ScribeIndex-Score fasst eine Testreihe auf einer Skala von 0 bis 100 zusammen. Er ist eine offengelegte Gewichtung von drei oder vier Teilwerten. Jeder Teilwert reicht von 100 Punkten für ein fehlerfreies Ergebnis bis zu 0 Punkten an seiner Bezugsgröße. Die Einzelkennzahlen bleiben auf jeder Testseite sichtbar. Außer bei den medizinischen Aufgaben setzt sich die Inhaltsqualität aus mehreren Kennzahlen zusammen. Die Tabelle nennt alle Teilwerte mit ihren Formeln. Jede Testseite zeigt unter der Zusammensetzung des Scores die Punkte der einzelnen Teile.
| Teilwert | Berechnung in Punkten | Bedeutung |
|---|---|---|
| Q · Inhaltsqualität | 100 × max(0, 1 − f / f_ref) · f = 100 − q mit q je Aufgabe · Medizinische Dokumente und medizinische Diktate: Fakten-F1 in % · Allgemeine Diktate: 0,8 × (100 − WER) + 0,1 × korrekte Namen + 0,1 × korrekte Zahlen · Juristische Diktate: 0,8 × (100 − WER) + 0,1 × (100 − Parteifehler) + 0,1 × (100 − Betrags- und Fristfehler) · Audiotranskription: 0,7 × (100 − WER) + 0,3 × (100 − DER) · Meetingnotizen: 0,7 × Fakten-F1 + 0,3 × (100 − DER) · Textausarbeitung: 0,8 × Fakten-F1 + 0,2 × Anweisungstreue · Untertitel für Videodateien: 0,5 × (100 − WER) + 0,3 × Timing + 0,2 × Lesbarkeit · Live-Untertitel: 0,5 × (100 − WER) + 0,3 × rechtzeitig + 0,2 × stabil | q ist das Ergebnis der Qualitätsformel der Aufgabe, f die Zahl der Punkte, die zu einem fehlerfreien Ergebnis fehlen. Bei f_ref = 30 fehlenden Punkten erreicht der Teilwert null, für alle Aufgaben gleich. Medizinische Dokumente, Meetingnotizen und medizinische Diktate werden an erhaltenen Referenzfakten gemessen, Diktate auch bei wortnaher Ausgabe. Bei allgemeinen und juristischen Diktaten und Audiotranskripten ist 100 − WER ein normierter Indexwert. Allgemeine Diktate zählen zusätzlich die Anteile korrekt übernommener Namen und Zahlen. Juristische Diktate zählen Fehler bei Parteien sowie bei Beträgen und Fristen. Betrags- und Fristfehler werden dafür mit Zählern und Nennern zusammengezählt. Normzitate gehen über WER und Schweregrad-Rubrik ein. Bei Audiotranskripten und Meetingnotizen misst die DER mit 250 ms Toleranz die Sprecherzuordnung. Nur mit ihr lässt sich nachprüfen, wer eine Aussage, Zusage oder Aufgabe ausgesprochen hat. Liefert ein Dienst Sprecherkennungen ohne eigene Zeitmarken, bestimmt ScribeIndex die Zeitmarken durch erzwungene Ausrichtung (Forced Alignment) des gelieferten Texts an der Aufnahme. Die DER berechnet ScribeIndex daraus wie bei allen anderen Diensten, mit verpasster und fälschlich erkannter Sprache und Fehlern an Segmentgrenzen. Eine Ausgabe ohne Sprecherkennungen zählt für die DER wie eine Ausgabe mit einem einzigen Sprecher (Zählregeln). Bei Textausarbeitung zählt zusätzlich der Anteil umgesetzter Schreibanweisungen, bei Untertiteln für Videodateien der Anteil zeitlich passender und lesbarer Untertitel, bei Live-Untertiteln der Anteil rechtzeitig und stabil angezeigter Wörter. WER und DER können über 100 % liegen, jeder Teil wird auf 0 bis 100 begrenzt. |
| F · Schwerwiegende Fehler | 100 × max(0, 1 − c / c_ref) | c ist der Anteil der Ausgaben mit mindestens einem schwerwiegenden Fehler in Prozent. Nur in Testreihen mit Schweregrad-Rubrik, also bei medizinischen und juristischen Aufgaben. |
| K · Korrekturaufwand | 100 × max(0, 1 − m / m_ref) | m ist die geschätzte Nacharbeit in Minuten je Audiostunde, ohne die einmalige Durchsicht. Liegt sie über m_ref, ist der Teilwert 0. Ein fehlerfreies Ergebnis ergibt 100 Punkte, bei Live-Untertiteln wegen des Verschiebens der Datei knapp darunter. |
| A · Abschlussquote | 100 × abgeschlossen / gestartet | Alle protokollierten Läufe zählen. Ausfälle senken den Teilwert. |
Testreihen mit Schweregrad-Rubrik: G = 0,6 × Q + 0,2 × F + 0,15 × K + 0,05 × A
Testreihen ohne Schweregrad-Rubrik: G = 0,75 × Q + 0,2 × K + 0,05 × A
G ist der ScribeIndex-Score von 0 bis 100 Punkten.
| Aufgabe | m_ref Nacharbeit | c_ref Schwerwiegende Fehler | Begründung |
|---|---|---|---|
| Medizinische Spracherkennung | 141 min | 15 % | Abtippen des Diktats ohne Spracherkennung. Bei 110 gesprochenen Wörtern je Minute und 51,6 getippten Wörtern je Minute (Dhakal et al. 2018) dauert eine Stunde Diktat 128 Minuten. ScribeIndex setzt 10 % für Absätze, Überschriften und Listen hinzu. Schwerwiegende Fehler sollen bei Diktaten selten sein, daher die engere Fehlerbezugsgröße. |
| Ärztliche Gesprächsdokumentation | 59 min | 20 % | Das Zieldokument hat rund 356 Wörter je Gespräch von durchschnittlich 12,1 Minuten. Bei 6,5 Zeichen je Wort wie im Korpus und 173 Zeichen je Minute, die Ärztinnen und Ärzte beim Schreiben eines Berichts einschließlich Formulieren und Abschließen erreichen (Vogel et al. 2015), dauert das Schreiben 13,4 Minuten. Abzüglich des Durchlesens bei 230 Wörtern je Minute (Brysbaert 2019) bleiben 11,9 Minuten je Gespräch. Auf eine Stunde Gespräch umgerechnet sind das 59 Minuten. Vor Studienbeginn dauerte eine Gesprächsnotiz ohne KI-Scribe im Median 4:23 bis 5:22 Minuten je Termin, in der mittleren Studiengruppe 4:47 Minuten (Lukac et al. 2025). Nach Abzug des Durchlesens bleiben dort 3,2 Minuten. Für die Zielnotiz von 356 Wörtern wären das 110 Wörter je Minute, mehr als das Doppelte des Tipptempos von 51,6 Wörtern je Minute (Dhakal et al. 2018). Verdichtende Ausgaben bieten mehr Gelegenheit für schwerwiegende Fehler als ein Diktat. |
| Psychotherapeutische Sitzungsdokumentation | 20 min | 20 % | Für die Sitzungsnotiz von Hand hat ScribeIndex keine veröffentlichte Messung gefunden. Gerechnet wird mit dem Zieldokument von rund 490 Wörtern je 48-Minuten-Sitzung. Bei 6,3 Zeichen je Wort wie im Korpus und 173 Zeichen je Minute, die Ärztinnen und Ärzte beim Schreiben eines Berichts einschließlich Formulieren und Abschließen erreichen (Vogel et al. 2015), dauert das Schreiben 18 Minuten. Abzüglich des Durchlesens bei 230 Wörtern je Minute (Brysbaert 2019) bleiben 16 Minuten je Sitzung. Auf eine Stunde Gespräch umgerechnet sind das 20 Minuten. Die Rubrik stuft Fehler bei Risikoinhalten und Zuordnungen im Fallkontext ein. |
| Pflegedokumentation | 72 min | 20 % | Pflegeberichte, Vitalwerte und Übergaben spricht die Pflegekraft überwiegend selbst. Von Hand heißt hier, den Eintrag selbst zu tippen, mit 51,6 Wörtern je Minute (Dhakal et al. 2018) und 10 % mehr für Felder, Vitalwerte und Maßnahmen. Das pflegerische Aufnahmegespräch führt die Pflegekraft mit der versorgten Person. Seinen Bericht formuliert sie wie eine Gesprächsnotiz mit 173 Zeichen je Minute (Vogel et al. 2015), abzüglich des Durchlesens bei 230 Wörtern je Minute (Brysbaert 2019). Die 34 selbst gesprochenen Einträge mit zusammen 85 Minuten Aufnahme kosten so 137 Minuten, die 6 Aufnahmegespräche mit 149 Minuten Aufnahme 143 Minuten. Über alle Aufnahmen ergibt das 72 Minuten je Stunde. Die Rubrik stuft Fehler bei Vitalwerten, Medikation und Personenzuordnung im Fallkontext ein. Fehlerbezugsgröße wie bei der ärztlichen Gesprächsdokumentation. |
| Anamneseberichte | 84 min | 20 % | Der ausführliche Bericht hat rund 2.580 Wörter je Stunde Gespräch. Bei 6,4 Zeichen je Wort wie im Korpus und 173 Zeichen je Minute beim Schreiben eines Berichts einschließlich Korrektur und Abschluss (Vogel et al. 2015) dauert er 95 Minuten. Abzüglich des Durchlesens bei 230 Wörtern je Minute (Brysbaert 2019) bleiben 84 Minuten je Stunde Gespräch. Fehlerbezugsgröße wie bei der ärztlichen Gesprächsdokumentation. |
| Meeting-Scribes | 35 min | – | Ein Ergebnisprotokoll mit Beschlüssen und Aufgaben hat rund 1.030 Wörter je Stunde Besprechung. Bei 6,6 Zeichen je Wort wie im Korpus und 173 Zeichen je Minute beim Schreiben eines Berichts einschließlich Korrektur und Abschluss (Vogel et al. 2015) sind das 39 Minuten. Abzüglich des Durchlesens bei 230 Wörtern je Minute (Brysbaert 2019) bleiben 35 Minuten je Stunde. Kein Teilwert für schwerwiegende Fehler. Inhaltsqualität kombiniert Fakten-F1 (70 %) und Sprecherzuordnung (30 %). |
| Audiotranskription | 220 min | – | Eine erfahrene Schreibkraft brauchte für drei Minuten deutsches Interview 11 Minuten reines Abtippen, ohne die anschließende Durchsicht (Wollin-Giering et al. 2024). Das 3,67-Fache der Aufnahmedauer ergibt 220 Minuten je Stunde. Bei rund 8.500 Wörtern je Stunde Aufnahme im Korpus sind das 1,55 Sekunden je Wort. ScribeIndex nimmt dabei an, dass das Interview so schnell gesprochen war wie die Aufnahmen des Korpus. Kein Teilwert für schwerwiegende Fehler. Inhaltsqualität kombiniert Erkennung (70 %) und Sprecherzuordnung (30 %). |
| Allgemeine Diktate | 164 min | – | Abtippen des Diktats ohne Spracherkennung. Bei 128 gesprochenen Wörtern je Minute und 51,6 getippten Wörtern je Minute (Dhakal et al. 2018) dauert eine Stunde Diktat 149 Minuten. ScribeIndex setzt 10 % für Absätze und Formatierung hinzu. Inhaltsqualität kombiniert Erkennung (80 %), korrekte Namen (10 %) und korrekte Zahlen (10 %). |
| Juristische Diktate | 167 min | 15 % | Abtippen des Diktats ohne Spracherkennung. Bei 130,4 gesprochenen Wörtern je Minute und 51,6 getippten Wörtern je Minute (Dhakal et al. 2018) dauert eine Stunde Diktat 152 Minuten. ScribeIndex setzt 10 % für Absätze und Formatierung hinzu. Fristen-, Parteien-, Norm- und Betragsfehler zählen nach eigener Schweregrad-Rubrik. Wie beim medizinischen Diktat sollen schwerwiegende Fehler selten sein, daher die engere Fehlerbezugsgröße. Inhaltsqualität kombiniert Erkennung (80 %), korrekte Parteien (10 %) sowie korrekte Beträge und Fristen (10 %). |
| Sprachgestützte Textausarbeitung | 142 min | – | Mit dem gesprochenen Rohentwurf liegt der Inhalt schon vor. Von Hand heißt hier, den Zieltext selbst zu tippen. Er hat rund 111 Wörter je Minute Aufnahme, bei 51,6 getippten Wörtern je Minute (Dhakal et al. 2018) sind das 129 Minuten je Stunde. ScribeIndex setzt 10 % für Gliederung und Format hinzu. Inhaltsqualität kombiniert Fakten-F1 (80 %) und Anweisungstreue (20 %). |
| Untertitel für Videodateien | 233 min | – | Abtippen wie beim wortgetreuen Transkript mit 1,55 Sekunden je Wort (Wollin-Giering et al. 2024). Bei rund 7.120 Wörtern je Stunde Video sind das 184,3 Minuten. ScribeIndex setzt 4 Sekunden je Untertitel für Ein- und Ausblendzeit und Zeilenumbruch hinzu, bei 729 Untertiteln je Stunde 48,6 Minuten. Inhaltsqualität kombiniert Erkennung (50 %), Timing (30 %) und Lesbarkeit (20 %). |
| Live-Untertitel | 276 min | – | Veröffentlichungsfähige Untertitel der Aufzeichnung, von Hand erstellt wie bei Videodateien. Die Aufnahmen enthalten durchgehend Sprache. Bei rund 8.440 Wörtern je Stunde dauert das Abtippen mit 1,55 Sekunden je Wort 218,5 Minuten. Dazu kommen 4 Sekunden je Untertitel. Mit 9,8 Wörtern je Untertitel wie bei den Videodateien sind das rund 864 Untertitel und 57,6 Minuten je Stunde. Inhaltsqualität kombiniert Erkennung (50 %), rechtzeitige Anzeige (30 %) und stabile Anzeige (20 %). |
Rechenregeln und Aussagegrenzen
Jeder Teilwert wird auf 0 bis 100 Punkte begrenzt. Gewichtet wird mit ungerundeten Werten, erst die Anzeige rundet auf eine Nachkommastelle. Fehlt eine erforderliche Messgröße, bleibt der Score leer. Fehlende Teilwerte werden weder aufgefüllt noch durch umverteilte Gewichte ersetzt. Ein Score mit aufgefüllten Teilen sähe genauso belastbar aus wie ein vollständig ausgewerteter, wäre es aber nicht.
Die Bezugsgrößen legt ScribeIndex selbst fest. Bei der Inhaltsqualität liegt der Nullpunkt für alle Aufgaben bei 30 fehlenden Punkten. Eine Ausgabe, der nach der Qualitätsformel ihrer Aufgabe fast ein Drittel der Punkte fehlt, taugt nicht mehr als Grundlage. Am Nullpunkt kostet die geschätzte Korrektur im Median der Dienste in zehn von zwölf Aufgaben mindestens drei Viertel der Zeit für das Selbstschreiben und in allen mehr als die Hälfte. Ohne diesen Nullpunkt bekäme auch eine unbrauchbare Ausgabe den Großteil der Punkte.
Bei der Nacharbeit liegt der Nullpunkt dort, wo die geschätzte Korrektur so lange dauert wie das Schreiben des Dokuments ohne KI. Die Schätzung kann darüber liegen, weil die bis zu einem Neuanfang verlorene Zeit mitzählt. Die Nacharbeit zählt die einmalige Durchsicht nicht mit, weil sie mit und ohne KI gleich anfällt. Die aus Tipp- und Abtippzeiten hergeleiteten Bezugsgrößen enthalten sie ebenfalls nicht. Transkripte, Untertitel und selbst Gesprochenes werden abgetippt, Notizen, Berichte und Protokolle aus Gesprächen mit anderen werden formuliert. Weil die Schreibrate von Vogel et al. (2015) die eigene Durchsicht einschließt, ist bei Dokumenten aus Gesprächen das Durchlesen des Zieldokuments abgezogen, seine Wortzahl geteilt durch 230 Wörter je Minute (Brysbaert 2019).
Die Tabelle begründet die Bezugsgröße je Aufgabe. Ein Marktdurchschnitt wäre als Maßstab ungeeignet, weil er sich mit jedem neuen Anbieter verschieben würde. Klinische Akzeptanzgrenzen sind die Bezugsgrößen ebenfalls nicht. Der Korrekturteilwert zeigt damit, wie viel der Schreibzeit ohne KI ein Dienst einspart, gemessen an dieser festgelegten Bezugsgröße. Ihre eigene Ersparnis hängt davon ab, wie lange Sie heute für dieselbe Dokumentation brauchen. Ein hoher Score schließt einzelne schwerwiegende Fehler nicht aus.
Der Platz in einer Testreihe ergibt sich aus dem ScribeIndex-Score, gerundet auf eine Nachkommastelle. Bei gleichem Score teilen sich Dienste den Platz. Ist ein Dienst allein in seiner Testreihe, steht sein Wert ohne Platz.
Zu jedem Abstand zweier Dienste nennt ScribeIndex den Grund. Dafür wird der Unterschied der ungerundeten Scores in die Beiträge der einzelnen Kennzahlen zerlegt. Jeder Teilwert trägt seine Differenz multipliziert mit seinem Gewicht bei. Die Inhaltsqualität wird zusätzlich nach ihrer Formel aufgeteilt. Solange ihr Teilwert über null liegt, ändert ein Prozentpunkt Fakten-F1 ihn um 3,3 Punkte, bei 60 % Gewicht den Score also um 2 Punkte. Bei zusammengesetzter Inhaltsqualität zählt jede Kennzahl mit ihrem Anteil in der Formel. Zusammen ergeben die Beiträge genau den Abstand. Genannt werden die Kennzahl mit dem größten Beitrag und die zweitgrößte, wenn sie mindestens ein Drittel davon erreicht. Spricht eine Kennzahl mit mindestens einem Drittel des größten Beitrags für den anderen Dienst, steht sie ebenfalls dabei. Kennzahlen mit gleich angezeigtem Wert bleiben außen vor. Bei gleichem angezeigtem Score teilen sich beide Dienste den Platz, einen Grund gibt es dann nicht.
Der Teilwert für schwerwiegende Fehler reagiert stark auf einzelne Ereignisse. Seine Bezugsgrößen sind deshalb weit gefasst, mit 15 % betroffener Ausgaben bei Diktaten und 20 % bei Medical Scribes. Bei 143 Ausgaben verschiebt ein zusätzliches fehlerhaftes Dokument den Score der ärztlichen Gesprächsdokumentation um 0,7 Punkte, bei den 48 Ausgaben der Anamneseberichte um 2,1 Punkte. Die Zahl der betroffenen Dokumente steht immer neben dem Score.
ScribeIndex bildet keinen Gesamtwert über mehrere Testreihen. Korpora, Aufgaben und Bezugsgrößen unterscheiden sich, und ein Mittelwert hinge davon ab, welche Aufgaben ein Dienst anbietet. Für Ihre Entscheidung zählt ohnehin der Score in der Aufgabe, für die Sie den Dienst einsetzen wollen. Ranglisten, Profile und Direktvergleiche zeigen immer den Score der jeweiligen Testreihe. Ein Wert der ärztlichen Gesprächsdokumentation wird nicht auf Anamneseberichte übertragen.
Normalisierung, Gewichtung und Aggregation folgen den allgemeinen Anforderungen des OECD/JRC-Handbuchs zu zusammengesetzten Indikatoren. Gewichte und Bezugsgrößen sind Festlegungen von ScribeIndex.
Vergleichsskalen
Neben jeder Kennzahl zeigt ein Punktstreifen alle Anbieter derselben Testreihe. Besser liegt immer rechts, auch wenn die Zahl dabei kleiner wird, etwa bei Fehlerquoten oder Nacharbeit. Der große, umrandete Punkt ist der betrachtete Anbieter, graue Punkte sind die übrigen Anbieter, der senkrechte Strich markiert den Median. Die Punkte tragen keine Wertungsfarbe.
Wer auf einer Skala steht
Eine Skala enthält nur Ergebnisse mit gleicher Kategorie und Aufgabe, gleichem Protokoll, gleichem Korpus mit identischer Manifest- und Referenzprüfsumme, gleicher Bewertungsrubrik, gleicher Auswertungs- und Normalisierungsversion und derselben Bootstrap-Ziehungsliste. Die WER eines sprachlich überarbeiteten Diktats steht nicht auf einer Skala mit der WER eines wortnahen Transkripts. Gibt es nur einen Messwert, entsteht keine Skala.
Verarbeitungszeiten hängen vom Testweg ab. Ein Live-Diktat und ein Datei-Upload starten die Uhr an verschiedenen Punkten. Start- und Endpunkt stehen deshalb an jedem Zeitwert. Die Verarbeitungszeit geht nicht in den Score und nicht in die Rangfolge ein. Bei Live-Untertiteln zählt dagegen der Anteil rechtzeitig angezeigter Wörter zur Inhaltsqualität.
Position, Median und gleiche Werte
Die Position folgt linear aus der Spannweite der Testreihe. In den Formeln steht x für den Messwert des Anbieters.
Höher ist besser: P = 100 × (x − Min) / (Max − Min)
Niedriger ist besser: P = 100 × (Max − x) / (Max − Min)
Der Median ist der mittlere der sortierten Anbieterwerte, bei gerader Anzahl das Mittel der beiden mittleren. Er ist nicht nach Audiodauer gewichtet. Bei identischen Werten aller Anbieter liegen alle Punkte in der Mitte.
Die Position ordnet einen Wert in diesem Teilnehmerfeld ein. Sie ist kein Perzentilrang und keine absolute Qualitätsgrenze. Bei enger Spannweite kann ein großer Abstand zwischen zwei Punkten einem kleinen Zahlenunterschied entsprechen. Neue Ergebnisse verschieben die Endpunkte und damit alle Positionen. Wie genau ein Wert gemessen ist, zeigt sein 95-%-Intervall.
Alternativen je Anbieter
Die Alternativen zu einem Anbieter stehen auf einer eigenen Seite je Profil. Sie umfassen alle Dienste derselben Kategorie, geordnet nach Punkten. Dieselbe Aufgabe bringt 1 Punkt, dieselbe Haupttestreihe 0,5 Punkte und gemeinsame Fachbereiche 0,5 Punkte. Die Arbeitsweise zählt ebenfalls. Bietet die Alternative eine Arbeitsweise des Anbieters ebenfalls an, also Direktaufnahme oder Datei-Upload, bringt das 0,4 Punkte, und bis zu 0,1 Punkte mehr, wenn sie alle seine Arbeitsweisen abdeckt. Ein Live-Diktat erhält so bevorzugt Alternativen mit Direktaufnahme, ein Upload-Dienst solche mit Datei-Upload. Danach ordnen Funktionsnähe (bis 0,45 Punkte), gemeinsame Aufnahmewege wie Diktat oder Meeting-Bot (bis 0,15 Punkte) und die Stellung im Teilnehmerfeld gemeinsamer Testreihen (bis 0,6 Punkte, außerhalb der Haupttestreihe zur Hälfte).
Technikrecherche
Für jede Verarbeitungsstufe, von der Spracherkennung über Sprecherzuordnung, Dokumenterstellung und Zusatzfunktionen bis zur Infrastruktur, erfasst ScribeIndex alle bekannten Modelle. Ein Dienst kann je Stufe mehrere Modelle einsetzen, etwa nach Sprache, Region, Tarif oder Funktion. ScribeIndex geht dafür Dokumentation, Trust Center, Verträge und Unterauftragsverarbeiterlisten durch und liest nicht mehr hinein, als dort steht. Neben Herstellerangaben und Tests prüft ScribeIndex, soweit möglich, die Technik des Anbieters, etwa öffentliche Repositories, den ausgelieferten Code der Weboberfläche, DNS-Einträge und die Infrastruktur. Steht etwa OpenAI in der Unterauftragsverarbeiterliste, ist damit noch nicht belegt, welches Modell Ihre Notiz schreibt. Eine optionale Chatfunktion sagt nichts über die Standarddokumentation, und eine Modellfamilie wie GPT ist noch keine Version.
- Belegt heißt, der Hersteller oder ein offizieller Partner nennt Modell oder Familie samt Verwendungszweck, etwa in Dokumentation, Trust Center, Verträgen oder Unterauftragsverarbeiterlisten.
- Technisch ermittelt heißt, ScribeIndex hat das Modell bei dieser Prüfung der Technik bestimmt. Der Anbieter nennt es nicht, die Begründung steht am Modell. In der Bewertung zählt ein technisch ermitteltes Modell wie ein belegtes, es bleibt aber eigens gekennzeichnet.
- Eine Einschätzung leitet ScribeIndex aus Unterauftragsverarbeitern, Stellenanzeigen, technischen Vorträgen, Sprachabdeckung, Latenzverhalten oder Partnerschaften ab. Jede Einschätzung nennt Begründung, Quellen und Beweislage. Die Beweislage reicht von starken Indizien (mehrere unabhängige, eindeutige Hinweise) über mehrere Indizien bis zu einem einzelnen Indiz.
- Nicht offengelegt bedeutet, dass es keine belastbaren Hinweise gibt. Dann zählt allein der Modellabgleich. „Nicht offengelegt“ und das Abgleichergebnis „Keine eindeutige Zuordnung“ sind verschiedene Befunde.
Modellabgleich
Viele Anbieter nennen die eingesetzten Modelle nicht. Der Modellabgleich prüft, welchem bekannten Modell die Ausgaben eines Dienstes am stärksten ähneln. Dafür laufen eigene Prüfeingaben durch den Dienst und durch Referenzmodelle, und ScribeIndex vergleicht die Ausgaben mit den typischen Mustern jedes Modells. Der Abgleich ergänzt die Technikrecherche und ersetzt keine Herstellerangabe. Je Dienst und Stufe umfasst er 58 bis 126 Prüfeingaben.
Spracherkennung. Kurze Aufnahmen mit seltenen Fachbegriffen, Zahlenfolgen, Pausen, Rauschen und Sprachwechseln laufen durch den Dienst und durch 11 Referenzmodelle. Das sind AssemblyAI Universal, Deepgram Nova, ElevenLabs Scribe, Speechmatics, Soniox, Google Chirp, Gemini (Audio), Azure AI Speech, Whisper, OpenAI Transcribe und NVIDIA Parakeet. Eine Referenz steht für die Produktlinie eines Anbieters, nicht für eine Version, weil der Abgleich Fehler- und Formatierungsprofile erkennt, keine Versionsnummern. Verglichen werden Fehlermuster, Zahlen- und Zeichensetzung, das Verhalten bei Stille und typische Fehlerkennungen.
Sprachmodelle. Standardisierte, patientenfreie Prüfgespräche enthalten Merkmale, auf die Modellfamilien unterschiedlich reagieren. Sie betreffen Formatierung, widersprüchliche Angaben, Wissensgrenzen und Längenverhalten. Paraphrasierte Varianten prüfen, ob ein Muster an einer Formulierung hängt. Selbstauskünfte wie „Ich bin Modell X“ zählen nicht. Referenzen sind die GPT-Familie, Claude-Familie, Gemini-Familie, Llama-Familie, Mistral-Familie und Nemotron-Familie.
Zuordnung. Entfallen mindestens 60 % der Prüfeingaben auf eine Referenz, lautet das Ergebnis „Modell zugeordnet“. Die Referenz wird dann mit den Modelleinträgen des Dienstes verglichen. Sie passt zur Herstellerangabe oder zum technisch ermittelten Modell, passt zu einer Einschätzung aus Angaben des Anbieters oder Dritter oder weicht davon ab. Bei 40 bis unter 60 % lautet das Ergebnis „Kandidaten eingegrenzt“. Das Profil nennt die ähnlichsten Referenzen mit ihren Anteilen und gibt an, ob sie zu einem genannten oder vermuteten Modell gehören. Das ist ein Hinweis, keine Zuordnung. Erreicht keine Referenz 40 %, ergibt der Abgleich „Keine eindeutige Zuordnung“. Das ist bei Eigenentwicklungen, bei Modellen ohne eigene Referenz im Abgleich und bei stark angepassten Modellen zu erwarten.
Validierung. Merkmale und Schwelle werden auf einem Entwicklungssatz festgelegt und auf einem getrennten Prüfsatz mit bekannten Modellen und fremden Kontrollmodellen geprüft. Bewertet werden Konfusionsmatrix, Präzision und Recall je Kandidat, Macro-F1 und die Falschzuordnungsrate für Modelle außerhalb des Referenzraums. Ein Anteil von 70 % heißt dabei nicht, dass der Dienst mit 70 % Wahrscheinlichkeit dieses Modell nutzt. Er zeigt, welcher Anteil der Prüfeingaben dieser Referenz am stärksten ähnelt.
Das Ergebnis ist ein begründeter Hinweis auf die Herkunft, kein Beweis. Systemanweisungen, Vorlagen, Nachbearbeitung, Fine-Tuning, Quantisierung und Modellrouting verändern die Ausgabe. Die Übersicht SoK: Large Language Model Copyright Auditing via Fingerprinting untersucht, wie robust solche Fingerprints sind. Ihre Ergebnisse lassen sich nicht ungeprüft auf geschlossene Scribe-Produkte übertragen.
Modellbewertung
Bekannte oder eingeschätzte Sprach- und Spracherkennungsmodelle werden anhand unabhängiger Modellbenchmarks eingeordnet. Infrastruktur und Sprechertrennungsverfahren erhalten keine ASR- oder LLM-Modellbewertung. Maßstab sind Bestwert und Median aller Modelle, die im jeweiligen Benchmark gemessen wurden. Werte verschiedener Benchmarks werden nicht verrechnet. Herstellerangaben gehen nicht ein, weil Hersteller ihre Testdaten selbst auswählen. Liegt für ein Spracherkennungsmodell ein Wert aus einem deutschen Benchmark vor, entscheidet nur dieser, denn Sie setzen das Modell für deutsche Sprache ein. Englische Werte stehen dann zur Information daneben.
- Spitzenklasse sind Sprachmodelle ab 85 % des besten Indexwerts und Spracherkennungsmodelle höchstens 30 % über der besten Wortfehlerrate.
- Stark ist ein Modell, das mindestens so gut abschneidet wie der Median aller gemessenen Modelle.
- Solide ist ein Modell unter dem Median, solange ein Sprachmodell mindestens die Hälfte des Medians erreicht und eine Spracherkennung höchstens beim Doppelten der Median-WER liegt.
- Schwach ist ein Modell darunter, also ein Sprachmodell unter der Hälfte des Medians oder eine Spracherkennung mit einer Wortfehlerrate über dem Doppelten des Medians.
- Ohne Referenz bleibt ein Modell ohne unabhängigen Referenzwert. Das ist keine Bewertung mit null Punkten.
| Benchmark | Bestwert | Median | Spitzenklasse | Stark | Schwach |
|---|---|---|---|---|---|
| Artificial Analysis Word Error Rate Index · Version 2.2 · 61 Modelle · abgerufen am 2. Oktober 2026 | 1,7 % · StepAudio 3 ASR (StepFun) | 4 % | bis 2,21 % | bis 4 % | über 8 % |
| Artificial Analysis Word Error Rate Streaming Index (Final Transcription) · Version 2.2 · 38 Modelle · abgerufen am 2. Oktober 2026 | 2,5 % · MAI-Transcribe-2-Streaming (Microsoft AI) | 4,5 % | bis 3,25 % | bis 4,5 % | über 9 % |
| Hugging Face Open ASR Leaderboard, Deutsch (FLEURS und Common Voice) · Stand 2. Oktober 2026 · 39 Modelle · abgerufen am 9. Oktober 2026 | 1,92 % · microsoft/azure-speech-07-2026 | 4,12 % | bis 2,5 % | bis 4,12 % | über 8,24 % |
| Artificial Analysis Intelligence Index · Version 4.3.2 · 118 Modelle · abgerufen am 2. Oktober 2026 | 58 Pkt. · Claude Opus 5.5 (Max, Default Fallback) | 30 Pkt. | ab 49,3 Pkt. | ab 30 Pkt. | unter 15 Pkt. |
Der Benchmark Deutsche Arzt-Patienten-Gespräche (arXiv 2601.19945) erscheint ohne Stufe (Begründung). Die Schwellen wandern mit, wenn neue Modelle gemessen werden.
| Was bekannt ist | Herangezogene Referenz | Höchste Stufe |
|---|---|---|
| Genaues Modell | Referenzwert genau dieses Modells. Die Konfiguration des Anbieters kann abweichen. | Spitzenklasse |
| Angepasstes Modell | Referenzwert des Basismodells, etwa Parakeet TDT 0.6B v2 bei Heidis angepasster englischer Spracherkennung. Ist nur die Familie des Basismodells bekannt, zählt deren mittlere Stufe. Eigene Werte des Anbieters erscheinen getrennt als „Herstellerangabe“. | Stark |
| Vermutetes Modell | Referenzwert des vermuteten Modells, gekennzeichnet als Vermutung. | Stark |
| Referenz der Modellfamilie | Spannweite der Modelle dieser Familie, zum Beispiel bei Claude oder GPT ohne Versionsangabe oder bei einer belegten Version ohne eigenen Referenzwert. Maßgeblich ist die mittlere Stufe der Familienmitglieder (Median), bei gerader Anzahl die niedrigere der beiden mittleren Stufen. Sie ist begrenzt auf Stark, weil für die eingesetzte Version kein Referenzwert vorliegt. | Stark |
| Nur der KI-Anbieter | Kein Zahlenwert. Führende Anbieter wie OpenAI, Anthropic oder Google erhalten eine allgemeine Einschätzung mit dem Hinweis, dass das genaue Modell unbekannt ist. | Stark |
| Eigenentwicklung | Keine unabhängige Referenz. Eigene Messwerte des Anbieters erscheinen als „Herstellerangabe“, ergeben aber keine Stufe. Die Leistung im Praxiseinsatz zeigen die ScribeIndex-Tests. | Ohne Referenz |
| Nichts bekannt | Keine Referenz. Der Modellabgleich kann Kandidaten nennen, sie gehen aber nicht als Zahlenwert ein. | Ohne Referenz |
Bleibt ein Modell in den eigenen Tests von ScribeIndex mit deutschen Aufnahmen hinter seinen veröffentlichten Referenzwerten zurück, zieht ScribeIndex eine Stufe ab. Viele Referenzwerte stammen aus vorgelesenen Einzelsätzen, sehr kleinen Stichproben oder englischsprachigen Tests und überschätzen die Leistung in deutschen Gesprächen. Derzeit betrifft das Whisper, ElevenLabs Scribe und AssemblyAI. Die Begründung steht jeweils direkt am Modell.
- Studienbefund. Koenecke et al. (2024) fanden bei 13.140 englischen Aufnahmesegmenten, transkribiert über die Whisper-API im Frühjahr 2023, erfundene Textpassagen in rund 1 % der Transkripte, 38 % davon mit schädlichem Inhalt. Nach Updates im November 2023 trat ein Großteil der Beispiele nicht mehr auf, 12 von 187 betroffenen Segmenten blieben fehlerhaft. Barański et al. (2025) zeigen für Whisper large-v3, dass 40,3 % der Eingaben ohne Sprache Text erzeugen.
- Einordnung. Beide Studien untersuchen englischsprachige Aufnahmen. Solche Halluzinationen kommen natürlich bei allen Spracherkennungsmodellen vor, ausschlaggebend für den Abzug sind hier jedoch die eigenen Tests mit deutschen Aufnahmen.
- Warum zeigen Benchmarks das nicht? Wenige erfundene Sätze verändern die WER kaum. Gute Werte in Wortfehler-Benchmarks schließen solche Einfügungen deshalb nicht aus.
Spitzenklasse vergibt ScribeIndex nur, wenn das genaue Modell belegt ist. Bei einem nur vermuteten Modell könnte der Dienst auch eine kleinere Variante derselben Familie einsetzen, die schwächer abschneidet. Vermutete Modelle und nicht benannte Modelle eines führenden KI-Anbieters zählen höchstens als „Stark“. Für einen Dienst zählt je Kernstufe (Spracherkennung, Dokumenterstellung) das am besten bewertete Kernmodell und insgesamt die schwächere der beiden Stufen. Optionale Zusatzmodule, Modelle nur für Englisch, Nebenrollen wie Evaluation und Modelle, die nur für einen früheren Produktstand belegt sind, zählen nicht, weil sie im heutigen Produkt nicht zur Kernverarbeitung Ihrer deutschen Aufnahmen gehören. Ein starkes Sprachmodell gleicht eine schwache Spracherkennung nicht aus. Hat nur eine Stufe einen Referenzwert, etwa weil die andere eine Eigenentwicklung ist, entscheidet diese. Bei medizinischer Spracherkennung, Audiotranskription und Untertiteln zählt nur die Spracherkennung, weil Sprachmodelle dort Zusatzfunktionen sind.
Was externe Modellbenchmarks aussagen
Referenzwerte stammen aus dem Artificial Analysis Intelligence Index für Sprachmodelle, dem Artificial Analysis Word Error Rate Index und dem Word Error Rate Streaming Index für englische Spracherkennung sowie der deutschen Teilwertung des Hugging Face Open ASR Leaderboard (vorgelesene Sätze aus FLEURS und Common Voice). Werte aus dem Preprint arXiv 2601.19945 zu simulierten deutschen Arzt-Patienten-Gesprächen werden angezeigt, aber nicht eingestuft, weil vier Szenarien eine zu kleine Stichprobe sind. Jeder Wert behält Benchmarkversion, Konfiguration, Quelle und Prüfdatum. Von Artificial Analysis selbst als Schätzung markierte Indexwerte sind als solche gekennzeichnet.
Der Intelligence Index misst vorwiegend englischsprachige Textaufgaben. Er sagt nichts darüber, wie gut ein Modell deutsche Fachsprache verarbeitet. Die WER-Werte für Spracherkennung hängen von Streaming oder Dateiverarbeitung, Segmentierung, Sprache, Audioqualität und API-Einstellungen ab. Modellreferenz und Produktmessung werden deshalb nie zu einem gemeinsamen Score verrechnet. Ob ein Dienst gute Dokumente liefert, zeigt allein der ScribeIndex-Score.
Die Modellreferenzen als JSON enthalten Messwert, Benchmarkversion, Konfiguration, Quellen und Prüfdatum.
Datenschutzprüfung
Viele Anbieter werben mit DSGVO-Konformität. Daraus geht aber noch nicht hervor, wo Aufnahmen gespeichert und verarbeitet werden, welche Unterauftragsverarbeiter beteiligt sind und ob Inhalte in das Training von Modellen fließen. Diese Angaben stehen häufig im Auftragsverarbeitungsvertrag oder in der Liste der Unterauftragsverarbeiter. ScribeIndex wertet deshalb für jeden Dienst die öffentlich verfügbaren Unterlagen aus, von der Datenschutzerklärung über den Auftragsverarbeitungsvertrag samt Anlagen und die Liste der Unterauftragsverarbeiter bis zu Trust Center und Compliance-Seiten.
Speicherort und Verarbeitungsort stehen getrennt, denn ein Dienst kann Daten in der EU speichern und die Spracherkennung trotzdem in den USA laufen lassen. Ebenso getrennt erfasst sind Modelltraining mit Kundendaten, lokale Verarbeitung und Zertifikate. Zusatzfunktionen, die Daten an weitere Dienstleister geben, werden eigens ausgewiesen. Fehlt eine Angabe, steht im Profil „Keine Angabe“. ScribeIndex füllt die Lücke nicht wohlwollend auf. Jede Angabe trägt Quelle und Prüfdatum.
Die Profile geben wieder, was Anbieter dokumentieren, und die Datenschutzseite jedes Anbieters nennt die Schritte, die vor dem Einsatz noch offen sind. Ob der Einsatz in Ihrer Einrichtung zulässig ist, entscheidet Ihre eigene datenschutzrechtliche Prüfung. Die Profile nehmen Ihnen dafür die Recherche ab, nicht das Urteil. Den rechtlichen Rahmen erklärt der Artikel Rechtsrahmen für KI-Dokumentation.
Einordnung mit Daumen
Datenblatt und Profil fassen Testergebnis, Datenschutz und KI-Modelle in je einem Daumen zusammen. Die Regeln sind fest und für alle Anbieter gleich. Der Daumen ersetzt nicht die Messwerte daneben.
Testergebnis
Grundlage ist der ScribeIndex-Score der Haupttestreihe, also der Testreihe zur Hauptkategorie des Dienstes. Für Spitzen- und Schlussgruppe zählt zusätzlich die Position p = (Score − Min) / (Max − Min) im Teilnehmerfeld.
- Spitzengruppe: Platz 1, oder höchstens 2 Punkte hinter dem Besten und p ≥ 0,8
- Mittelfeld: alle übrigen Ergebnisse
- Schlussgruppe: ab vier Diensten: p ≤ 0,2 und mindestens 3 Punkte unter dem Median
Die Schlussgruppe setzt mindestens vier Dienste und einen deutlichen Abstand zum Median voraus. So rutscht in einem eng beieinanderliegenden Feld niemand nach unten, nur weil er knapp hinten liegt. Die Spitzengruppe verlangt spiegelbildlich das oberste Fünftel der Punktespanne. So steht in einem engen Feld nicht jeder Dienst oben, der knapp hinter dem Besten liegt. Die Gruppen folgen allein dem Score, keine Einzelkennzahl entscheidet mit. Die Begründung unter dem Daumen nennt zusätzlich, welche Kennzahlen den Abstand zu Platz 1 (Mittelfeld) oder zum nächstbesseren Platz (Schlussgruppe) ausmachen. Der Satz zur Stellung auf der Testseite vergleicht mit Platz 1 und dem nächsten Platz dahinter, auf dem letzten Platz mit dem nächstbesseren. Bei geteiltem Platz zählt jeder punktgleiche Dienst. Wie der Grund bestimmt wird, steht unter Grund eines Abstands. Bei weniger als drei Diensten sagt ein Platz wenig aus, dann entscheidet der Score selbst. Ab 85 Punkten heißt das „Starkes Ergebnis“, ab 75 „Solides Ergebnis“, darunter „Schwaches Ergebnis“.
KI-Modelle
Grundlage ist die Modellbewertung des Dienstes, also je Kernstufe das am besten bewertete Kernmodell und insgesamt die schwächere Stufe.
- Spitzenklasse: alle belegten Kernstufen in der Spitzenklasse
- Starke Modelle: schwächere Kernstufe mindestens Stark
- Solide Modelle: schwächere Kernstufe Solide
- Schwache Modelle: schwächere Kernstufe Schwach
- Ohne Referenz: Modelle benannt, aber nicht unabhängig gemessen
- Nicht offengelegt: Modelle nicht benannt
Ohne unabhängige Vergleichswerte vergibt ScribeIndex keinen Daumen. Die Modellreferenz sagt nichts über die Qualität der fertigen Dokumente. Ein Dienst mit schwachem Basismodell kann im Test gut abschneiden, etwa durch eigene Nachbearbeitung.
Datenschutz
Geprüft werden die vier Punkte AVV, DSGVO-Erklärung, Datenstandort EU und Training mit Kundendaten. Datenstandort EU heißt, dass Speicherung und Verarbeitung ausschließlich in der EU oder lokal stattfinden oder die EU als Region wählbar ist. Länder mit Angemessenheitsbeschluss der EU, etwa die Schweiz oder das Vereinigte Königreich, erfüllen den Punkt ebenfalls. Sie erscheinen unter ihrem eigenen Namen, nicht als EU. Für die USA gilt der Beschluss zum EU-US Data Privacy Framework nur für zertifizierte Empfänger. Ein Ort in den USA erfüllt den Punkt deshalb nur, wenn der Anbieter zertifiziert ist und die Übermittlung darauf stützt. Er erscheint als „USA (Datenschutzrahmen)“. Verarbeitung teilweise in übrigen Drittländern erfüllt den Punkt nicht. ScribeIndex wertet sie aber milder als eine Speicherung dort, wenn alle Verarbeitungsorte genannt sind. Dafür gibt es die Stufe „Weitgehend gut“. Die DSGVO-Erklärung des Anbieters schließt eine Grundlage für Übermittlungen in Drittländer ein, etwa Standardvertragsklauseln. ScribeIndex prüft diese Grundlage nicht einzeln.
Für Praxen im Anwendungsbereich von § 393 SGB V gelten Ortsanforderungen auch für die Verarbeitung. Zertifikate und Testate wie BSI C5 zählen nicht zum Daumen. Ob ein Testat den Dienst selbst oder nur das Rechenzentrum abdeckt, ist je Anbieter verschieden, und wer nach § 393 SGB V den Nachweis führen muss, ist nicht abschließend geklärt. Die Datenschutzseite jedes Anbieters nennt seine Testate mit Geltungsbereich.
Beim Training gilt der Punkt als erfüllt, wenn es ausgeschlossen ist oder nur mit Einwilligung stattfindet. Der Punkt verlangt dafür die Einwilligung von Praxis, Einrichtung oder nutzender Person und bewertet nicht, ob sie ein Training mit Gesundheitsdaten rechtlich trägt. Ob Betroffene wie Patientinnen und Patienten selbst zustimmen, nennt die Datenschutzseite, wenn der Anbieter es angibt.
- Gut aufgestellt: alle vier Punkte erfüllt
- Weitgehend gut: alle Punkte erfüllt bis auf die Verarbeitung, die mit genannten Orten teils außerhalb der EU läuft
- Mit Einschränkungen: einzelne Punkte fehlen oder ein Verarbeitungsort ist nicht genannt
- Kritisch: Speicherung ganz oder teilweise außerhalb der EU und zusätzlich kein AVV oder Training mit Kundendaten, oder drei Punkte nicht erfüllt
„Mit Einschränkungen“ fasst Lücken unterschiedlichen Gewichts zusammen. Welche es sind, nennt die Begründung zum Daumen. Liegt die Speicherung in der EU oder lokal und fehlt nur für einen Teil die Ortsangabe, zählt das nicht als Speicherung außerhalb der EU. Fehlt eine Angabe, gilt der Punkt als nicht erfüllt. Das wirkt auf den ersten Blick streng, für Ihre eigene Datenschutzprüfung zählt jedoch nur, was der Anbieter schriftlich zusagt. Eine Lücke in seinen Unterlagen müssten Sie erst selbst mit ihm klären.
Standardmäßig aktives Training erfüllt den Trainingspunkt auch dann nicht, wenn es sich abschalten lässt, denn bis zum Abschalten können Ihre Daten bereits ins Training fließen.
Läuft die Kernverarbeitung ausschließlich lokal, erhält der Anbieter keine Inhalte. Ein AVV mit ihm entfällt dann, für den Datenschutz ist der Anwender verantwortlich, und Training mit Kundendaten ist ohne eigene Regel des Anbieters ausgeschlossen. Diese Punkte gelten als erfüllt. Nutzen Sie Support, Fernwartung oder Cloud-Funktionen des Anbieters, nennt die Datenschutzseite die nötigen Schritte. Supportzugriffe und optionale Zusatzfunktionen zählen beim Datenstandort nicht zur Kernverarbeitung, sie stehen gesondert auf der Datenschutzseite.
Literatur
- Bisani, M., Ney, H. (2004): Bootstrap estimates for confidence intervals in ASR performance evaluation. ICASSP 2004. Grundlage des Cluster-Bootstraps über Szenarien.
- Gillick, L., Cox, S. J. (1989): Some statistical issues in the comparison of speech recognition algorithms. ICASSP 1989. Gepaarter Vergleich zweier Systeme auf denselben Daten, Grundlage der Scoredifferenz.
- Schenker, N., Gentleman, J. F. (2001): On judging the significance of differences by examining the overlap between confidence intervals. The American Statistician 55(3). Getrennte Intervalle als konservatives Kriterium.
- Morris, A. C., Maier, V., Green, P. (2004): From WER and RIL to MER and WIL. Interspeech 2004. Alternativen zur WER für Transkriptvergleiche.
- Watanabe, S. et al. (2020): CHiME-6 Challenge: Tackling Multispeaker Speech Recognition for Unsegmented Recordings. Definition der cpWER.
- Ryant, N. et al. (2019): The Second DIHARD Diarization Challenge. DER ohne Toleranz und Jaccard Error Rate (JER) für die Sprecherzuordnung.
- Yim, W. et al. (2023): ACI-Bench. Scientific Data 10. Benchmark für Visit Notes aus Arzt-Patienten-Gesprächen, Englisch.
- Ben Abacha, A. et al. (2023): An Empirical Study of Clinical Note Generation from Doctor-Patient Encounters. EACL 2023, MTS-Dialog-Datensatz.
- Dror, R. et al. (2018): The Hitchhiker’s Guide to Testing Statistical Significance in NLP. ACL 2018.
- Koenecke, A. et al. (2024): Careless Whisper: Speech-to-Text Hallucination Harms. ACM FAccT 2024. Erfundene Textpassagen in Whisper-Transkripten, Grundlage des Modellabzugs.
- Barański, M. et al. (2025): Investigation of Whisper ASR Hallucinations Induced by Non-Speech Audio. ICASSP 2025. Erfundene Ausgaben von Whisper large-v3 bei Eingaben ohne Sprache.
- Korn, E. L., Graubard, B. I. (1998): Confidence intervals for proportions with small expected number of positive counts estimated from survey data. Survey Methodology 24(2). Effektiver Stichprobenumfang bei seltenen Ereignissen in Clustern.
- Ridout, M. S., Demétrio, C. G. B., Firth, D. (1999): Estimating intraclass correlation for binary data. Biometrics 55(1), 137–148. Schätzer der Intraklassenkorrelation für binäre Daten, darunter der ANOVA-Schätzer.
- Adams, G., Gulliford, M. C., Ukoumunne, O. C., Eldridge, S., Chinn, S., Campbell, M. J. (2004): Patterns of intra-cluster correlation from primary care research to inform study design and analysis. Journal of Clinical Epidemiology 57(8), 785–794. ICC-Schätzungen derselben Größe streuen zwischen Datensätzen stark, Grundlage der gemeinsamen ICC je Testreihe.
- Donner, A., Klar, N. (1994): Methods for comparing event rates in intervention studies when the unit of allocation is a cluster. American Journal of Epidemiology 140(3), 279–289. Vergleich von Ereignisraten geclusterter Gruppen mit gemeinsamer Intraklassenkorrelation. Ausführlich in Donner, A., Klar, N. (2000): Design and Analysis of Cluster Randomization Trials in Health Research. Arnold, London, ISBN 978-0-340-69153-3.
- Killip, S., Mahfoud, Z., Pearce, K. (2004): What Is an Intracluster Correlation Coefficient? Crucial Concepts for Primary Care Researchers. Annals of Family Medicine 2(3), 204–208. Designeffekt und effektiver Stichprobenumfang bei geclusterten Daten.
- Fong, J. Y., Borsky, M., Helgadóttir, I. R., Gudnason, J. (2018): Manual Post-editing of Automatically Transcribed Speeches from the Icelandic Parliament – Althingi. Eingereicht bei IEEE SLT 2018. Nachbearbeitungszeit in Abhängigkeit von der Editierdistanz, mit einem Regressionswert in Höhe des 2,56-Fachen der Audiodauer bei null Editierdistanz. Grundlage dafür, die einmalige Durchsicht nicht zur Nacharbeit zu zählen.
- Wollin-Giering, S., Hoffmann, M., Höfting, J., Ventzke, C. (2024): Automatic Transcription of English and German Qualitative Interviews. Forum Qualitative Sozialforschung 25(1), Art. 8. Manuelle und werkzeuggestützte Transkription mit getrennt gemessener Durchsicht.
- Sponholz, J., Weilinghoff, A., Schopf, J. (2025): Halving transcription time: A fast, user-friendly and GDPR-compliant workflow to create AI-assisted transcripts for content analysis. arXiv:2503.13031. Gemessene Korrekturzeit KI-gestützter Transkripte von zwölf deutschen Interviews, Plausibilitätsvergleich für die geschätzte Nacharbeit wortgetreuer Transkripte.
- Hodgson, T., Coiera, E. (2016): Risks and benefits of speech recognition for clinical documentation: a systematic review. JAMIA 23(e1). Editier- und Durchlaufzeiten von Spracherkennung gegenüber Diktat mit Schreibdienst.
- Card, S. K., Moran, T. P., Newell, A. (1980): The Keystroke-Level Model for User Performance Time with Interactive Systems. Communications of the ACM 23(7), 396–410. Bedienzeiten für Zeigen, Klicken, Handwechsel und Entscheiden, Grundlage der Zeiten je Arbeitsschritt in der geschätzten Nacharbeit.
- Dhakal, V., Feit, A. M., Kristensson, P. O., Oulasvirta, A. (2018): Observations on Typing from 136 Million Keystrokes. CHI 2018. Mittlere Tippgeschwindigkeit von 51,6 Wörtern je Minute bei 168.000 Personen, Grundlage der Bezugsgrößen für Diktate, Pflegeeinträge und Textausarbeitung und der Tippzeit je Wort in der geschätzten Nacharbeit.
- Vogel, M., Kaisers, W., Wassmuth, R., Mayatepek, E. (2015): Analysis of Documentation Speed Using Web-Based Medical Speech Recognition Technology: Randomized Controlled Trial. Journal of Medical Internet Research 17(11), e247. 173 Zeichen je Minute mit der Tastatur, einschließlich Eingabe, Korrektur und Abschluss. Grundlage der Bezugsgrößen für Arztgespräche, Psychotherapie, Anamnese, Meetings und das pflegerische Aufnahmegespräch.
- Lukac, P. J. et al. (2025): Ambient AI Scribes in Clinical Practice: A Randomized Trial. NEJM AI 2(12). Zeit in der Notiz je Termin vor und nach Einführung zweier KI-Scribes, Vergleichswert zur Bezugsgröße für Arztgespräche.
- Brysbaert, M. (2019): How many words do we read per minute? A review and meta-analysis of reading rate. Journal of Memory and Language 109, 104047. Stilles Lesen von Sachtexten im Mittel mit 238 Wörtern je Minute. Grundlage der Lesezeit bei 230 Wörtern je Minute, die ScribeIndex von den Bezugsgrößen für Arztgespräche, Psychotherapie, Anamnese, Meetings und das pflegerische Aufnahmegespräch abzieht.
- Peyrard, M. et al. (2021): Better than Average: Paired Evaluation of NLP Systems. ACL 2021. Gepaarte Auswertung mehrerer Systeme auf denselben Testfällen.
ACI-Bench und MTS-Dialog bewerten englische Notizen überwiegend mit ROUGE, BERTScore und ähnlichen Textähnlichkeitsmaßen. ScribeIndex misst stattdessen erhaltene und falsche Fakten gegen eine annotierte Referenz, weil Textähnlichkeit eine fehlende Verneinung kaum bestraft.
Aktualisierung und Korrekturen
Produktdaten, Preise und Datenschutzangaben werden fortlaufend geprüft, mindestens einmal pro Quartal. Testreihen werden neu gemessen, wenn ein Korpus erweitert wird oder ein Anbieter eine neue Produkt- oder Modellversion veröffentlicht, Letzteres solange ein regulärer Zugang zum Dienst besteht. Bis zur neuen Messung gilt ein Ergebnis für die Version aus dem angegebenen Testquartal. Jede Ergebniszeile in den Datensätzen nennt Korpus, Testzeitraum und Bewertungsmodell, mit denen sie entstanden ist.
Testquartal und Quellenabruf sind getrennte Angaben. „Abgerufen am“ nennt den Abruf der jeweiligen Quelle. Der Stand einer Seite nennt ihre jüngste inhaltliche Änderung und liegt nie vor dem jüngsten Abruf der Quellen, die sie nennt. Seiten mit Testergebnissen tragen mindestens das Datum der jüngsten Änderung dieser Ergebnisse.
Alle veröffentlichten Scores verwenden Bewertungsmodell 2.2.
Hinweise auf veraltete oder falsche Angaben können Sie über die Kontaktadresse im Impressum senden, auch als Anbieter. ScribeIndex prüft jeden Hinweis und vermerkt jede Korrektur mit Datum. Auf Testablauf und Bewertung haben Anbieter keinen Einfluss.
Protokolle je Kategorie
- Testprotokoll · Sprache zu Text · So prüft ScribeIndex Audiotranskription · Allgemeine Transkription wird an identischen Audiodateien und einer geprüften Referenz bewertet. Das Verfahren berücksichtigt Wortfehler, Sprecher, Aufnahmebedingungen und den Aufwand zur Weiterverwendung.
- Testprotokoll · Diktat und Textausarbeitung · So prüft ScribeIndex Diktiersoftware · Der Test trennt drei Aufgaben. Allgemeines und juristisches Diktat liefern wortnahe Texte. Bei der sprachgestützten Textausarbeitung zählen erhaltene Fakten und korrekt umgesetzte Schreibanweisungen.
- Testprotokoll · Klinische Dokumentation · So prüft ScribeIndex Medical Scribes · Ein Medical Scribe erzeugt aus einem Gespräch einen Dokumentationsentwurf. Das Prüfverfahren bewertet belegte Fakten, unbelegte Ergänzungen und klinisch wichtige Auslassungen getrennt.
- Testprotokoll · Medizinisches Diktat · So prüft ScribeIndex medizinische Spracherkennung · Medizinische Spracherkennung muss Wörter erkennen und ihre klinische Bedeutung erhalten. Das Prüfprotokoll trennt Wortfehler, medizinisch relevante Fehler und die geschätzte Nacharbeit bis zum fertigen Dokument.
- Testprotokoll · Meetings und Protokolle · So prüft ScribeIndex Meetingnotizen und Gesprächsprotokolle · Ein Meetingassistent muss Gesprächsinhalte, Entscheidungen und Aufgaben korrekt auseinanderhalten. Der Test bewertet diese Ebenen getrennt und macht fehlende Zuständigkeiten oder Fristen sichtbar.
- Testprotokoll · Videodateien und Live-Untertitel · So prüft ScribeIndex automatische Untertitel · Der Test trennt zwei Aufgaben. Bei Videodateien zählen Inhalt, zeitliche Abdeckung, Zeilenaufteilung und Lesegeschwindigkeit der exportierten Datei. Bei Live-Untertiteln kommen der Zeitversatz zum Ton beim Publikum und die Stabilität der Anzeige hinzu.