Noa Notes im Test
Ergebnisse aus 2 Testreihen auf deutschsprachigen Korpora. Alle Anbieter einer Aufgabe bearbeiten dieselben Fälle nach demselben Protokoll.
Ergebnisse im Überblick
Im 2. Quartal 2026 erreicht Noa Notes im ScribeIndex-Test „Ärztliche Gesprächsdokumentation“ 75,2 von 100 Punkten (Platz 10 von 11, 48 Gespräche, je 3 Durchläufe) und im Test „Psychotherapeutische Sitzungsdokumentation“ 60,7 Punkte (Platz 10 von 12, 36 Sitzungen, je 3 Durchläufe).
| Aufgabe | ScribeIndex-Score | Platz | Hauptkennzahl | Nacharbeit | Getestet |
|---|---|---|---|---|---|
| Ärztliche Gesprächsdokumentation | Mittelfeld: 75,2 | 10 von 11 | Fakten-F1: 91,0 % | 3,18 min je Gespräch | 2. Quartal 2026 |
| Psychotherapeutische Sitzungsdokumentation | Mittelfeld: 60,7 | 10 von 12 | Fakten-F1: 85,4 % | 9,6 min je Sitzung | 2. Quartal 2026 |
Noa Notes: Ärztliche Gesprächsdokumentation
In der Testreihe „Ärztliche Gesprächsdokumentation“ liegt Noa Notes mit 75,2 Punkten auf Platz 10 von 11, 13,9 Punkte hinter Doctolib Assistent (89,1) und 8,2 Punkte vor QUIXXS (67,0). Hinter Doctolib Assistent bleibt Noa Notes vor allem beim Fakten-F1 (91,0 % gegenüber 95,7 %) zurück. Vor QUIXXS liegt Noa Notes vor allem beim Fakten-F1 (91,0 % gegenüber 87,7 %). Das 95-%-Konfidenzintervall des Fakten-F1 reicht von 89,9 bis 92,1 %. Die Präzision liegt bei 94,8 %, der Recall bei 87,5 %. Zum einmaligen Durchlesen kommen nach Schätzung von ScribeIndex im Schnitt 3,18 Minuten Nacharbeit je Gespräch hinzu, bei einer durchschnittlichen Aufnahmedauer von 12,1 Minuten. 4 von 144 Ausgaben enthielten mindestens einen schwerwiegenden Fehler.
Einordnung: Mittelfeld · ScribeIndex-Score 75,2 / 100 · 95-%-Intervall 68,6–78,7 · Platz 10 von 11
6,2 Punkte unter dem Median des Feldes, aber 8,2 Punkte vor dem schwächsten Dienst. Die Schlussgruppe beginnt erst im untersten Fünftel der Punktespanne.
Fakten-F1 (Platz 10 von 11): 91,0 % · 95-%-Intervall 89,9–92,1 %
Schwächster Wert: 87,7 % · Median (11 Anbieter): 93,1 % · Bester Wert: 95,7 %
Harmonisches Mittel aus Faktenpräzision und Fakten-Recall gegenüber der annotierten Referenz.
Nacharbeit je Gespräch (Platz 10 von 11): 3,18 min · 95-%-Intervall 2,76–3,61 min
Schwächster Wert: 4,34 min · Median (11 Anbieter): 2,34 min · Bester Wert: 1,79 min
Geschätzte Nacharbeit bis zur Zielfassung je Gespräch, bei durchschnittlich 12,1 Minuten Aufnahme. Nicht enthalten ist das einmalige Durchlesen, das auch ein von Hand getipptes Dokument braucht. Auf eine Stunde Aufnahme gerechnet sind das 15,8 Minuten.
Verarbeitungszeit (Median) (Platz 6 von 8): 44,5 s · Niedriger ist besser
Schwächster Wert: 58,6 s · Median (8 Anbieter): 39,0 s · Bester Wert: 24,9 s
Gemessen von „Beenden der Aufnahme“ bis „Vollständiges Dokument verfügbar“. Platz und Vergleichswerte nur unter Diensten derselben Messstrecke.
Dokumente mit schwerwiegendem Fehler (Geteilter Platz 7 von 11, schwächster Wert): 2,8 % · 95-%-Intervall 0,8–9,5 % (Wilson mit Designeffekt) · 4 von 144 abgeschlossenen Ausgaben mit schwerwiegendem Fehler
Schwächster Wert: 2,8 % · Median (11 Anbieter): 2,1 % · Bester Wert: 0,0 %
Ausgaben mit mindestens einem potenziell schwerwiegenden medizinischen Fehler pro abgeschlossener Ausgabe. Bewertet wird jeder Fall nach einer festgelegten Fehlerrubrik. Fehler bei Medikation oder Verneinung zählen hier nur, wenn die Rubrik die betroffene Angabe als potenziell schwerwiegend einstuft. Die Zähler je Fehlerart enthalten auch folgenlose Abweichungen.
So setzt sich der ScribeIndex-Score zusammen
| Teilwert | Punkte | Gewicht | Beitrag |
|---|---|---|---|
| Inhaltsqualität | 70,0 | 60 % | 42,0 |
| Schwerwiegende Fehler | 86,1 | 20 % | 17,2 |
| Korrekturaufwand | 73,3 | 15 % | 11,0 |
| Abschlussquote | 100,0 | 5 % | 5,0 |
| ScribeIndex-Score | 100 % | 75,2 |
Ein Fakten-F1 von 91,00 % liegt 9,00 Prozentpunkte unter einem fehlerfreien Ergebnis. Bei 30 Prozentpunkten Abstand fällt die Inhaltsqualität auf null, hier liegt sie deshalb bei 70,0 von 100 Punkten.
Die Beiträge entstehen aus ungerundeten Teilwerten. Deshalb kann die Summe der angezeigten Werte um 0,1 vom Score abweichen. Bewertungsmodell 2.2. Formel und Skalierung
Testbedingungen
- Korpus: Ärztliche Behandlungsgespräche
- Fälle: 48 Szenarien × 3 Durchläufe
- Abgeschlossen: 144 von 144 Läufen
- Testweg: Live-Gespräch
- Bewertete Ausgabe: Ärztliche Gesprächsdokumentation
- Getestete Version: Noa Notes im Browser, Stand 2. Quartal 2026
- Protokoll und Zeitraum: Version 1.0, getestet im 2. Quartal 2026
Alle Kennzahlen
Noa Notes erreicht im Test „Ärztliche Gesprächsdokumentation“ 75,2 von 100 Punkten. Fakten-F1 91,0 % (95-%-Konfidenzintervall 89,9–92,1 %). Getestet wurden 48 Szenarien mit je 3 Durchläufen, 144 von 144 Läufen wurden abgeschlossen. Korpus de-klinik-v1, Protokoll 1.0, getestet im 2. Quartal 2026.
| Kennzahl | Wert | Zählung und Bedeutung | 95-%-Intervall |
|---|---|---|---|
| ScribeIndex-Score | 75,2 / 100 | Gewichteter Gesamtwert aus Inhaltsqualität, schwerwiegenden Fehlern, Nacharbeit und Abschlussquote, Bewertungsmodell 2.2. | 68,6–78,7 |
| Fakten-F1 | 91,0 % | Erläuterung weiter oben. | 89,9–92,1 |
| Nacharbeit je Gespräch | 3,18 min | Erläuterung weiter oben. | 2,76–3,61 |
| Verarbeitungszeit (Median) | 44,5 s | Erläuterung weiter oben. | – |
| Dokumente mit schwerwiegendem Fehler | 2,8 % | 4 von 144 abgeschlossenen Ausgaben mit schwerwiegendem Fehler. | 0,8–9,5 (Wilson mit Designeffekt) |
| Falsche oder unbelegte Aussagen | 1,6 % | 62 falsche oder unbelegte Aussagen von 3.815 ausgegebenen Aussagen. Ausgegebene Aussagen, die der Referenz widersprechen oder sich weder auf das Gespräch noch auf bereitgestellten Kontext stützen, pro ausgegebener deduplizierter Aussage. Zutreffende, aber nicht dokumentationsrelevante Aussagen zählen getrennt und nicht hier. | 1,1–2,4 (Wilson mit Designeffekt) |
| Fehler bei Fachbegriffen | 6,3 % | 221 fehlerhafte Fachkonzepte von 3.507 Referenzkonzepten. Fachlich falsch wiedergegebene oder ausgelassene medizinische Konzepte pro annotiertem Fachkonzept der Referenz. Synonyme gelten bei gleicher Bedeutung als korrekt. | 5,1–7,7 (Wilson mit Designeffekt) |
| Fehler bei Medikamenten und Dosierungen | 3,9 % | 24 fehlerhafte Medikationsangaben von 621 Referenzangaben zur Medikation. Falsch wiedergegebene oder ausgelassene Angaben zu Wirkstoff, Dosis, Einheit und Einnahme pro annotierter Medikationsangabe. Jede Angabe zählt höchstens einmal. | 2,2–6,7 (Wilson mit Designeffekt) |
| Fehler bei Verneinungen | 2,4 % | 20 fehlerhafte Verneinungen von 822 Referenzaussagen zu Negation oder Bestätigung. Verlorene, hinzugefügte oder umgekehrte Negationen pro Referenzaussage mit verneintem oder ausdrücklich bestätigtem Befund. Eine Aussage zählt höchstens einmal. | 1,3–4,6 (Wilson mit Designeffekt) |
| Fehler bei zeitlichen Angaben | 6,6 % | 62 fehlerhafte zeitliche Angaben von 939 zeitlichen Referenzangaben. Falsch zugeordnete oder ausgelassene Zeitpunkte, Dauern und zeitliche Beziehungen pro annotierter zeitlicher Referenzangabe. | 4,5–9,6 (Wilson mit Designeffekt) |
| Fehler bei der Zuordnung | 4,3 % | 93 fehlerhafte Zuordnungen von 2.166 Referenzfakten mit Quellenzuordnung. Falsche oder ausgelassene Zuordnung von Aussagen zu Patient, behandelnder Person oder Drittperson pro Referenzfakt mit erforderlicher Quellenzuordnung. | 3,1–5,9 (Wilson mit Designeffekt) |
| Faktenpräzision | 94,8 % | 3.618 korrekte relevante Fakten von 3.815 ausgegebenen Fakten. Korrekte relevante Fakten im Verhältnis zu allen deduplizierten ausgegebenen Fakten. | 93,9–95,9 |
| Fakten-Recall | 87,5 % | 3.618 korrekt erhaltene Fakten von 4.137 dokumentationsrelevanten Referenzfakten. Korrekt erhaltene Fakten im Verhältnis zu allen dokumentationsrelevanten Referenzfakten. | 86,0–89,0 |
| Verarbeitungszeit (95. Perzentil) | 120 s | 95 % der erfolgreichen Läufe waren nach dieser Zeit fertig. | – |
| Abschlussquote | 100,0 % | 144 von 144 gestarteten Läufen abgeschlossen. Anteil der Läufe mit verwertbarem Ergebnis. | – |
Verarbeitungszeit
- Median (p50): 44,5 s
- 95. Perzentil (p95): 120 s
- Testweg: Live-Gespräch
- Messstrecke: Von „Beenden der Aufnahme“ bis „Vollständiges Dokument verfügbar“
Über alle abgeschlossenen Läufe, Audio in Echtzeit zugespielt. p95 zeigt die Dauer, die 95 % der Läufe nicht überschreiten. Median und p95 beschreiben die Verteilung der Messwerte und sind kein Konfidenzintervall.
Geschätzte Nacharbeit
- Je Gespräch: 3,18 min (Ø 12,1 min Aufnahme)
- Je Stunde Aufnahme: 15,76 min
- 95-%-Intervall je Stunde: 13,70–17,90 min
- Geschätzte Nacharbeit gesamt: 457,85 min
- Audiodauer aller Ausgaben: 29 h 3 min (29,043 h)
- Ausgaben: 144, alle abgeschlossenen Läufe
Geschätzt aus den gezählten Fehlern aller abgeschlossenen Ausgaben, mit festen Zeiten je Korrekturschritt, die für alle Dienste gleich sind. Die Rate je Stunde ist die Nacharbeit gesamt ÷ Audiostunden und lässt sich aus den angezeigten Minuten und den Stunden in Klammern genau nachrechnen.
Fehler nach Typ
| Fehlertyp | Anzahl | Anteil am häufigsten Fehlertyp | Bedeutung |
|---|---|---|---|
| Nicht erfasste Referenzfakten | 519 (12,5 % der Referenzfakten) | 100 % | Eine erforderliche Angabe aus der Aufnahme fehlt oder ist verfälscht (FN), etwa eine nicht dokumentierte Allergie. Korrekte Umformulierungen zählen als Treffer. |
| Falsche oder unbelegte Aussagen | 62 (1,6 % der ausgegebenen Aussagen) | 12 % | Die Ausgabe enthält eine Angabe, die der Referenz widerspricht oder sich nicht auf die Aufnahme stützt (FP, inhaltlicher Fehler), etwa eine nie genannte Dosis. Eine verfälschte Referenzangabe zählt zugleich hier und als nicht erfasster Referenzfakt. |
| Zutreffende, aber nicht relevante Aussagen | 135 (3,5 % der ausgegebenen Aussagen) | 26 % | Die Angabe stimmt, gehört laut Rubrik aber nicht in das Dokument (FP, nicht relevant), etwa Smalltalk oder wiederholte Begrüßungen. Sie senkt die Präzision, ist aber kein inhaltlicher Fehler. |
Über alle abgeschlossenen Läufe ergab der Faktenabgleich 3.618 korrekt erhaltene Fakten (TP), 197 falsch positive Aussagen (FP), davon 62 falsch oder unbelegt und 135 zutreffend, aber nicht relevant, 519 nicht erfasste Referenzfakten (FN). Fakten-F1 = 2TP ÷ (2TP + FP + FN). Beide FP-Arten senken die Präzision, nur falsche oder unbelegte Aussagen gelten als inhaltlicher Fehler.
Die gelieferte Ausgabe ist eine verdichtete Dokumentation, keine wortnahe Abschrift. Deshalb gibt es keine WER.
Abgeschlossene Läufe: 144 von 144 (100,0 %)
Alle 144 Läufe lieferten ein auswertbares Ergebnis.
Konfiguration im Test
- Produktversion: Noa Notes im Browser, Stand 2. Quartal 2026
- Modellversion: Vom Anbieter nicht ausgewiesen
- Sprache: Deutsch (de-DE)
- Vorlage: ScribeIndex-Vorlage „Sprechstundennotiz“, Version 1.0
- Arbeitsauftrag: Sprechstundendokumentation, Version 1.0
- Eigener Wortschatz: Nicht hinterlegt
- Audioeingang: Aufnahme in der Anwendung über einen virtuellen Mikrofoneingang
- Ausgabesprache: Deutsch (de-DE)
- Fachrichtung: Allgemeinmedizin
- Auswertung: Version 1.0
- Textnormalisierung: Keine, da kein Wortvergleich
- Bewertungsrubrik: clinical-facts-v1, Version 1.0
Korpus, Ausschlüsse und Prüfsummen
Im Rollenspiel geführte Behandlungsgespräche mit zwei bis vier Personen, darunter Erstanamnese, Verlauf, Medikationsbesprechung, Befundbesprechung und kurzes psychiatrisches Erstgespräch. Die Gespräche liegen als unterschiedliche Raum- und Smartphoneaufnahmen vor.
- Korpus: Ärztliche Behandlungsgespräche (
de-klinik-v1, Version 1.0) - Szenarien: 50 aufgenommen, 48 ausgewertet, je 3 Läufe
- Audio gesamt: 9 h 41 min, je Fall 6 min bis 40 min (Median 9 min)
- Sprecher je Fall: 2 bis 4
- Gesprächsform: Erstanamnese (11), Verlaufsgespräch (12), Medikationsbesprechung (8), Befundbesprechung (10), Kurzes psychiatrisches Erstgespräch (7)
- Fachrichtung: Allgemeinmedizin (14), Innere Medizin (10), Pädiatrie (6), Orthopädie (6), Neurologie (5), Psychiatrie (7)
- Aufnahme: Raummikrofon, ruhig (20), Smartphone auf dem Tisch (17), Hintergrundgeräusche (11)
- Sprecherzahl: Zwei Personen (29), Drei Personen (13), Vier Personen (6)
- Audioformate: AAC-LC (M4A), 48 kHz, mono · PCM 24 Bit (WAV), 48 kHz, 2 Kanäle
- Aufbereitung:
- Einspielung der Gesprächsaufnahme in Echtzeit über einen virtuellen Mikrofoneingang mit −20 dBFS RMS
- Referenz: Version 1.0: 71.893 Wörter, 469.914 Zeichen, 1.379 Referenzfakten
- Annotierte Einheiten: Annotierte medizinische Fachkonzepte 1.169 · Medikationsangaben (Wirkstoff, Dosis, Einheit, Einnahme) 207 · Verneinte oder ausdrücklich bestätigte Befunde 274 · Zeitliche Referenzangaben 313 · Fakten mit erforderlicher Quellenzuordnung 722
- Referenzprüfung: Atomare Fakten und Relevanzmenge werden mit der Gesprächsvorlage festgelegt und nach der Aufnahme am Gesprochenen bestätigt. Unklare Stellen prüft eine Fachperson, danach wird die Referenz eingefroren. Rubrik clinical-facts-v1, Version 1.0.
- Zeitraum der Testreihe: 2. und 3. Quartal 2026 für alle Dienste, Korpus vor dem ersten Lauf eingefroren
- Ausgeschlossen:
klinik-016: Einwilligung zur Nutzung der Aufnahme vor Testbeginn widerrufen.klinik-033: Relevanzmenge auch nach fachlicher Durchsicht nicht eindeutig festlegbar.
- SHA-256 Manifest:
07e4ff2bb9cb21c1b350d732b5e593f4f1830354a230c75954136f03552f7ba5 - SHA-256 Referenz:
9ddba13742d943cd28b478c231a53d71ed064e1ba7681896e21faedfe2bb2207
Unsicherheit und Berechnung
- Verfahren: Gepaarter Cluster-Bootstrap, Konfidenzniveau 95 %, Perzentilintervall. Anteile aus Zählern erhalten ein Wilson-Intervall mit Designeffekt. Für das Score-Intervall wird der Anteil schwerwiegender Fehler je Dienst aus einer Beta-Verteilung gezogen.
- Cluster: 48 Cluster, Einheit Szenario. Alle Läufe eines Szenarios bleiben im selben Cluster.
- Wiederholungen: 2.000 Bootstrap-Stichproben, Seed 2234884632
- Aggregation: Zähler aller abgeschlossenen Läufe werden gepoolt. Kennzahlen entstehen aus Summen, nicht aus Mittelwerten je Fall.
- Gepaarte Stichprobe: Alle Anbieter dieses Korpus nutzen dieselben Bootstrap-Stichproben. SHA-256 der Ziehungsliste:
f630f8568c719864793b7aacf8e58f4627c6b7bdcdf5f3730abfda50ad6bfb37 - Fakten: Präzision = TP ÷ (TP + FP) = 94,8 %. Recall = TP ÷ (TP + FN) = 87,5 %. F1 = 2TP ÷ (2TP + FP + FN) = 91,0 % (95-%-Intervall 89,9–92,1 %).
- ScribeIndex-Score: 95-%-Intervall 68,6–78,7 Punkte, je Bootstrap-Stichprobe aus dem vollständigen Score neu berechnet. Wie das Score-Intervall entsteht
Rangliste Ärztliche Gesprächsdokumentation
Sortiert nach ScribeIndex-Score.
- Platz 1: Doctolib Assistent im Test 89,1
- Platz 2: Tippiti im Test 86,9
- Platz 3: GoSpeech Medical im Test 84,9
- Platz 4: Dragon Copilot im Test 83,0
- Platz 5: Heidi im Test 81,9
- Platz 6: HealthJet im Test 81,4
- Platz 7: Idana Flow im Test 80,8
- Platz 8: SpeechLive Health im Test 80,0
- Platz 9: Tandem Health im Test 79,3
- Platz 10: Noa Notes 75,2
- Platz 11: QUIXXS im Test 67,0
Noa Notes: Psychotherapeutische Sitzungsdokumentation
In der Testreihe „Psychotherapeutische Sitzungsdokumentation“ liegt Noa Notes mit 60,7 Punkten auf Platz 10 von 12, 17,4 Punkte hinter VIA HealthTech (78,1) und 1,2 Punkte vor Heidi (59,5). Hinter VIA HealthTech bleibt Noa Notes vor allem beim Fakten-F1 (85,4 % gegenüber 92,6 %) zurück. Vor Heidi liegt Noa Notes vor allem bei den schwerwiegenden Fehlern (in 1 von 106 Dokumenten gegenüber 4 von 108). Heidi liegt dafür beim Fakten-F1 (86,0 % gegenüber 85,4 %) vorn. Das 95-%-Konfidenzintervall des Fakten-F1 reicht von 83,9 bis 87,0 %. Die Präzision liegt bei 89,5 %, der Recall bei 81,7 %. Zum einmaligen Durchlesen kommen nach Schätzung von ScribeIndex im Schnitt 9,6 Minuten Nacharbeit je Sitzung hinzu, bei einer durchschnittlichen Aufnahmedauer von 48,0 Minuten.
Einordnung: Mittelfeld · ScribeIndex-Score 60,7 / 100 · 95-%-Intervall 53,9–64,9 · Platz 10 von 12
10,6 Punkte unter dem Median des Feldes, aber 5,2 Punkte vor dem schwächsten Dienst. Die Schlussgruppe beginnt erst im untersten Fünftel der Punktespanne.
Fakten-F1 (Platz 11 von 12): 85,4 % · 95-%-Intervall 83,9–87,0 %
Schwächster Wert: 84,7 % · Median (12 Anbieter): 89,3 % · Bester Wert: 92,6 %
Nacharbeit je Sitzung (Platz 11 von 12): 9,6 min · 95-%-Intervall 8,6–10,6 min
Schwächster Wert: 9,7 min · Median (12 Anbieter): 7,2 min · Bester Wert: 4,6 min
Geschätzte Nacharbeit bis zur Zielfassung je Sitzung, bei durchschnittlich 48,0 Minuten Aufnahme. Auf eine Stunde Aufnahme gerechnet sind das 12,0 Minuten.
Verarbeitungszeit (Median) (Platz 5 von 7): 70,8 s · Niedriger ist besser
Schwächster Wert: 79,2 s · Median (7 Anbieter): 58,3 s · Bester Wert: 39,6 s
Dokumente mit schwerwiegendem Fehler (Geteilter Platz 4 von 12): 0,9 % · 95-%-Intervall 0,1–8,3 % (Wilson mit Designeffekt) · 1 von 106 abgeschlossenen Ausgaben mit schwerwiegendem Fehler
Schwächster Wert: 6,5 % · Median (12 Anbieter): 2,8 % · Bester Wert: 0,0 %
So setzt sich der ScribeIndex-Score zusammen
| Teilwert | Punkte | Gewicht | Beitrag |
|---|---|---|---|
| Inhaltsqualität | 51,3 | 60 % | 30,8 |
| Schwerwiegende Fehler | 95,3 | 20 % | 19,0 |
| Korrekturaufwand | 39,8 | 15 % | 6,0 |
| Abschlussquote | 98,1 | 5 % | 4,9 |
| ScribeIndex-Score | 100 % | 60,7 |
Ein Fakten-F1 von 85,40 % liegt 14,60 Prozentpunkte unter einem fehlerfreien Ergebnis. Bei 30 Prozentpunkten Abstand fällt die Inhaltsqualität auf null, hier liegt sie deshalb bei 51,3 von 100 Punkten.
Die Beiträge entstehen aus ungerundeten Teilwerten. Deshalb kann die Summe der angezeigten Werte um 0,1 vom Score abweichen. Bewertungsmodell 2.2. Formel und Skalierung
Testbedingungen
- Korpus: Psychotherapeutische Sitzungen
- Fälle: 36 Szenarien × 3 Durchläufe
- Abgeschlossen: 106 von 108 Läufen
- Testweg: Live-Gespräch
- Bewertete Ausgabe: Psychotherapeutische Sitzungsdokumentation
- Getestete Version: Noa Notes im Browser, Sitzungsdokumentation, Stand 2. Quartal 2026
- Protokoll und Zeitraum: Version 1.0, getestet im 2. Quartal 2026
Alle Kennzahlen
Noa Notes erreicht im Test „Psychotherapeutische Sitzungsdokumentation“ 60,7 von 100 Punkten. Fakten-F1 85,4 % (95-%-Konfidenzintervall 83,9–87,0 %). Getestet wurden 36 Szenarien mit je 3 Durchläufen, 106 von 108 Läufen wurden abgeschlossen. Korpus de-therapie-v1, Protokoll 1.0, getestet im 2. Quartal 2026.
| Kennzahl | Wert | Zählung und Bedeutung | 95-%-Intervall |
|---|---|---|---|
| ScribeIndex-Score | 60,7 / 100 | Gewichteter Gesamtwert aus Inhaltsqualität, schwerwiegenden Fehlern, Nacharbeit und Abschlussquote, Bewertungsmodell 2.2. | 53,9–64,9 |
| Fakten-F1 | 85,4 % | Erläuterung weiter oben. | 83,9–87,0 |
| Nacharbeit je Sitzung | 9,6 min | Erläuterung weiter oben. | 8,6–10,6 |
| Verarbeitungszeit (Median) | 70,8 s | Erläuterung weiter oben. | – |
| Dokumente mit schwerwiegendem Fehler | 0,9 % | 1 von 106 abgeschlossenen Ausgaben mit schwerwiegendem Fehler. | 0,1–8,3 (Wilson mit Designeffekt) |
| Falsche oder unbelegte Aussagen | 3,6 % | 106 falsche oder unbelegte Aussagen von 2.979 ausgegebenen Aussagen. | 2,7–4,7 (Wilson mit Designeffekt) |
| Fehler bei Fachbegriffen | 6,7 % | 78 fehlerhafte Fachkonzepte von 1.168 Referenzkonzepten. | 4,8–9,3 (Wilson mit Designeffekt) |
| Fehler bei Medikamenten und Dosierungen | 5,4 % | 4 fehlerhafte Medikationsangaben von 74 Referenzangaben zur Medikation. | 1,4–18,5 (Wilson mit Designeffekt) |
| Fehler bei Verneinungen | 5,5 % | 23 fehlerhafte Verneinungen von 422 Referenzaussagen zu Negation oder Bestätigung. | 2,9–10,2 (Wilson mit Designeffekt) |
| Fehler bei zeitlichen Angaben | 7,4 % | 70 fehlerhafte zeitliche Angaben von 950 zeitlichen Referenzangaben. | 5,2–10,4 (Wilson mit Designeffekt) |
| Fehler bei der Zuordnung | 5,3 % | 99 fehlerhafte Zuordnungen von 1.871 Referenzfakten mit Quellenzuordnung. | 3,9–7,2 (Wilson mit Designeffekt) |
| Fehler bei Risikohinweisen | 12,9 % | 22 fehlerhafte Risikohinweise von 171 risikorelevanten Referenzaussagen. Ausgelassene, hinzugefügte oder falsch eingeordnete Aussagen zu Selbstgefährdung und Schutzfaktoren pro annotierter risikorelevanter Referenzaussage. Bewertet wird anhand des Gesprächs nach einer festgelegten Rubrik. | 6,9–22,6 (Wilson mit Designeffekt) |
| Faktenpräzision | 89,5 % | 2.665 korrekte relevante Fakten von 2.979 ausgegebenen Fakten. | 87,5–91,3 |
| Fakten-Recall | 81,7 % | 2.665 korrekt erhaltene Fakten von 3.262 dokumentationsrelevanten Referenzfakten. | 79,6–83,8 |
| Verarbeitungszeit (95. Perzentil) | 204 s | Erläuterung weiter oben. | – |
| Abschlussquote | 98,1 % | 106 von 108 gestarteten Läufen abgeschlossen. | – |
Verarbeitungszeit
- Median (p50): 70,8 s
- 95. Perzentil (p95): 204 s
- Testweg: Live-Gespräch
- Messstrecke: Von „Beenden der Aufnahme“ bis „Vollständiges Dokument verfügbar“
Über alle abgeschlossenen Läufe, Audio in Echtzeit zugespielt. p95 zeigt die Dauer, die 95 % der Läufe nicht überschreiten. Median und p95 beschreiben die Verteilung der Messwerte und sind kein Konfidenzintervall.
Geschätzte Nacharbeit
- Je Sitzung: 9,6 min (Ø 48,0 min Aufnahme)
- Je Stunde Aufnahme: 12,04 min
- 95-%-Intervall je Stunde: 10,76–13,24 min
- Geschätzte Nacharbeit gesamt: 1.020,08 min
- Audiodauer aller Ausgaben: 84 h 43 min (84,723 h)
- Ausgaben: 106, alle abgeschlossenen Läufe
Geschätzt aus den gezählten Fehlern aller abgeschlossenen Ausgaben, mit festen Zeiten je Korrekturschritt, die für alle Dienste gleich sind. Die Rate je Stunde ist die Nacharbeit gesamt ÷ Audiostunden und lässt sich aus den angezeigten Minuten und den Stunden in Klammern genau nachrechnen.
Fehler nach Typ
| Fehlertyp | Anzahl | Anteil am häufigsten Fehlertyp | Bedeutung |
|---|---|---|---|
| Nicht erfasste Referenzfakten | 597 (18,3 % der Referenzfakten) | 100 % | Eine erforderliche Angabe aus der Aufnahme fehlt oder ist verfälscht (FN), etwa eine nicht dokumentierte Vereinbarung für die nächste Sitzung. Korrekte Umformulierungen zählen als Treffer. |
| Falsche oder unbelegte Aussagen | 106 (3,6 % der ausgegebenen Aussagen) | 18 % | Die Ausgabe enthält eine Angabe, die der Referenz widerspricht oder sich nicht auf die Aufnahme stützt (FP, inhaltlicher Fehler), etwa eine nie angewandte Intervention. Eine verfälschte Referenzangabe zählt zugleich hier und als nicht erfasster Referenzfakt. |
| Zutreffende, aber nicht relevante Aussagen | 208 (7,0 % der ausgegebenen Aussagen) | 35 % | Die Angabe stimmt, gehört laut Rubrik aber nicht in das Dokument (FP, nicht relevant), etwa Smalltalk oder wiederholte Begrüßungen. Sie senkt die Präzision, ist aber kein inhaltlicher Fehler. |
Über alle abgeschlossenen Läufe ergab der Faktenabgleich 2.665 korrekt erhaltene Fakten (TP), 314 falsch positive Aussagen (FP), davon 106 falsch oder unbelegt und 208 zutreffend, aber nicht relevant, 597 nicht erfasste Referenzfakten (FN). Fakten-F1 = 2TP ÷ (2TP + FP + FN). Beide FP-Arten senken die Präzision, nur falsche oder unbelegte Aussagen gelten als inhaltlicher Fehler.
Die gelieferte Ausgabe ist eine therapeutische Sitzungsnotiz. Bewertet werden dokumentationsrelevante Fakten und ihre Zuordnung, nicht die Wortfolge des Gesprächs.
Abgeschlossene Läufe: 106 von 108 (98,1 %)
| Szenario | Lauf | Grund |
|---|---|---|
therapie-011 | 3 | Aufnahme nach App-Unterbrechung verworfen |
therapie-014 | 3 | Aufnahme nach App-Unterbrechung verworfen |
Abgebrochene Läufe zählen in keinem Nenner der Qualitätskennzahlen. Sie stehen nur im Nenner der Abschlussquote und senken so den ScribeIndex-Score. Abgebrochene Läufe wiederholt ScribeIndex nicht. Die Zeitlimits stehen in der Methodik unter Laufzeit, Ausfälle und Nacharbeit.
Konfiguration im Test
- Produktversion: Noa Notes im Browser, Sitzungsdokumentation, Stand 2. Quartal 2026
- Modellversion: Vom Anbieter nicht ausgewiesen
- Sprache: Deutsch (de-DE)
- Vorlage: ScribeIndex-Vorlage „Therapieverlauf“, Version 1.0
- Arbeitsauftrag: Therapiedokumentation, Version 1.0
- Eigener Wortschatz: Nicht hinterlegt
- Audioeingang: Aufnahme in der Anwendung über einen virtuellen Mikrofoneingang
- Ausgabesprache: Deutsch (de-DE)
- Fachrichtung: Psychotherapie
- Auswertung: Version 1.0
- Textnormalisierung: Keine, da kein Wortvergleich
- Bewertungsrubrik: clinical-facts-v1, Version 1.0
Korpus, Ausschlüsse und Prüfsummen
Im Rollenspiel geführte Therapiesitzungen aus Verhaltenstherapie, tiefenpsychologisch fundierter Therapie und systemischen Paar- oder Familiengesprächen. 17 der 36 Sitzungen enthalten Aussagen zu Selbstgefährdung oder Schutzfaktoren.
- Korpus: Psychotherapeutische Sitzungen (
de-therapie-v1, Version 1.0) - Szenarien: 36 aufgenommen, 36 ausgewertet, je 3 Läufe
- Audio gesamt: 28 h 47 min, je Fall 37 min bis 59 min (Median 47 min)
- Sprecher je Fall: 2 bis 4
- Verfahren: Verhaltenstherapie (15), Tiefenpsychologisch fundiert (12), Systemisch (Paar oder Familie) (5), Erstgespräch und Probatorik (4)
- Risikoinhalt: Mit Risikoaussagen (17), Ohne Risikoaussagen (19)
- Audioformate: PCM 24 Bit (WAV), 48 kHz, mono
- Aufbereitung:
- Einspielung der Gesprächsaufnahme in Echtzeit über einen virtuellen Mikrofoneingang mit −20 dBFS RMS
- Referenz: Version 1.0: 185.226 Wörter, 1.162.943 Zeichen, 1.108 Referenzfakten
- Annotierte Einheiten: Annotierte medizinische Fachkonzepte 395 · Medikationsangaben (Wirkstoff, Dosis, Einheit, Einnahme) 25 · Verneinte oder ausdrücklich bestätigte Befunde 145 · Zeitliche Referenzangaben 323 · Fakten mit erforderlicher Quellenzuordnung 636 · Risikorelevante Referenzaussagen 57
- Referenzprüfung: Dokumentationsrelevante Fakten und Risikoaussagen werden mit der Gesprächsvorlage festgelegt und nach der Aufnahme am Gesprochenen bestätigt. Risikoaussagen prüft immer eine Fachperson. Rubrik clinical-facts-v1, Version 1.0.
- Zeitraum der Testreihe: 2. und 3. Quartal 2026 für alle Dienste, Korpus vor dem ersten Lauf eingefroren
- SHA-256 Manifest:
62780a1c05eb9562aa4bdbee3b73aedcf448ce0e8e6ba5fd85d7e17baa3b4bd8 - SHA-256 Referenz:
62c50ae99e53e02e016470714f0a6524d90a92407fe393d48adae95f19a8ee2a
Unsicherheit und Berechnung
- Verfahren: Gepaarter Cluster-Bootstrap, Konfidenzniveau 95 %, Perzentilintervall. Anteile aus Zählern erhalten ein Wilson-Intervall mit Designeffekt. Für das Score-Intervall wird der Anteil schwerwiegender Fehler je Dienst aus einer Beta-Verteilung gezogen.
- Cluster: 36 Cluster, Einheit Szenario. Alle Läufe eines Szenarios bleiben im selben Cluster.
- Wiederholungen: 2.000 Bootstrap-Stichproben, Seed 3733937332
- Aggregation: Zähler aller abgeschlossenen Läufe werden gepoolt. Kennzahlen entstehen aus Summen, nicht aus Mittelwerten je Fall.
- Gepaarte Stichprobe: Alle Anbieter dieses Korpus nutzen dieselben Bootstrap-Stichproben. SHA-256 der Ziehungsliste:
0c35a46bc36056c43d2f55385441679c130a0d1ef5bcb7bd6cb2f19411cef23a - Fakten: Präzision = TP ÷ (TP + FP) = 89,5 %. Recall = TP ÷ (TP + FN) = 81,7 %. F1 = 2TP ÷ (2TP + FP + FN) = 85,4 % (95-%-Intervall 83,9–87,0 %).
- ScribeIndex-Score: 95-%-Intervall 53,9–64,9 Punkte, je Bootstrap-Stichprobe aus dem vollständigen Score neu berechnet. Wie das Score-Intervall entsteht
Rangliste Psychotherapeutische Sitzungsdokumentation
Sortiert nach ScribeIndex-Score.
- Platz 1: VIA HealthTech im Test 78,1
- Platz 2: Psynex im Test 77,2
- Platz 3: DokuDachs im Test 75,9
- Platz 4: iptas im Test 74,9
- Platz 5: LumaNote im Test 72,8
- Platz 6: PlaynVoice im Test 71,7
- Platz 7: Clara Health im Test 70,9
- Platz 8: Tandem Health im Test 65,1
- Platz 9: HealthJet im Test 63,8
- Platz 10: Noa Notes 60,7
- Platz 11: Heidi im Test 59,5
- Platz 12: Upheal im Test 55,5
Daten zu dieser Seite
Maschinenlesbar mit Zählern, Nennern und Intervallen. Frei nutzbar mit Quellenangabe. Zitierweise und Lizenz
So testet ScribeIndex
Jede Testreihe nutzt einen festen deutschsprachigen Korpus mit geprüften, vor dem ersten Lauf eingefrorenen Referenzen. Bewertet wird automatisch nach festen Regeln, unklare Zuordnungen werden anhand der Aufnahme fachlich geprüft. Jeder Fall läuft zwei- bis dreimal. Die Konfidenzintervalle von Score, Hauptkennzahl und weiteren Fehlerraten stammen aus einem gepaarten Bootstrap über die Szenarien, sodass alle Anbieter auf denselben Stichproben verglichen werden. Anteile aus Zählern erhalten ein Wilson-Intervall mit Designeffekt. Der ScribeIndex-Score ist ein gewichteter Gesamtwert aus Inhaltsqualität, schwerwiegenden Fehlern, Nacharbeit und Abschlussquote. Die Rangliste ordnet nach diesem Punktwert.
Für das Score-Intervall wird in jeder Bootstrap-Stichprobe der vollständige Score mit den Gewichten des Bewertungsmodells neu berechnet. Weil alle Dienste einer Testreihe dieselben Stichproben nutzen, lassen sich auch Scoredifferenzen gepaart auswerten. In Testreihen, deren Score schwerwiegende Fehler enthält, gilt das für den Teilwert „Schwerwiegende Fehler“ nicht. Der Anteil schwerwiegender Fehler wird je Dienst unabhängig aus einer Beta-Verteilung mit effektivem Stichprobenumfang gezogen, weil der Bootstrap bei null oder wenigen Ereignissen kaum streut. Der gemeinsame Einfluss schwieriger Aufnahmen hebt sich in den gepaarten Scoredifferenzen deshalb nicht auf, die Differenzintervalle werden breiter. Bei null oder wenigen schwerwiegenden Fehlern reicht das Score-Intervall vor allem nach unten, weil eine Stichprobe dieser Größe seltene Fehler übersehen haben kann.