Notta im Test
Ergebnisse aus 2 Testreihen auf deutschsprachigen Korpora. Alle Anbieter einer Aufgabe bearbeiten dieselben Fälle nach demselben Protokoll.
Ergebnisse im Überblick
Im 3. Quartal 2026 erreicht Notta im ScribeIndex-Test „Audiotranskription“ 55,6 von 100 Punkten (Platz 9 von 9, 44 Aufnahmen, je 3 Durchläufe) und im Test „Meeting-Scribes“ 46,7 Punkte (Platz 14 von 14, 38 Besprechungen, je 2 Durchläufe).
| Aufgabe | ScribeIndex-Score | Platz | Hauptkennzahl | Nacharbeit | Getestet |
|---|---|---|---|---|---|
| Audiotranskription | Schlussgruppe: 55,6 | 9 von 9 | Wortfehlerrate: 11,9 % | 61,5 min je Aufnahme | 3. Quartal 2026 |
| Meeting-Scribes | Schlussgruppe: 46,7 | 14 von 14 | Fakten-F1: 81,8 % | 12,5 min je Besprechung | 3. Quartal 2026 |
Notta: Audiotranskription
In der Testreihe „Audiotranskription“ liegt Notta mit 55,6 Punkten auf Platz 9 von 9, 20,0 Punkte hinter MAXQDA Transcription (75,6) und 2,7 Punkte hinter f4 (58,3). Hinter MAXQDA Transcription bleibt Notta vor allem bei der Wortfehlerrate (11,9 % gegenüber 6,5 %) und bei der Sprecherzuordnung (DER, 16,7 % gegenüber 8,6 %) zurück. Hinter f4 bleibt Notta vor allem bei der Sprecherzuordnung (DER, 16,7 % gegenüber 15,3 %) und bei der Wortfehlerrate (11,9 % gegenüber 11,3 %) zurück. Zum einmaligen Abhören kommen nach Schätzung von ScribeIndex im Schnitt 61,5 Minuten Nacharbeit je Aufnahme hinzu, bei einer durchschnittlichen Aufnahmedauer von 30,2 Minuten.
Einordnung: Schlussgruppe · ScribeIndex-Score 55,6 / 100 · 95-%-Intervall 52,2–58,6 · Platz 9 von 9
5,8 Punkte unter dem Median des Feldes und im untersten Fünftel der Punktespanne.
Wortfehlerrate (WER) (Platz 9 von 9): 11,9 % · 95-%-Intervall 11,0–12,8 % · 66.468 Wortfehler von 560.474 Referenzwörtern
Schwächster Wert: 11,9 % · Median (9 Anbieter): 9,8 % · Bester Wert: 6,5 %
Ersetzungen, Auslassungen und Einfügungen je Referenzwort nach Normalisierung.
Nacharbeit je Aufnahme (Platz 9 von 9): 61,5 min · 95-%-Intervall 57,8–65,6 min
Schwächster Wert: 61,5 min · Median (9 Anbieter): 51,9 min · Bester Wert: 36,2 min
Geschätzte Nacharbeit bis zur Zielfassung je Aufnahme, bei durchschnittlich 30,2 Minuten Aufnahme. Nicht enthalten ist das einmalige Abhören der Aufnahme, das auch ein von Hand getipptes Transkript braucht. Auf eine Stunde Aufnahme gerechnet sind das 122,2 Minuten.
Verarbeitungszeit (Median) (Platz 5 von 8): 408 s · Niedriger ist besser
Schwächster Wert: 1.443 s · Median (8 Anbieter): 400 s · Bester Wert: 292 s
Gemessen von „Uploadstart“ bis „Vollständiger Export verfügbar“. Platz und Vergleichswerte nur unter Diensten derselben Messstrecke.
So setzt sich der ScribeIndex-Score zusammen
| Teilwert | Punkte | Gewicht | Beitrag |
|---|---|---|---|
| Inhaltsqualität | 55,6 | 75 % | 41,7 |
| Korrekturaufwand | 44,5 | 20 % | 8,9 |
| Abschlussquote | 99,2 | 5 % | 5,0 |
| ScribeIndex-Score | 100 % | 55,6 |
Die Qualitätsformel besteht zu 70 % aus der Erkennung (100 minus WER) mit 88,1 Punkten und zu 30 % aus der Sprecherzuordnung (100 minus DER) mit 83,3 Punkten. Sie ergibt 86,69 von 100, also 13,31 Punkte weniger als ein fehlerfreies Ergebnis. Bei 30 Punkten Abstand fällt die Inhaltsqualität auf null, hier liegt sie deshalb bei 55,6 von 100 Punkten.
Die Beiträge entstehen aus ungerundeten Teilwerten. Deshalb kann die Summe der angezeigten Werte um 0,1 vom Score abweichen. Bewertungsmodell 2.2. Formel und Skalierung
Testbedingungen
- Korpus: Allgemeine deutschsprachige Audioaufnahmen
- Fälle: 44 Szenarien × 3 Durchläufe
- Abgeschlossen: 131 von 132 Läufen
- Testweg: Datei-Upload
- Bewertete Ausgabe: Wortnahes Transkript
- Getestete Version: Web-App, Stand 3. Quartal 2026
- Protokoll und Zeitraum: Version 1.0, getestet im 3. Quartal 2026
Alle Kennzahlen
Notta erreicht im Test „Audiotranskription“ 55,6 von 100 Punkten. Wortfehlerrate (WER) 11,9 % (95-%-Konfidenzintervall 11,0–12,8 %). Getestet wurden 44 Szenarien mit je 3 Durchläufen, 131 von 132 Läufen wurden abgeschlossen. Korpus de-audio-v1, Protokoll 1.0, getestet im 3. Quartal 2026.
| Kennzahl | Wert | Zählung und Bedeutung | 95-%-Intervall |
|---|---|---|---|
| ScribeIndex-Score | 55,6 / 100 | Gewichteter Gesamtwert aus Inhaltsqualität, Nacharbeit und Abschlussquote, Bewertungsmodell 2.2. | 52,2–58,6 |
| Wortfehlerrate (WER) | 11,9 % | 66.468 Wortfehler von 560.474 Referenzwörtern. | 11,0–12,8 |
| Nacharbeit je Aufnahme | 61,5 min | Erläuterung weiter oben. | 57,8–65,6 |
| Verarbeitungszeit (Median) | 408 s | Erläuterung weiter oben. | – |
| Zeichenfehlerrate · CER | 4,3 % | 153.436 Zeichenabweichungen von 3.590.965 Referenzzeichen. Zeichenabweichungen pro Referenzzeichen nach NFC-Normalisierung, einheitlicher Groß- und Kleinschreibung, entfernten Satzzeichen und zu einem Leerzeichen zusammengefasstem Leerraum. Leerzeichen zählen als Zeichen. | 4,0–4,6 |
| Diarisierungsfehlerrate · DER | 16,7 % | 37.243,0 s nicht oder falsch zugeordnete Sprechzeit von 222.863 s Referenzsprechzeit. Verpasste Sprache, fälschlich erkannte Sprache und falsch zugeordnete Sprecherzeit pro Referenzsprechzeit. Toleranz 250 ms um Referenzgrenzen, überlappende Sprache eingeschlossen. Liefert ein Dienst Sprecherkennungen ohne eigene Zeitmarken, bestimmt ScribeIndex die Zeitmarken durch erzwungene Ausrichtung (Forced Alignment) des gelieferten Texts an der Aufnahme. Die DER berechnet ScribeIndex daraus wie bei allen anderen Diensten, mit verpasster und fälschlich erkannter Sprache und Fehlern an Segmentgrenzen. | 15,4–18,2 |
| DER ohne Toleranz | 22,2 % | 49.497,5 s nicht oder falsch zugeordnete Sprechzeit von 222.863 s Referenzsprechzeit. Diarisierungsfehlerrate wie DER, jedoch ohne Toleranzbereich um Referenzgrenzen. Die Differenz zur DER zeigt den Anteil der Fehler an Segmentgrenzen. | 20,3–24,3 |
| Verarbeitungszeit (95. Perzentil) | 1.438 s | 95 % der erfolgreichen Läufe waren nach dieser Zeit fertig. | – |
| Abschlussquote | 99,2 % | 131 von 132 gestarteten Läufen abgeschlossen. Anteil der Läufe mit verwertbarem Ergebnis. | – |
Verarbeitungszeit
- Median (p50): 408 s
- 95. Perzentil (p95): 1.438 s
- Testweg: Datei-Upload
- Messstrecke: Von „Uploadstart“ bis „Vollständiger Export verfügbar“
Über alle abgeschlossenen Läufe. p95 zeigt die Dauer, die 95 % der Läufe nicht überschreiten. Median und p95 beschreiben die Verteilung der Messwerte und sind kein Konfidenzintervall.
Geschätzte Nacharbeit
- Je Aufnahme: 61,5 min (Ø 30,2 min Aufnahme)
- Je Stunde Aufnahme: 122,17 min
- 95-%-Intervall je Stunde: 114,80–130,36 min
- Geschätzte Nacharbeit gesamt: 8.054,60 min
- Audiodauer aller Ausgaben: 65 h 56 min (65,930 h)
- Ausgaben: 131, alle abgeschlossenen Läufe
Geschätzt aus den gezählten Fehlern aller abgeschlossenen Ausgaben, mit festen Zeiten je Korrekturschritt, die für alle Dienste gleich sind. Die Rate je Stunde ist die Nacharbeit gesamt ÷ Audiostunden und lässt sich aus den angezeigten Minuten und den Stunden in Klammern genau nachrechnen.
Wortvergleich
WER: Vergleichbar- Wortfehlerrate (WER): 11,9 % · 95-%-Intervall 11,0–12,8 %
- Ersetzungen (S): 38.999
- Auslassungen (D): 21.008
- Einfügungen (I): 6.461
- Referenzwörter (N): 560.474
- Zeichenfehlerrate (CER): 4,3 %
WER wird aus der gelieferten wortnahen Transkriptausgabe gegen die normalisierte Referenz berechnet. WER = (S + D + I) ÷ N × 100, gezählt über alle abgeschlossenen Läufe.
Fehler nach Typ
| Fehlertyp | Anzahl | Anteil am häufigsten Fehlertyp | Bedeutung |
|---|---|---|---|
| Ersetzungen | 38.999 (7,0 % der Referenzwörter) | 100 % | Ein Referenzwort wird durch ein anderes Wort ersetzt (S), etwa „heute“ statt „morgen“. |
| Auslassungen | 21.008 (3,7 % der Referenzwörter) | 54 % | Ein Referenzwort fehlt in der Ausgabe (D), etwa „seit“ statt „seit gestern“. Gezählt werden Wörter, nicht fehlende Inhalte. |
| Einfügungen | 6.461 (1,2 % der Referenzwörter) | 17 % | Die Ausgabe enthält ein Wort, das in der Referenz nicht vorkommt (I). |
Gezählt werden Wörter nach Normalisierung über alle abgeschlossenen Läufe.
Abgeschlossene Läufe: 131 von 132 (99,2 %)
| Szenario | Lauf | Grund |
|---|---|---|
audio-001 | 3 | Upload mit Serverfehler abgebrochen, Wiederholung laut Protokoll nicht zulässig |
Abgebrochene Läufe zählen in keinem Nenner der Qualitätskennzahlen. Sie stehen nur im Nenner der Abschlussquote und senken so den ScribeIndex-Score. Abgebrochene Läufe wiederholt ScribeIndex nicht. Die Zeitlimits stehen in der Methodik unter Laufzeit, Ausfälle und Nacharbeit.
Konfiguration im Test
- Produktversion: Web-App, Stand 3. Quartal 2026
- Modellversion: Vom Anbieter nicht ausgewiesen
- Sprache: Deutsch (de-DE)
- Vorlage: Keine Dokumentvorlage, nur der Arbeitsauftrag
- Arbeitsauftrag: Wortgetreues Transkript, Version 1.0
- Eigener Wortschatz: Nicht hinterlegt
- Audioeingang: Dateiupload im Browser
- Sprechererkennung: Ja
- Einträge im eigenen Wortschatz: 0
- KI-Notizen: Nein
- Auswertung: Version 1.0
- Textnormalisierung: de-allg-wer, Version 1.0
- Bewertungsrubrik: Keine, da kein Faktenabgleich
Korpus, Ausschlüsse und Prüfsummen
Interviews, Vorträge mit Fragerunde, Gruppengespräche sowie Telefon- und Remoteaufnahmen mit zwei bis vier Personen, in Standardsprache und regionalen Varianten aus Deutschland, Österreich und der Schweiz.
- Korpus: Allgemeine deutschsprachige Audioaufnahmen (
de-audio-v1, Version 1.0) - Szenarien: 46 aufgenommen, 44 ausgewertet, je 3 Läufe
- Audio gesamt: 22 h 5 min, je Fall 6 min bis 1 h 28 min (Median 24 min)
- Sprecher je Fall: 2 bis 4
- Aufnahmeart: Interview (16), Vortrag mit Fragerunde (9), Gruppengespräch (8), Telefon oder Remote (11)
- Aussprache: Standarddeutsch (22), Regional (Deutschland) (9), Österreichisch (5), Schweizerisch gefärbt (4), Nicht muttersprachlich (4)
- Aufnahmequalität: Nahmikrofon, ruhig (17), Telefon- oder Konferenzqualität (11), Hintergrundlärm (8), Raumhall (8)
- Audioformate: FLAC, 48 kHz, mono · AAC-LC (M4A), 44,1 kHz, mono · Opus (WebM), 48 kHz, mono · PCM 24 Bit (WAV), 48 kHz, 2 Kanäle · G.711 A-law (WAV), 8 kHz, mono
- Aufbereitung:
- FLAC, Opus-WebM und G.711 A-law werden mit FFmpeg zu PCM-WAV mit 24 Bit bei 48 kHz dekodiert. Die ursprüngliche Kanalzahl und der Sprachinhalt bleiben erhalten.
- Referenz: Version 1.0: 187.746 Wörter, 1.202.936 Zeichen
- Annotierte Einheiten: Referenzsprechzeit 20 h 44 min
- Referenzprüfung: Wortlaut und Sprecherwechsel entstehen als Sprechvorlage vor der Aufnahme. Der automatische Abgleich mit dem Gesprochenen ergibt die zeitlichen Sprechersegmente. Unverständliche Stellen werden markiert und vom Wortvergleich ausgenommen.
- Zeitraum der Testreihe: 2. und 3. Quartal 2026 für alle Dienste, Korpus vor dem ersten Lauf eingefroren
- Ausgeschlossen:
audio-038: Eine mitwirkende Person widerrief die Einwilligung zur Nutzung der Aufnahme.audio-041: Referenz enthielt mehr als 5 % unverständliche Passagen.
- SHA-256 Manifest:
3bfaff5fa8338156ad4c6bef800ed2cec7c625802242a9f638e07991384aeffc - SHA-256 Referenz:
903e4e0cc118b16f9d63c460d4f5845b497a1f1d276c2c82b9a2294b542018b4
Unsicherheit und Berechnung
- Verfahren: Gepaarter Cluster-Bootstrap, Konfidenzniveau 95 %, Perzentilintervall
- Cluster: 44 Cluster, Einheit Szenario. Alle Läufe eines Szenarios bleiben im selben Cluster.
- Wiederholungen: 2.000 Bootstrap-Stichproben, Seed 1146018123
- Aggregation: Zähler aller abgeschlossenen Läufe werden gepoolt. Kennzahlen entstehen aus Summen, nicht aus Mittelwerten je Fall.
- Gepaarte Stichprobe: Alle Anbieter dieses Korpus nutzen dieselben Bootstrap-Stichproben. SHA-256 der Ziehungsliste:
f8a6a79fd7ce74ec952adb5978dd20f46986d1fd5dc8a1502862be03c2f8e886 - Wörter: WER = (38.999 + 21.008 + 6.461) ÷ 560.474 × 100 = 11,9 %
- ScribeIndex-Score: 95-%-Intervall 52,2–58,6 Punkte, je Bootstrap-Stichprobe aus dem vollständigen Score neu berechnet. Wie das Score-Intervall entsteht
Rangliste Audiotranskription
Sortiert nach ScribeIndex-Score.
- Platz 1: MAXQDA Transcription im Test 75,6
- Platz 2: HappyScribe im Test 66,1
- Platz 3: Amberscript im Test 64,4
- Platz 4: noScribe im Test 61,9
- Platz 5: TurboScribe im Test 61,4
- Platz 6: Sonix im Test 61,2
- Platz 7: Trint im Test 59,5
- Platz 8: f4 im Test 58,3
- Platz 9: Notta 55,6
Notta: Meeting-Scribes
In der Testreihe „Meeting-Scribes“ liegt Notta mit 46,7 Punkten auf Platz 14 von 14, 22,7 Punkte hinter Fathom (69,4) und 1,9 Punkte hinter Sembly AI (48,6). Hinter Fathom bleibt Notta vor allem beim Fakten-F1 (81,8 % gegenüber 90,5 %) zurück. Hinter Sembly AI bleibt Notta vor allem bei der Sprecherzuordnung (DER, 14,1 % gegenüber 12,3 %) zurück. Das 95-%-Konfidenzintervall des Fakten-F1 reicht von 78,9 bis 84,3 %. Die Präzision liegt bei 87,1 %, der Recall bei 77,1 %. Zum einmaligen Durchlesen kommen nach Schätzung von ScribeIndex im Schnitt 12,5 Minuten Nacharbeit je Besprechung hinzu, bei einer durchschnittlichen Aufnahmedauer von 40,0 Minuten.
Einordnung: Schlussgruppe · ScribeIndex-Score 46,7 / 100 · 95-%-Intervall 40,2–52,2 · Platz 14 von 14
10,3 Punkte unter dem Median des Feldes und im untersten Fünftel der Punktespanne.
Fakten-F1 (Platz 14 von 14): 81,8 % · 95-%-Intervall 78,9–84,3 %
Schwächster Wert: 81,8 % · Median (14 Anbieter): 86,2 % · Bester Wert: 90,5 %
Harmonisches Mittel aus Faktenpräzision und Fakten-Recall gegenüber der annotierten Referenz.
Nacharbeit je Besprechung (Platz 14 von 14): 12,5 min · 95-%-Intervall 11,0–14,1 min
Schwächster Wert: 12,5 min · Median (14 Anbieter): 9,3 min · Bester Wert: 6,7 min
Geschätzte Nacharbeit bis zur Zielfassung je Besprechung, bei durchschnittlich 40,0 Minuten Aufnahme. Nicht enthalten ist das einmalige Durchlesen, das auch ein von Hand getipptes Dokument braucht. Auf eine Stunde Aufnahme gerechnet sind das 18,8 Minuten.
Verarbeitungszeit (Median) (Platz 7 von 14): 193 s · Niedriger ist besser
Schwächster Wert: 751 s · Median (14 Anbieter): 196 s · Bester Wert: 54,1 s
Gemessen von „Ende der Gesprächserfassung“ bis „Vollständiges Protokoll verfügbar“.
So setzt sich der ScribeIndex-Score zusammen
| Teilwert | Punkte | Gewicht | Beitrag |
|---|---|---|---|
| Inhaltsqualität | 43,4 | 75 % | 32,6 |
| Korrekturaufwand | 46,4 | 20 % | 9,3 |
| Abschlussquote | 97,4 | 5 % | 4,8 |
| ScribeIndex-Score | 100 % | 46,7 |
Die Qualitätsformel besteht zu 70 % aus dem Fakten-F1 mit 81,8 Punkten und zu 30 % aus der Sprecherzuordnung (100 minus DER) mit 85,9 Punkten. Sie ergibt 83,03 von 100, also 16,97 Punkte weniger als ein fehlerfreies Ergebnis. Bei 30 Punkten Abstand fällt die Inhaltsqualität auf null, hier liegt sie deshalb bei 43,4 von 100 Punkten.
Die Beiträge entstehen aus ungerundeten Teilwerten. Deshalb kann die Summe der angezeigten Werte um 0,1 vom Score abweichen. Bewertungsmodell 2.2. Formel und Skalierung
Testbedingungen
- Korpus: Besprechungen und Gesprächsprotokolle
- Fälle: 38 Szenarien × 2 Durchläufe
- Abgeschlossen: 74 von 76 Läufen
- Testweg: Live-Gespräch
- Bewertete Ausgabe: Zusammenfassung einer Besprechung
- Getestete Version: Web-App mit Notta Bot, Stand 3. Quartal 2026
- Protokoll und Zeitraum: Version 1.0, getestet im 3. Quartal 2026
Alle Kennzahlen
Notta erreicht im Test „Meeting-Scribes“ 46,7 von 100 Punkten. Fakten-F1 81,8 % (95-%-Konfidenzintervall 78,9–84,3 %). Getestet wurden 38 Szenarien mit je 2 Durchläufen, 74 von 76 Läufen wurden abgeschlossen. Korpus de-meeting-v1, Protokoll 1.0, getestet im 3. Quartal 2026.
| Kennzahl | Wert | Zählung und Bedeutung | 95-%-Intervall |
|---|---|---|---|
| ScribeIndex-Score | 46,7 / 100 | Gewichteter Gesamtwert aus Inhaltsqualität, Nacharbeit und Abschlussquote, Bewertungsmodell 2.2. | 40,2–52,2 |
| Fakten-F1 | 81,8 % | Erläuterung weiter oben. | 78,9–84,3 |
| Nacharbeit je Besprechung | 12,5 min | Erläuterung weiter oben. | 11,0–14,1 |
| Verarbeitungszeit (Median) | 193 s | Erläuterung weiter oben. | – |
| Transkript-WER | 14,3 % | 54.147 Wortfehler von 379.508 Referenzwörtern. Wortersetzungen, Auslassungen und Einfügungen im exportierten Transkript pro Referenzwort nach Normalisierungsprofil de-allg-wer. Bewertet das Transkript, nicht die Zusammenfassung. | 13,0–15,6 |
| Diarisierungsfehlerrate · DER | 14,1 % | 22.873,6 s nicht oder falsch zugeordnete Sprechzeit von 162.251 s Referenzsprechzeit. | 12,4–15,8 |
| DER ohne Toleranz | 18,7 % | 30.268,6 s nicht oder falsch zugeordnete Sprechzeit von 162.251 s Referenzsprechzeit. | 16,4–21,0 |
| Falsche oder unbelegte Aussagen | 6,0 % | 149 falsche oder unbelegte Aussagen von 2.479 ausgegebenen Aussagen. Ausgegebene Aussagen, die der Referenz widersprechen oder sich weder auf das Gespräch noch auf bereitgestellten Kontext stützen, pro ausgegebener deduplizierter Aussage. Zutreffende, aber nicht dokumentationsrelevante Aussagen zählen getrennt und nicht hier. | 4,8–7,6 (Wilson mit Designeffekt) |
| Erfasste Beschlüsse | 80,1 % | 234 korrekt erfasste Beschlüsse von 292 Referenzbeschlüssen. Korrekt als Beschluss wiedergegebene Referenzbeschlüsse mit Geltungsbereich und Status pro Referenzbeschluss. Als Beschluss ausgegebene Vorschläge zählen nicht als Treffer. | 73,8–85,3 (Wilson mit Designeffekt) |
| Erkannte Aufgaben | 86,3 % | 377 erkannte Aufgaben von 437 Referenzaufgaben. Referenzaufgaben, die im Protokoll als Aufgabe erscheinen, pro Referenzaufgabe. Zuständigkeit und Frist werden getrennt bewertet. | 82,0–89,7 (Wilson mit Designeffekt) |
| Korrekte Zuständigkeiten | 74,0 % | 236 korrekte Zuständigkeiten von 319 Referenzaufgaben mit genannter Zuständigkeit. Korrekt wiedergegebene verantwortliche Personen pro Referenzaufgabe mit ausdrücklich genannter Zuständigkeit. Nicht erkannte Aufgaben zählen als Fehler. | 67,9–79,3 (Wilson mit Designeffekt) |
| Korrekte Fristen | 66,7 % | 152 korrekte Fristen von 228 Referenzaufgaben mit genannter Frist. Korrekt wiedergegebene Fristen pro Referenzaufgabe mit ausdrücklich genannter Frist. Nicht erkannte Aufgaben zählen als Fehler. | 58,9–73,7 (Wilson mit Designeffekt) |
| Vollständig korrekte Aufgaben | 62,7 % | 274 vollständig korrekte Aufgaben von 437 Referenzaufgaben. Aufgaben, deren Tätigkeit, Zuständigkeit und Frist vollständig korrekt wiedergegeben werden, pro Referenzaufgabe. Nicht genannte Zuständigkeiten oder Fristen müssen als nicht genannt erscheinen. | 57,3–67,8 (Wilson mit Designeffekt) |
| Faktenpräzision | 87,1 % | 2.160 korrekte relevante Fakten von 2.479 ausgegebenen Fakten. Korrekte relevante Fakten im Verhältnis zu allen deduplizierten ausgegebenen Fakten. | 83,8–90,2 |
| Fakten-Recall | 77,1 % | 2.160 korrekt erhaltene Fakten von 2.802 dokumentationsrelevanten Referenzfakten. Korrekt erhaltene Fakten im Verhältnis zu allen dokumentationsrelevanten Referenzfakten. | 74,0–80,1 |
| Verarbeitungszeit (95. Perzentil) | 593 s | Erläuterung weiter oben. | – |
| Abschlussquote | 97,4 % | 74 von 76 gestarteten Läufen abgeschlossen. | – |
Verarbeitungszeit
- Median (p50): 193 s
- 95. Perzentil (p95): 593 s
- Testweg: Live-Gespräch
- Messstrecke: Von „Ende der Gesprächserfassung“ bis „Vollständiges Protokoll verfügbar“
Über alle abgeschlossenen Läufe, Audio in Echtzeit zugespielt. p95 zeigt die Dauer, die 95 % der Läufe nicht überschreiten. Median und p95 beschreiben die Verteilung der Messwerte und sind kein Konfidenzintervall.
Geschätzte Nacharbeit
- Je Besprechung: 12,5 min (Ø 40,0 min Aufnahme)
- Je Stunde Aufnahme: 18,76 min
- 95-%-Intervall je Stunde: 16,46–21,14 min
- Geschätzte Nacharbeit gesamt: 924,59 min
- Audiodauer aller Ausgaben: 49 h 18 min (49,296 h)
- Ausgaben: 74, alle abgeschlossenen Läufe
Geschätzt aus den gezählten Fehlern aller abgeschlossenen Ausgaben, mit festen Zeiten je Korrekturschritt, die für alle Dienste gleich sind. Die Rate je Stunde ist die Nacharbeit gesamt ÷ Audiostunden und lässt sich aus den angezeigten Minuten und den Stunden in Klammern genau nachrechnen.
Fehler nach Typ
| Fehlertyp | Anzahl | Anteil am häufigsten Fehlertyp | Bedeutung |
|---|---|---|---|
| Nicht erfasste Referenzfakten | 642 (22,9 % der Referenzfakten) | 100 % | Eine erforderliche Angabe aus der Aufnahme fehlt oder ist verfälscht (FN), etwa eine nicht erfasste Aufgabe. Korrekte Umformulierungen zählen als Treffer. |
| Falsche oder unbelegte Aussagen | 149 (6,0 % der ausgegebenen Aussagen) | 23 % | Die Ausgabe enthält eine Angabe, die der Referenz widerspricht oder sich nicht auf die Aufnahme stützt (FP, inhaltlicher Fehler), etwa eine nie vereinbarte Frist. Eine verfälschte Referenzangabe zählt zugleich hier und als nicht erfasster Referenzfakt. |
| Zutreffende, aber nicht relevante Aussagen | 170 (6,9 % der ausgegebenen Aussagen) | 26 % | Die Angabe stimmt, gehört laut Rubrik aber nicht in das Dokument (FP, nicht relevant), etwa Smalltalk oder wiederholte Begrüßungen. Sie senkt die Präzision, ist aber kein inhaltlicher Fehler. |
Über alle abgeschlossenen Läufe ergab der Faktenabgleich 2.160 korrekt erhaltene Fakten (TP), 319 falsch positive Aussagen (FP), davon 149 falsch oder unbelegt und 170 zutreffend, aber nicht relevant, 642 nicht erfasste Referenzfakten (FN). Fakten-F1 = 2TP ÷ (2TP + FP + FN). Beide FP-Arten senken die Präzision, nur falsche oder unbelegte Aussagen gelten als inhaltlicher Fehler.
Bewertet werden das gelieferte Protokoll und die Sprecherzuordnung im exportierten Transkript. Die Transkript-WER gilt nur für dieses Transkript und zählt nicht zum ScribeIndex-Score.
Abgeschlossene Läufe: 74 von 76 (97,4 %)
| Szenario | Lauf | Grund |
|---|---|---|
meeting-002 | 2 | Kein Protokoll innerhalb des festgelegten Zeitlimits |
meeting-031 | 2 | Leere Zusammenfassung ausgegeben |
Abgebrochene Läufe zählen in keinem Nenner der Qualitätskennzahlen. Sie stehen nur im Nenner der Abschlussquote und senken so den ScribeIndex-Score. Abgebrochene Läufe wiederholt ScribeIndex nicht. Die Zeitlimits stehen in der Methodik unter Laufzeit, Ausfälle und Nacharbeit.
Konfiguration im Test
- Produktversion: Web-App mit Notta Bot, Stand 3. Quartal 2026
- Modellversion: Vom Anbieter nicht ausgewiesen
- Sprache: Deutsch (de-DE)
- Vorlage: ScribeIndex-Vorlage „Meeting-Protokoll“, Version 1.0
- Arbeitsauftrag: Meeting-Protokoll, Version 1.0
- Eigener Wortschatz: Nicht hinterlegt
- Erfassung: Meeting-Bot
- Transkriptsprache: Deutsch (de-DE)
- Sprache der KI-Notizen: Follow transcript, Deutsch
- Zusammenfassungsvorlage: Eigene Vorlage „Meeting-Protokoll“
- Teilnehmerliste übergeben: Ja
- Einträge im eigenen Wortschatz: 0
- Auswertung: Version 1.0
- Textnormalisierung: de-allg-wer, Version 1.0
- Bewertungsrubrik: meeting-facts-v1, Version 1.0
Korpus, Ausschlüsse und Prüfsummen
Projektbesprechungen, Teamabstimmungen, Kundentermine, Interviews und Fachdiskussionen mit zwei bis acht Personen, als reine Videokonferenz oder als hybride Besprechung mit Teilnehmenden im Raum und aus der Ferne. Eingespielt wird über virtuelle Konferenzteilnehmende.
- Korpus: Besprechungen und Gesprächsprotokolle (
de-meeting-v1, Version 1.0) - Szenarien: 40 aufgenommen, 38 ausgewertet, je 2 Läufe
- Audio gesamt: 25 h 21 min, je Fall 13 min bis 1 h 27 min (Median 37 min)
- Sprecher je Fall: 2 bis 8
- Gesprächsart: Projektbesprechung (10), Teamabstimmung (9), Kundentermin (7), Interview (6), Fachdiskussion (6)
- Aufnahme: Videokonferenz (26), Hybrid (Raum und Remote) (12)
- Sprecherzahl: Fünf bis acht Personen (18), Drei bis vier Personen (11), Zwei Personen (9)
- Audioformate: PCM 24 Bit (WAV), 48 kHz, 2 Kanäle · Opus (WebM), 48 kHz, mono
- Aufbereitung:
- Einspielung über virtuelle Konferenzteilnehmende aus den getrennten ursprünglichen Sprecheraufnahmen. Hybride Raumsprecher bleiben gemeinsam auf einer unveränderten Raumspur. Aus der Korpusmischung werden keine Sprecher mit Hilfe der Referenz separiert.
- Referenz: Version 1.0: 194.653 Wörter, 1.279.564 Zeichen, 1.442 Referenzfakten
- Annotierte Einheiten: Referenzbeschlüsse 151 · Referenzaufgaben (Tätigkeit, Zuständigkeit, Frist) 228 · Aufgaben mit ausdrücklich genannter Zuständigkeit 166 · Aufgaben mit ausdrücklich genannter Frist 117 · Referenzsprechzeit 23 h 11 min
- Referenzprüfung: Fakten, Beschlüsse und Aufgaben mit Tätigkeit, Zuständigkeit und Frist werden mit der Gesprächsvorlage festgelegt. Sprechersegmente entstehen aus dem automatischen Abgleich von Aufnahme und Vorlage, unklare Stellen werden an der Aufnahme geprüft. Rubrik meeting-facts-v1, Version 1.0.
- Zeitraum der Testreihe: 2. und 3. Quartal 2026 für alle Dienste, Korpus vor dem ersten Lauf eingefroren
- Ausgeschlossen:
meeting-012: Sprecherreferenz wegen Übersprechen zweier Raummikrofone nicht belastbar.meeting-029: Teilnehmende widerriefen die Nutzung der Aufnahme.
- SHA-256 Manifest:
1a25115bb8a34e284f1d01d3860260a21cb8f5847004facb1596738bbac7ddab - SHA-256 Referenz:
eab8be0ab42fa45d7c98cb94b1a700dfc141ed5d7e96d67f4d9349c7d3a84d70
Unsicherheit und Berechnung
- Verfahren: Gepaarter Cluster-Bootstrap, Konfidenzniveau 95 %, Perzentilintervall. Anteile aus Zählern erhalten ein Wilson-Intervall mit Designeffekt
- Cluster: 38 Cluster, Einheit Szenario. Alle Läufe eines Szenarios bleiben im selben Cluster.
- Wiederholungen: 2.000 Bootstrap-Stichproben, Seed 4134088586
- Aggregation: Zähler aller abgeschlossenen Läufe werden gepoolt. Kennzahlen entstehen aus Summen, nicht aus Mittelwerten je Fall.
- Gepaarte Stichprobe: Alle Anbieter dieses Korpus nutzen dieselben Bootstrap-Stichproben. SHA-256 der Ziehungsliste:
3ee50ed01707c6c0c1902b3d172d67b6fe4b33360c81d07433d846f0fcbe3781 - Fakten: Präzision = TP ÷ (TP + FP) = 87,1 %. Recall = TP ÷ (TP + FN) = 77,1 %. F1 = 2TP ÷ (2TP + FP + FN) = 81,8 % (95-%-Intervall 78,9–84,3 %).
- ScribeIndex-Score: 95-%-Intervall 40,2–52,2 Punkte, je Bootstrap-Stichprobe aus dem vollständigen Score neu berechnet. Wie das Score-Intervall entsteht
Rangliste Meeting-Scribes
Sortiert nach ScribeIndex-Score.
- Platz 1: Fathom im Test 69,4
- Platz 2: Fireflies.ai im Test 61,5
- Platz 3: MeetGeek im Test 60,6
- Platz 4: Jamie im Test 60,2
- Platz 5: HappyScribe im Test 58,9
- Platz 6: Read AI im Test 58,5
- Platz 7: Granola im Test 57,7
- Platz 8: Otter.ai im Test 56,3
- Platz 9: Plaud im Test 55,6
- Platz 10: tl;dv im Test 55,3
- Platz 11: Sally AI im Test 54,4
- Platz 12: Bluedot im Test 50,6
- Platz 13: Sembly AI im Test 48,6
- Platz 14: Notta 46,7
Daten zu dieser Seite
Maschinenlesbar mit Zählern, Nennern und Intervallen. Frei nutzbar mit Quellenangabe. Zitierweise und Lizenz
So testet ScribeIndex
Jede Testreihe nutzt einen festen deutschsprachigen Korpus mit geprüften, vor dem ersten Lauf eingefrorenen Referenzen. Bewertet wird automatisch nach festen Regeln, unklare Zuordnungen werden anhand der Aufnahme fachlich geprüft. Jeder Fall läuft zwei- bis dreimal. Die Konfidenzintervalle von Score, Hauptkennzahl und weiteren Fehlerraten stammen aus einem gepaarten Bootstrap über die Szenarien, sodass alle Anbieter auf denselben Stichproben verglichen werden. Anteile aus Zählern erhalten ein Wilson-Intervall mit Designeffekt. Der ScribeIndex-Score ist ein gewichteter Gesamtwert aus Inhaltsqualität, Nacharbeit und Abschlussquote. Die Rangliste ordnet nach diesem Punktwert.
Für das Score-Intervall wird in jeder Bootstrap-Stichprobe der vollständige Score mit den Gewichten des Bewertungsmodells neu berechnet. Weil alle Dienste einer Testreihe dieselben Stichproben nutzen, lassen sich auch Scoredifferenzen gepaart auswerten.