Fathom AI Notetaker im Test
Ergebnisse aus einer Testreihe auf einem deutschsprachigen Korpus. Alle Anbieter einer Aufgabe bearbeiten dieselben Fälle nach demselben Protokoll.
Ergebnisse im Überblick
Im ScribeIndex-Test „Meeting-Scribes“ (2. Quartal 2026, 38 Besprechungen, je 2 Durchläufe) erreicht Fathom 69,4 von 100 Punkten und liegt auf Platz 1 von 14.
| Aufgabe | ScribeIndex-Score | Platz | Hauptkennzahl | Nacharbeit | Getestet |
|---|---|---|---|---|---|
| Meeting-Scribes | Spitzengruppe: 69,4 | 1 von 14 | Fakten-F1: 90,5 % | 6,7 min je Besprechung | 2. Quartal 2026 |
Fathom: Meeting-Scribes
In der Testreihe „Meeting-Scribes“ liegt Fathom mit 69,4 Punkten auf Platz 1 von 14, 7,9 Punkte vor Fireflies.ai (61,5). Den Unterschied macht vor allem das Fakten-F1 (90,5 % bei Fathom gegenüber 86,6 % bei Fireflies.ai). Das 95-%-Konfidenzintervall des Fakten-F1 reicht von 89,1 bis 91,8 %. Die Präzision liegt bei 91,4 %, der Recall bei 89,7 %. Zum einmaligen Durchlesen kommen nach Schätzung von ScribeIndex im Schnitt 6,7 Minuten Nacharbeit je Besprechung hinzu, bei einer durchschnittlichen Aufnahmedauer von 39,9 Minuten.
Einordnung: Spitzengruppe · ScribeIndex-Score 69,4 / 100 · 95-%-Intervall 65,4–72,9 · Platz 1 von 14
Bester Score der Testreihe.
Fakten-F1 (Platz 1 von 14): 90,5 % · 95-%-Intervall 89,1–91,8 %
Schwächster Wert: 81,8 % · Median (14 Anbieter): 86,2 % · Bester Wert: 90,5 %
Harmonisches Mittel aus Faktenpräzision und Fakten-Recall gegenüber der annotierten Referenz.
Nacharbeit je Besprechung (Platz 1 von 14): 6,7 min · 95-%-Intervall 5,8–7,7 min
Schwächster Wert: 12,5 min · Median (14 Anbieter): 9,3 min · Bester Wert: 6,7 min
Geschätzte Nacharbeit bis zur Zielfassung je Besprechung, bei durchschnittlich 39,9 Minuten Aufnahme. Nicht enthalten ist das einmalige Durchlesen, das auch ein von Hand getipptes Dokument braucht. Auf eine Stunde Aufnahme gerechnet sind das 10,0 Minuten.
Verarbeitungszeit (Median) (Platz 4 von 14): 89,9 s · Niedriger ist besser
Schwächster Wert: 751 s · Median (14 Anbieter): 196 s · Bester Wert: 54,1 s
Gemessen von „Ende der Gesprächserfassung“ bis „Vollständiges Protokoll verfügbar“. Platz und Vergleichswerte nur unter Diensten derselben Messstrecke.
So setzt sich der ScribeIndex-Score zusammen
| Teilwert | Punkte | Gewicht | Beitrag |
|---|---|---|---|
| Inhaltsqualität | 66,9 | 75 % | 50,2 |
| Korrekturaufwand | 71,3 | 20 % | 14,3 |
| Abschlussquote | 98,7 | 5 % | 4,9 |
| ScribeIndex-Score | 100 % | 69,4 |
Die Qualitätsformel besteht zu 70 % aus dem Fakten-F1 mit 90,5 Punkten und zu 30 % aus der Sprecherzuordnung (100 minus DER) mit 89,1 Punkten. Sie ergibt 90,08 von 100, also 9,92 Punkte weniger als ein fehlerfreies Ergebnis. Bei 30 Punkten Abstand fällt die Inhaltsqualität auf null, hier liegt sie deshalb bei 66,9 von 100 Punkten.
Die Beiträge entstehen aus ungerundeten Teilwerten. Deshalb kann die Summe der angezeigten Werte um 0,1 vom Score abweichen. Bewertungsmodell 2.2. Formel und Skalierung
Testbedingungen
- Korpus: Besprechungen und Gesprächsprotokolle
- Fälle: 38 Szenarien × 2 Durchläufe
- Abgeschlossen: 75 von 76 Läufen
- Testweg: Live-Gespräch
- Bewertete Ausgabe: Zusammenfassung einer Besprechung
- Getestete Version: Meeting-Bot und Web-App, Stand 2. Quartal 2026
- Protokoll und Zeitraum: Version 1.0, getestet im 2. Quartal 2026
Alle Kennzahlen
Fathom AI Notetaker erreicht im Test „Meeting-Scribes“ 69,4 von 100 Punkten. Fakten-F1 90,5 % (95-%-Konfidenzintervall 89,1–91,8 %). Getestet wurden 38 Szenarien mit je 2 Durchläufen, 75 von 76 Läufen wurden abgeschlossen. Korpus de-meeting-v1, Protokoll 1.0, getestet im 2. Quartal 2026.
| Kennzahl | Wert | Zählung und Bedeutung | 95-%-Intervall |
|---|---|---|---|
| ScribeIndex-Score | 69,4 / 100 | Gewichteter Gesamtwert aus Inhaltsqualität, Nacharbeit und Abschlussquote, Bewertungsmodell 2.2. | 65,4–72,9 |
| Fakten-F1 | 90,5 % | Erläuterung weiter oben. | 89,1–91,8 |
| Nacharbeit je Besprechung | 6,7 min | Erläuterung weiter oben. | 5,8–7,7 |
| Verarbeitungszeit (Median) | 89,9 s | Erläuterung weiter oben. | – |
| Transkript-WER | 11,9 % | 45.520 Wortfehler von 382.893 Referenzwörtern. Wortersetzungen, Auslassungen und Einfügungen im exportierten Transkript pro Referenzwort nach Normalisierungsprofil de-allg-wer. Bewertet das Transkript, nicht die Zusammenfassung. | 10,4–13,3 |
| Diarisierungsfehlerrate · DER | 10,9 % | 17.884,7 s nicht oder falsch zugeordnete Sprechzeit von 163.981 s Referenzsprechzeit. Verpasste Sprache, fälschlich erkannte Sprache und falsch zugeordnete Sprecherzeit pro Referenzsprechzeit. Toleranz 250 ms um Referenzgrenzen, überlappende Sprache eingeschlossen. Liefert ein Dienst Sprecherkennungen ohne eigene Zeitmarken, bestimmt ScribeIndex die Zeitmarken durch erzwungene Ausrichtung (Forced Alignment) des gelieferten Texts an der Aufnahme. Die DER berechnet ScribeIndex daraus wie bei allen anderen Diensten, mit verpasster und fälschlich erkannter Sprache und Fehlern an Segmentgrenzen. | 9,6–12,2 |
| DER ohne Toleranz | 14,3 % | 23.410,3 s nicht oder falsch zugeordnete Sprechzeit von 163.981 s Referenzsprechzeit. Diarisierungsfehlerrate wie DER, jedoch ohne Toleranzbereich um Referenzgrenzen. Die Differenz zur DER zeigt den Anteil der Fehler an Segmentgrenzen. | 12,5–15,9 |
| Falsche oder unbelegte Aussagen | 2,8 % | 77 falsche oder unbelegte Aussagen von 2.789 ausgegebenen Aussagen. Ausgegebene Aussagen, die der Referenz widersprechen oder sich weder auf das Gespräch noch auf bereitgestellten Kontext stützen, pro ausgegebener deduplizierter Aussage. Zutreffende, aber nicht dokumentationsrelevante Aussagen zählen getrennt und nicht hier. | 2,0–3,9 (Wilson mit Designeffekt) |
| Erfasste Beschlüsse | 91,6 % | 272 korrekt erfasste Beschlüsse von 297 Referenzbeschlüssen. Korrekt als Beschluss wiedergegebene Referenzbeschlüsse mit Geltungsbereich und Status pro Referenzbeschluss. Als Beschluss ausgegebene Vorschläge zählen nicht als Treffer. | 86,7–94,8 (Wilson mit Designeffekt) |
| Erkannte Aufgaben | 90,4 % | 405 erkannte Aufgaben von 448 Referenzaufgaben. Referenzaufgaben, die im Protokoll als Aufgabe erscheinen, pro Referenzaufgabe. Zuständigkeit und Frist werden getrennt bewertet. | 86,6–93,2 (Wilson mit Designeffekt) |
| Korrekte Zuständigkeiten | 80,1 % | 261 korrekte Zuständigkeiten von 326 Referenzaufgaben mit genannter Zuständigkeit. Korrekt wiedergegebene verantwortliche Personen pro Referenzaufgabe mit ausdrücklich genannter Zuständigkeit. Nicht erkannte Aufgaben zählen als Fehler. | 74,4–84,7 (Wilson mit Designeffekt) |
| Korrekte Fristen | 73,3 % | 170 korrekte Fristen von 232 Referenzaufgaben mit genannter Frist. Korrekt wiedergegebene Fristen pro Referenzaufgabe mit ausdrücklich genannter Frist. Nicht erkannte Aufgaben zählen als Fehler. | 65,8–79,6 (Wilson mit Designeffekt) |
| Vollständig korrekte Aufgaben | 73,0 % | 327 vollständig korrekte Aufgaben von 448 Referenzaufgaben. Aufgaben, deren Tätigkeit, Zuständigkeit und Frist vollständig korrekt wiedergegeben werden, pro Referenzaufgabe. Nicht genannte Zuständigkeiten oder Fristen müssen als nicht genannt erscheinen. | 67,9–77,6 (Wilson mit Designeffekt) |
| Faktenpräzision | 91,4 % | 2.548 korrekte relevante Fakten von 2.789 ausgegebenen Fakten. Korrekte relevante Fakten im Verhältnis zu allen deduplizierten ausgegebenen Fakten. | 89,6–93,0 |
| Fakten-Recall | 89,7 % | 2.548 korrekt erhaltene Fakten von 2.842 dokumentationsrelevanten Referenzfakten. Korrekt erhaltene Fakten im Verhältnis zu allen dokumentationsrelevanten Referenzfakten. | 88,1–91,3 |
| Verarbeitungszeit (95. Perzentil) | 236 s | 95 % der erfolgreichen Läufe waren nach dieser Zeit fertig. | – |
| Abschlussquote | 98,7 % | 75 von 76 gestarteten Läufen abgeschlossen. Anteil der Läufe mit verwertbarem Ergebnis. | – |
Verarbeitungszeit
- Median (p50): 89,9 s
- 95. Perzentil (p95): 236 s
- Testweg: Live-Gespräch
- Messstrecke: Von „Ende der Gesprächserfassung“ bis „Vollständiges Protokoll verfügbar“
Über alle abgeschlossenen Läufe, Audio in Echtzeit zugespielt. p95 zeigt die Dauer, die 95 % der Läufe nicht überschreiten. Median und p95 beschreiben die Verteilung der Messwerte und sind kein Konfidenzintervall.
Geschätzte Nacharbeit
- Je Besprechung: 6,7 min (Ø 39,9 min Aufnahme)
- Je Stunde Aufnahme: 10,04 min
- 95-%-Intervall je Stunde: 8,75–11,52 min
- Geschätzte Nacharbeit gesamt: 500,13 min
- Audiodauer aller Ausgaben: 49 h 49 min (49,815 h)
- Ausgaben: 75, alle abgeschlossenen Läufe
Geschätzt aus den gezählten Fehlern aller abgeschlossenen Ausgaben, mit festen Zeiten je Korrekturschritt, die für alle Dienste gleich sind. Die Rate je Stunde ist die Nacharbeit gesamt ÷ Audiostunden und lässt sich aus den angezeigten Minuten und den Stunden in Klammern genau nachrechnen.
Fehler nach Typ
| Fehlertyp | Anzahl | Anteil am häufigsten Fehlertyp | Bedeutung |
|---|---|---|---|
| Nicht erfasste Referenzfakten | 294 (10,3 % der Referenzfakten) | 100 % | Eine erforderliche Angabe aus der Aufnahme fehlt oder ist verfälscht (FN), etwa eine nicht erfasste Aufgabe. Korrekte Umformulierungen zählen als Treffer. |
| Falsche oder unbelegte Aussagen | 77 (2,8 % der ausgegebenen Aussagen) | 26 % | Die Ausgabe enthält eine Angabe, die der Referenz widerspricht oder sich nicht auf die Aufnahme stützt (FP, inhaltlicher Fehler), etwa eine nie vereinbarte Frist. Eine verfälschte Referenzangabe zählt zugleich hier und als nicht erfasster Referenzfakt. |
| Zutreffende, aber nicht relevante Aussagen | 164 (5,9 % der ausgegebenen Aussagen) | 56 % | Die Angabe stimmt, gehört laut Rubrik aber nicht in das Dokument (FP, nicht relevant), etwa Smalltalk oder wiederholte Begrüßungen. Sie senkt die Präzision, ist aber kein inhaltlicher Fehler. |
Über alle abgeschlossenen Läufe ergab der Faktenabgleich 2.548 korrekt erhaltene Fakten (TP), 241 falsch positive Aussagen (FP), davon 77 falsch oder unbelegt und 164 zutreffend, aber nicht relevant, 294 nicht erfasste Referenzfakten (FN). Fakten-F1 = 2TP ÷ (2TP + FP + FN). Beide FP-Arten senken die Präzision, nur falsche oder unbelegte Aussagen gelten als inhaltlicher Fehler.
Bewertet werden das gelieferte Protokoll und die Sprecherzuordnung im exportierten Transkript. Die Transkript-WER gilt nur für dieses Transkript und zählt nicht zum ScribeIndex-Score.
Abgeschlossene Läufe: 75 von 76 (98,7 %)
| Szenario | Lauf | Grund |
|---|---|---|
meeting-026 | 2 | Meeting-Bot verließ die Konferenz vorzeitig |
Abgebrochene Läufe zählen in keinem Nenner der Qualitätskennzahlen. Sie stehen nur im Nenner der Abschlussquote und senken so den ScribeIndex-Score. Abgebrochene Läufe wiederholt ScribeIndex nicht. Die Zeitlimits stehen in der Methodik unter Laufzeit, Ausfälle und Nacharbeit.
Konfiguration im Test
- Produktversion: Meeting-Bot und Web-App, Stand 2. Quartal 2026
- Modellversion: Vom Anbieter nicht ausgewiesen
- Sprache: Deutsch (de-DE), automatische Sprachauswahl
- Vorlage: ScribeIndex-Vorlage „Meeting-Protokoll“, Version 1.0
- Arbeitsauftrag: Meeting-Protokoll, Version 1.0
- Eigener Wortschatz: Nicht hinterlegt
- Erfassung: Meeting-Bot
- Teilnehmerliste übergeben: Ja
- Auswertung: Version 1.0
- Textnormalisierung: de-allg-wer, Version 1.0
- Bewertungsrubrik: meeting-facts-v1, Version 1.0
Korpus, Ausschlüsse und Prüfsummen
Projektbesprechungen, Teamabstimmungen, Kundentermine, Interviews und Fachdiskussionen mit zwei bis acht Personen, als reine Videokonferenz oder als hybride Besprechung mit Teilnehmenden im Raum und aus der Ferne. Eingespielt wird über virtuelle Konferenzteilnehmende.
- Korpus: Besprechungen und Gesprächsprotokolle (
de-meeting-v1, Version 1.0) - Szenarien: 40 aufgenommen, 38 ausgewertet, je 2 Läufe
- Audio gesamt: 25 h 21 min, je Fall 13 min bis 1 h 27 min (Median 37 min)
- Sprecher je Fall: 2 bis 8
- Gesprächsart: Projektbesprechung (10), Teamabstimmung (9), Kundentermin (7), Interview (6), Fachdiskussion (6)
- Aufnahme: Videokonferenz (26), Hybrid (Raum und Remote) (12)
- Sprecherzahl: Fünf bis acht Personen (18), Drei bis vier Personen (11), Zwei Personen (9)
- Audioformate: PCM 24 Bit (WAV), 48 kHz, 2 Kanäle · Opus (WebM), 48 kHz, mono
- Aufbereitung:
- Einspielung über virtuelle Konferenzteilnehmende aus den getrennten ursprünglichen Sprecheraufnahmen. Hybride Raumsprecher bleiben gemeinsam auf einer unveränderten Raumspur. Aus der Korpusmischung werden keine Sprecher mit Hilfe der Referenz separiert.
- Referenz: Version 1.0: 194.653 Wörter, 1.279.564 Zeichen, 1.442 Referenzfakten
- Annotierte Einheiten: Referenzbeschlüsse 151 · Referenzaufgaben (Tätigkeit, Zuständigkeit, Frist) 228 · Aufgaben mit ausdrücklich genannter Zuständigkeit 166 · Aufgaben mit ausdrücklich genannter Frist 117 · Referenzsprechzeit 23 h 11 min
- Referenzprüfung: Fakten, Beschlüsse und Aufgaben mit Tätigkeit, Zuständigkeit und Frist werden mit der Gesprächsvorlage festgelegt. Sprechersegmente entstehen aus dem automatischen Abgleich von Aufnahme und Vorlage, unklare Stellen werden an der Aufnahme geprüft. Rubrik meeting-facts-v1, Version 1.0.
- Zeitraum der Testreihe: 2. und 3. Quartal 2026 für alle Dienste, Korpus vor dem ersten Lauf eingefroren
- Ausgeschlossen:
meeting-012: Sprecherreferenz wegen Übersprechen zweier Raummikrofone nicht belastbar.meeting-029: Teilnehmende widerriefen die Nutzung der Aufnahme.
- SHA-256 Manifest:
1a25115bb8a34e284f1d01d3860260a21cb8f5847004facb1596738bbac7ddab - SHA-256 Referenz:
eab8be0ab42fa45d7c98cb94b1a700dfc141ed5d7e96d67f4d9349c7d3a84d70
Unsicherheit und Berechnung
- Verfahren: Gepaarter Cluster-Bootstrap, Konfidenzniveau 95 %, Perzentilintervall. Anteile aus Zählern erhalten ein Wilson-Intervall mit Designeffekt
- Cluster: 38 Cluster, Einheit Szenario. Alle Läufe eines Szenarios bleiben im selben Cluster.
- Wiederholungen: 2.000 Bootstrap-Stichproben, Seed 4134088586
- Aggregation: Zähler aller abgeschlossenen Läufe werden gepoolt. Kennzahlen entstehen aus Summen, nicht aus Mittelwerten je Fall.
- Gepaarte Stichprobe: Alle Anbieter dieses Korpus nutzen dieselben Bootstrap-Stichproben. SHA-256 der Ziehungsliste:
3ee50ed01707c6c0c1902b3d172d67b6fe4b33360c81d07433d846f0fcbe3781 - Fakten: Präzision = TP ÷ (TP + FP) = 91,4 %. Recall = TP ÷ (TP + FN) = 89,7 %. F1 = 2TP ÷ (2TP + FP + FN) = 90,5 % (95-%-Intervall 89,1–91,8 %).
- ScribeIndex-Score: 95-%-Intervall 65,4–72,9 Punkte, je Bootstrap-Stichprobe aus dem vollständigen Score neu berechnet. Wie das Score-Intervall entsteht
Rangliste Meeting-Scribes
Sortiert nach ScribeIndex-Score.
- Platz 1: Fathom 69,4
- Platz 2: Fireflies.ai im Test 61,5
- Platz 3: MeetGeek im Test 60,6
- Platz 4: Jamie im Test 60,2
- Platz 5: HappyScribe im Test 58,9
- Platz 6: Read AI im Test 58,5
- Platz 7: Granola im Test 57,7
- Platz 8: Otter.ai im Test 56,3
- Platz 9: Plaud im Test 55,6
- Platz 10: tl;dv im Test 55,3
- Platz 11: Sally AI im Test 54,4
- Platz 12: Bluedot im Test 50,6
- Platz 13: Sembly AI im Test 48,6
- Platz 14: Notta im Test 46,7
Daten zu dieser Seite
Maschinenlesbar mit Zählern, Nennern und Intervallen. Frei nutzbar mit Quellenangabe. Zitierweise und Lizenz
So testet ScribeIndex
Jede Testreihe nutzt einen festen deutschsprachigen Korpus mit geprüften, vor dem ersten Lauf eingefrorenen Referenzen. Bewertet wird automatisch nach festen Regeln, unklare Zuordnungen werden anhand der Aufnahme fachlich geprüft. Jeder Fall läuft zwei- bis dreimal. Die Konfidenzintervalle von Score, Hauptkennzahl und weiteren Fehlerraten stammen aus einem gepaarten Bootstrap über die Szenarien, sodass alle Anbieter auf denselben Stichproben verglichen werden. Anteile aus Zählern erhalten ein Wilson-Intervall mit Designeffekt. Der ScribeIndex-Score ist ein gewichteter Gesamtwert aus Inhaltsqualität, Nacharbeit und Abschlussquote. Die Rangliste ordnet nach diesem Punktwert.
Für das Score-Intervall wird in jeder Bootstrap-Stichprobe der vollständige Score mit den Gewichten des Bewertungsmodells neu berechnet. Weil alle Dienste einer Testreihe dieselben Stichproben nutzen, lassen sich auch Scoredifferenzen gepaart auswerten.