Sembly AI im Test
Ergebnisse aus einer Testreihe auf einem deutschsprachigen Korpus. Alle Anbieter einer Aufgabe bearbeiten dieselben Fälle nach demselben Protokoll.
Ergebnisse im Überblick
Im ScribeIndex-Test „Meeting-Scribes“ (2. Quartal 2026, 38 Besprechungen, je 2 Durchläufe) erreicht Sembly AI 48,6 von 100 Punkten und liegt auf Platz 13 von 14.
| Aufgabe | ScribeIndex-Score | Platz | Hauptkennzahl | Nacharbeit | Getestet |
|---|---|---|---|---|---|
| Meeting-Scribes | Schlussgruppe: 48,6 | 13 von 14 | Fakten-F1: 81,9 % | 11,9 min je Besprechung | 2. Quartal 2026 |
Sembly AI: Meeting-Scribes
In der Testreihe „Meeting-Scribes“ liegt Sembly AI mit 48,6 Punkten auf Platz 13 von 14, 20,8 Punkte hinter Fathom (69,4) und 1,9 Punkte vor Notta (46,7). Hinter Fathom bleibt Sembly AI vor allem beim Fakten-F1 (81,9 % gegenüber 90,5 %) zurück. Vor Notta liegt Sembly AI vor allem bei der Sprecherzuordnung (DER, 12,3 % gegenüber 14,1 %). Das 95-%-Konfidenzintervall des Fakten-F1 reicht von 80,2 bis 83,7 %. Die Präzision liegt bei 86,3 %, der Recall bei 77,9 %. Zum einmaligen Durchlesen kommen nach Schätzung von ScribeIndex im Schnitt 11,9 Minuten Nacharbeit je Besprechung hinzu, bei einer durchschnittlichen Aufnahmedauer von 39,6 Minuten.
Einordnung: Schlussgruppe · ScribeIndex-Score 48,6 / 100 · 95-%-Intervall 44,1–52,9 · Platz 13 von 14
8,4 Punkte unter dem Median des Feldes und im untersten Fünftel der Punktespanne. Hinter Bluedot bleibt Sembly AI vor allem beim Fakten-F1 (81,9 % gegenüber 85,0 %) zurück. Sembly AI liegt dafür bei der Sprecherzuordnung (DER, 12,3 % gegenüber 19,3 %) vorn.
Fakten-F1 (Platz 13 von 14): 81,9 % · 95-%-Intervall 80,2–83,7 %
Schwächster Wert: 81,8 % · Median (14 Anbieter): 86,2 % · Bester Wert: 90,5 %
Harmonisches Mittel aus Faktenpräzision und Fakten-Recall gegenüber der annotierten Referenz.
Nacharbeit je Besprechung (Platz 13 von 14): 11,9 min · 95-%-Intervall 10,9–12,9 min
Schwächster Wert: 12,5 min · Median (14 Anbieter): 9,3 min · Bester Wert: 6,7 min
Geschätzte Nacharbeit bis zur Zielfassung je Besprechung, bei durchschnittlich 39,6 Minuten Aufnahme. Nicht enthalten ist das einmalige Durchlesen, das auch ein von Hand getipptes Dokument braucht. Auf eine Stunde Aufnahme gerechnet sind das 18,1 Minuten.
Verarbeitungszeit (Median) (Platz 8 von 14): 199 s · Niedriger ist besser
Schwächster Wert: 751 s · Median (14 Anbieter): 196 s · Bester Wert: 54,1 s
Gemessen von „Ende der Gesprächserfassung“ bis „Vollständiges Protokoll verfügbar“. Platz und Vergleichswerte nur unter Diensten derselben Messstrecke.
So setzt sich der ScribeIndex-Score zusammen
| Teilwert | Punkte | Gewicht | Beitrag |
|---|---|---|---|
| Inhaltsqualität | 45,4 | 75 % | 34,1 |
| Korrekturaufwand | 48,4 | 20 % | 9,7 |
| Abschlussquote | 97,4 | 5 % | 4,8 |
| ScribeIndex-Score | 100 % | 48,6 |
Die Qualitätsformel besteht zu 70 % aus dem Fakten-F1 mit 81,9 Punkten und zu 30 % aus der Sprecherzuordnung (100 minus DER) mit 87,7 Punkten. Sie ergibt 83,63 von 100, also 16,37 Punkte weniger als ein fehlerfreies Ergebnis. Bei 30 Punkten Abstand fällt die Inhaltsqualität auf null, hier liegt sie deshalb bei 45,4 von 100 Punkten.
Die Beiträge entstehen aus ungerundeten Teilwerten. Deshalb kann die Summe der angezeigten Werte um 0,1 vom Score abweichen. Bewertungsmodell 2.2. Formel und Skalierung
Testbedingungen
- Korpus: Besprechungen und Gesprächsprotokolle
- Fälle: 38 Szenarien × 2 Durchläufe
- Abgeschlossen: 74 von 76 Läufen
- Testweg: Live-Gespräch
- Bewertete Ausgabe: Zusammenfassung einer Besprechung
- Getestete Version: Sembly AI Web-App mit Meeting-Agent, Stand 2. Quartal 2026
- Protokoll und Zeitraum: Version 1.0, getestet im 2. Quartal 2026
Alle Kennzahlen
Sembly AI erreicht im Test „Meeting-Scribes“ 48,6 von 100 Punkten. Fakten-F1 81,9 % (95-%-Konfidenzintervall 80,2–83,7 %). Getestet wurden 38 Szenarien mit je 2 Durchläufen, 74 von 76 Läufen wurden abgeschlossen. Korpus de-meeting-v1, Protokoll 1.0, getestet im 2. Quartal 2026.
| Kennzahl | Wert | Zählung und Bedeutung | 95-%-Intervall |
|---|---|---|---|
| ScribeIndex-Score | 48,6 / 100 | Gewichteter Gesamtwert aus Inhaltsqualität, Nacharbeit und Abschlussquote, Bewertungsmodell 2.2. | 44,1–52,9 |
| Fakten-F1 | 81,9 % | Erläuterung weiter oben. | 80,2–83,7 |
| Nacharbeit je Besprechung | 11,9 min | Erläuterung weiter oben. | 10,9–12,9 |
| Verarbeitungszeit (Median) | 199 s | Erläuterung weiter oben. | – |
| Transkript-WER | 12,8 % | 48.133 Wortfehler von 374.671 Referenzwörtern. Wortersetzungen, Auslassungen und Einfügungen im exportierten Transkript pro Referenzwort nach Normalisierungsprofil de-allg-wer. Bewertet das Transkript, nicht die Zusammenfassung. | 11,6–14,2 |
| Diarisierungsfehlerrate · DER | 12,3 % | 19.778,2 s nicht oder falsch zugeordnete Sprechzeit von 160.182 s Referenzsprechzeit. Verpasste Sprache, fälschlich erkannte Sprache und falsch zugeordnete Sprecherzeit pro Referenzsprechzeit. Toleranz 250 ms um Referenzgrenzen, überlappende Sprache eingeschlossen. Liefert ein Dienst Sprecherkennungen ohne eigene Zeitmarken, bestimmt ScribeIndex die Zeitmarken durch erzwungene Ausrichtung (Forced Alignment) des gelieferten Texts an der Aufnahme. Die DER berechnet ScribeIndex daraus wie bei allen anderen Diensten, mit verpasster und fälschlich erkannter Sprache und Fehlern an Segmentgrenzen. | 10,9–14,1 |
| DER ohne Toleranz | 14,8 % | 23.779,7 s nicht oder falsch zugeordnete Sprechzeit von 160.182 s Referenzsprechzeit. Diarisierungsfehlerrate wie DER, jedoch ohne Toleranzbereich um Referenzgrenzen. Die Differenz zur DER zeigt den Anteil der Fehler an Segmentgrenzen. | 13,0–17,1 |
| Falsche oder unbelegte Aussagen | 4,7 % | 117 falsche oder unbelegte Aussagen von 2.505 ausgegebenen Aussagen. Ausgegebene Aussagen, die der Referenz widersprechen oder sich weder auf das Gespräch noch auf bereitgestellten Kontext stützen, pro ausgegebener deduplizierter Aussage. Zutreffende, aber nicht dokumentationsrelevante Aussagen zählen getrennt und nicht hier. | 3,6–6,1 (Wilson mit Designeffekt) |
| Erfasste Beschlüsse | 79,9 % | 234 korrekt erfasste Beschlüsse von 293 Referenzbeschlüssen. Korrekt als Beschluss wiedergegebene Referenzbeschlüsse mit Geltungsbereich und Status pro Referenzbeschluss. Als Beschluss ausgegebene Vorschläge zählen nicht als Treffer. | 73,5–85,0 (Wilson mit Designeffekt) |
| Erkannte Aufgaben | 87,4 % | 382 erkannte Aufgaben von 437 Referenzaufgaben. Referenzaufgaben, die im Protokoll als Aufgabe erscheinen, pro Referenzaufgabe. Zuständigkeit und Frist werden getrennt bewertet. | 83,3–90,7 (Wilson mit Designeffekt) |
| Korrekte Zuständigkeiten | 78,3 % | 252 korrekte Zuständigkeiten von 322 Referenzaufgaben mit genannter Zuständigkeit. Korrekt wiedergegebene verantwortliche Personen pro Referenzaufgabe mit ausdrücklich genannter Zuständigkeit. Nicht erkannte Aufgaben zählen als Fehler. | 72,4–83,2 (Wilson mit Designeffekt) |
| Korrekte Fristen | 73,7 % | 165 korrekte Fristen von 224 Referenzaufgaben mit genannter Frist. Korrekt wiedergegebene Fristen pro Referenzaufgabe mit ausdrücklich genannter Frist. Nicht erkannte Aufgaben zählen als Fehler. | 66,1–80,0 (Wilson mit Designeffekt) |
| Vollständig korrekte Aufgaben | 71,4 % | 312 vollständig korrekte Aufgaben von 437 Referenzaufgaben. Aufgaben, deren Tätigkeit, Zuständigkeit und Frist vollständig korrekt wiedergegeben werden, pro Referenzaufgabe. Nicht genannte Zuständigkeiten oder Fristen müssen als nicht genannt erscheinen. | 66,2–76,1 (Wilson mit Designeffekt) |
| Faktenpräzision | 86,3 % | 2.162 korrekte relevante Fakten von 2.505 ausgegebenen Fakten. Korrekte relevante Fakten im Verhältnis zu allen deduplizierten ausgegebenen Fakten. | 84,0–88,5 |
| Fakten-Recall | 77,9 % | 2.162 korrekt erhaltene Fakten von 2.774 dokumentationsrelevanten Referenzfakten. Korrekt erhaltene Fakten im Verhältnis zu allen dokumentationsrelevanten Referenzfakten. | 75,5–80,3 |
| Verarbeitungszeit (95. Perzentil) | 520 s | 95 % der erfolgreichen Läufe waren nach dieser Zeit fertig. | – |
| Abschlussquote | 97,4 % | 74 von 76 gestarteten Läufen abgeschlossen. Anteil der Läufe mit verwertbarem Ergebnis. | – |
Verarbeitungszeit
- Median (p50): 199 s
- 95. Perzentil (p95): 520 s
- Testweg: Live-Gespräch
- Messstrecke: Von „Ende der Gesprächserfassung“ bis „Vollständiges Protokoll verfügbar“
Über alle abgeschlossenen Läufe, Audio in Echtzeit zugespielt. p95 zeigt die Dauer, die 95 % der Läufe nicht überschreiten. Median und p95 beschreiben die Verteilung der Messwerte und sind kein Konfidenzintervall.
Geschätzte Nacharbeit
- Je Besprechung: 11,9 min (Ø 39,6 min Aufnahme)
- Je Stunde Aufnahme: 18,06 min
- 95-%-Intervall je Stunde: 16,56–19,54 min
- Geschätzte Nacharbeit gesamt: 880,98 min
- Audiodauer aller Ausgaben: 48 h 47 min (48,786 h)
- Ausgaben: 74, alle abgeschlossenen Läufe
Geschätzt aus den gezählten Fehlern aller abgeschlossenen Ausgaben, mit festen Zeiten je Korrekturschritt, die für alle Dienste gleich sind. Die Rate je Stunde ist die Nacharbeit gesamt ÷ Audiostunden und lässt sich aus den angezeigten Minuten und den Stunden in Klammern genau nachrechnen.
Fehler nach Typ
| Fehlertyp | Anzahl | Anteil am häufigsten Fehlertyp | Bedeutung |
|---|---|---|---|
| Nicht erfasste Referenzfakten | 612 (22,1 % der Referenzfakten) | 100 % | Eine erforderliche Angabe aus der Aufnahme fehlt oder ist verfälscht (FN), etwa eine nicht erfasste Aufgabe. Korrekte Umformulierungen zählen als Treffer. |
| Falsche oder unbelegte Aussagen | 117 (4,7 % der ausgegebenen Aussagen) | 19 % | Die Ausgabe enthält eine Angabe, die der Referenz widerspricht oder sich nicht auf die Aufnahme stützt (FP, inhaltlicher Fehler), etwa eine nie vereinbarte Frist. Eine verfälschte Referenzangabe zählt zugleich hier und als nicht erfasster Referenzfakt. |
| Zutreffende, aber nicht relevante Aussagen | 226 (9,0 % der ausgegebenen Aussagen) | 37 % | Die Angabe stimmt, gehört laut Rubrik aber nicht in das Dokument (FP, nicht relevant), etwa Smalltalk oder wiederholte Begrüßungen. Sie senkt die Präzision, ist aber kein inhaltlicher Fehler. |
Über alle abgeschlossenen Läufe ergab der Faktenabgleich 2.162 korrekt erhaltene Fakten (TP), 343 falsch positive Aussagen (FP), davon 117 falsch oder unbelegt und 226 zutreffend, aber nicht relevant, 612 nicht erfasste Referenzfakten (FN). Fakten-F1 = 2TP ÷ (2TP + FP + FN). Beide FP-Arten senken die Präzision, nur falsche oder unbelegte Aussagen gelten als inhaltlicher Fehler.
Bewertet werden das gelieferte Protokoll und die Sprecherzuordnung im exportierten Transkript. Die Transkript-WER gilt nur für dieses Transkript und zählt nicht zum ScribeIndex-Score.
Abgeschlossene Läufe: 74 von 76 (97,4 %)
| Szenario | Lauf | Grund |
|---|---|---|
meeting-004 | 1 | Meeting-Bot nicht in die Konferenz zugelassen |
meeting-031 | 1 | Kein Protokoll innerhalb des festgelegten Zeitlimits |
Abgebrochene Läufe zählen in keinem Nenner der Qualitätskennzahlen. Sie stehen nur im Nenner der Abschlussquote und senken so den ScribeIndex-Score. Abgebrochene Läufe wiederholt ScribeIndex nicht. Die Zeitlimits stehen in der Methodik unter Laufzeit, Ausfälle und Nacharbeit.
Konfiguration im Test
- Produktversion: Sembly AI Web-App mit Meeting-Agent, Stand 2. Quartal 2026
- Modellversion: Vom Anbieter nicht ausgewiesen
- Sprache: Deutsch (de-DE)
- Vorlage: Standardvorlage des Herstellers
- Arbeitsauftrag: Meeting-Protokoll, Version 1.0
- Eigener Wortschatz: Nicht hinterlegt
- Erfassung: Meeting-Bot
- Transkriptsprache: Deutsch (de-DE)
- Ausgabesprache: Deutsch (de-DE)
- Teilnehmerliste übergeben: Ja
- Training abgewählt: Ja
- Datenregion: EU-Instanz
- Notizfunktion: Notes im neuen Konto aktiviert
- Auswertung: Version 1.0
- Textnormalisierung: de-allg-wer, Version 1.0
- Bewertungsrubrik: meeting-facts-v1, Version 1.0
Korpus, Ausschlüsse und Prüfsummen
Projektbesprechungen, Teamabstimmungen, Kundentermine, Interviews und Fachdiskussionen mit zwei bis acht Personen, als reine Videokonferenz oder als hybride Besprechung mit Teilnehmenden im Raum und aus der Ferne. Eingespielt wird über virtuelle Konferenzteilnehmende.
- Korpus: Besprechungen und Gesprächsprotokolle (
de-meeting-v1, Version 1.0) - Szenarien: 40 aufgenommen, 38 ausgewertet, je 2 Läufe
- Audio gesamt: 25 h 21 min, je Fall 13 min bis 1 h 27 min (Median 37 min)
- Sprecher je Fall: 2 bis 8
- Gesprächsart: Projektbesprechung (10), Teamabstimmung (9), Kundentermin (7), Interview (6), Fachdiskussion (6)
- Aufnahme: Videokonferenz (26), Hybrid (Raum und Remote) (12)
- Sprecherzahl: Fünf bis acht Personen (18), Drei bis vier Personen (11), Zwei Personen (9)
- Audioformate: PCM 24 Bit (WAV), 48 kHz, 2 Kanäle · Opus (WebM), 48 kHz, mono
- Aufbereitung:
- Einspielung über virtuelle Konferenzteilnehmende aus den getrennten ursprünglichen Sprecheraufnahmen. Hybride Raumsprecher bleiben gemeinsam auf einer unveränderten Raumspur. Aus der Korpusmischung werden keine Sprecher mit Hilfe der Referenz separiert.
- Referenz: Version 1.0: 194.653 Wörter, 1.279.564 Zeichen, 1.442 Referenzfakten
- Annotierte Einheiten: Referenzbeschlüsse 151 · Referenzaufgaben (Tätigkeit, Zuständigkeit, Frist) 228 · Aufgaben mit ausdrücklich genannter Zuständigkeit 166 · Aufgaben mit ausdrücklich genannter Frist 117 · Referenzsprechzeit 23 h 11 min
- Referenzprüfung: Fakten, Beschlüsse und Aufgaben mit Tätigkeit, Zuständigkeit und Frist werden mit der Gesprächsvorlage festgelegt. Sprechersegmente entstehen aus dem automatischen Abgleich von Aufnahme und Vorlage, unklare Stellen werden an der Aufnahme geprüft. Rubrik meeting-facts-v1, Version 1.0.
- Zeitraum der Testreihe: 2. und 3. Quartal 2026 für alle Dienste, Korpus vor dem ersten Lauf eingefroren
- Ausgeschlossen:
meeting-012: Sprecherreferenz wegen Übersprechen zweier Raummikrofone nicht belastbar.meeting-029: Teilnehmende widerriefen die Nutzung der Aufnahme.
- SHA-256 Manifest:
1a25115bb8a34e284f1d01d3860260a21cb8f5847004facb1596738bbac7ddab - SHA-256 Referenz:
eab8be0ab42fa45d7c98cb94b1a700dfc141ed5d7e96d67f4d9349c7d3a84d70
Unsicherheit und Berechnung
- Verfahren: Gepaarter Cluster-Bootstrap, Konfidenzniveau 95 %, Perzentilintervall. Anteile aus Zählern erhalten ein Wilson-Intervall mit Designeffekt
- Cluster: 38 Cluster, Einheit Szenario. Alle Läufe eines Szenarios bleiben im selben Cluster.
- Wiederholungen: 2.000 Bootstrap-Stichproben, Seed 4134088586
- Aggregation: Zähler aller abgeschlossenen Läufe werden gepoolt. Kennzahlen entstehen aus Summen, nicht aus Mittelwerten je Fall.
- Gepaarte Stichprobe: Alle Anbieter dieses Korpus nutzen dieselben Bootstrap-Stichproben. SHA-256 der Ziehungsliste:
3ee50ed01707c6c0c1902b3d172d67b6fe4b33360c81d07433d846f0fcbe3781 - Fakten: Präzision = TP ÷ (TP + FP) = 86,3 %. Recall = TP ÷ (TP + FN) = 77,9 %. F1 = 2TP ÷ (2TP + FP + FN) = 81,9 % (95-%-Intervall 80,2–83,7 %).
- ScribeIndex-Score: 95-%-Intervall 44,1–52,9 Punkte, je Bootstrap-Stichprobe aus dem vollständigen Score neu berechnet. Wie das Score-Intervall entsteht
Rangliste Meeting-Scribes
Sortiert nach ScribeIndex-Score.
- Platz 1: Fathom im Test 69,4
- Platz 2: Fireflies.ai im Test 61,5
- Platz 3: MeetGeek im Test 60,6
- Platz 4: Jamie im Test 60,2
- Platz 5: HappyScribe im Test 58,9
- Platz 6: Read AI im Test 58,5
- Platz 7: Granola im Test 57,7
- Platz 8: Otter.ai im Test 56,3
- Platz 9: Plaud im Test 55,6
- Platz 10: tl;dv im Test 55,3
- Platz 11: Sally AI im Test 54,4
- Platz 12: Bluedot im Test 50,6
- Platz 13: Sembly AI 48,6
- Platz 14: Notta im Test 46,7
Daten zu dieser Seite
Maschinenlesbar mit Zählern, Nennern und Intervallen. Frei nutzbar mit Quellenangabe. Zitierweise und Lizenz
So testet ScribeIndex
Jede Testreihe nutzt einen festen deutschsprachigen Korpus mit geprüften, vor dem ersten Lauf eingefrorenen Referenzen. Bewertet wird automatisch nach festen Regeln, unklare Zuordnungen werden anhand der Aufnahme fachlich geprüft. Jeder Fall läuft zwei- bis dreimal. Die Konfidenzintervalle von Score, Hauptkennzahl und weiteren Fehlerraten stammen aus einem gepaarten Bootstrap über die Szenarien, sodass alle Anbieter auf denselben Stichproben verglichen werden. Anteile aus Zählern erhalten ein Wilson-Intervall mit Designeffekt. Der ScribeIndex-Score ist ein gewichteter Gesamtwert aus Inhaltsqualität, Nacharbeit und Abschlussquote. Die Rangliste ordnet nach diesem Punktwert.
Für das Score-Intervall wird in jeder Bootstrap-Stichprobe der vollständige Score mit den Gewichten des Bewertungsmodells neu berechnet. Weil alle Dienste einer Testreihe dieselben Stichproben nutzen, lassen sich auch Scoredifferenzen gepaart auswerten.