{
 "schemaVersion": "1.0",
 "name": "ScribeIndex Testergebnisse: Fireflies.ai",
 "license": {
  "name": "CC BY 4.0",
  "url": "https://creativecommons.org/licenses/by/4.0/deed.de"
 },
 "citation": "ScribeIndex (2026): Testergebnisse Fireflies.ai. https://scribeindex.com/anbieter/fireflies/test/",
 "corpora": [
  {
   "id": "de-meeting-v1",
   "version": "1.0",
   "title": "Besprechungen und Gesprächsprotokolle",
   "category": "meeting-scribes",
   "protocol": "1.0",
   "description": "Projektbesprechungen, Teamabstimmungen, Kundentermine, Interviews und Fachdiskussionen mit zwei bis acht Personen, als reine Videokonferenz oder als hybride Besprechung mit Teilnehmenden im Raum und aus der Ferne. Eingespielt wird über virtuelle Konferenzteilnehmende.",
   "sourceScenarioCount": 40,
   "scenarioCount": 38,
   "runs": 2,
   "exclusions": [
    {
     "scenarioId": "meeting-012",
     "reason": "Sprecherreferenz wegen Übersprechen zweier Raummikrofone nicht belastbar."
    },
    {
     "scenarioId": "meeting-029",
     "reason": "Teilnehmende widerriefen die Nutzung der Aufnahme."
    }
   ],
   "strata": [
    {
     "dimension": "Gesprächsart",
     "groups": [
      {
       "label": "Projektbesprechung",
       "count": 10
      },
      {
       "label": "Teamabstimmung",
       "count": 9
      },
      {
       "label": "Kundentermin",
       "count": 7
      },
      {
       "label": "Interview",
       "count": 6
      },
      {
       "label": "Fachdiskussion",
       "count": 6
      }
     ]
    },
    {
     "dimension": "Aufnahme",
     "groups": [
      {
       "label": "Videokonferenz",
       "count": 26
      },
      {
       "label": "Hybrid (Raum und Remote)",
       "count": 12
      }
     ]
    },
    {
     "dimension": "Sprecherzahl",
     "groups": [
      {
       "label": "Fünf bis acht Personen",
       "count": 18
      },
      {
       "label": "Drei bis vier Personen",
       "count": 11
      },
      {
       "label": "Zwei Personen",
       "count": 9
      }
     ]
    }
   ],
   "speakers": {
    "min": 2,
    "max": 8
   },
   "durationSeconds": {
    "min": 780,
    "max": 5220,
    "median": 2220,
    "total": 91260
   },
   "audioFormats": [
    {
     "codec": "PCM 24 Bit (WAV)",
     "sampleRateHertz": 48000,
     "channels": 2
    },
    {
     "codec": "Opus (WebM)",
     "sampleRateHertz": 48000,
     "channels": 1
    }
   ],
   "reference": {
    "version": "1.0",
    "words": 194653,
    "characters": 1279564,
    "charactersPerWord": 6.574,
    "facts": 1442,
    "units": [
     {
      "key": "decisions",
      "label": "Referenzbeschlüsse",
      "count": 151
     },
     {
      "key": "actionItems",
      "label": "Referenzaufgaben (Tätigkeit, Zuständigkeit, Frist)",
      "count": 228
     },
     {
      "key": "actionOwners",
      "label": "Aufgaben mit ausdrücklich genannter Zuständigkeit",
      "count": 166
     },
     {
      "key": "actionDeadlines",
      "label": "Aufgaben mit ausdrücklich genannter Frist",
      "count": 117
     },
     {
      "key": "speechCentiseconds",
      "label": "Referenzsprechzeit",
      "count": 8345694
     }
    ]
   },
   "annotation": {
    "independentAnnotations": 1,
    "adjudication": "Fakten, Beschlüsse und Aufgaben mit Tätigkeit, Zuständigkeit und Frist werden mit der Gesprächsvorlage festgelegt. Sprechersegmente entstehen aus dem automatischen Abgleich von Aufnahme und Vorlage, unklare Stellen werden an der Aufnahme geprüft.",
    "rubric": {
     "id": "meeting-facts-v1",
     "version": "1.0"
    }
   },
   "scorer": {
    "name": "scribeindex-eval",
    "version": "1.0"
   },
   "normalization": {
    "id": "de-allg-wer",
    "version": "1.0"
   },
   "manifestSha256": "1a25115bb8a34e284f1d01d3860260a21cb8f5847004facb1596738bbac7ddab",
   "referenceSha256": "eab8be0ab42fa45d7c98cb94b1a700dfc141ed5d7e96d67f4d9349c7d3a84d70",
   "uncertainty": {
    "method": "paired-cluster-bootstrap",
    "clusterUnit": "scenario",
    "resamples": 2000,
    "seed": 4134088586,
    "intervalMethod": "percentile",
    "aggregation": "pooled-counts",
    "pairedSampleManifestSha256": "3ee50ed01707c6c0c1902b3d172d67b6fe4b33360c81d07433d846f0fcbe3781"
   },
   "frozen": "2026-Q2",
   "testPeriod": "2026-Q2/2026-Q3",
   "methodUrl": "https://scribeindex.com/methodik/meeting-scribes/"
  }
 ],
 "results": [
  {
   "id": "fireflies/meeting-scribes",
   "provider": "fireflies",
   "providerName": "Fireflies.ai",
   "test": "meeting-scribes",
   "label": "Meeting-Scribes",
   "category": "meeting-scribes",
   "url": "https://scribeindex.com/anbieter/fireflies/test/#meeting-scribes",
   "rankingUrl": "https://scribeindex.com/vergleich/meeting-scribes/",
   "testPeriod": "2026-Q3",
   "protocol": "1.0",
   "corpus": "de-meeting-v1",
   "scenarios": 38,
   "runs": 2,
   "completed": 74,
   "total": 76,
   "completionRatePercent": 97.368,
   "evaluation": {
    "output": "meeting-summary",
    "semanticRubric": "meeting-facts-v1",
    "wordErrorRate": {
     "applicability": "not-applicable",
     "basis": "unavailable",
     "explanation": "Bewertet werden das gelieferte Protokoll und die Sprecherzuordnung im exportierten Transkript. Die Transkript-WER gilt nur für dieses Transkript und zählt nicht zum ScribeIndex-Score."
    }
   },
   "score": {
    "version": "2.2",
    "value": 61.4985,
    "ci95": [
     55.8,
     66.7
    ],
    "ci95Method": "paired-cluster-bootstrap",
    "pairedDifferences": [
     {
      "provider": "jamie",
      "ci95": [
       -2.57,
       5.11
      ]
     },
     {
      "provider": "otter",
      "ci95": [
       1.52,
       9.16
      ]
     },
     {
      "provider": "fathom",
      "ci95": [
       -12.16,
       -3.7
      ]
     },
     {
      "provider": "granola",
      "ci95": [
       -0.58,
       8.47
      ]
     },
     {
      "provider": "tldv",
      "ci95": [
       1.32,
       11.37
      ]
     },
     {
      "provider": "happy-scribe",
      "ci95": [
       -1.94,
       7.19
      ]
     },
     {
      "provider": "notta",
      "ci95": [
       9.31,
       20.31
      ]
     },
     {
      "provider": "read-ai",
      "ci95": [
       -1.97,
       7.59
      ]
     },
     {
      "provider": "meetgeek",
      "ci95": [
       -3.66,
       5.7
      ]
     },
     {
      "provider": "bluedot",
      "ci95": [
       5.41,
       16.09
      ]
     },
     {
      "provider": "sembly",
      "ci95": [
       7.59,
       18.08
      ]
     },
     {
      "provider": "plaud",
      "ci95": [
       1.59,
       10.81
      ]
     },
     {
      "provider": "sally",
      "ci95": [
       2.49,
       11.86
      ]
     }
    ],
    "rank": 2,
    "cohortSize": 14,
    "criticalRatePercent": null,
    "contentQuality": 87.404,
    "references": {
     "key": "meeting-scribes",
     "qualityErrorPoints": 30,
     "correctionMinutes": 35,
     "criticalPercent": null
    },
    "components": [
     {
      "key": "quality",
      "label": "Inhaltsqualität",
      "value": 58.014,
      "weight": 0.75,
      "contribution": 43.51
     },
     {
      "key": "effort",
      "label": "Korrekturaufwand",
      "value": 65.598,
      "weight": 0.2,
      "contribution": 13.12
     },
     {
      "key": "reliability",
      "label": "Abschlussquote",
      "value": 97.368,
      "weight": 0.05,
      "contribution": 4.868
     }
    ]
   },
   "mainMetric": {
    "label": "Fakten-F1",
    "abbreviation": "F1",
    "value": 86.608,
    "direction": "higher",
    "ci95": [
     84.23,
     88.87
    ]
   },
   "transcription": null,
   "facts": {
    "truePositive": 2367,
    "falsePositive": 317,
    "falseNegative": 415,
    "referenceFacts": 2782,
    "outputFacts": 2684,
    "precisionPercent": 88.189,
    "precisionCi95": [
     85.64,
     90.69
    ],
    "recallPercent": 85.083,
    "recallCi95": [
     82.03,
     87.75
    ],
    "f1Percent": 86.608,
    "f1Ci95": [
     84.23,
     88.87
    ]
   },
   "latency": {
    "p50Seconds": 458.3,
    "p95Seconds": 980.9,
    "mode": "live-conversation",
    "start": "Ende der Gesprächserfassung",
    "end": "Vollständiges Protokoll verfügbar"
   },
   "correction": {
    "minutesPerAudioHour": 12.0406,
    "ci95": [
     10.4,
     13.88
    ],
    "estimate": {
     "outputs": 74,
     "audioSeconds": 176580,
     "minutes": 590.69,
     "ci": [
      10.4,
      13.88
     ],
     "audioHours": 49.058
    }
   },
   "additionalMetrics": [
    {
     "key": "transcript-wer",
     "label": "Transkript-WER",
     "numerator": 45259,
     "denominator": 376860,
     "valuePercent": 12.009,
     "direction": "lower",
     "definition": "Wortersetzungen, Auslassungen und Einfügungen im exportierten Transkript pro Referenzwort nach Normalisierungsprofil de-allg-wer. Bewertet das Transkript, nicht die Zusammenfassung.",
     "ci95": [
      10.54,
      13.75
     ],
     "ci95Method": "cluster-bootstrap-percentile",
     "designEffect": null
    },
    {
     "key": "der",
     "label": "Diarisierungsfehlerrate · DER",
     "numerator": 1734853,
     "denominator": 16155578,
     "valuePercent": 10.738,
     "direction": "lower",
     "definition": "Verpasste Sprache, fälschlich erkannte Sprache und falsch zugeordnete Sprecherzeit pro Referenzsprechzeit. Toleranz 250 ms um Referenzgrenzen, überlappende Sprache eingeschlossen. Liefert ein Dienst Sprecherkennungen ohne eigene Zeitmarken, bestimmt ScribeIndex die Zeitmarken durch erzwungene Ausrichtung (Forced Alignment) des gelieferten Texts an der Aufnahme. Die DER berechnet ScribeIndex daraus wie bei allen anderen Diensten, mit verpasster und fälschlich erkannter Sprache und Fehlern an Segmentgrenzen.",
     "ci95": [
      9.55,
      11.92
     ],
     "ci95Method": "cluster-bootstrap-percentile",
     "designEffect": null
    },
    {
     "key": "der-strict",
     "label": "DER ohne Toleranz",
     "numerator": 2088259,
     "denominator": 16155578,
     "valuePercent": 12.926,
     "direction": "lower",
     "definition": "Diarisierungsfehlerrate wie DER, jedoch ohne Toleranzbereich um Referenzgrenzen. Die Differenz zur DER zeigt den Anteil der Fehler an Segmentgrenzen.",
     "ci95": [
      11.45,
      14.36
     ],
     "ci95Method": "cluster-bootstrap-percentile",
     "designEffect": null
    },
    {
     "key": "unsupported-statements",
     "label": "Falsche oder unbelegte Aussagen",
     "numerator": 101,
     "denominator": 2684,
     "valuePercent": 3.763,
     "direction": "lower",
     "definition": "Ausgegebene Aussagen, die der Referenz widersprechen oder sich weder auf das Gespräch noch auf bereitgestellten Kontext stützen, pro ausgegebener deduplizierter Aussage. Zutreffende, aber nicht dokumentationsrelevante Aussagen zählen getrennt und nicht hier.",
     "ci95": [
      2.81,
      5.01
     ],
     "ci95Method": "wilson-design-effect",
     "designEffect": 2.2722
    },
    {
     "key": "decision-recall",
     "label": "Erfasste Beschlüsse",
     "numerator": 250,
     "denominator": 293,
     "valuePercent": 85.324,
     "direction": "higher",
     "definition": "Korrekt als Beschluss wiedergegebene Referenzbeschlüsse mit Geltungsbereich und Status pro Referenzbeschluss. Als Beschluss ausgegebene Vorschläge zählen nicht als Treffer.",
     "ci95": [
      79.49,
      89.72
     ],
     "ci95Method": "wilson-design-effect",
     "designEffect": 1.5911
    },
    {
     "key": "action-item-recall",
     "label": "Erkannte Aufgaben",
     "numerator": 415,
     "denominator": 442,
     "valuePercent": 93.891,
     "direction": "higher",
     "definition": "Referenzaufgaben, die im Protokoll als Aufgabe erscheinen, pro Referenzaufgabe. Zuständigkeit und Frist werden getrennt bewertet.",
     "ci95": [
      90.65,
      96.06
     ],
     "ci95Method": "wilson-design-effect",
     "designEffect": 1.4195
    },
    {
     "key": "action-owner-accuracy",
     "label": "Korrekte Zuständigkeiten",
     "numerator": 266,
     "denominator": 318,
     "valuePercent": 83.648,
     "direction": "higher",
     "definition": "Korrekt wiedergegebene verantwortliche Personen pro Referenzaufgabe mit ausdrücklich genannter Zuständigkeit. Nicht erkannte Aufgaben zählen als Fehler.",
     "ci95": [
      78.24,
      87.92
     ],
     "ci95Method": "wilson-design-effect",
     "designEffect": 1.4208
    },
    {
     "key": "action-deadline-accuracy",
     "label": "Korrekte Fristen",
     "numerator": 187,
     "denominator": 225,
     "valuePercent": 83.111,
     "direction": "higher",
     "definition": "Korrekt wiedergegebene Fristen pro Referenzaufgabe mit ausdrücklich genannter Frist. Nicht erkannte Aufgaben zählen als Fehler.",
     "ci95": [
      76.35,
      88.24
     ],
     "ci95Method": "wilson-design-effect",
     "designEffect": 1.4813
    },
    {
     "key": "action-tuple-accuracy",
     "label": "Vollständig korrekte Aufgaben",
     "numerator": 349,
     "denominator": 442,
     "valuePercent": 78.959,
     "direction": "higher",
     "definition": "Aufgaben, deren Tätigkeit, Zuständigkeit und Frist vollständig korrekt wiedergegeben werden, pro Referenzaufgabe. Nicht genannte Zuständigkeiten oder Fristen müssen als nicht genannt erscheinen.",
     "ci95": [
      74.16,
      83.07
     ],
     "ci95Method": "wilson-design-effect",
     "designEffect": 1.382
    }
   ],
   "errorTypes": [
    {
     "label": "Nicht erfasste Referenzfakten",
     "count": 415
    },
    {
     "label": "Falsche oder unbelegte Aussagen",
     "count": 101
    },
    {
     "label": "Zutreffende, aber nicht relevante Aussagen",
     "count": 216
    }
   ],
   "failedRuns": [
    {
     "scenarioId": "meeting-037",
     "run": 1,
     "reason": "Meeting-Bot nicht in die Konferenz zugelassen"
    },
    {
     "scenarioId": "meeting-038",
     "run": 1,
     "reason": "Leere Zusammenfassung ausgegeben"
    }
   ],
   "configuration": {
    "locale": "de-DE",
    "automaticLanguageDetection": false,
    "productVersion": "Web-App mit Meeting-Bot, Stand 3. Quartal 2026",
    "modelVersions": null,
    "template": {
     "id": "si-meeting-protokoll",
     "version": "1.0"
    },
    "instruction": {
     "id": "si-instr-meeting",
     "version": "1.0"
    },
    "customVocabulary": null,
    "settings": {
     "capture": "Meeting-Bot",
     "transcriptLanguage": "de-DE",
     "participantList": true
    },
    "scorer": {
     "name": "scribeindex-eval",
     "version": "1.0"
    },
    "normalization": {
     "id": "de-allg-wer",
     "version": "1.0"
    }
   },
   "corpusMetadata": {
    "version": "1.0",
    "manifestSha256": "1a25115bb8a34e284f1d01d3860260a21cb8f5847004facb1596738bbac7ddab",
    "referenceVersion": "1.0",
    "referenceSha256": "eab8be0ab42fa45d7c98cb94b1a700dfc141ed5d7e96d67f4d9349c7d3a84d70",
    "sourceScenarioCount": 40,
    "evaluatedScenarioCount": 38,
    "totalAudioSeconds": 91260,
    "durationSeconds": {
     "minimum": 780,
     "maximum": 5220
    },
    "audioFormats": [
     {
      "codec": "PCM 24 Bit (WAV)",
      "sampleRateHertz": 48000,
      "channels": 2
     },
     {
      "codec": "Opus (WebM)",
      "sampleRateHertz": 48000,
      "channels": 1
     }
    ],
    "conversions": [
     {
      "description": "Einspielung über virtuelle Konferenzteilnehmende aus den getrennten ursprünglichen Sprecheraufnahmen. Hybride Raumsprecher bleiben gemeinsam auf einer unveränderten Raumspur. Aus der Korpusmischung werden keine Sprecher mit Hilfe der Referenz separiert.",
      "tool": "scribeindex-meeting-replay",
      "version": "1.0"
     }
    ],
    "exclusions": [
     {
      "scenarioId": "meeting-012",
      "reason": "Sprecherreferenz wegen Übersprechen zweier Raummikrofone nicht belastbar."
     },
     {
      "scenarioId": "meeting-029",
      "reason": "Teilnehmende widerriefen die Nutzung der Aufnahme."
     }
    ]
   },
   "uncertainty": {
    "confidenceLevel": 0.95,
    "method": "paired-cluster-bootstrap",
    "clusterUnit": "scenario",
    "clusterCount": 38,
    "resamples": 2000,
    "seed": 4134088586,
    "intervalMethod": "percentile",
    "aggregation": "pooled-counts",
    "pairedSampleManifestSha256": "3ee50ed01707c6c0c1902b3d172d67b6fe4b33360c81d07433d846f0fcbe3781"
   }
  }
 ]
}