{
 "schemaVersion": "1.0",
 "name": "ScribeIndex Testergebnisse: Granola",
 "license": {
  "name": "CC BY 4.0",
  "url": "https://creativecommons.org/licenses/by/4.0/deed.de"
 },
 "citation": "ScribeIndex (2026): Testergebnisse Granola. https://scribeindex.com/anbieter/granola/test/",
 "corpora": [
  {
   "id": "de-meeting-v1",
   "version": "1.0",
   "title": "Besprechungen und Gesprächsprotokolle",
   "category": "meeting-scribes",
   "protocol": "1.0",
   "description": "Projektbesprechungen, Teamabstimmungen, Kundentermine, Interviews und Fachdiskussionen mit zwei bis acht Personen, als reine Videokonferenz oder als hybride Besprechung mit Teilnehmenden im Raum und aus der Ferne. Eingespielt wird über virtuelle Konferenzteilnehmende.",
   "sourceScenarioCount": 40,
   "scenarioCount": 38,
   "runs": 2,
   "exclusions": [
    {
     "scenarioId": "meeting-012",
     "reason": "Sprecherreferenz wegen Übersprechen zweier Raummikrofone nicht belastbar."
    },
    {
     "scenarioId": "meeting-029",
     "reason": "Teilnehmende widerriefen die Nutzung der Aufnahme."
    }
   ],
   "strata": [
    {
     "dimension": "Gesprächsart",
     "groups": [
      {
       "label": "Projektbesprechung",
       "count": 10
      },
      {
       "label": "Teamabstimmung",
       "count": 9
      },
      {
       "label": "Kundentermin",
       "count": 7
      },
      {
       "label": "Interview",
       "count": 6
      },
      {
       "label": "Fachdiskussion",
       "count": 6
      }
     ]
    },
    {
     "dimension": "Aufnahme",
     "groups": [
      {
       "label": "Videokonferenz",
       "count": 26
      },
      {
       "label": "Hybrid (Raum und Remote)",
       "count": 12
      }
     ]
    },
    {
     "dimension": "Sprecherzahl",
     "groups": [
      {
       "label": "Fünf bis acht Personen",
       "count": 18
      },
      {
       "label": "Drei bis vier Personen",
       "count": 11
      },
      {
       "label": "Zwei Personen",
       "count": 9
      }
     ]
    }
   ],
   "speakers": {
    "min": 2,
    "max": 8
   },
   "durationSeconds": {
    "min": 780,
    "max": 5220,
    "median": 2220,
    "total": 91260
   },
   "audioFormats": [
    {
     "codec": "PCM 24 Bit (WAV)",
     "sampleRateHertz": 48000,
     "channels": 2
    },
    {
     "codec": "Opus (WebM)",
     "sampleRateHertz": 48000,
     "channels": 1
    }
   ],
   "reference": {
    "version": "1.0",
    "words": 194653,
    "characters": 1279564,
    "charactersPerWord": 6.574,
    "facts": 1442,
    "units": [
     {
      "key": "decisions",
      "label": "Referenzbeschlüsse",
      "count": 151
     },
     {
      "key": "actionItems",
      "label": "Referenzaufgaben (Tätigkeit, Zuständigkeit, Frist)",
      "count": 228
     },
     {
      "key": "actionOwners",
      "label": "Aufgaben mit ausdrücklich genannter Zuständigkeit",
      "count": 166
     },
     {
      "key": "actionDeadlines",
      "label": "Aufgaben mit ausdrücklich genannter Frist",
      "count": 117
     },
     {
      "key": "speechCentiseconds",
      "label": "Referenzsprechzeit",
      "count": 8345694
     }
    ]
   },
   "annotation": {
    "independentAnnotations": 1,
    "adjudication": "Fakten, Beschlüsse und Aufgaben mit Tätigkeit, Zuständigkeit und Frist werden mit der Gesprächsvorlage festgelegt. Sprechersegmente entstehen aus dem automatischen Abgleich von Aufnahme und Vorlage, unklare Stellen werden an der Aufnahme geprüft.",
    "rubric": {
     "id": "meeting-facts-v1",
     "version": "1.0"
    }
   },
   "scorer": {
    "name": "scribeindex-eval",
    "version": "1.0"
   },
   "normalization": {
    "id": "de-allg-wer",
    "version": "1.0"
   },
   "manifestSha256": "1a25115bb8a34e284f1d01d3860260a21cb8f5847004facb1596738bbac7ddab",
   "referenceSha256": "eab8be0ab42fa45d7c98cb94b1a700dfc141ed5d7e96d67f4d9349c7d3a84d70",
   "uncertainty": {
    "method": "paired-cluster-bootstrap",
    "clusterUnit": "scenario",
    "resamples": 2000,
    "seed": 4134088586,
    "intervalMethod": "percentile",
    "aggregation": "pooled-counts",
    "pairedSampleManifestSha256": "3ee50ed01707c6c0c1902b3d172d67b6fe4b33360c81d07433d846f0fcbe3781"
   },
   "frozen": "2026-Q2",
   "testPeriod": "2026-Q2/2026-Q3",
   "methodUrl": "https://scribeindex.com/methodik/meeting-scribes/"
  }
 ],
 "results": [
  {
   "id": "granola/meeting-scribes",
   "provider": "granola",
   "providerName": "Granola",
   "test": "meeting-scribes",
   "label": "Meeting-Scribes",
   "category": "meeting-scribes",
   "url": "https://scribeindex.com/anbieter/granola/test/#meeting-scribes",
   "rankingUrl": "https://scribeindex.com/vergleich/meeting-scribes/",
   "testPeriod": "2026-Q3",
   "protocol": "1.0",
   "corpus": "de-meeting-v1",
   "scenarios": 38,
   "runs": 2,
   "completed": 76,
   "total": 76,
   "completionRatePercent": 100,
   "evaluation": {
    "output": "meeting-summary",
    "semanticRubric": "meeting-facts-v1",
    "wordErrorRate": {
     "applicability": "not-applicable",
     "basis": "unavailable",
     "explanation": "Bewertet werden das gelieferte Protokoll und die Sprecherzuordnung im exportierten Transkript. Die Transkript-WER gilt nur für dieses Transkript und zählt nicht zum ScribeIndex-Score."
    }
   },
   "score": {
    "version": "2.2",
    "value": 57.6988,
    "ci95": [
     51.3,
     63
    ],
    "ci95Method": "paired-cluster-bootstrap",
    "pairedDifferences": [
     {
      "provider": "jamie",
      "ci95": [
       -7.76,
       2.35
      ]
     },
     {
      "provider": "otter",
      "ci95": [
       -2.89,
       5.85
      ]
     },
     {
      "provider": "fireflies",
      "ci95": [
       -8.47,
       0.58
      ]
     },
     {
      "provider": "fathom",
      "ci95": [
       -16.81,
       -6.74
      ]
     },
     {
      "provider": "tldv",
      "ci95": [
       -1.98,
       6.51
      ]
     },
     {
      "provider": "happy-scribe",
      "ci95": [
       -6.5,
       3.93
      ]
     },
     {
      "provider": "notta",
      "ci95": [
       3.8,
       17.75
      ]
     },
     {
      "provider": "read-ai",
      "ci95": [
       -6.43,
       4.67
      ]
     },
     {
      "provider": "meetgeek",
      "ci95": [
       -8.19,
       2.45
      ]
     },
     {
      "provider": "bluedot",
      "ci95": [
       1.27,
       12.85
      ]
     },
     {
      "provider": "sembly",
      "ci95": [
       3.9,
       14.05
      ]
     },
     {
      "provider": "plaud",
      "ci95": [
       -2.38,
       6.54
      ]
     },
     {
      "provider": "sally",
      "ci95": [
       -3.08,
       9.84
      ]
     }
    ],
    "rank": 7,
    "cohortSize": 14,
    "criticalRatePercent": null,
    "contentQuality": 85.506,
    "references": {
     "key": "meeting-scribes",
     "qualityErrorPoints": 30,
     "correctionMinutes": 35,
     "criticalPercent": null
    },
    "components": [
     {
      "key": "quality",
      "label": "Inhaltsqualität",
      "value": 51.686,
      "weight": 0.75,
      "contribution": 38.765
     },
     {
      "key": "effort",
      "label": "Korrekturaufwand",
      "value": 69.671,
      "weight": 0.2,
      "contribution": 13.934
     },
     {
      "key": "reliability",
      "label": "Abschlussquote",
      "value": 100,
      "weight": 0.05,
      "contribution": 5
     }
    ]
   },
   "mainMetric": {
    "label": "Fakten-F1",
    "abbreviation": "F1",
    "value": 88.776,
    "direction": "higher",
    "ci95": [
     87.21,
     90.28
    ]
   },
   "transcription": null,
   "facts": {
    "truePositive": 2527,
    "falsePositive": 282,
    "falseNegative": 357,
    "referenceFacts": 2884,
    "outputFacts": 2809,
    "precisionPercent": 89.961,
    "precisionCi95": [
     88.1,
     91.72
    ],
    "recallPercent": 87.621,
    "recallCi95": [
     85.72,
     89.34
    ],
    "f1Percent": 88.776,
    "f1Ci95": [
     87.21,
     90.28
    ]
   },
   "latency": {
    "p50Seconds": 54.1,
    "p95Seconds": 82.2,
    "mode": "live-conversation",
    "start": "Ende der Gesprächserfassung",
    "end": "Vollständiges Protokoll verfügbar"
   },
   "correction": {
    "minutesPerAudioHour": 10.615,
    "ci95": [
     9.44,
     11.85
    ],
    "estimate": {
     "outputs": 76,
     "audioSeconds": 182520,
     "minutes": 538.18,
     "ci": [
      9.44,
      11.85
     ],
     "audioHours": 50.7
    }
   },
   "additionalMetrics": [
    {
     "key": "transcript-wer",
     "label": "Transkript-WER",
     "numerator": 47097,
     "denominator": 389306,
     "valuePercent": 12.098,
     "direction": "lower",
     "definition": "Wortersetzungen, Auslassungen und Einfügungen im exportierten Transkript pro Referenzwort nach Normalisierungsprofil de-allg-wer. Bewertet das Transkript, nicht die Zusammenfassung.",
     "ci95": [
      11.03,
      13.21
     ],
     "ci95Method": "cluster-bootstrap-percentile",
     "designEffect": null
    },
    {
     "key": "der",
     "label": "Diarisierungsfehlerrate · DER",
     "numerator": 3692784,
     "denominator": 16691388,
     "valuePercent": 22.124,
     "direction": "lower",
     "definition": "Verpasste Sprache, fälschlich erkannte Sprache und falsch zugeordnete Sprecherzeit pro Referenzsprechzeit. Toleranz 250 ms um Referenzgrenzen, überlappende Sprache eingeschlossen. Liefert ein Dienst Sprecherkennungen ohne eigene Zeitmarken, bestimmt ScribeIndex die Zeitmarken durch erzwungene Ausrichtung (Forced Alignment) des gelieferten Texts an der Aufnahme. Die DER berechnet ScribeIndex daraus wie bei allen anderen Diensten, mit verpasster und fälschlich erkannter Sprache und Fehlern an Segmentgrenzen.",
     "ci95": [
      17.41,
      28.14
     ],
     "ci95Method": "cluster-bootstrap-percentile",
     "designEffect": null
    },
    {
     "key": "der-strict",
     "label": "DER ohne Toleranz",
     "numerator": 5288954,
     "denominator": 16691388,
     "valuePercent": 31.687,
     "direction": "lower",
     "definition": "Diarisierungsfehlerrate wie DER, jedoch ohne Toleranzbereich um Referenzgrenzen. Die Differenz zur DER zeigt den Anteil der Fehler an Segmentgrenzen.",
     "ci95": [
      24.92,
      40.44
     ],
     "ci95Method": "cluster-bootstrap-percentile",
     "designEffect": null
    },
    {
     "key": "unsupported-statements",
     "label": "Falsche oder unbelegte Aussagen",
     "numerator": 91,
     "denominator": 2809,
     "valuePercent": 3.24,
     "direction": "lower",
     "definition": "Ausgegebene Aussagen, die der Referenz widersprechen oder sich weder auf das Gespräch noch auf bereitgestellten Kontext stützen, pro ausgegebener deduplizierter Aussage. Zutreffende, aber nicht dokumentationsrelevante Aussagen zählen getrennt und nicht hier.",
     "ci95": [
      2.37,
      4.4
     ],
     "ci95Method": "wilson-design-effect",
     "designEffect": 2.3323
    },
    {
     "key": "decision-recall",
     "label": "Erfasste Beschlüsse",
     "numerator": 261,
     "denominator": 302,
     "valuePercent": 86.424,
     "direction": "higher",
     "definition": "Korrekt als Beschluss wiedergegebene Referenzbeschlüsse mit Geltungsbereich und Status pro Referenzbeschluss. Als Beschluss ausgegebene Vorschläge zählen nicht als Treffer.",
     "ci95": [
      80.78,
      90.61
     ],
     "ci95Method": "wilson-design-effect",
     "designEffect": 1.6119
    },
    {
     "key": "action-item-recall",
     "label": "Erkannte Aufgaben",
     "numerator": 416,
     "denominator": 456,
     "valuePercent": 91.228,
     "direction": "higher",
     "definition": "Referenzaufgaben, die im Protokoll als Aufgabe erscheinen, pro Referenzaufgabe. Zuständigkeit und Frist werden getrennt bewertet.",
     "ci95": [
      87.6,
      93.87
     ],
     "ci95Method": "wilson-design-effect",
     "designEffect": 1.4339
    },
    {
     "key": "action-owner-accuracy",
     "label": "Korrekte Zuständigkeiten",
     "numerator": 268,
     "denominator": 332,
     "valuePercent": 80.723,
     "direction": "higher",
     "definition": "Korrekt wiedergegebene verantwortliche Personen pro Referenzaufgabe mit ausdrücklich genannter Zuständigkeit. Nicht erkannte Aufgaben zählen als Fehler.",
     "ci95": [
      75.14,
      85.3
     ],
     "ci95Method": "wilson-design-effect",
     "designEffect": 1.4415
    },
    {
     "key": "action-deadline-accuracy",
     "label": "Korrekte Fristen",
     "numerator": 188,
     "denominator": 234,
     "valuePercent": 80.342,
     "direction": "higher",
     "definition": "Korrekt wiedergegebene Fristen pro Referenzaufgabe mit ausdrücklich genannter Frist. Nicht erkannte Aufgaben zählen als Fehler.",
     "ci95": [
      73.39,
      85.83
     ],
     "ci95Method": "wilson-design-effect",
     "designEffect": 1.5037
    },
    {
     "key": "action-tuple-accuracy",
     "label": "Vollständig korrekte Aufgaben",
     "numerator": 350,
     "denominator": 456,
     "valuePercent": 76.754,
     "direction": "higher",
     "definition": "Aufgaben, deren Tätigkeit, Zuständigkeit und Frist vollständig korrekt wiedergegeben werden, pro Referenzaufgabe. Nicht genannte Zuständigkeiten oder Fristen müssen als nicht genannt erscheinen.",
     "ci95": [
      71.88,
      81.01
     ],
     "ci95Method": "wilson-design-effect",
     "designEffect": 1.3951
    }
   ],
   "errorTypes": [
    {
     "label": "Nicht erfasste Referenzfakten",
     "count": 357
    },
    {
     "label": "Falsche oder unbelegte Aussagen",
     "count": 91
    },
    {
     "label": "Zutreffende, aber nicht relevante Aussagen",
     "count": 191
    }
   ],
   "failedRuns": [],
   "configuration": {
    "locale": "de-DE",
    "automaticLanguageDetection": true,
    "productVersion": "Desktop-App (macOS), Stand 3. Quartal 2026",
    "modelVersions": null,
    "template": {
     "id": "si-meeting-protokoll",
     "version": "1.0"
    },
    "instruction": {
     "id": "si-instr-meeting",
     "version": "1.0"
    },
    "customVocabulary": null,
    "settings": {
     "capture": "Desktop-Aufnahme von Mikrofon und Systemaudio ohne Bot",
     "transcriptLanguage": "Mehrsprachig (Einstellung „Multi-language“)",
     "noteLanguage": "Automatisch, deutschsprachiger Gesprächsinhalt",
     "mode": "Eigene Stichpunkte leer gelassen, Notiz nur aus dem Gespräch",
     "participantList": true,
     "speakerTags": "Aktiv, Teilnehmernamen aus der Videokonferenz, Raumteilnehmende hybrider Besprechungen ohne eigene Namen",
     "speakerExport": "Transkript über die API mit Start- und Endzeit und Audioquelle je Eintrag"
    },
    "scorer": {
     "name": "scribeindex-eval",
     "version": "1.0"
    },
    "normalization": {
     "id": "de-allg-wer",
     "version": "1.0"
    }
   },
   "corpusMetadata": {
    "version": "1.0",
    "manifestSha256": "1a25115bb8a34e284f1d01d3860260a21cb8f5847004facb1596738bbac7ddab",
    "referenceVersion": "1.0",
    "referenceSha256": "eab8be0ab42fa45d7c98cb94b1a700dfc141ed5d7e96d67f4d9349c7d3a84d70",
    "sourceScenarioCount": 40,
    "evaluatedScenarioCount": 38,
    "totalAudioSeconds": 91260,
    "durationSeconds": {
     "minimum": 780,
     "maximum": 5220
    },
    "audioFormats": [
     {
      "codec": "PCM 24 Bit (WAV)",
      "sampleRateHertz": 48000,
      "channels": 2
     },
     {
      "codec": "Opus (WebM)",
      "sampleRateHertz": 48000,
      "channels": 1
     }
    ],
    "conversions": [
     {
      "description": "Teilnahme an derselben Videokonferenz auf einem Testrechner, Einspielung über virtuelle Konferenzteilnehmende wie bei Meeting-Bots. Die übrigen Teilnehmenden kommen als Systemaudio an, der Mikrofonkanal trägt den Sprechanteil der Person am Testrechner.",
      "tool": "scribeindex-meeting-replay",
      "version": "1.0"
     }
    ],
    "exclusions": [
     {
      "scenarioId": "meeting-012",
      "reason": "Sprecherreferenz wegen Übersprechen zweier Raummikrofone nicht belastbar."
     },
     {
      "scenarioId": "meeting-029",
      "reason": "Teilnehmende widerriefen die Nutzung der Aufnahme."
     }
    ]
   },
   "uncertainty": {
    "confidenceLevel": 0.95,
    "method": "paired-cluster-bootstrap",
    "clusterUnit": "scenario",
    "clusterCount": 38,
    "resamples": 2000,
    "seed": 4134088586,
    "intervalMethod": "percentile",
    "aggregation": "pooled-counts",
    "pairedSampleManifestSha256": "3ee50ed01707c6c0c1902b3d172d67b6fe4b33360c81d07433d846f0fcbe3781"
   }
  }
 ]
}