eval-stt-officiels / README.md
benoitvx's picture
docs: corrige le README (8 samples, régime mixte lissé/verbatim QAG)
ae64e63 verified
|
Raw
History Blame Contribute Delete
2.23 kB
metadata
license: etalab-2.0
language:
  - fr
task_categories:
  - automatic-speech-recognition
pretty_name: EvalSTT  Corpus officiels (FR)
tags:
  - speech-to-text
  - french
  - evaluation
  - public-sector
size_categories:
  - n<1K

EvalSTT — Corpus officiels (FR)

Corpus public d'évaluation de modèles de transcription (speech-to-text) sur du langage de l'administration française : discours officiels, allocutions publiques et questions au gouvernement. Constitué par le département IA dans l'État (DINUM) dans le cadre de l'évaluation des modèles de speech-to-text.

Ce dataset est publié pour la transparence : il documente les jeux de données utilisés pour nos évaluations et permet de reproduire les mesures (WER, gravité sémantique).

Contenu

  • audio/<id>.mp3 — audio source (discours/séances publics).
  • ground_truth/<id>.txt — transcription de référence.

8 enregistrements (≤ ~11 min chacun, durées homogènes) :

  • 5 discours officiels courts (≤ 10 min) — référence lissée.
  • 3 séances de questions au gouvernement (~10 min, Assemblée nationale) — référence verbatim strict.

Mise en garde méthodologique

Deux régimes de référence coexistent — ne pas comparer les WER en absolu de l'un à l'autre :

  • Discours officiels (5) : références « lissées » (sous-titres / verbatim institutionnels SIG, info.gouv.fr) — disfluences nettoyées, donc non strictement verbatim. Le WER absolu en est tiré vers le haut, mais le biais est identique pour tous les modèles comparés.
  • Questions au gouvernement (3) : verbatim strict, corrigé à l'oreille (disfluences, répétitions et faux départs conservés). Le compte rendu intégral de l'Assemblée nationale réécrit le propos (il n'est donc pas utilisé comme référence) ; la transcription a été reconstruite sur l'audio réel.

À ne pas comparer en absolu avec un corpus tiers en régime différent.

Périmètre

Ce dataset ne contient que de la donnée publique.

Source

Audio et références issus de sources publiques officielles (info.gouv.fr, SIG, Assemblée nationale, Sénat, Élysée). Licence Ouverte 2.0 (Etalab).