Datasets:
docs: corrige le README (8 samples, régime mixte lissé/verbatim QAG)
Browse files
README.md
CHANGED
|
@@ -19,7 +19,7 @@ size_categories:
|
|
| 19 |
Corpus public d'évaluation de modèles de transcription (speech-to-text) sur du
|
| 20 |
**langage de l'administration française** : discours officiels, allocutions
|
| 21 |
publiques et questions au gouvernement. Constitué par le département **IA dans
|
| 22 |
-
l'État (DINUM)** dans le cadre de l'évaluation des modèles de
|
| 23 |
|
| 24 |
Ce dataset est publié pour la **transparence** : il documente les jeux de
|
| 25 |
données utilisés pour nos évaluations et permet de reproduire les mesures (WER,
|
|
@@ -30,16 +30,27 @@ gravité sémantique).
|
|
| 30 |
- `audio/<id>.mp3` — audio source (discours/séances publics).
|
| 31 |
- `ground_truth/<id>.txt` — transcription de référence.
|
| 32 |
|
| 33 |
-
|
| 34 |
-
|
|
|
|
|
|
|
|
|
|
| 35 |
|
| 36 |
## Mise en garde méthodologique
|
| 37 |
|
| 38 |
-
|
| 39 |
-
|
| 40 |
-
|
| 41 |
-
|
| 42 |
-
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 43 |
|
| 44 |
## Périmètre
|
| 45 |
|
|
|
|
| 19 |
Corpus public d'évaluation de modèles de transcription (speech-to-text) sur du
|
| 20 |
**langage de l'administration française** : discours officiels, allocutions
|
| 21 |
publiques et questions au gouvernement. Constitué par le département **IA dans
|
| 22 |
+
l'État (DINUM)** dans le cadre de l'évaluation des modèles de speech-to-text.
|
| 23 |
|
| 24 |
Ce dataset est publié pour la **transparence** : il documente les jeux de
|
| 25 |
données utilisés pour nos évaluations et permet de reproduire les mesures (WER,
|
|
|
|
| 30 |
- `audio/<id>.mp3` — audio source (discours/séances publics).
|
| 31 |
- `ground_truth/<id>.txt` — transcription de référence.
|
| 32 |
|
| 33 |
+
8 enregistrements (≤ ~11 min chacun, durées homogènes) :
|
| 34 |
+
|
| 35 |
+
- **5 discours officiels courts** (≤ 10 min) — référence **lissée**.
|
| 36 |
+
- **3 séances de questions au gouvernement** (~10 min, Assemblée nationale) —
|
| 37 |
+
référence **verbatim strict**.
|
| 38 |
|
| 39 |
## Mise en garde méthodologique
|
| 40 |
|
| 41 |
+
**Deux régimes de référence coexistent** — ne pas comparer les WER en absolu de
|
| 42 |
+
l'un à l'autre :
|
| 43 |
+
|
| 44 |
+
- **Discours officiels (5)** : références **« lissées »** (sous-titres / verbatim
|
| 45 |
+
institutionnels SIG, info.gouv.fr) — disfluences nettoyées, donc **non
|
| 46 |
+
strictement verbatim**. Le WER absolu en est tiré vers le haut, mais le biais
|
| 47 |
+
est identique pour tous les modèles comparés.
|
| 48 |
+
- **Questions au gouvernement (3)** : **verbatim strict**, corrigé à l'oreille
|
| 49 |
+
(disfluences, répétitions et faux départs **conservés**). Le compte rendu
|
| 50 |
+
intégral de l'Assemblée nationale **réécrit** le propos (il n'est donc pas
|
| 51 |
+
utilisé comme référence) ; la transcription a été reconstruite sur l'audio réel.
|
| 52 |
+
|
| 53 |
+
À ne pas comparer en absolu avec un corpus tiers en régime différent.
|
| 54 |
|
| 55 |
## Périmètre
|
| 56 |
|