benoitvx commited on
Commit
ae64e63
·
verified ·
1 Parent(s): 747aa61

docs: corrige le README (8 samples, régime mixte lissé/verbatim QAG)

Browse files
Files changed (1) hide show
  1. README.md +19 -8
README.md CHANGED
@@ -19,7 +19,7 @@ size_categories:
19
  Corpus public d'évaluation de modèles de transcription (speech-to-text) sur du
20
  **langage de l'administration française** : discours officiels, allocutions
21
  publiques et questions au gouvernement. Constitué par le département **IA dans
22
- l'État (DINUM)** dans le cadre de l'évaluation des modèles de Speach-To-text.
23
 
24
  Ce dataset est publié pour la **transparence** : il documente les jeux de
25
  données utilisés pour nos évaluations et permet de reproduire les mesures (WER,
@@ -30,16 +30,27 @@ gravité sémantique).
30
  - `audio/<id>.mp3` — audio source (discours/séances publics).
31
  - `ground_truth/<id>.txt` — transcription de référence.
32
 
33
- 13 enregistrements : 5 discours courts (≤10 min), 5 discours long-form
34
- (15–39 min), 3 séances de questions au gouvernement.
 
 
 
35
 
36
  ## Mise en garde méthodologique
37
 
38
- Les références de ce corpus sont **« lissées »** (sous-titres / verbatim
39
- institutionnels SIG, info.gouv.fr, comptes rendus) : disfluences nettoyées, donc
40
- **non strictement verbatim**. Le WER absolu en est tiré vers le haut, mais le
41
- biais est identique pour tous les modèles comparés. À ne pas comparer en absolu
42
- avec un corpus en verbatim strict.
 
 
 
 
 
 
 
 
43
 
44
  ## Périmètre
45
 
 
19
  Corpus public d'évaluation de modèles de transcription (speech-to-text) sur du
20
  **langage de l'administration française** : discours officiels, allocutions
21
  publiques et questions au gouvernement. Constitué par le département **IA dans
22
+ l'État (DINUM)** dans le cadre de l'évaluation des modèles de speech-to-text.
23
 
24
  Ce dataset est publié pour la **transparence** : il documente les jeux de
25
  données utilisés pour nos évaluations et permet de reproduire les mesures (WER,
 
30
  - `audio/<id>.mp3` — audio source (discours/séances publics).
31
  - `ground_truth/<id>.txt` — transcription de référence.
32
 
33
+ 8 enregistrements (≤ ~11 min chacun, durées homogènes) :
34
+
35
+ - **5 discours officiels courts** (≤ 10 min) — référence **lissée**.
36
+ - **3 séances de questions au gouvernement** (~10 min, Assemblée nationale) —
37
+ référence **verbatim strict**.
38
 
39
  ## Mise en garde méthodologique
40
 
41
+ **Deux régimes de référence coexistent** ne pas comparer les WER en absolu de
42
+ l'un à l'autre :
43
+
44
+ - **Discours officiels (5)** : références **« lissées »** (sous-titres / verbatim
45
+ institutionnels SIG, info.gouv.fr) disfluences nettoyées, donc **non
46
+ strictement verbatim**. Le WER absolu en est tiré vers le haut, mais le biais
47
+ est identique pour tous les modèles comparés.
48
+ - **Questions au gouvernement (3)** : **verbatim strict**, corrigé à l'oreille
49
+ (disfluences, répétitions et faux départs **conservés**). Le compte rendu
50
+ intégral de l'Assemblée nationale **réécrit** le propos (il n'est donc pas
51
+ utilisé comme référence) ; la transcription a été reconstruite sur l'audio réel.
52
+
53
+ À ne pas comparer en absolu avec un corpus tiers en régime différent.
54
 
55
  ## Périmètre
56