stilletto commited on
Commit
35443dd
·
verified ·
1 Parent(s): 38859bf

README: document paired wav/txt WebDataset layout

Browse files
Files changed (1) hide show
  1. README.md +36 -11
README.md CHANGED
@@ -53,21 +53,34 @@ ambiguity and dramatically improves prosody.
53
 
54
  ```
55
  metadata.csv # 22,200 lines, pipe-delimited: filename|text_with_stress
56
- wavs_part_001.tar # WAV files 000000…007399 (≈2.1 GB)
57
- wavs_part_002.tar # WAV files 007400…014799 (≈3.2 GB)
58
- wavs_part_003.tar # WAV files 014800…022199 (≈4.2 GB)
 
 
 
59
  ```
60
 
 
 
 
 
 
 
 
61
  The audio is split into three uncompressed `.tar` shards instead of being
62
  uploaded as 22,200 individual files (HuggingFace rate-limits per-file commits
63
- on free tier). After download, extract each shard to get a flat `wavs/` folder:
 
64
 
65
  ```bash
66
- mkdir -p wavs
67
- for f in wavs_part_*.tar; do tar -xf "$f" -C wavs; done
 
68
  ```
69
 
70
- Total: 22,200 mono 22 kHz WAV files (≈31 hours of speech).
 
71
 
72
  ### Stress format
73
 
@@ -156,18 +169,30 @@ metadata.csv # 22 200 строк, формат filename|текст_с_
156
  wavs_part_001.tar # WAV-файлы 000000…007399 (≈2,1 ГБ)
157
  wavs_part_002.tar # WAV-файлы 007400…014799 (≈3,2 ГБ)
158
  wavs_part_003.tar # WAV-файлы 014800…022199 (≈4,2 ГБ)
 
 
 
159
  ```
160
 
 
 
 
 
 
 
 
161
  Аудио сложено в три tar-шарда (без сжатия) вместо 22 200 отдельных файлов —
162
  бесплатный тариф HuggingFace ограничивает коммиты пофайлово. После скачивания
163
- распакуйте все шарды в одну папку `wavs/`:
164
 
165
  ```bash
166
- mkdir -p wavs
167
- for f in wavs_part_*.tar; do tar -xf "$f" -C wavs; done
 
168
  ```
169
 
170
- Итого: 22 200 моно WAV-файлов 22 кГц (≈31 час речи).
 
171
 
172
  ### Формат ударений
173
 
 
53
 
54
  ```
55
  metadata.csv # 22,200 lines, pipe-delimited: filename|text_with_stress
56
+ wavs_part_001.tar # WAV files 000000…007399 (≈2.1 GB)
57
+ wavs_part_002.tar # WAV files 007400…014799 (≈3.2 GB)
58
+ wavs_part_003.tar # WAV files 014800…022199 (≈4.2 GB)
59
+ texts_part_001.tar # TXT files 000000…007399 (≈7 MB)
60
+ texts_part_002.tar # TXT files 007400…014799 (≈7 MB)
61
+ texts_part_003.tar # TXT files 014800…022199 (≈7 MB)
62
  ```
63
 
64
+ The data is laid out in the **WebDataset** convention: each sample consists of
65
+ a `.wav` and a `.txt` sharing the same key (`000123_RUSLAN.wav` ↔
66
+ `000123_RUSLAN.txt`). The HuggingFace dataset viewer pairs them automatically.
67
+
68
+ `metadata.csv` is provided as a convenience for users who only want the text;
69
+ it is the exact concatenation of all `.txt` files (`filename|text` per line).
70
+
71
  The audio is split into three uncompressed `.tar` shards instead of being
72
  uploaded as 22,200 individual files (HuggingFace rate-limits per-file commits
73
+ on free tier). After download, extract every shard to get flat `wavs/` and
74
+ `texts/` folders:
75
 
76
  ```bash
77
+ mkdir -p wavs texts
78
+ for f in wavs_part_*.tar; do tar -xf "$f" -C wavs; done
79
+ for f in texts_part_*.tar; do tar -xf "$f" -C texts; done
80
  ```
81
 
82
+ Total: 22,200 mono 22 kHz WAV files (≈31 hours of speech) + matching `.txt`
83
+ transcripts with stress marks.
84
 
85
  ### Stress format
86
 
 
169
  wavs_part_001.tar # WAV-файлы 000000…007399 (≈2,1 ГБ)
170
  wavs_part_002.tar # WAV-файлы 007400…014799 (≈3,2 ГБ)
171
  wavs_part_003.tar # WAV-файлы 014800…022199 (≈4,2 ГБ)
172
+ texts_part_001.tar # TXT-файлы 000000…007399 (≈7 МБ)
173
+ texts_part_002.tar # TXT-файлы 007400…014799 (≈7 МБ)
174
+ texts_part_003.tar # TXT-файлы 014800…022199 (≈7 МБ)
175
  ```
176
 
177
+ Данные оформлены по соглашению **WebDataset**: один сэмпл состоит из `.wav` и
178
+ `.txt` с одинаковым ключом (`000123_RUSLAN.wav` ↔ `000123_RUSLAN.txt`). HF
179
+ dataset viewer склеивает их автоматически и показывает текст рядом с аудио.
180
+
181
+ `metadata.csv` приложен как удобство для тех, кому нужен только текст; он
182
+ содержит ровно те же строки, что и `.txt` файлы (`filename|текст` в строку).
183
+
184
  Аудио сложено в три tar-шарда (без сжатия) вместо 22 200 отдельных файлов —
185
  бесплатный тариф HuggingFace ограничивает коммиты пофайлово. После скачивания
186
+ распакуйте все шарды:
187
 
188
  ```bash
189
+ mkdir -p wavs texts
190
+ for f in wavs_part_*.tar; do tar -xf "$f" -C wavs; done
191
+ for f in texts_part_*.tar; do tar -xf "$f" -C texts; done
192
  ```
193
 
194
+ Итого: 22 200 моно WAV-файлов 22 кГц (≈31 час речи) + соответствующие `.txt`
195
+ транскрипции с ударениями.
196
 
197
  ### Формат ударений
198