Datasets:
README: document paired wav/txt WebDataset layout
Browse files
README.md
CHANGED
|
@@ -53,21 +53,34 @@ ambiguity and dramatically improves prosody.
|
|
| 53 |
|
| 54 |
```
|
| 55 |
metadata.csv # 22,200 lines, pipe-delimited: filename|text_with_stress
|
| 56 |
-
wavs_part_001.tar # WAV
|
| 57 |
-
wavs_part_002.tar # WAV
|
| 58 |
-
wavs_part_003.tar # WAV
|
|
|
|
|
|
|
|
|
|
| 59 |
```
|
| 60 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 61 |
The audio is split into three uncompressed `.tar` shards instead of being
|
| 62 |
uploaded as 22,200 individual files (HuggingFace rate-limits per-file commits
|
| 63 |
-
on free tier). After download, extract
|
|
|
|
| 64 |
|
| 65 |
```bash
|
| 66 |
-
mkdir -p wavs
|
| 67 |
-
for f in wavs_part_*.tar;
|
|
|
|
| 68 |
```
|
| 69 |
|
| 70 |
-
Total: 22,200 mono 22 kHz WAV files (≈31 hours of speech).
|
|
|
|
| 71 |
|
| 72 |
### Stress format
|
| 73 |
|
|
@@ -156,18 +169,30 @@ metadata.csv # 22 200 строк, формат filename|текст_с_
|
|
| 156 |
wavs_part_001.tar # WAV-файлы 000000…007399 (≈2,1 ГБ)
|
| 157 |
wavs_part_002.tar # WAV-файлы 007400…014799 (≈3,2 ГБ)
|
| 158 |
wavs_part_003.tar # WAV-файлы 014800…022199 (≈4,2 ГБ)
|
|
|
|
|
|
|
|
|
|
| 159 |
```
|
| 160 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 161 |
Аудио сложено в три tar-шарда (без сжатия) вместо 22 200 отдельных файлов —
|
| 162 |
бесплатный тариф HuggingFace ограничивает коммиты пофайлово. После скачивания
|
| 163 |
-
распакуйте все шарды
|
| 164 |
|
| 165 |
```bash
|
| 166 |
-
mkdir -p wavs
|
| 167 |
-
for f in wavs_part_*.tar;
|
|
|
|
| 168 |
```
|
| 169 |
|
| 170 |
-
Итого: 22 200 моно WAV-файлов 22 кГц (≈31 час речи).
|
|
|
|
| 171 |
|
| 172 |
### Формат ударений
|
| 173 |
|
|
|
|
| 53 |
|
| 54 |
```
|
| 55 |
metadata.csv # 22,200 lines, pipe-delimited: filename|text_with_stress
|
| 56 |
+
wavs_part_001.tar # WAV files 000000…007399 (≈2.1 GB)
|
| 57 |
+
wavs_part_002.tar # WAV files 007400…014799 (≈3.2 GB)
|
| 58 |
+
wavs_part_003.tar # WAV files 014800…022199 (≈4.2 GB)
|
| 59 |
+
texts_part_001.tar # TXT files 000000…007399 (≈7 MB)
|
| 60 |
+
texts_part_002.tar # TXT files 007400…014799 (≈7 MB)
|
| 61 |
+
texts_part_003.tar # TXT files 014800…022199 (≈7 MB)
|
| 62 |
```
|
| 63 |
|
| 64 |
+
The data is laid out in the **WebDataset** convention: each sample consists of
|
| 65 |
+
a `.wav` and a `.txt` sharing the same key (`000123_RUSLAN.wav` ↔
|
| 66 |
+
`000123_RUSLAN.txt`). The HuggingFace dataset viewer pairs them automatically.
|
| 67 |
+
|
| 68 |
+
`metadata.csv` is provided as a convenience for users who only want the text;
|
| 69 |
+
it is the exact concatenation of all `.txt` files (`filename|text` per line).
|
| 70 |
+
|
| 71 |
The audio is split into three uncompressed `.tar` shards instead of being
|
| 72 |
uploaded as 22,200 individual files (HuggingFace rate-limits per-file commits
|
| 73 |
+
on free tier). After download, extract every shard to get flat `wavs/` and
|
| 74 |
+
`texts/` folders:
|
| 75 |
|
| 76 |
```bash
|
| 77 |
+
mkdir -p wavs texts
|
| 78 |
+
for f in wavs_part_*.tar; do tar -xf "$f" -C wavs; done
|
| 79 |
+
for f in texts_part_*.tar; do tar -xf "$f" -C texts; done
|
| 80 |
```
|
| 81 |
|
| 82 |
+
Total: 22,200 mono 22 kHz WAV files (≈31 hours of speech) + matching `.txt`
|
| 83 |
+
transcripts with stress marks.
|
| 84 |
|
| 85 |
### Stress format
|
| 86 |
|
|
|
|
| 169 |
wavs_part_001.tar # WAV-файлы 000000…007399 (≈2,1 ГБ)
|
| 170 |
wavs_part_002.tar # WAV-файлы 007400…014799 (≈3,2 ГБ)
|
| 171 |
wavs_part_003.tar # WAV-файлы 014800…022199 (≈4,2 ГБ)
|
| 172 |
+
texts_part_001.tar # TXT-файлы 000000…007399 (≈7 МБ)
|
| 173 |
+
texts_part_002.tar # TXT-файлы 007400…014799 (≈7 МБ)
|
| 174 |
+
texts_part_003.tar # TXT-файлы 014800…022199 (≈7 МБ)
|
| 175 |
```
|
| 176 |
|
| 177 |
+
Данные оформлены по соглашению **WebDataset**: один сэмпл состоит из `.wav` и
|
| 178 |
+
`.txt` с одинаковым ключом (`000123_RUSLAN.wav` ↔ `000123_RUSLAN.txt`). HF
|
| 179 |
+
dataset viewer склеивает их автоматически и показывает текст рядом с аудио.
|
| 180 |
+
|
| 181 |
+
`metadata.csv` приложен как удобство для тех, кому нужен только текст; он
|
| 182 |
+
содержит ровно те же строки, что и `.txt` файлы (`filename|текст` в строку).
|
| 183 |
+
|
| 184 |
Аудио сложено в три tar-шарда (без сжатия) вместо 22 200 отдельных файлов —
|
| 185 |
бесплатный тариф HuggingFace ограничивает коммиты пофайлово. После скачивания
|
| 186 |
+
распакуйте все шарды:
|
| 187 |
|
| 188 |
```bash
|
| 189 |
+
mkdir -p wavs texts
|
| 190 |
+
for f in wavs_part_*.tar; do tar -xf "$f" -C wavs; done
|
| 191 |
+
for f in texts_part_*.tar; do tar -xf "$f" -C texts; done
|
| 192 |
```
|
| 193 |
|
| 194 |
+
Итого: 22 200 моно WAV-файлов 22 кГц (≈31 час речи) + соответствующие `.txt`
|
| 195 |
+
транскрипции с ударениями.
|
| 196 |
|
| 197 |
### Формат ударений
|
| 198 |
|