Repack: pair .wav+.txt inside the same tar (WebDataset layout) and drop standalone texts_part_*.tar

README.md

@@ -53,30 +53,27 @@ ambiguity and dramatically improves prosody.
 
 ```
 metadata.csv          # 22,200 lines, pipe-delimited: filename|text_with_stress
-wavs_part_001.tar     # WAV  files 000000…007399 (≈2.1 GB)
-wavs_part_002.tar     # WAV  files 007400…014799 (≈3.2 GB)
-wavs_part_003.tar     # WAV  files 014800…022199 (≈4.2 GB)
-texts_part_001.tar    # TXT  files 000000…007399 (≈7 MB)
-texts_part_002.tar    # TXT  files 007400…014799 (≈7 MB)
-texts_part_003.tar    # TXT  files 014800…022199 (≈7 MB)
+wavs_part_001.tar     # samples 000000…007399 (≈2.1 GB) — wav + paired txt
+wavs_part_002.tar     # samples 007400…014799 (≈3.2 GB) — wav + paired txt
+wavs_part_003.tar     # samples 014800…022199 (≈4.2 GB) — wav + paired txt
 ```
 
 The data is laid out in the **WebDataset** convention: each sample consists of
 a `.wav` and a `.txt` sharing the same key (`000123_RUSLAN.wav` ↔
-`000123_RUSLAN.txt`). The HuggingFace dataset viewer pairs them automatically.
+`000123_RUSLAN.txt`), both stored together inside the same `.tar` shard. The
+HuggingFace dataset viewer pairs them automatically.
 
 `metadata.csv` is provided as a convenience for users who only want the text;
 it is the exact concatenation of all `.txt` files (`filename|text` per line).
 
 The audio is split into three uncompressed `.tar` shards instead of being
 uploaded as 22,200 individual files (HuggingFace rate-limits per-file commits
-on free tier). After download, extract every shard to get flat `wavs/` and
-`texts/` folders:
+on free tier). After download, extract every shard to get a flat folder with
+matched `.wav`/`.txt` pairs:
 
 ```bash
-mkdir -p wavs texts
-for f in wavs_part_*.tar;  do tar -xf "$f" -C wavs;  done
-for f in texts_part_*.tar; do tar -xf "$f" -C texts; done
+mkdir -p data
+for f in wavs_part_*.tar; do tar -xf "$f" -C data; done
 ```
 
 Total: 22,200 mono 22 kHz WAV files (≈31 hours of speech) + matching `.txt`
@@ -166,29 +163,26 @@ When using this dataset please cite the original RUSLAN paper:
 
 ```
 metadata.csv          # 22 200 строк, формат filename|текст_с_ударениями (разделитель |)
-wavs_part_001.tar     # WAV-файлы 000000…007399 (≈2,1 ГБ)
-wavs_part_002.tar     # WAV-файлы 007400…014799 (≈3,2 ГБ)
-wavs_part_003.tar     # WAV-файлы 014800…022199 (≈4,2 ГБ)
-texts_part_001.tar    # TXT-файлы 000000…007399 (≈7 МБ)
-texts_part_002.tar    # TXT-файлы 007400…014799 (≈7 МБ)
-texts_part_003.tar    # TXT-файлы 014800…022199 (≈7 МБ)
+wavs_part_001.tar     # сэмплы 000000…007399 (≈2,1 ГБ) — wav + парный txt
+wavs_part_002.tar     # сэмплы 007400…014799 (≈3,2 ГБ) — wav + парный txt
+wavs_part_003.tar     # сэмплы 014800…022199 (≈4,2 ГБ) — wav + парный txt
 ```
 
 Данные оформлены по соглашению **WebDataset**: один сэмпл состоит из `.wav` и
-`.txt` с одинаковым ключом (`000123_RUSLAN.wav` ↔ `000123_RUSLAN.txt`). HF
-dataset viewer склеивает их автоматически и показывает текст рядом с аудио.
+`.txt` с одинаковым ключом (`000123_RUSLAN.wav` ↔ `000123_RUSLAN.txt`), оба
+лежат **внутри одного и того же tar-шарда**. HF dataset viewer склеивает их
+автоматически и показывает текст рядом с аудио.
 
 `metadata.csv` приложен как удобство для тех, кому нужен только текст; он
 содержит ровно те же строки, что и `.txt` файлы (`filename|текст` в строку).
 
 Аудио сложено в три tar-шарда (без сжатия) вместо 22 200 отдельных файлов —
 бесплатный тариф HuggingFace ограничивает коммиты пофайлово. После скачивания
-распакуйте все шарды:
+распакуйте все шарды в общую папку:
 
 ```bash
-mkdir -p wavs texts
-for f in wavs_part_*.tar;  do tar -xf "$f" -C wavs;  done
-for f in texts_part_*.tar; do tar -xf "$f" -C texts; done
+mkdir -p data
+for f in wavs_part_*.tar; do tar -xf "$f" -C data; done
 ```
 
 Итого: 22 200 моно WAV-файлов 22 кГц (≈31 час речи) + соответствующие `.txt`

texts_part_001.tar

@@ -1,3 +0,0 @@
-version https://git-lfs.github.com/spec/v1
-oid sha256:150f95ec294cdccfc8ccd57517cd7161699c63e3643bae42af441a02ebe1e455
-size 7587840

texts_part_002.tar

@@ -1,3 +0,0 @@
-version https://git-lfs.github.com/spec/v1
-oid sha256:1eafb9e21d90ace0cf90cb0b2b469e516d6c937df8b5923591b49d5fe2af7675
-size 7587840

texts_part_003.tar

@@ -1,3 +0,0 @@
-version https://git-lfs.github.com/spec/v1
-oid sha256:c55517a7bdafbbb5100720d0f6f6e1f2fd98cb6488057782bd9d9e9f5f006b17
-size 7690240

wavs_part_001.tar

@@ -1,3 +1,3 @@
 version https://git-lfs.github.com/spec/v1
-oid sha256:4f31f76f902ac1d6f8a5a9cedb2c02f1303de91240aa3ff0a67ef14cb2af71dd
-size 2199982080
+oid sha256:c6b66a4f05f1f957a557fa102c4606b848213147456c0584f7827fe029fa8182
+size 2207559680

wavs_part_002.tar

@@ -1,3 +1,3 @@
 version https://git-lfs.github.com/spec/v1
-oid sha256:c911f9dda28b737647e015805ff03d1cf2823f48ddac672a1ef52193ce3dd0b4
-size 3403837440
+oid sha256:88f03753b380b024fbb96e4ffe159180ed9d89d443f28230d4240a79e876f5cb
+size 3411425280

wavs_part_003.tar

@@ -1,3 +1,3 @@
 version https://git-lfs.github.com/spec/v1
-oid sha256:0122470684305ad802cd1e8aad013bfb05c1ca5a96db0d887f7bdcf6edc1df08
-size 4431544320
+oid sha256:77e177240a0dce9ddef056b34abbf4785f591e10b27c4e89e492b0a770d53169
+size 4439224320