ngocdang83 commited on
Commit
762e1dd
·
verified ·
1 Parent(s): f139f0b

notebook Kaggle: tốc độ T4x2 beam

Browse files
Files changed (1) hide show
  1. HachimiMT_Kaggle.ipynb +2 -2
HachimiMT_Kaggle.ipynb CHANGED
@@ -3,7 +3,7 @@
3
  {
4
  "cell_type": "markdown",
5
  "metadata": {},
6
- "source": "# HachimiMT — Dịch Trung → Việt (Kaggle, GPU T4 miễn phí)\n\nChạy app dịch truyện **HachimiMT / MoxhiMT** (CTranslate2) trên Kaggle — GPU T4 miễn phí (~30 giờ/tuần), không cần cài gì trên máy.\n\n## ⚡ Trước khi chạy — bật GPU + Internet\n1. **`Settings → Accelerator → GPU T4 x2`** (app tự dùng các GPU CUDA khả dụng; T4 x2 thường nhanh hơn 1 T4 khi văn bản đủ dài).\n2. **`Settings → Internet → on`** (BẮT BUỘC — để tải code + model và tạo link công khai).\n3. Rồi **`Run All`**.\n\n> ⚠️ **Chọn `GPU T4 x2`** — **KHÔNG chọn `GPU P100`**: P100 (kiến trúc cũ) không hỗ trợ kiểu tính `int8_float16` của model nên app sẽ rớt về CPU (chậm ~50×). Cũng **không chọn TPU** (CTranslate2 không dùng được TPU).\n\n**Tốc độ T4** (đo thật): **~27.000 chữ Hán/giây** 1 triệu chữ ~37 giây, cả bộ truyện 2,4 triệu chữ ~1 phút 30 giây. Với T4 x2, mức tăng còn phụ thuộc độ dài văn bản batch/window.\n\nCell cuối in ra **link công khai** (`*.gradio.live`) — bấm vào đó để mở giao diện dịch.\n\nMã nguồn: HF Space [ngocdang83/HachimiMT-demo](https://huggingface.co/spaces/ngocdang83/HachimiMT-demo)."
7
  },
8
  {
9
  "cell_type": "markdown",
@@ -75,4 +75,4 @@
75
  },
76
  "nbformat": 4,
77
  "nbformat_minor": 4
78
- }
 
3
  {
4
  "cell_type": "markdown",
5
  "metadata": {},
6
+ "source": "# HachimiMT — Dịch Trung → Việt (Kaggle, GPU T4 miễn phí)\n\nChạy app dịch truyện **HachimiMT / MoxhiMT** (CTranslate2) trên Kaggle — GPU T4 miễn phí (~30 giờ/tuần), không cần cài gì trên máy.\n\n## ⚡ Trước khi chạy — bật GPU + Internet\n1. **`Settings → Accelerator → GPU T4 x2`** (app tự dùng các GPU CUDA khả dụng; T4 x2 thường nhanh hơn 1 T4 khi văn bản đủ dài).\n2. **`Settings → Internet → on`** (BẮT BUỘC — để tải code + model và tạo link công khai).\n3. Rồi **`Run All`**.\n\n> ⚠️ **Chọn `GPU T4 x2`** — **KHÔNG chọn `GPU P100`**: P100 (kiến trúc cũ) không hỗ trợ kiểu tính `int8_float16` của model nên app sẽ rớt về CPU (chậm ~50×). Cũng **không chọn TPU** (CTranslate2 không dùng được TPU).\n\n### 🚀 Tốc độ đo thật (T4 x2, cả bộ truyện 2,44 triệu chữ Hán)\n| Chế độ | Tốc độ | Cả bộ truyện 2,44M chữ |\n|---|---|---|\n| **Beam 2** (mặc định, chất lượng) | ~42.000 chữ Hán/giây | ~58 giây |\n| **Beam 1** (nhanh hơn ~1,25×) | ~52.000 chữ Hán/giây | ~47 giây |\n\n> Beam thấp dịch nhanh hơn nhưng chất lượng nhỉnh kém hơn chút (chọn Beam trong giao diện). 1 GPU T4 (vd Colab) đạt ~27.000 chữ/giây — T4 x2 nhanh hơn ~1,5×.\n\nCell cuối in ra **link công khai** (`*.gradio.live`) — bấm vào đó để mở giao diện dịch.\n\nMã nguồn: HF Space [ngocdang83/HachimiMT-demo](https://huggingface.co/spaces/ngocdang83/HachimiMT-demo)."
7
  },
8
  {
9
  "cell_type": "markdown",
 
75
  },
76
  "nbformat": 4,
77
  "nbformat_minor": 4
78
+ }