wav2vec2-xls-r-300m-okinoerabu-lr-5e-5

This model is a fine-tuned version of facebook/wav2vec2-xls-r-300m on an unknown dataset. It achieves the following results on the evaluation set:

• Loss: 0.2205
• Cer: 0.0415
• Wer: 0.2189

Model description

More information needed

Intended uses & limitations

More information needed

Training and evaluation data

More information needed

Training procedure

Training hyperparameters

The following hyperparameters were used during training:

• learning_rate: 5e-05
• train_batch_size: 16
• eval_batch_size: 8
• seed: 42
• gradient_accumulation_steps: 2
• total_train_batch_size: 32
• optimizer: Use OptimizerNames.ADAMW_TORCH_FUSED with betas=(0.9,0.999) and epsilon=1e-08 and optimizer_args=No additional optimizer arguments
• lr_scheduler_type: linear
• lr_scheduler_warmup_steps: 500
• num_epochs: 100

Training results

Training Loss	Epoch	Step	Validation Loss	Cer	Wer
115.8912	0.7407	100	41.2210	1.0	1.0
56.5194	1.4815	200	16.2018	1.0	1.0
27.4588	2.2222	300	8.9854	1.0	1.0
14.2059	2.9630	400	4.9394	1.0	1.0
8.9556	3.7037	500	4.1542	1.0	1.0
8.3897	4.4444	600	4.0926	1.0	1.0
8.2367	5.1852	700	4.0371	1.0	1.0
8.1284	5.9259	800	4.0038	1.0	1.0
8.0257	6.6667	900	3.9981	1.0	1.0
7.9954	7.4074	1000	3.9973	1.0	1.0
7.9931	8.1481	1100	4.0003	1.0	1.0
7.9975	8.8889	1200	3.9924	1.0	1.0
8.0013	9.6296	1300	3.9946	1.0	1.0
7.9979	10.3704	1400	3.9880	1.0	1.0
7.9596	11.1111	1500	4.0007	1.0	1.0
7.9407	11.8519	1600	3.9090	1.0	1.0
7.8886	12.5926	1700	3.8728	1.0	1.0
7.7631	13.3333	1800	3.8857	1.0	1.0
7.7152	14.0741	1900	3.8567	1.0	1.0
7.6617	14.8148	2000	3.8758	1.0	1.0
7.6484	15.5556	2100	3.9321	1.0	1.0
7.5344	16.2963	2200	3.8641	1.0	1.0
7.1959	17.0370	2300	3.2437	0.9809	1.0
5.3345	17.7778	2400	1.6371	0.3829	0.9989
2.8941	18.5185	2500	0.9561	0.2277	0.9055
2.0187	19.2593	2600	0.6968	0.1279	0.5702
1.5164	20.0	2700	0.5308	0.1039	0.4792
1.2070	20.7407	2800	0.4330	0.0970	0.4515
0.9873	21.4815	2900	0.3753	0.0976	0.4923
0.8800	22.2222	3000	0.3312	0.0799	0.3953
0.7916	22.9630	3100	0.2936	0.0777	0.3930
0.7054	23.7037	3200	0.2694	0.0709	0.3433
0.6671	24.4444	3300	0.2469	0.0669	0.3305
0.6040	25.1852	3400	0.2269	0.0607	0.3037
0.5636	25.9259	3500	0.2191	0.0587	0.3002
0.5622	26.6667	3600	0.2050	0.0586	0.2928
0.4958	27.4074	3700	0.2019	0.0568	0.2920
0.4922	28.1481	3800	0.2052	0.0579	0.3099
0.4622	28.8889	3900	0.1905	0.0555	0.2840
0.4563	29.6296	4000	0.1974	0.0542	0.2743
0.4307	30.3704	4100	0.1952	0.0540	0.2737
0.4328	31.1111	4200	0.1863	0.0524	0.2674
0.4032	31.8519	4300	0.1824	0.0536	0.2774
0.3916	32.5926	4400	0.1802	0.0526	0.2683
0.3550	33.3333	4500	0.1772	0.0515	0.2634
0.3648	34.0741	4600	0.1736	0.0511	0.2628
0.3587	34.8148	4700	0.1781	0.0519	0.2640
0.3622	35.5556	4800	0.1710	0.0511	0.2688
0.3213	36.2963	4900	0.1741	0.0491	0.2571
0.3417	37.0370	5000	0.1684	0.0484	0.2509
0.3169	37.7778	5100	0.1712	0.0497	0.2554
0.3025	38.5185	5200	0.1721	0.0481	0.2494
0.3285	39.2593	5300	0.1851	0.0520	0.2705
0.2782	40.0	5400	0.1757	0.0485	0.2583
0.2828	40.7407	5500	0.1762	0.0491	0.2549
0.2883	41.4815	5600	0.1830	0.0493	0.2577
0.2816	42.2222	5700	0.2035	0.0537	0.2877
0.2734	42.9630	5800	0.2002	0.0525	0.2743
0.2538	43.7037	5900	0.2049	0.0548	0.2785
0.2685	44.4444	6000	0.1775	0.0460	0.2426
0.2523	45.1852	6100	0.1700	0.0501	0.2600
0.2619	45.9259	6200	0.1751	0.0468	0.2457
0.2554	46.6667	6300	0.1752	0.0478	0.2491
0.2358	47.4074	6400	0.1757	0.0462	0.2432
0.2461	48.1481	6500	0.1828	0.0464	0.2446
0.2320	48.8889	6600	0.1798	0.0464	0.2457
0.2359	49.6296	6700	0.1911	0.0458	0.2400
0.2192	50.3704	6800	0.1917	0.0464	0.2451
0.2088	51.1111	6900	0.1829	0.0463	0.2443
0.2042	51.8519	7000	0.1865	0.0458	0.2417
0.2104	52.5926	7100	0.1851	0.0451	0.2426
0.2003	53.3333	7200	0.1809	0.0464	0.2403
0.1874	54.0741	7300	0.1889	0.0457	0.2392
0.1830	54.8148	7400	0.1901	0.0444	0.2343
0.2001	55.5556	7500	0.1852	0.0450	0.2357
0.2000	56.2963	7600	0.1779	0.0452	0.2369
0.1822	57.0370	7700	0.1844	0.0425	0.2237
0.1872	57.7778	7800	0.1837	0.0444	0.2326
0.1896	58.5185	7900	0.1883	0.0448	0.2326
0.1734	59.2593	8000	0.1842	0.0432	0.2272
0.1666	60.0	8100	0.1931	0.0438	0.2292
0.1835	60.7407	8200	0.1924	0.0449	0.2337
0.1755	61.4815	8300	0.2001	0.0442	0.2329
0.1683	62.2222	8400	0.1966	0.0439	0.2300
0.1621	62.9630	8500	0.1943	0.0464	0.2412
0.1702	63.7037	8600	0.1866	0.0439	0.2306
0.1622	64.4444	8700	0.1965	0.0432	0.2292
0.1602	65.1852	8800	0.1947	0.0439	0.2303
0.1560	65.9259	8900	0.2151	0.0459	0.2432
0.1513	66.6667	9000	0.2014	0.0435	0.2289
0.1539	67.4074	9100	0.2056	0.0434	0.2312
0.1549	68.1481	9200	0.1986	0.0429	0.2255
0.1553	68.8889	9300	0.1981	0.0433	0.2303
0.1594	69.6296	9400	0.1976	0.0429	0.2275
0.1562	70.3704	9500	0.2030	0.0433	0.2275
0.1523	71.1111	9600	0.2062	0.0443	0.2320
0.1491	71.8519	9700	0.2117	0.0450	0.2346
0.1373	72.5926	9800	0.2136	0.0436	0.2269
0.1571	73.3333	9900	0.2108	0.0435	0.2309
0.1382	74.0741	10000	0.2113	0.0436	0.2306
0.1381	74.8148	10100	0.2056	0.0438	0.2317
0.1411	75.5556	10200	0.2010	0.0437	0.2312
0.1347	76.2963	10300	0.2063	0.0434	0.2303
0.1325	77.0370	10400	0.2041	0.0430	0.2263
0.1319	77.7778	10500	0.2065	0.0427	0.2235
0.1396	78.5185	10600	0.2096	0.0447	0.2346
0.1253	79.2593	10700	0.2085	0.0444	0.2320
0.1295	80.0	10800	0.2124	0.0433	0.2283
0.1325	80.7407	10900	0.2084	0.0430	0.2277
0.1311	81.4815	11000	0.2111	0.0433	0.2252
0.1358	82.2222	11100	0.2115	0.0428	0.2232
0.1248	82.9630	11200	0.2229	0.0429	0.2289
0.1264	83.7037	11300	0.2197	0.0423	0.2232
0.1343	84.4444	11400	0.2156	0.0420	0.2212
0.1259	85.1852	11500	0.2174	0.0415	0.2180
0.1204	85.9259	11600	0.2169	0.0422	0.2232
0.1258	86.6667	11700	0.2144	0.0423	0.2215
0.1259	87.4074	11800	0.2110	0.0415	0.2189
0.1235	88.1481	11900	0.2138	0.0415	0.2186
0.1167	88.8889	12000	0.2222	0.0420	0.2223
0.1311	89.6296	12100	0.2160	0.0416	0.2183
0.1223	90.3704	12200	0.2167	0.0413	0.2175
0.1206	91.1111	12300	0.2183	0.0412	0.2172
0.1188	91.8519	12400	0.2179	0.0413	0.2169
0.1220	92.5926	12500	0.2173	0.0416	0.2172
0.1176	93.3333	12600	0.2183	0.0417	0.2189
0.1158	94.0741	12700	0.2206	0.0415	0.2175
0.1149	94.8148	12800	0.2171	0.0415	0.2178
0.1155	95.5556	12900	0.2175	0.0416	0.2192
0.1100	96.2963	13000	0.2195	0.0414	0.2175
0.1186	97.0370	13100	0.2207	0.0414	0.2189
0.1211	97.7778	13200	0.2190	0.0415	0.2180
0.1140	98.5185	13300	0.2202	0.0414	0.2183
0.1066	99.2593	13400	0.2205	0.0415	0.2183
0.1151	100.0	13500	0.2205	0.0415	0.2189

Framework versions

• Transformers 5.8.1
• Pytorch 2.11.0+cu128
• Datasets 3.6.0
• Tokenizers 0.22.2