Instructions to use marcostrfn/bart-base-spanish-nli-taller-test with libraries, inference providers, notebooks, and local apps. Follow these links to get started.
- Libraries
- Transformers
How to use marcostrfn/bart-base-spanish-nli-taller-test with Transformers:
# Use a pipeline as a high-level helper from transformers import pipeline pipe = pipeline("text-classification", model="marcostrfn/bart-base-spanish-nli-taller-test")# Load model directly from transformers import AutoTokenizer, AutoModelForSequenceClassification tokenizer = AutoTokenizer.from_pretrained("marcostrfn/bart-base-spanish-nli-taller-test") model = AutoModelForSequenceClassification.from_pretrained("marcostrfn/bart-base-spanish-nli-taller-test", device_map="auto") - Notebooks
- Google Colab
- Kaggle
Update README.md
Browse files
README.md
CHANGED
|
@@ -113,13 +113,9 @@ for label, score in zip(resultado['labels'], resultado['scores']):
|
|
| 113 |
El modelo fue entrenado con las siguientes configuraciones:
|
| 114 |
|
| 115 |
Learning Rate: 2e-5
|
| 116 |
-
|
| 117 |
Batch Size: 16
|
| 118 |
-
|
| 119 |
Épocas: 10 (con Early Stopping)
|
| 120 |
-
|
| 121 |
Weight Decay: 0.01
|
| 122 |
-
|
| 123 |
Precisión: FP16 activa
|
| 124 |
|
| 125 |
|
|
@@ -129,6 +125,26 @@ Resultados de Evaluación (Classification Report)
|
|
| 129 |
|
| 130 |
El modelo fue evaluado sobre un conjunto de prueba de 13,859 ejemplos, obteniendo un Accuracy global de 68%.
|
| 131 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 132 |
| Etiqueta | Precisión | Recall | F1-Score | Soporte |
|
| 133 |
| :--- | :---: | :---: | :---: | :---: |
|
| 134 |
| Entailment | 0.73 | 0.67 | 0.70 | 4777 |
|
|
|
|
| 113 |
El modelo fue entrenado con las siguientes configuraciones:
|
| 114 |
|
| 115 |
Learning Rate: 2e-5
|
|
|
|
| 116 |
Batch Size: 16
|
|
|
|
| 117 |
Épocas: 10 (con Early Stopping)
|
|
|
|
| 118 |
Weight Decay: 0.01
|
|
|
|
| 119 |
Precisión: FP16 activa
|
| 120 |
|
| 121 |
|
|
|
|
| 125 |
|
| 126 |
El modelo fue evaluado sobre un conjunto de prueba de 13,859 ejemplos, obteniendo un Accuracy global de 68%.
|
| 127 |
|
| 128 |
+
| Epoch | Training Loss | Validation Loss | Accuracy |
|
| 129 |
+
|-------|---------------|-----------------|----------|
|
| 130 |
+
| 1 | 0.838667 | 0.850865 | 0.628328 |
|
| 131 |
+
| 2 | 0.766949 | 0.797787 | 0.661087 |
|
| 132 |
+
| 3 | 0.707689 | 0.779431 | 0.672343 |
|
| 133 |
+
| 4 | 0.633748 | 0.857711 | 0.668879 |
|
| 134 |
+
| 5 | 0.570300 | 0.902633 | 0.666138 |
|
| 135 |
+
| 6 | 0.521099 | 0.920889 | 0.672415 |
|
| 136 |
+
| 7 | 0.473461 | 0.950290 | 0.678187 |
|
| 137 |
+
| 8 | 0.415742 | 1.079982 | 0.671188 |
|
| 138 |
+
| 9 | 0.366492 | 1.132096 | 0.669673 |
|
| 139 |
+
| 10 | 0.328156 | 1.211365 | 0.668158 |
|
| 140 |
+
|
| 141 |
+
Análisis de resultados del entrenamiento
|
| 142 |
+
|
| 143 |
+
El comportamiento de las métricas a lo largo de las 10 épocas permite identificar un fenómeno de sobreajuste o overfitting. A partir de la tercera época, se observa que la pérdida de entrenamiento (Training Loss) continúa disminuyendo de forma constante, pasando de 0.707689 a 0.328156. Sin embargo, la pérdida de validación (Validation Loss) alcanza su punto mínimo en la época 3 con 0.779431 y comienza a ascender progresivamente hasta llegar a 1.211365 en la última iteración. Esta divergencia indica que el modelo ha dejado de generalizar patrones para comenzar a memorizar el ruido de los datos de entrenamiento. Mientras que la precisión (Accuracy) en el conjunto de validación se estanca en torno al 67%, el incremento en la pérdida de validación sugiere que las predicciones del modelo son cada vez menos seguras fuera del entorno de entrenamiento.
|
| 144 |
+
|
| 145 |
+
Por tanto habría que implementar estrategias de regularización para mitigar este comportamiento en futuros experimentos. Entre las opciones más efectivas se encuentran la detención temprana (Early Stopping) o la inclusión de capas de Dropout y regularización L2 para controlar la complejidad del aprendizaje.
|
| 146 |
+
|
| 147 |
+
|
| 148 |
| Etiqueta | Precisión | Recall | F1-Score | Soporte |
|
| 149 |
| :--- | :---: | :---: | :---: | :---: |
|
| 150 |
| Entailment | 0.73 | 0.67 | 0.70 | 4777 |
|