---
license: apache-2.0
language:
- en
tags:
- rag
- chromadb
- statistical-learning
- machine-learning
- data-science
- feature-engineering
- exploratory-data-analysis
- vector-store
- mcp
- educational
size_categories:
- 1K<n<10K
---

# RAG ESL + ISLP + FES + PDSH + R4DS — ChromaDB Index (v2.2.0)

Base vectorial ChromaDB con embeddings de los capítulos de **5 libros** de
referencia en estadística, machine learning y data science:

- **ESL** — *The Elements of Statistical Learning* (Hastie, Tibshirani, Friedman, 2nd Ed., 2009)
- **ISLP** — *An Introduction to Statistical Learning with Python* (James, Witten, Hastie, Tibshirani, 2nd Ed., 2023)
- **FES** — *Feature Engineering and Selection: A Practical Approach for Predictive Models* (Kuhn, Johnson, 2019)
- **PDSH** — *Python Data Science Handbook: Essential Tools for Working with Data* (VanderPlas, 2nd Ed.)
- **R4DS** — *R for Data Science, 2nd Edition* (Wickham, Çetinkaya-Rundel, Grolemund, 2023)

Pensado para consumo por servidores MCP / clientes RAG vía
`huggingface_hub.snapshot_download`. **No es un dataset estilo Arrow/Parquet**:
es una carpeta ChromaDB persistente (`chroma.sqlite3` + índices HNSW).

## Atribución

Todo el contenido vectorizado en este dataset proviene de obras protegidas por
derechos de autor de sus respectivos titulares. Las consultas que devuelven
fragmentos de texto deben usarse exclusivamente como apoyo educativo y deben
acompañarse de la cita al libro original. Los autores y editores son:

| Libro | Autores | Editor / Sitio |
|---|---|---|
| ESL | Trevor Hastie, Robert Tibshirani, Jerome Friedman | Springer · https://hastie.su.domains/ElemStatLearn/ |
| ISLP | Gareth James, Daniela Witten, Trevor Hastie, Robert Tibshirani, Jonathan Taylor | Springer · https://www.statlearning.com/ |
| FES | Max Kuhn, Kjell Johnson | CRC Press / Chapman & Hall · http://www.feat.engineering/ |
| PDSH | Jake VanderPlas | O'Reilly · https://jakevdp.github.io/PythonDataScienceHandbook/ |
| **R4DS** | **Hadley Wickham, Mine Çetinkaya-Rundel, Garrett Grolemund** | **O'Reilly · https://r4ds.hadley.nz/** |

## Política de uso de los libros

Este dataset se construye y publica **exclusivamente con fines académicos no
comerciales** (apoyo a un curso universitario de Data Science).

| Libro | Licencia / Disponibilidad | Política |
|---|---|---|
| ESL | Versión PDF gratuita autorizada por los autores. | ✅ Incluido. |
| ISLP | Versión PDF gratuita autorizada por los autores. | ✅ Incluido. |
| FES | Versión bookdown gratuita autorizada por los autores. | ✅ Incluido. |
| PDSH | Versión gratuita en GitHub (código MIT, texto CC BY-NC-ND). | ⚠️ Incluido bajo el mismo régimen de uso académico que R4DS. |
| **R4DS** | **CC BY-NC-ND 3.0 US (NoDerivatives).** | ⚠️ **Incluido para uso académico**. Ver "Sobre R4DS y la cláusula NoDerivatives". |

### Sobre R4DS y la cláusula NoDerivatives

*R for Data Science, 2nd Ed.* (R4DS) está publicado bajo Creative Commons
**Attribution-NonCommercial-NoDerivatives 3.0 United States**. La cláusula
**ND** restringe la creación y distribución de obras derivadas. Existe debate
sobre si una indexación RAG (chunking + embeddings) constituye una obra
derivada en sentido legal o un uso transformativo equivalente a una cita
extensa con propósito educativo.

**Decisión adoptada en este dataset:**

1. R4DS se incluye en el dataset porque su uso aquí es estrictamente
   académico-no-comercial, no se redistribuye el libro completo, los chunks
   son fragmentos cortos pensados para apoyar la enseñanza y los embeddings
   no permiten reconstruir el texto íntegro.
2. Cada cita generada por las tools del MCP server lleva la atribución
   explícita a Wickham, Çetinkaya-Rundel y Grolemund y un disclaimer indicando
   que el código original está en R/tidyverse.
3. **Compromiso de takedown:** si los autores o el editor (O'Reilly)
   consideran que esta indexación excede su política, el material se retirará
   en menos de 24 horas tras solicitud por issue o correo. Para acelerar el
   proceso, se documenta la operación así:
   ```bash
   # Restaurar el comportamiento previo (excluir R4DS)
   # 1. En BOOKS_CONFIG, marcar "r4ds": {..., "local_only": True}
   # 2. Republicar el dataset con --revision-tag v2.x.0
   # 3. Republicar el Space v1 con HF_USER=... uv run python deploy_to_hf_space.py
   ```
4. Para usuarios que quieran un dataset estrictamente conservador: el tag
   anterior **`v2.1.0`** del dataset NO contiene R4DS y queda inmutable. Pinea
   con `revision="v2.1.0"` en `snapshot_download` si lo prefieres así.

Si eres autor o editor de cualquiera de los libros indexados y quieres que
retire este dataset, abre un issue en el repo del MCP server v2 y se hará
inmediatamente.

## Cambios entre versiones

| Aspecto | v1 (legacy) | v2.0 | v2.1 | **v2.2** |
|---|---|---|---|---|
| Libros indexados | 2 | 4 | 4 publicados + 1 local-only | **5 publicados** |
| Total chunks publicados | 1977 | 3005 | 3005 | **3689** |
| R4DS | — | — | local-only (excluido) | **incluido (uso académico)** |
| Filtrado `local_only` en publish | — | — | sí | sí (sin colecciones marcadas) |
| Distribución | Empaquetado en HF Space | Dataset HF independiente | Idem + gating de licencia | Idem + R4DS con atribución |

## Contenido publicado (v2.2.0)

| Libro | Colección ChromaDB | Chunks | Capítulos / archivos | Cobertura |
|-------|-------------------|--------|----------------------|-----------|
| ESL  | `esl_chapters`  | 1093 | 22 | Teoría estadística rigurosa, métodos lineales, árboles, boosting, SVM, redes neuronales, random forests, ensemble learning |
| ISLP | `islp_chapters` | 884  | 16 | Explicaciones intuitivas, regresión, clasificación, resampling, regularización, árboles, SVM, deep learning, survival analysis |
| FES  | `fes_chapters`  | 465  | 13 | Feature engineering práctico, encoding categóricos, ingeniería numérica, interacciones, missing data, feature selection |
| PDSH | `pdsh_chapters` | 563  | 7  | Código práctico Python: IPython, NumPy, Pandas, Matplotlib, Machine Learning con scikit-learn |
| R4DS | `r4ds_chapters` | 684  | 38 | Workflow iterativo de EDA (Cap. 10), data wrangling con tidyverse, visualización con ggplot2, importación, joins, factores, fechas |

**Total publicado: 3689 chunks vectorizados en 5 colecciones.**

> ⚠️ **R4DS está escrito en R con tidyverse**, no en Python. Su valor en este
> dataset son los principios (ciclo iterativo de EDA, qué mirar primero,
> heurísticas de variación/covariación, manejo de valores faltantes), que se
> traducen 1-a-1 a pandas/seaborn. Cualquier consumidor del MCP server debe
> presentar el código resultante en el lenguaje del usuario, no copiar R como
> solución.

## Cómo usarlo

```python
from huggingface_hub import snapshot_download
import chromadb
from chromadb.utils.embedding_functions import SentenceTransformerEmbeddingFunction

# Descargar el índice (se cachea automáticamente)
local_path = snapshot_download(
    repo_id="gusdelact/rag-esl-islp-chromadb",
    repo_type="dataset",
    revision="v2.2.0",  # opcional: pin a un tag
)

# Conectar a ChromaDB
client = chromadb.PersistentClient(path=local_path)
embed = SentenceTransformerEmbeddingFunction(model_name="all-MiniLM-L6-v2")

# Consultar cualquiera de las 5 colecciones publicadas
esl = client.get_collection("esl_chapters", embedding_function=embed)
islp = client.get_collection("islp_chapters", embedding_function=embed)
fes = client.get_collection("fes_chapters", embedding_function=embed)
pdsh = client.get_collection("pdsh_chapters", embedding_function=embed)
r4ds = client.get_collection("r4ds_chapters", embedding_function=embed)

# Ejemplo: búsqueda semántica
res = r4ds.query(
    query_texts=["exploratory data analysis iterative cycle"],
    n_results=3,
)
print(res["documents"][0][0][:500])
```

> ⚠️ Asegúrate de instanciar el `embedding_function` con el mismo modelo que se
> usó en la ingesta (`all-MiniLM-L6-v2`); si usas otro, las queries no
> producirán resultados coherentes.

## Uso con el MCP Server v2

Este dataset es el backend del [MCP Server RAG Books v2](https://huggingface.co/spaces/gusdelact/rag-books-mcp-v2), que expone 4 herramientas:

| Tool | Descripción |
|------|-------------|
| `search_theory` | Búsqueda semántica en los 5 libros (o filtrar por libro específico). `book ∈ {esl, islp, fes, pdsh, r4ds, both, all}`. |
| `get_section` | Recuperar una sección específica por referencia exacta (libro + capítulo + sección). |
| `cite_foundation` | Fundamentación teórica multi-libro: intuitivo (ISLP) → riguroso (ESL) → práctico (FES) → código Python (PDSH) → workflow R/tidyverse traducido a pandas (R4DS). |
| `list_available_topics` | Listar todos los capítulos y secciones indexados. |

El server descarga este dataset automáticamente con `snapshot_download` la primera vez que se invoca una tool.

## Pipeline de generación

1. Los capítulos en formato Markdown se extraen de los originales (PDFs en
   ESL/ISLP/PDSH, bookdown en FES, `.qmd` en R4DS) con scripts de extracción.
   No se incluyen los archivos originales en este dataset por respeto a las
   licencias de los libros.
2. `rag_books_mcp.ingest` los divide en chunks (~600 tokens, overlap ~100),
   limpia artefactos de extracción (frontmatter YAML, marcadores de página,
   números sueltos, copyright notices) y vectoriza con
   `sentence-transformers/all-MiniLM-L6-v2`.
3. `publish_chroma_dataset.py` copia el `chroma_db/` a un staging temporal,
   elimina las colecciones marcadas `local_only=True` (en v2.2.0 ninguna lo
   está) y sube el resto a este dataset.

Código fuente: [rag-books-mcp-v2](https://huggingface.co/spaces/gusdelact/rag-books-mcp-v2)

## Embedding

| Atributo | Valor |
|---|---|
| Modelo | [`sentence-transformers/all-MiniLM-L6-v2`](https://huggingface.co/sentence-transformers/all-MiniLM-L6-v2) |
| Dimensión | 384 |
| Distancia | cosine |
| Backend | ChromaDB persistente con HNSW |
| HNSW config | ef_construction=100, max_neighbors=16, ef_search=100 |

## Metadata por chunk

Cada chunk almacena los siguientes campos de metadata:

| Campo | Tipo | Descripción |
|-------|------|-------------|
| `book` | str | Clave del libro (`esl`, `islp`, `fes`, `pdsh`, `r4ds`) |
| `book_full_name` | str | Nombre completo del libro con autores |
| `chapter` | str | Título del capítulo |
| `section` | str | Título de la sección |
| `section_level` | int | Nivel del header markdown (1-3) |
| `chunk_index` | int | Índice del chunk dentro de la sección |
| `total_chunks_in_section` | int | Total de chunks en esa sección |
| `file` | str | Nombre del archivo fuente |

## Licencia del dataset

Los embeddings y los fragmentos cortos de texto derivados se publican bajo
**Apache 2.0**. Los libros originales son propiedad de sus autores y editores
(Springer, CRC Press, O'Reilly). Este dataset NO incluye los PDFs ni reproduce
los libros completos; contiene únicamente fragmentos de texto necesarios para
la operación del RAG.

Ver "Política de uso de los libros" arriba para la decisión por libro,
incluyendo el caso especial de R4DS bajo CC BY-NC-ND.

## Referencias

- Hastie, T., Tibshirani, R., & Friedman, J. (2009). *The Elements of Statistical Learning*. Springer. https://hastie.su.domains/ElemStatLearn/
- James, G., Witten, D., Hastie, T., Tibshirani, R., & Taylor, J. (2023). *An Introduction to Statistical Learning with Python*. Springer. https://www.statlearning.com/
- Kuhn, M., & Johnson, K. (2019). *Feature Engineering and Selection: A Practical Approach for Predictive Models*. CRC Press. http://www.feat.engineering/
- VanderPlas, J. (2023). *Python Data Science Handbook*. O'Reilly. https://jakevdp.github.io/PythonDataScienceHandbook/
- Wickham, H., Çetinkaya-Rundel, M., & Grolemund, G. (2023). *R for Data Science, 2nd Edition*. O'Reilly. https://r4ds.hadley.nz/

## Reproducibilidad

| Atributo | Valor |
|---|---|
| Embedding model | `sentence-transformers/all-MiniLM-L6-v2` |
| Chunker | custom (Markdown-aware, ~600 tokens, overlap ~100) |
| Total chunks publicados | 3689 |
| Colecciones publicadas | 5 (`esl_chapters`, `islp_chapters`, `fes_chapters`, `pdsh_chapters`, `r4ds_chapters`) |
| ChromaDB version | `>=0.5.0` |
| Versión del paquete | `rag-books-mcp-v2 2.2.0` |
| Tag HF | `v2.2.0` |
| Tag previo (sin R4DS) | `v2.1.0` |
| Fecha de generación | Mayo 2026 |

Re-generar localmente:

```bash
git clone <repo-del-mcp-server-v2>
cd rag-books-mcp-v2
uv sync
uv run python -m rag_books_mcp.ingest --books-dir /ruta/a/ebook
HF_USER=tu-usuario HF_TOKEN=hf_xxx uv run python publish_chroma_dataset.py \
    --revision-tag v2.2.0
```