Remove questions from dataset contexts

QUALITY_CORRECTIONS.md

@@ -4969,3 +4969,66 @@ Perguntas frequentes sobre a Escola de Desportos: Qual é o horário de funciona
 - `test.jsonl`: SHA-256 `4df6c3fe1cefe58d49541d23b78b2429543a19e089424ef0cafa856b8e0dfaae`
 
 <!-- metatext-review-2026-07-26:end -->
+
+## Remoção de perguntas dos contextos — 2026-07-27
+
+### Âmbito e regra
+
+Foi auditado o dataset completo (5.330 exemplos). A regra desta revisão é
+estrutural: o campo `context` deve conter apenas o documento factual e não
+deve conter perguntas. Foram removidos exclusivamente segmentos terminados
+em `?`; não foram reescritos factos nem acrescentada informação.
+
+- Contextos corrigidos: **659**
+- Frases interrogativas removidas: **1.271**
+- Distribuição: `train=562`, `validation=50`, `test=47`
+- Campos alterados: apenas `context` e o `id` dele derivado
+- `question` e `answer` alterados: **0**
+- Respostas que deixaram de estar literalmente no contexto: **0**
+- Contextos com `?` depois da correção: **0**
+- Linhas removidas: **0**
+- Duplicados introduzidos: **0**
+
+O ID de cada exemplo corrigido foi recalculado com o algoritmo oficial, a
+partir de `context`, `question`, `answer`, `chunk_id` e `example_index`.
+
+O registo integral e legível por máquina, com split, linha, chunk, exemplo,
+ID antigo, ID novo, perguntas removidas e contextos antes/depois, está em:
+
+```text
+reports/n1_v1_5/context_question_corrections.jsonl
+```
+
+O backup anterior à transformação está em:
+
+```text
+artifacts/backups/context_questions/20260727T121438.879567Z
+```
+
+### Exemplo reportado
+
+- Split/linha: `test:4`
+- Chunk/exemplo: `B0001_C01A / 4`
+- Tipo: `Status`
+
+**ANTES**
+
+```text
+Quais as condições do Parque Natural? A trilha dos pássaros está disponível. O Parque Natural está condicionado. O miradouro da costa está ativo. O centro de interpretação está encerrado.
+```
+
+**DEPOIS**
+
+```text
+A trilha dos pássaros está disponível. O Parque Natural está condicionado. O miradouro da costa está ativo. O centro de interpretação está encerrado.
+```
+
+A resposta `condicionado` permanece literalmente suportada pelo contexto.
+
+### Hashes locais depois desta revisão
+
+- `train.jsonl`: SHA-256 `060a5cfca42d454ca36e3c66d254164417c6c480a21118d2e773b28ca4ad8abd`
+- `validation.jsonl`: SHA-256 `7b2900f4ee3cd6e179d763a612bd78dc4d497e49ab456c2d0b06f82656eba083`
+- `test.jsonl`: SHA-256 `e4c09453945e711517b556f49c747899d27f5a7b6f563894248580bdf96eb434`
+
+<!-- context-question-removal-2026-07-27:end -->

README.md

@@ -49,8 +49,8 @@ print(dataset["train"][0])
 | `test` | 240 | Avaliação final |
 
 A versão v1.5 acrescenta 400 exemplos validados ao split de treino da versão
-base. Nesta revisão estrutural, os splits `validation` e `test` foram
-preservados byte a byte.
+base. As revisões de qualidade posteriores preservaram a dimensão e a
+distribuição dos três splits.
 
 ## Campos
 
@@ -119,6 +119,25 @@ estatístico e não foram corrigidas por esse motivo.
 O relatório cronológico completo, com decisões, justificações e diffs
 `ANTES`/`DEPOIS`, acompanha o pacote em `QUALITY_CORRECTIONS.md`.
 
+### Remoção de perguntas dos contextos
+
+Em 27 de julho de 2026, os 5.330 contextos foram novamente auditados com a
+regra de que o documento factual fornecido ao modelo não pode conter
+perguntas. Foram corrigidos 659 contextos (`train=562`, `validation=50`,
+`test=47`) através da remoção exclusiva de 1.271 segmentos interrogativos.
+
+Não foram alterados os campos `question` ou `answer`, não foi acrescentada
+informação e nenhum exemplo foi eliminado. Os IDs derivados dos 659 exemplos
+foram recalculados. Depois da revisão:
+
+- nenhum contexto contém `?`;
+- todas as 5.330 respostas permanecem literalmente presentes no contexto;
+- não existem IDs repetidos nem duplicados exatos.
+
+Considerando sobreposições entre revisões, existem 959 exemplos únicos com
+correções auditáveis acumuladas. O detalhe completo desta revisão acompanha o
+pacote em `quality/context_question_corrections.jsonl`.
+
 ## Utilizações previstas
 
 - fine-tuning de modelos para question answering fundamentado;

build_manifest.json

@@ -18,9 +18,9 @@
     "test.jsonl": "5488cf483f13281384e18dbf166ce0ab3e7e85396674980182d772eb38835db3"
   },
   "output_split_hashes": {
-    "train.jsonl": "4b996a926a451cc52265dbda4def80d254b436139cb949dc2a88e54545faeda5",
-    "validation.jsonl": "6b20b7e4c6364691ce3ed7cd56ccc2c1f9aa6a285c40ee44dafe42fbfe9b2ac9",
-    "test.jsonl": "4df6c3fe1cefe58d49541d23b78b2429543a19e089424ef0cafa856b8e0dfaae"
+    "train.jsonl": "060a5cfca42d454ca36e3c66d254164417c6c480a21118d2e773b28ca4ad8abd",
+    "validation.jsonl": "7b2900f4ee3cd6e179d763a612bd78dc4d497e49ab456c2d0b06f82656eba083",
+    "test.jsonl": "e4c09453945e711517b556f49c747899d27f5a7b6f563894248580bdf96eb434"
   },
   "frozen_split_checks": {
     "validation_byte_identical": false,
@@ -243,5 +243,23 @@
     "report": "datasets/final/n1_v1_5/README_CORRECTIONS.md",
     "machine_log": "reports/n1_v1_5/dataset_quality_corrections.jsonl",
     "note": "Validation and test hashes intentionally differ from the base after explicit quality corrections."
+  },
+  "context_question_review": {
+    "date": "2026-07-27",
+    "examples_audited": 5330,
+    "contexts_corrected": 659,
+    "questions_removed": 1271,
+    "corrections_by_split": {
+      "train": 562,
+      "validation": 50,
+      "test": 47
+    },
+    "fields_changed": [
+      "context",
+      "id"
+    ],
+    "residual_context_question_marks": 0,
+    "grounded_answers": 5330,
+    "machine_log": "quality/context_question_corrections.jsonl"
   }
 }

data/test.jsonl

@@ -1,3 +1,3 @@
 version https://git-lfs.github.com/spec/v1
-oid sha256:4df6c3fe1cefe58d49541d23b78b2429543a19e089424ef0cafa856b8e0dfaae
-size 286611
+oid sha256:e4c09453945e711517b556f49c747899d27f5a7b6f563894248580bdf96eb434
+size 284147

data/train.jsonl

@@ -1,3 +1,3 @@
 version https://git-lfs.github.com/spec/v1
-oid sha256:492d4201e360ca501f64d41e94cc792aae8630ef867c66cb6e0859b7c4f13885
-size 5568815
+oid sha256:060a5cfca42d454ca36e3c66d254164417c6c480a21118d2e773b28ca4ad8abd
+size 5511188

data/validation.jsonl

@@ -1,3 +1,3 @@
 version https://git-lfs.github.com/spec/v1
-oid sha256:6b20b7e4c6364691ce3ed7cd56ccc2c1f9aa6a285c40ee44dafe42fbfe9b2ac9
-size 301900
+oid sha256:7b2900f4ee3cd6e179d763a612bd78dc4d497e49ab456c2d0b06f82656eba083
+size 297792

dataset_summary.json

@@ -24,5 +24,15 @@
     "validation": 30,
     "test": 10
   },
-  "quality_review_report": "datasets/final/n1_v1_5/README_CORRECTIONS.md"
+  "quality_review_report": "datasets/final/n1_v1_5/README_CORRECTIONS.md",
+  "context_question_corrections": 659,
+  "context_question_corrections_by_split": {
+    "train": 562,
+    "validation": 50,
+    "test": 47
+  },
+  "interrogative_segments_removed": 1271,
+  "contexts_with_question_marks": 0,
+  "grounded_answers": 5330,
+  "unique_corrected_examples_accumulated": 959
 }

quality/context_question_corrections.jsonl

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:75c6f8321fba3d1e061de386f1a6a861fed948fb93ef7349335231d1e48418a4
+size 822426