Standardize Electric Sheep Africa dataset card

README.md

@@ -1,212 +1,149 @@
 ---
-annotations_creators:
-- no-annotation
-language_creators:
-- found
+license: cc-by-4.0
 language:
 - en
-license: cc-by-4.0
-multilinguality:
-- monolingual
+task_categories:
+- tabular-classification
+- tabular-regression
+multilinguality: monolingual
 size_categories:
 - n<1K
-source_datasets:
-- original
-task_categories:
-- other
-task_ids: []
 tags:
-- africa
-- humanitarian
-- hdx
-- electric-sheep-africa
-- affected-area
-- affected-population
-- climate-weather
-- facilities-infrastructure
-- hazards-and-risk
-- hxl
-- internally-displaced-persons-idp
-- returnees
-- cod
-pretty_name: "Democratic Republic of the Congo: Natural disaster Impact"
-dataset_info:
-  splits:
-    - name: train
-      num_examples: 344
-    - name: test
-      num_examples: 86
+- "africa"
+- "electric-sheep-africa"
+- "open-data"
+- "metadata-backed"
+- "climate-environment"
+- "parquet"
+- "tabular"
+- "text"
+- "humanitarian"
+- "hdx"
+- "affected-area"
+- "affected-population"
+- "climate-weather"
+- "facilities-infrastructure"
+- "hazards-and-risk"
+- "hxl"
+- "internally-displaced-persons-idp"
+- "returnees"
+- "cod"
+- "climate"
+- "weather"
+pretty_name: "Democratic Republic of the Congo: Natural disaster Impact | Africa (original)"
 ---
 
-# Democratic Republic of the Congo: Natural disaster Impact
+# Democratic Republic of the Congo: Natural disaster Impact | Africa (original)
 
-**Publisher:** OCHA Democratic Republic of the Congo (DRC) · **Source:** [HDX](https://data.humdata.org/dataset/internally-displaced-persons-natural-disaster) · **License:** `cc-by` · **Updated:** 2025-12-03
+**Size category:** `n<1K` - **Formats:** `parquet` - **Sector:** climate_environment - *Engineered by [Electric Sheep Africa](https://huggingface.co/electricsheepafrica)*
 
----
+![size](https://img.shields.io/badge/size-n%3C1K-blue)
+![sector](https://img.shields.io/badge/sector-climate_environment-green)
+![downloads](https://img.shields.io/badge/HF_downloads-15-orange)
+![license](https://img.shields.io/badge/license-cc--by--4.0-lightgrey)
 
-## Abstract
+## TL;DR
 
-This dataset available on https://ehtools.org contains information on population movements due to the impacts of natural hazards in the DRC.
+This dataset is part of the Electric Sheep Africa catalog on Hugging Face. It is indexed for African data discovery with standardized metadata, loading guidance, provenance notes, and analyst-oriented context.
 
-Each row in this dataset represents subnational administrative unit observations. Temporal coverage is indicated by the `start_date`, `creation_date` column(s). Geographic scope: **COD**.
+## What This Dataset Covers
 
-*Curated into ML-ready Parquet format by [Electric Sheep Africa](https://huggingface.co/electricsheepafrica).*
+Public datasets help analysts inspect structured evidence, build reproducible workflows, and compare patterns across domains.
 
----
+Dataset context from the existing Hugging Face card: Democratic Republic of the Congo: Natural disaster Impact Publisher: OCHA Democratic Republic of the Congo (DRC) · Source: HDX · License: cc-by · Updated: 2025-12-03 Abstract This dataset available on https://ehtools.org contains information on population movements due to the impacts of natural hazards in the DRC. Each row in this dataset represents subnational administrative unit observations. Temporal coverage is indicated by the start_date, creation_date column(s).… See the full description on the dataset page: https://huggingface.co/datasets/electricsheepafrica/africa-internally-displaced-persons-natural-disaster.
 
-## Dataset Characteristics
+## Dataset Profile
 
-| | |
+| Field | Value |
 |---|---|
-| **Domain** | Climate and environment |
-| **Unit of observation** | Subnational administrative unit observations |
-| **Rows (total)** | 431 |
-| **Columns** | 40 (16 numeric, 22 categorical, 2 datetime) |
-| **Train split** | 344 rows |
-| **Test split** | 86 rows |
-| **Geographic scope** | COD |
-| **Publisher** | OCHA Democratic Republic of the Congo (DRC) |
-| **HDX last updated** | 2025-12-03 |
-
----
-
-## Variables
-
-**Geographic** — `axe` (Maluku1 - Binza Ozone, Tshikapa, Kalonda-Oeust et Kanzala, Territoires de Punia, Kailo, Kibombo, Kasongo et ville de Kindu), `displaced` (range 0.0–87169.0), `admin1` (Sud-kivu, Maniema, Tanganyika), `admin1_id` (CD62, CD63, CD74), `admin2` (Kalehe, Fizi, Kindu) and 10 others.
-
-**Temporal** — `start_date`, `creation_date`, `date_statut` (range 42516.5674–45992.4875).
-
-**Demographic** — `household` (range 0.0–87347.0).
-
-**Outcome / Measurement** — `affected` (range 0.0–524084.0).
-
-**Identifier / Metadata** — `alert_id` (range 189.0–6202.0), `cluster_id` (range 1.0–25.0), `event_reason_id` (range 3.0–3.0), `risque_acces_id` (range 1.0–2.0), `risque_acces_label` (NON, OUI) and 7 others.
-
-**Other** — `description` (UNOSAT a publié une seconde analyse sur le secteur demandé en République Démocratique du Congo basée sur de nouvelles observations et qui couvrent des périodes similaires en novembre de chaque année (2019, 2020, 2021 et 2022) sur les secteurs demandés._x000D_
-Les résultats sont illustrés dans la carte ci-dessous qui montre l'étendue des eaux de surface détectées via l'imagerie satellite VIIRS entre le 1er et le 28 novembre 2022. Par ailleurs, vous trouverez avec le même lien un tableau excel détaillé qui montre les chiffres de l'étendue des eaux de surface par province/district ainsi que la population potentiellement exposée sur les mêmes périodes en utilisant ces observations satellitaires._x000D_
-https://unosat.org/products/3456_x000D_
-Dans la zone analysée d'environ 210,000 km², un total d'environ 6,800 km² de terres semblent être inondées. L'étendue des eaux de surface semble être plus petite de 4,000 km² comparé à la période du 1er au 30 novembre 2019. D'après les données démographiques de Worldpop et les eaux de surface détectées par satellite, environ 245,000 personnes sont potentiellement exposées ou vivent à proximité de zones inondées., La pluie diluvienne a provoqué des inondations et des affleurements de la nappe phréatique dans 10 zones de santé de la ville province de Kinshasa (Binza ozone, Kingabwa, Kisenso, Matete, Maluku 1, Masina 1, Mont-ngafula 1, Mont-Ngafula 2, Limete, Ndjili) affectant plus de 30 000 ménages._x000D_
-Conséquence directe : 42 écoles, 73 établissements de santé (ESS), 3 260 maisons endommagées ; 3 893 toilettes détruites ; le pont de Ndjili endommagé et perturbation de la circulation., Depuis le début du mois d'avril et vers la fin du mois de mai 2023 des pluies diluviennes se sont abattues dans les Zones de Santé DJOKOPUNDA, BANGA LUBAKA, KANZALA, TSHIKAPA, KALONDA OUEST, ILEBO, LUEBO, NYANGA et KAMONIA et les eaux des rivières Tshikapa et Kasaï aient débordées le niveau initial provoquant d'innombrables dégâts humains que matérielsont provoqué des inondations majeures dans la Province du KASAI cinq territoires sont affectés de la province ont était touchées. _x000D_
-Environ 38 104 personnes sont estimées être affectées directement par ces inondations, soit plus de 2% de la population totale du (3 056106 à risque dans les zones de santés touchées). 46 personnes ont trouvé la mort (principalement des enfants), lors de ces inondations dans certaines zones. Les inondations ont également causé des dégâts matériels, principalement la destruction totale ou partielle des nombreuses habitations, des infrastructures de base (écoles, centre de santé, points d'eau, ponts etc.), et des terres agricoles. La montée des eaux a aussi poussé les populations sinistrées à se déplacer vers des zones sèches proches ou aux alentours), `cluster` (Multisectoriel, Articles Ménagers Essentiels-Abris, Protection), `event_reason` (Catastrophe naturelle), `sinistrés` (range 0.0–524084.0), `pdis` (range 0.0–436735.0) and 3 others.
-
----
-
-## Quick Start
+| Hugging Face repo | [`electricsheepafrica/africa-internally-displaced-persons-natural-disaster`](https://huggingface.co/datasets/electricsheepafrica/africa-internally-displaced-persons-natural-disaster) |
+| Sector | climate_environment |
+| Topic tags | humanitarian, hdx, electric-sheep-africa, affected-area, affected-population, climate-weather, facilities-infrastructure, hazards-and-risk, hxl, internally-displaced-persons-idp, returnees, cod |
+| Modalities | `tabular`, `text` |
+| Formats | `parquet` |
+| Size category | `n<1K` |
+| Countries | Democratic Republic of the Congo |
+| ISO3 coverage | `COD` |
+| Last modified on HF | `2026-04-20 08:27:54+00:00` |
+| Inventory snapshot | `2026-07-16T16:00:34Z` |
+
+## How To Read This Dataset
+
+- Start from the repository files and the dataset viewer when available.
+- Treat the README context as a fast orientation layer; confirm variable definitions and units in the data files before modeling.
+- Use explicit country columns when present. When geography is only implied by the title or source metadata, document that assumption in downstream analysis.
+- Preserve missing values until you have a defensible imputation rule.
+
+## Usage
 
 ```python
 from datasets import load_dataset
 
-ds    = load_dataset("electricsheepafrica/africa-internally-displaced-persons-natural-disaster")
-train = ds["train"].to_pandas()
-test  = ds["test"].to_pandas()
+ds = load_dataset("electricsheepafrica/africa-internally-displaced-persons-natural-disaster")
+print(ds)
 
-print(train.shape)
-train.head()
+split_name = next(iter(ds))
+table = ds[split_name]
+print(table.features)
+print(table[:3])
 ```
 
----
-
-## Schema
-
-| Column | Type | Null % | Range / Sample Values |
-|---|---|---|---|
-| `alert_id` | int64 | 0.0% | 189.0 – 6202.0 (mean 4331.29) |
-| `start_date` | datetime64[ns] | 0.0% |  |
-| `creation_date` | datetime64[ns] | 0.0% |  |
-| `description` | object | 0.5% | UNOSAT a publié une seconde analyse sur le secteur demandé en République Démocratique du Congo basée sur de nouvelles observations et qui couvrent des périodes similaires en novembre de chaque année (2019, 2020, 2021 et 2022) sur les secteurs demandés._x000D_
-Les résultats sont illustrés dans la carte ci-dessous qui montre l'étendue des eaux de surface détectées via l'imagerie satellite VIIRS entre le 1er et le 28 novembre 2022. Par ailleurs, vous trouverez avec le même lien un tableau excel détaillé qui montre les chiffres de l'étendue des eaux de surface par province/district ainsi que la population potentiellement exposée sur les mêmes périodes en utilisant ces observations satellitaires._x000D_
-https://unosat.org/products/3456_x000D_
-Dans la zone analysée d'environ 210,000 km², un total d'environ 6,800 km² de terres semblent être inondées. L'étendue des eaux de surface semble être plus petite de 4,000 km² comparé à la période du 1er au 30 novembre 2019. D'après les données démographiques de Worldpop et les eaux de surface détectées par satellite, environ 245,000 personnes sont potentiellement exposées ou vivent à proximité de zones inondées., La pluie diluvienne a provoqué des inondations et des affleurements de la nappe phréatique dans 10 zones de santé de la ville province de Kinshasa (Binza ozone, Kingabwa, Kisenso, Matete, Maluku 1, Masina 1, Mont-ngafula 1, Mont-Ngafula 2, Limete, Ndjili) affectant plus de 30 000 ménages._x000D_
-Conséquence directe : 42 écoles, 73 établissements de santé (ESS), 3 260 maisons endommagées ; 3 893 toilettes détruites ; le pont de Ndjili endommagé et perturbation de la circulation., Depuis le début du mois d'avril et vers la fin du mois de mai 2023 des pluies diluviennes se sont abattues dans les Zones de Santé DJOKOPUNDA, BANGA LUBAKA, KANZALA, TSHIKAPA, KALONDA OUEST, ILEBO, LUEBO, NYANGA et KAMONIA et les eaux des rivières Tshikapa et Kasaï aient débordées le niveau initial provoquant d'innombrables dégâts humains que matérielsont provoqué des inondations majeures dans la Province du KASAI cinq territoires sont affectés de la province ont était touchées. _x000D_
-Environ 38 104 personnes sont estimées être affectées directement par ces inondations, soit plus de 2% de la population totale du (3 056106 à risque dans les zones de santés touchées). 46 personnes ont trouvé la mort (principalement des enfants), lors de ces inondations dans certaines zones. Les inondations ont également causé des dégâts matériels, principalement la destruction totale ou partielle des nombreuses habitations, des infrastructures de base (écoles, centre de santé, points d'eau, ponts etc.), et des terres agricoles. La montée des eaux a aussi poussé les populations sinistrées à se déplacer vers des zones sèches proches ou aux alentours |
-| `cluster` | object | 0.0% | Multisectoriel, Articles Ménagers Essentiels-Abris, Protection |
-| `cluster_id` | int64 | 0.0% | 1.0 – 25.0 (mean 9.3921) |
-| `axe` | object | 18.3% | Maluku1 - Binza Ozone, Tshikapa, Kalonda-Oeust et Kanzala, Territoires de Punia, Kailo, Kibombo, Kasongo et ville de Kindu |
-| `event_reason` | object | 0.0% | Catastrophe naturelle |
-| `event_reason_id` | int64 | 0.0% | 3.0 – 3.0 (mean 3.0) |
-| `risque_acces_id` | float64 | 17.4% | 1.0 – 2.0 (mean 1.677) |
-| `risque_acces_label` | object | 17.4% | NON, OUI |
-| `statut_label` | object | 1.9% | Diagnostic préliminaire , Evaluation terminée, Attente d'intervention |
-| `displaced` | int64 | 0.0% | 0.0 – 87169.0 (mean 5762.7633) |
-| `household` | int64 | 0.0% | 0.0 – 87347.0 (mean 3490.1044) |
-| `affected` | int64 | 0.0% | 0.0 – 524084.0 (mean 19644.2529) |
-| `sinistrés` | int64 | 0.0% | 0.0 – 524084.0 (mean 24339.7448) |
-| `pdis` | int64 | 0.0% | 0.0 – 436735.0 (mean 17983.9327) |
-| `returned` | int64 | 0.0% | 0.0 – 18000.0 (mean 92.9234) |
-| `dead` | float64 | 22.0% | 0.0 – 100.0 (mean 1.5923) |
-| `injured` | float64 | 22.0% | 0.0 – 0.0 (mean 0.0) |
-| `detail_id` | int64 | 0.0% | 60.0 – 6910.0 (mean 4741.3898) |
-| `date_statut` | float64 | 1.9% | 42516.5674 – 45992.4875 (mean 44750.9007) |
-| `admin1` | object | 0.0% | Sud-kivu, Maniema, Tanganyika |
-| `admin1_id` | object | 0.0% | CD62, CD63, CD74 |
-| `admin2` | object | 0.2% | Kalehe, Fizi, Kindu |
-| `admin2_id` | object | 0.2% | CD6205, CD6210, CD6301 |
-| `admin3` | object | 23.2% |  |
-| `admin3_id` | object | 23.2% |  |
-| `admin4` | object | 42.0% |  |
-| `admin4_id` | object | 42.0% |  |
-| `admin5` | object | 67.1% |  |
-| `admin5_id` | object | 67.1% |  |
-| `hz_label` | object | 0.2% |  |
-| `hz_id` | object | 0.2% |  |
-| `statut_id` | float64 | 1.9% | 1.0 – 8.0 (mean 2.0071) |
-| `primary_source` | object | 0.0% |  |
-| `primary_source_id` | int64 | 0.0% | 1.0 – 25.0 (mean 9.3921) |
-| `secondary_source` | object | 11.6% |  |
-| `esa_source` | object | 0.0% |  |
-| `esa_processed` | object | 0.0% |  |
+### Convert To Pandas When Tabular
 
----
-
-## Numeric Summary
-
-| Column | Min | Max | Mean | Median |
-|---|---|---|---|---|
-| `alert_id` | 189.0 | 6202.0 | 4331.29 | 4563.0 |
-| `cluster_id` | 1.0 | 25.0 | 9.3921 | 10.0 |
-| `event_reason_id` | 3.0 | 3.0 | 3.0 | 3.0 |
-| `risque_acces_id` | 1.0 | 2.0 | 1.677 | 2.0 |
-| `displaced` | 0.0 | 87169.0 | 5762.7633 | 1800.0 |
-| `household` | 0.0 | 87347.0 | 3490.1044 | 990.0 |
-| `affected` | 0.0 | 524084.0 | 19644.2529 | 1158.0 |
-| `sinistrés` | 0.0 | 524084.0 | 24339.7448 | 7020.0 |
-| `pdis` | 0.0 | 436735.0 | 17983.9327 | 5425.0 |
-| `returned` | 0.0 | 18000.0 | 92.9234 | 0.0 |
-| `dead` | 0.0 | 100.0 | 1.5923 | 0.0 |
-| `injured` | 0.0 | 0.0 | 0.0 | 0.0 |
-| `detail_id` | 60.0 | 6910.0 | 4741.3898 | 4945.0 |
-| `date_statut` | 42516.5674 | 45992.4875 | 44750.9007 | 44904.9354 |
-| `statut_id` | 1.0 | 8.0 | 2.0071 | 1.0 |
+```python
+from datasets import Dataset
 
----
+first_split = ds[next(iter(ds))]
+if isinstance(first_split, Dataset):
+    df = first_split.to_pandas()
+    print(df.head())
+```
 
-## Curation
+## Data Quality Notes
 
-Raw data was downloaded from HDX via the CKAN API and converted to Parquet. Column names were lowercased and standardised to snake_case. Common missing-value markers (`N/A`, `null`, `none`, `-`, `unknown`, `no data`, `#N/A`) were unified to `NaN`. 1 column(s) with >80% missing values were removed: `severityrrm`. The dataset was split 80/20 into train and test partitions using a fixed random seed (42) and saved as Snappy-compressed Parquet.
+- This card was standardized from the Electric Sheep Africa Hugging Face metadata inventory.
+- Exact schema, row counts, and source files should be inspected in the repository data files.
+- Metadata gaps from the inventory: upstream_publisher.
+- Do not infer policy meaning from labels alone; confirm definitions, units, and methods in the source material.
 
----
+## Source And Provenance
 
-## Limitations
+- **Source context:** original
+- **Publisher/source attribution:** original
+- **License:** [CC BY 4.0](https://creativecommons.org/licenses/by/4.0/)
+- **Hugging Face URL:** [https://huggingface.co/datasets/electricsheepafrica/africa-internally-displaced-persons-natural-disaster](https://huggingface.co/datasets/electricsheepafrica/africa-internally-displaced-persons-natural-disaster)
+- **Inventory retrieved at:** `2026-07-16T16:00:34Z`
 
-- Data originates from OCHA Democratic Republic of the Congo (DRC) and has not been independently validated by ESA.
-- Automated cleaning cannot correct for misreported values, definitional inconsistencies, or sampling bias in the original collection.
-- The following columns have >20% missing values and should be treated with caution in modelling: `dead`, `injured`, `admin3`, `admin3_id`, `admin4`, `admin4_id`, `admin5`, `admin5_id`.
-- Refer to the [original HDX dataset page](https://data.humdata.org/dataset/internally-displaced-persons-natural-disaster) for the publisher's own methodology notes and caveats.
+## Suggested Analyses
 
----
+- Inspect schema and missingness before modeling.
+- Profile variables by geography, time, and subgroup columns where present.
+- Join with other Electric Sheep Africa datasets using explicit country, year, and indicator fields when available.
+- Build reproducible notebooks that cite both the original source context and the Electric Sheep Africa Hugging Face repo.
 
 ## Citation
 
 ```bibtex
-@dataset{hdx_africa_internally_displaced_persons_natural_disaster,
-  title     = {Democratic Republic of the Congo: Natural disaster Impact},
-  author    = {OCHA Democratic Republic of the Congo (DRC)},
-  year      = {2025},
-  url       = {https://data.humdata.org/dataset/internally-displaced-persons-natural-disaster},
-  note      = {Repackaged for machine learning by Electric Sheep Africa (https://huggingface.co/electricsheepafrica)}
+@misc{electric_sheep_africa_africa_internally_displaced_persons_natural_disaster_2026,
+  title        = {Democratic Republic of the Congo: Natural disaster Impact | Africa (original)},
+  author       = {original},
+  year         = {2026},
+  url          = {https://huggingface.co/datasets/electricsheepafrica/africa-internally-displaced-persons-natural-disaster},
+  publisher    = {Hugging Face Datasets, engineered by Electric Sheep Africa},
+  howpublished = {\url{https://huggingface.co/datasets/electricsheepafrica/africa-internally-displaced-persons-natural-disaster}}
 }
 ```
 
+## License
+
+Released under [CC BY 4.0](https://creativecommons.org/licenses/by/4.0/).
+
+Original source rights remain with the original publisher or data provider. Electric Sheep Africa engineering standardizes discovery metadata, documentation, and usage guidance for analysis on Hugging Face.
+
+## About Electric Sheep Africa
+
+Electric Sheep Africa publishes ML-ready African public datasets on Hugging Face.
+
 ---
 
-*[Electric Sheep Africa](https://huggingface.co/electricsheepafrica) — Africa's ML dataset infrastructure. Lagos, Nigeria.*
+Provenance: metadata-backed README standardized 2026-08-12 by the Electric Sheep Africa README system. Inventory source: `catalog/esa_metadata_inventory/master_metadata.jsonl`.