---
tags:
  - statistics
  - polars
  - finepdfs-edu
  - temporal-analysis
license: odc-by
configs:
  - config_name: global_stats
    data_files: global_stats/train-*.parquet
  - config_name: temporal_stats
    data_files: temporal_stats/train-*.parquet
default_viewer_config: temporal_stats
---

# Is the Web Getting More Educational?

Temporal analysis of educational quality across 106 CommonCrawl dumps.

## Trend

```
High Educational Content (edu >= 3)
###############################################################
██████████████████████████████████                  11.2%  2013
██████████████████████████████                       9.9%  2014
█████████████████████████████████                   10.8%  2015
██████████████████████████████████                  11.1%  2016
██████████████████████████████████████████████      15.0%  2017
████████████████████████████████████████████        14.4%  2018
█████████████████████████████████████████████       14.7%  2019
██████████████████████████████████████████████      14.9%  2020
██████████████████████████████████████████████████  16.2%  2021
██████████████████████████████████████████████      15.2%  2022
████████████████████████████████████████████        14.4%  2023
████████████████████████████████████████████████    15.6%  2024
████████████████████████████████████████████████    15.9%  2025

Average Educational Score
##############################################################
███████████████████████████████████████████████     1.98  2013
██████████████████████████████████████████████      1.93  2014
██████████████████████████████████████████████      1.94  2015
██████████████████████████████████████████████      1.95  2016
█████████████████████████████████████████████████   2.06  2017
████████████████████████████████████████████████    2.03  2018
█████████████████████████████████████████████████   2.03  2019
█████████████████████████████████████████████████   2.03  2020
██████████████████████████████████████████████████  2.07  2021
█████████████████████████████████████████████████   2.04  2022
████████████████████████████████████████████████    2.02  2023
█████████████████████████████████████████████████   2.05  2024
█████████████████████████████████████████████████   2.05  2025
```

## Key Finding

| Period | Avg Edu Score | High Edu Rate |
|--------|---------------|---------------|
| CC-MAIN-2013-20 | 2.025 | 13.0% |
| CC-MAIN-2025-08 | 2.065 | 16.3% |

## Performance

- **5,000,000 documents** processed in **142 seconds**
- **35,275 docs/sec** using Polars streaming
- Single scan, no download of 300GB+ dataset

## Summary

| Metric | Value |
|--------|-------|
| Scope | English (Latin script) |
| Total Documents | 5,000,000 |
| Total Tokens | 28,480,600,092 |
| Avg Edu Score | 2.047 |
| High Edu Rate | 15.3% |
| CommonCrawl Dumps | 106 |

## Files

- `global_stats` - Overall summary
- `temporal_stats` - Per-dump breakdown (sorted chronologically)

## Reproduce

```bash
uv run https://huggingface.co/datasets/uv-scripts/dataset-stats/raw/main/finepdfs-stats.py \
    --lang eng_Latn --output-repo your-username/stats
```

## Source

- **Dataset**: [HuggingFaceFW/finepdfs-edu](https://huggingface.co/datasets/HuggingFaceFW/finepdfs-edu)
- **Script**: [uv-scripts/dataset-stats](https://huggingface.co/datasets/uv-scripts/dataset-stats)