实体ID stringclasses 5
values | md5 stringclasses 7
values | 块ID int32 0 3 | 块类型 stringclasses 4
values | 扩展字段 stringclasses 7
values | 时间 stringclasses 2
values | 页ID int32 0 3 ⌀ | 文本 large_stringclasses 5
values | 图片 dict | 视频 dict | 音频 dict | OCR文本 large_stringclasses 0
values | STT文本 large_stringclasses 0
values |
|---|---|---|---|---|---|---|---|---|---|---|---|---|
mnbvc_mm_example | 05b939ec58d5fce356234bf318e6dadf | 0 | text | {"文本长度": 12} | 20240710 | null | 这是一条 demo 数据 | null | null | null | null | null |
mnbvc_mm_example | 96771bf3684db83c71e731d5e37ee449 | 1 | image | {"宽度": 200, "高度": 200} | 20240710 | null | null | {
"bytes": [
137,
80,
78,
71,
13,
10,
26,
10,
0,
0,
0,
13,
73,
72,
68,
82,
0,
0,
0,
200,
0,
0,
0,
200,
8,
2,
0,
0,
0,
34,
58,
57,
201,
0,
1,
0,
0,
73,
68,
65,... | null | null | null | null |
mnbvc_mm_example | 59c37c58c41a4da685b474e4c0f89a10 | 2 | audio | {"长度": 5, "采样率": 44100} | 20240710 | null | null | null | null | {"bytes":"UklGRsy6BgBXQVZFZm10IBAAAAABAAEARKwAAIhYAQACABAAZGF0Yai6BgDz0J/QeYBAEcK6y0J41YAFvgCXtzJaj2(...TRUNCATED) | null | null |
86e715165192b9f20bceb7c9d5c0b9b5c1d3188a211a1a5c313b6b12c649fd0b-page-0 | e219cbd054acadf3a6bb96eff100393b | 0 | image-text-pair | "{\"page_id\": 0, \"page_image_size\": {\"width\": 1466, \"height\": 2097}, \"page_text_length\": 39(...TRUNCATED) | 20260822 | 0 | "175\n\n第4 章 电路图的识读\n\n续表 型\n\n号 电 路 图 型 号 电 路 图\n\n(r)双(...TRUNCATED) | {"bytes":"/9j/4AAQSkZJRgABAQEAYABgAAD/2wBDAAUDBAQEAwUEBAQFBQUGBwwIBwcHBw8LCwkMEQ8SEhEPERETFhwXExQaFR(...TRUNCATED) | null | null | null | null |
86e715165192b9f20bceb7c9d5c0b9b5c1d3188a211a1a5c313b6b12c649fd0b-page-1 | bcd8b70ac3ccb461c692713d8947c6d9 | 1 | image-text-pair | "{\"page_id\": 1, \"page_image_size\": {\"width\": 1338, \"height\": 1930}, \"page_text_length\": 44(...TRUNCATED) | 20260822 | 1 | "第一部分 第二部分 第三部分 073\n\n二\n\n三\n\n一\n\n二\n\n三\n\n一\n\n二\n\n三\(...TRUNCATED) | {"bytes":"/9j/4AAQSkZJRgABAQEAYABgAAD/2wBDAAUDBAQEAwUEBAQFBQUGBwwIBwcHBw8LCwkMEQ8SEhEPERETFhwXExQaFR(...TRUNCATED) | null | null | null | null |
86e715165192b9f20bceb7c9d5c0b9b5c1d3188a211a1a5c313b6b12c649fd0b-page-2 | 3bc47da1f8d345702830daa45a075179 | 2 | image-text-pair | "{\"page_id\": 2, \"page_image_size\": {\"width\": 1700, \"height\": 2200}, \"page_text_length\": 32(...TRUNCATED) | 20260822 | 2 | "A n n u a l W h e a t N e w s l e t t e r V o l. 4 9.\n\nTable 4. Top wheat cultivars planted in Ka(...TRUNCATED) | {"bytes":"/9j/4AAQSkZJRgABAQEAYABgAAD/2wBDAAUDBAQEAwUEBAQFBQUGBwwIBwcHBw8LCwkMEQ8SEhEPERETFhwXExQaFR(...TRUNCATED) | null | null | null | null |
86e715165192b9f20bceb7c9d5c0b9b5c1d3188a211a1a5c313b6b12c649fd0b-page-3 | 72cba1a2ef4c1c581762dd9d46e793fd | 3 | image-text-pair | "{\"page_id\": 3, \"page_image_size\": {\"width\": 1738, \"height\": 2274}, \"page_text_length\": 68(...TRUNCATED) | 20260822 | 3 | "ACS Nano Article\n\ncomparison with reported CTS materials, CV curves, GITT calculations, CV calcul(...TRUNCATED) | {"bytes":"/9j/4AAQSkZJRgABAQEAYABgAAD/2wBDAAUDBAQEAwUEBAQFBQUGBwwIBwcHBw8LCwkMEQ8SEhEPERETFhwXExQaFR(...TRUNCATED) | null | null | null | null |
mnbvc mm dataset v2.1
MNBVC 多模态语料数据格式。原链接：https://huggingface.co/datasets/wanng/example_mmdata_mnbvc
参考实现：mm_template_mnbvc
的 mmdata_block.BLOCK_SCHEMA。schema 以那份代码为准，这个数据集是它的示例产物。
字段
| 字段名称 | 类型 | 字段说明 | 可选 |
|---|---|---|---|
| 实体ID | string | 数据的唯一标识符。用于在数据集中确定是哪一条数据。在单个数据集中确定一条数据的实体对象。 | 必选 |
| md5 | string | 内容的 md5，用于去重与完整性校验 | 必选 |
| 块ID | int32 | 一个实体对象内的标识符。用于确定一条数据内的一个部分数据。parquet 行的最小单元。 | 必选 |
| 块类型 | string | 用于保存块的类别。类别的含义为「模态」。取值见下 | 必选 |
| 扩展字段 | string | 用于保存块的元信息。为可以被成功 load 的 json 字符串。后期可继续扩展 | 必选 |
| 时间 | string | 语料首次出现的时间，如无法确定则为处理该数据实体的时间。格式 YYYYMMDD |
必选 |
| 页ID | int32 | 当文件从文档中解析时，当前页码（0 起） | 可选 |
| 文本 | large_string | 文本块的内容 | 可选 |
| 图片 | struct<bytes, path> | 图片块的内容 | 可选 |
| 视频 | struct<bytes, path> | 视频块的内容 | 可选 |
| 音频 | struct<bytes, path> | 音频块的内容 | 可选 |
| OCR文本 | large_string | 图片的 OCR 结果 | 可选 |
| STT文本 | large_string | 音频的 STT 结果 | 可选 |
块类型 取值：text · image · audio · video · pdf · image-text-pair
相对 v2.0 的变化
v2.0 的示例数据和参考实现的代码在 schema 上是对不上的，这一版把两边统一了。 以下改动会影响读旧数据的代码：
| v2.0 | v2.1 | 为什么 | |
|---|---|---|---|
| md5 列名 | 文件md5 |
md5 |
示例用 文件md5、代码用 md5，同一个字段两个名字 |
| md5 语义 | 文件 md5（示例里恒为 null） | 内容 md5 | 参考实现里算的是文件名的 md5，既不能去重也不能校验：内容相同名字不同得到两个 md5，文件被截断反而 md5 不变 |
视频 列 |
没有 | 有 | 代码里一直声明着，示例里漏了 |
| 媒体列类型 | binary |
struct<bytes, path> |
HuggingFace 的 Image/Audio/Video 三个 feature 用的都是这个结构，binary 和 base64 字符串都会抛 ArrowNotImplementedError |
块类型 取值 |
文字/图片/音频 |
text/image/audio |
示例用中文、chinaxiv 转换用 pdf/image-text-pair、视频转换用 视频，同一列三套词汇，没法统一筛选 |
| schema | pandas 逐批推断 | 显式声明 | 推断的结果是整列为空时被推成 null 类型（v2.0 里 OCR文本/STT文本/文件md5/页ID 都是 null），另一批有值时推成 binary，两个 shard 拼不起来 |
体积上媒体列从 binary 改成 struct 没有代价（path 那个小字符串 zstd 之后压没了）。
读旧数据不用改代码：参考实现里的 decode_media() 同时吃 struct / 裸 bytes /
base64 字符串三种形态。
内容
7 行，一个 parquet 文件：
| 块ID | 块类型 | 内容 |
|---|---|---|
| 0 | text |
一行 demo 文字 |
| 1 | image |
blocks/demo.png，200×200 |
| 2 | audio |
blocks/demo.wav，5 秒 @44.1kHz |
| 0–3 | image-text-pair |
4 页真实 PDF：整页光栅 @200dpi + 该页 Markdown |
PDF 页那 4 行来自 pdfsystem_mnbvc
的 pdfsys.page/v2 页级格式，经 pdfsys mnbvc-export --dialect v2 转换而来 ——
两边 schema 逐列一致。它们的 扩展字段 里带着 width_pt/height_pt/render_dpi/
extractor 等页级信息。
读取
from datasets import load_dataset, Audio, Image
ds = load_dataset("miracleyin/example_mmdata_mnbvc", split="train")
ds.cast_column("图片", Image())[1]["图片"] # -> PIL.Image
ds.cast_column("音频", Audio())[2]["音频"] # -> {"array": ..., "sampling_rate": 44100}
不确定手上那份是 v2.0 还是 v2.1 时：
from src.mm_data.core.models.mmdata_block import decode_media
blob = decode_media(row["图片"]) # struct / 裸 bytes / base64 三种都吃
mmdata.ipynb 里是从零造各模态数据块并写成 parquet 的完整流程。
说明
每一行文本/图片/视频/音频只能存在一条内容。
OCR文本 只在图片确实过了 OCR 时才填。这里那 4 行 PDF 页的 OCR文本 是 null ——
它们的 文本 来自 PyMuPDF 直读 PDF 自带的文本层，不是从像素识别出来的，填进 OCR文本
就是谎报。走 MinerU 的 pipeline / VLM 链路时才会填。扩展字段.extractor 记录了是哪条链路。
PDF 页的源文件来自 OmniDocBench 与 olmOCR-bench 两个公开 benchmark，上游许可未逐份核实。
- Downloads last month
- 56