Dataset Card for tw-apple-daily-1B

本資料集收錄 2003–2022 年間繁體中文公開新聞報導文本，總 token 數約 1B（10 億），可作為大規模臺灣新聞語料的補充預訓練來源。每筆樣本以結構化文字呈現新聞分類、發布時間、標題、關鍵字、描述與正文。

Dataset Details

Dataset Description

資料以 2003–2022 年間之繁中新聞報導為主，內容涵蓋政治、社會、財經、論壇專欄等多元主題。本資料集將原報導頁面解析後輸出為純文字，並在每篇前段保留以下結構化欄位：

新聞分類：...
新聞發佈時間：YYYY-MM-DDTHH:MM:SSZ
新聞標題：...
關鍵字：...
新聞描述：...
新聞內容：
（正文）

可作為新聞文體、時事語境、論壇專欄寫作風格的繁中模型訓練資料。資料夾中另附 post-processing.py 提供基本後處理邏輯。

• Curated by: Huang Liang Hsun
• Language(s) (NLP): Traditional Chinese
• License: cc-by-nc-sa-4.0

Dataset Sources

• Repository: lianghsun/tw-apple-daily-1B
• Paper: TBA

Uses

Direct Use

• 大規模繁中新聞語料的持續預訓練／指令微調素材。
• 補強模型對 2003–2022 年臺灣時事、社會議題、政治輿論的覆蓋。
• 作為新聞 chatbot、摘要、分類等任務的訓練／評測來源。

Out-of-Scope Use

• 不適合作為現行新聞時效性的來源；報導內容皆為過往資料。
• 不應用於針對特定個人之人格毀謗、散播未經查證之內容。
• 商用前請先確認原始報導之著作權／授權狀態。

Dataset Structure

{
  "text": "新聞分類：論壇與專欄\n新聞發佈時間：2020-09-02T19:00:00Z\n新聞標題：...\n關鍵字：...\n新聞描述：...\n新聞內容：\n..."
}

僅有單一 text 欄位，其中 metadata（分類、時間、標題、關鍵字、描述）以行內標籤形式存在於文字開頭。

Dataset Creation

Curation Rationale

臺灣中文新聞語料對在地化模型相當重要，但現有開源新聞資料集規模、時效都有侷限。本資料集以 1B token 規模補強臺灣新聞語境，特別是論壇／專欄類具觀點性的長文。

Source Data

Data Collection and Processing

1. 從公開可取得的繁中新聞網頁／封存資料蒐集 HTML。
2. 解析 HTML，將分類／時間／標題／關鍵字／描述與正文以行內標籤序列化。
3. 提供 post-processing.py 作為下游清理參考。

Who are the source data producers?

原始新聞由原媒體記者與專欄作者撰寫並公開發布。

Annotations

Annotation process

無人工標註；分類、關鍵字等欄位即為原始網站 metadata。

Who are the annotators?

原始 metadata 由原媒體編輯撰寫。

Personal and Sensitive Information

新聞中提及的人名／事件多為公眾人物與已公開報導內容；如使用者發現具體未公開之 PII，請於 discussion 區提出排除。

Bias, Risks, and Limitations

• 媒體立場：原媒體具特定編輯立場與選題傾向，使用者應理解其視角侷限。
• 著作權：原報導著作權屬原作者；商用前請另行評估授權。
• 部分報導屬煽情、爭議性主題，訓練前建議再做敏感內容過濾。

Recommendations

• 建議與其他來源新聞語料混用，避免單一媒體立場主導。
• 使用前先跑 post-processing.py 進行去重與基本清理。

Citation

@misc{tw_apple_daily_1b,
  title        = {tw-apple-daily-1B: Traditional Chinese News Corpus (1B tokens)},
  author       = {Huang, Liang Hsun},
  year         = {2025},
  howpublished = {\url{https://huggingface.co/datasets/lianghsun/tw-apple-daily-1B}}
}

Dataset Card Authors

Huang Liang Hsun

Dataset Card Contact

Huang Liang Hsun