Dataset Card for wikipedia-zh-filtered

本資料集是 lianghsun/wikipedia-zh-742M（中文維基百科語料）的繁體中文（zh-tw）過濾子集，每筆樣本含維基條目段落、token／字元統計與原始 URL。可作為繁中模型在百科類知識上的預訓練語料。

Dataset Details

Dataset Description

原始 wikipedia-zh-742M 涵蓋多種中文（簡體、繁體）；本資料集刻意過濾出以繁體（zh-tw）為主的條目段落，並排除被識別為簡體為主的樣本。內容涵蓋臺灣本土條目（地理、歷史、人物）以及通用百科知識。

每筆樣本欄位：

• text：條目內文段落。
• token_count / word_count：token 數與字元數。
• url：原條目網址（部分樣本可能為空字串）。
• updated_at：抓取／更新時間戳。

• Curated by: Huang Liang Hsun
• Language(s) (NLP): Traditional Chinese
• License: cc-by-nc-sa-4.0（資料源自維基百科 CC BY-SA 條目）

Dataset Sources

• Repository: lianghsun/wikipedia-zh-filtered
• Source dataset: lianghsun/wikipedia-zh-742M
• Paper: TBA

Uses

Direct Use

• 繁中模型的持續預訓練（百科類知識補強）。
• RAG 系統的中文百科知識來源（請以 zh-tw 條目為主）。
• 衍生條目摘要、問答、實體連結等下游任務之資料。

Out-of-Scope Use

• 不適用作為事實型資訊之單一來源；維基條目會更新、且部分內容存在編輯爭議。
• 商用前請遵循維基百科 CC BY-SA 規範。

Dataset Structure

{
  "text": "竹林裡 (臺南市西港區) 沿革 該裡在日治時期屬於西港莊大字劉厝...",
  "token_count": 653,
  "word_count": 683,
  "url": "",
  "updated_at": "2025-01-02"
}

Dataset Creation

Curation Rationale

中文維基包含大量簡繁夾雜內容；對於專門訓練繁中模型來說，需要先做語言過濾，避免簡體用語污染。本資料集即提供已預先過濾為繁體為主的子集，方便直接使用。

Source Data

Data Collection and Processing

1. 取 wikipedia-zh-742M 為母集。
2. 以簡繁字元偵測規則過濾出繁體為主之段落。
3. 排除簡體用詞密集／無法可靠判定為繁體之樣本。

Who are the source data producers?

原始條目由中文維基百科社群協作撰寫。

Annotations

Annotation process

無新增人工標註；過濾規則為自動執行。

Who are the annotators?

無人工標註者。

Personal and Sensitive Information

資料來自公開維基條目，提及之人物多為公眾人物。

Bias, Risks, and Limitations

• 維基百科存在編輯立場差異（特別是涉及兩岸、政治、歷史的條目）。
• 自動繁簡判別並非 100% 準確；少量樣本仍可能含簡體用語。
• 部分樣本 url 欄位為空字串，無法直接回溯原條目。

Recommendations

建議在訓練前再跑一次簡體偵測；下游若用於知識 RAG，應加上條目時間戳判定新鮮度。

Citation

@misc{wikipedia_zh_filtered,
  title        = {wikipedia-zh-filtered: Traditional Chinese (zh-tw) Filtered Subset of Chinese Wikipedia},
  author       = {Huang, Liang Hsun},
  year         = {2024},
  howpublished = {\url{https://huggingface.co/datasets/lianghsun/wikipedia-zh-filtered}},
  note         = {Filtered from lianghsun/wikipedia-zh-742M; original content under CC BY-SA.}
}

Dataset Card Authors

Huang Liang Hsun

Dataset Card Contact

Huang Liang Hsun