Hugging Face's logo

Datasets:
lianghsun
/
tw-moj-corpus

Tasks:
Text Generation
Modalities:
Tabular
Text
Formats:
parquet
Languages:
Chinese
Size:
10K - 100K
Tags:
legal
government
traditional-chinese
taiwan
pretraining
Libraries:
Datasets
pandas
Polars
License:
Dataset card Data Studio Files
xet
 Community

You need to agree to share your Hugging Face information to access this dataset

This repository is publicly accessible, but you have to accept the conditions to access its files and content.

Log in or Sign Up to review the conditions and access this dataset content.

Dataset Card for tw-moj-corpus

⚖️ tw-moj-corpus 是把法務部全球資訊網（www.moj.gov.tw）整站有意義的內容—— 新聞稿、法治 QA／法學問答、業務說明、政策與施政報告、法律推廣教材、研究報告、訴願決定書、宣導資料等—— 連同頁面上的 PDF／DOCX／ODT 附件，整理成可直接用於語言模型持續預訓練（continued pretraining）的繁體中文語料。 欄位格式比照 lianghsun/fineweb-edu-zhtw，可直接與其混合使用。

  • 文件數：13,752
  • token 數：88,884,420（tiktoken cl100k_base）
  • 其中 OCR 文件涵蓋 81,938 頁 PDF
  • 最近建置：2026-10-03
  • 本版含網頁與附件（PDF 經 OCR、DOCX／ODT）

Dataset Details

Dataset Description

本資料集以爬蟲走訪法務部全球資訊網的完整導覽樹：每個導覽頁、每個列表頁翻到最後一頁，取得所有內容頁（/post）與列表上直接掛載的檔案， 再把內容頁正文與附件分別轉為純文字：

  • 網頁：只取正文區塊（section.cp），去掉導覽列、頁尾、點閱數、附件清單等版面元素；表格轉為以「 | 」分隔的列。每篇以標題為第一行。
  • PDF：一律逐頁以 150 DPI 轉圖後送 dots.ocr OCR API（與本機 omni-doc-studio 同一套 layout prompt）， 丟棄 Page-header／Page-footer／Picture 區塊，表格 HTML 轉為以「 | 」分隔的列。不使用 PDF 內嵌文字層，避免掃描檔與字型編碼錯亂造成的亂碼。
  • DOCX／ODT／TXT：直接解析文件結構取出段落與表格。

一份網頁與其每個附件各自為一筆；附件若與所屬網頁內容重複（附件 5-gram 有 80% 以上已出現在網頁正文，典型例子是新聞稿 PDF），只保留網頁版； 有文字層的 PDF 會先用文字層做這個判斷，重複者不送 OCR（extracts.status = dup_of_page）。

Dataset Sources

收錄範圍與排除

依需求不收全國法規資料庫（law.moj.gov.tw 以及本站「全國法規最新消息」）與判決書（本站「裁判書類專區」）； 所屬機關（各檢察署、矯正署、調查局、行政執行署、廉政署等）的獨立網站不在本資料集範圍。另外排除個資密集或無語料價值的區塊：

節點路徑 排除理由
/2204/2795/2798 全國法規最新消息（全國法規資料庫另有來源，依需求不收）
/2204/2645/152094 裁判書類專區（判決書，依需求不收）
/2204/2645/167384 公示送達（當事人姓名與案號，個資且無語料價值）
/2204/2645/2694/2696 所屬機關電子公布欄（全部轉址到所屬機關網站，非本部網站）
/2204/2645/2694/2698 政治獻金法第七條查詢網（查詢系統）
/2204/2645/136573/153839/153841 轉型正義處分書（大量列舉受難者姓名）
/2204/2645/136573/136574 轉型正義公告撤銷案件查詢（每筆為一位受難者姓名與案號的名冊，約 1.3 萬筆）
/2204/2645/2650/2661 預、決算及會計報表（數字報表）
/2204/2645/2650/2684 公共工程及採購契約（表格清單）
/2204/2645/2650/2685 支付或接受之補助（表格清單）
/2204/2645/2650/70588 對民間團體及個人補（捐）助資訊（表格清單）
/2204/2645/2730 政策宣導廣告經費彙整（表格清單）
/2204/2645/260960 因公派員出國考察費用執行情形（表格清單）
/2204/2473/2492 消費者保護（轉載行政院及各部會公告，非本部內容）
/2204/2771/2775 動畫下載（影音）
/2204/2771/2776 影音下載（影音）
/2204/2771/45424 YouTube 影音下載（影音）

影音、圖片、試算表（xls/xlsx/ods/csv）、壓縮檔附件不處理；.doc（舊版 Word）目前不處理。 超過 400 頁的 PDF 不送 OCR（本版共 77 份），之後可能分批補上。

Uses

Direct Use

  • 繁體中文、台灣法律／政府領域的持續預訓練語料；可與 fineweb-edu-zhtw 等通用語料混合。
  • 法務行政、刑事政策、司法保護、矯正、廉政、法治教育等主題的領域適應（domain-adaptive pretraining）。

Out-of-Scope Use

  • 不應作為法律意見或法規現行條文的依據：網站內容有時效性，法規請以全國法規資料庫為準。
  • 本資料集不含指令－回應結構，不直接適用於 SFT；「法治 QA」類文件雖為問答體，仍以原文形式收錄。
  • 不得用於識別、追蹤或評價特定個人。

Dataset Structure

一筆一份文件，單一 train split。前 13 欄與 fineweb-edu-zhtw 的同名欄位定義相同，其後為法務部特有欄位。

欄位 說明
text 文件全文（網頁以標題為首行）
id <urn:moj:node:NNN>（內容頁）或 <urn:moj:media:NNN>（附件）
dump 抓取批次，MOJ-YYYY-MM
url 內容頁網址或附件下載網址
date 本筆最近一次抓取時間
file_path 內容頁：本地原始 HTML 封存路徑；附件：檔案網址
language / language_score / language_script / top_langs GlotLID 語言辨識結果（同 fineweb 系列）
avg_words_per_line / word_count 詞數（CJK 逐字 + 英數逐詞，與 fineweb-edu-zhtw 同算法）
token_count tiktoken cl100k_base token 數
title 標題；附件為「所屬頁標題｜檔名」
section 網站麵包屑路徑，例如 法治視窗 > 法治QA > 民事
list_title 所在列表頁名稱
doc_type html / pdf / docx / odt / txt
extraction html / ocr:dots.ocr / docx / odt / txt
parent_url 附件所屬內容頁網址（網頁本身與列表直掛檔案為 null）
published_date / updated_date 網站標示的發布日期、最後更新日期（ISO，民國年已轉西元）
ocr_pages OCR 的 PDF 頁數
content_sha1 去空白後全文的 SHA-1（用於增量同步比對）

各區塊分布

網站大類 文件數 token 數
資訊公開 4,242 20,030,171
首頁公告訊息 3,847 8,406,642
訴願決定書查詢 1,543 3,055,592
法治視窗 1,490 19,096,721
法務部簡介 808 9,668,139
下載專區 452 10,159,364
新聞發布 372 487,944
法務資料庫 254 7,327,166
線上服務e點通 154 225,058
法律時事專欄 109 331,773
中央廉政委員會 67 2,324,022
業務宣導 60 714,391
司法保護電子報 34 388,304
本部廉政會報 21 189,303
最新消息 21 1,532,139
行動化應用軟體服務績效 20 9,779
表揚名單 13 24,042
生態檢核資訊公開平台 12 68,406
本部電子公布欄 11 30,902
死刑政策 10 84,745
更生保護 10 214,595
法務研究計畫與成果 10 1,980,091
檢察司 10 250,967
刑法入門 10 27,033
民事訴訟法入門 10 31,236
刑事訴訟法入門 10 32,170
民法入門 9 32,034
行政法入門 9 32,675
法眼明察獎專區 8 59,714
憲法入門 8 25,945
人權 7 11,888
財團法人法 6 209,594
申請書及流程說明 6 6,642
引用CEDAW起訴書 6 41,794
法規命令草案年度立法計畫專區 5 4,431
性騷擾防治專區 5 104,372
司法互助條約/協定/協議 4 23,557
政府資訊公開 4 209,307
工友管理 3 3,614
自由經濟示範區及兩岸服務貿易協議－法律服務專區 3 59,580
犯罪被害人保護 3 258,378
行政執行 3 6,084
政策說明 3 158,557
申訴窗口 3 9,645
施政計畫 3 115,114
性別平等專案小組 2 18,877
身分法(親屬及繼承編) 2 5,484
總則 2 7,167
信託法 2 1,065
性別主流化執行計畫 2 45,389
民法史．記 2 8,031
法務行政一年 2 142,153
綜合規劃司 2 6,100
遊說書表 2 2,750
鄉鎮調解 2 225,251
收容安置 2 1,684
部會宣導資源 2 68,335
識別與處置加害者 2 2,229
保護 2 5,460
司法革新 1 41,322
檢察官評鑑委員會相關書表格式 1 762
內部控制專區 1 594
財產法(債及物權編) 1 1,816
法務部政府服務獎評獎實施計畫 1 2,690
陳情處理規定 1 374
線上申辦 1 553
行政院所屬各機關中程施政計畫及年度施政計畫 1 5,564
法務部年度施政績效報告 1 44,686
法務部施政成效暨未來努力方向 1 71,789
電子圖書 1 59,994
05政策目標 1 165
國家賠償 1 1,848
活動資訊 1 2,608
財產管理 1 5,959
受保護管束人 1 1,057
主任秘書 1 3,575
榮譽觀護人 1 4,229
相關規定與表格下載 1 2,257
犯罪被害保護志工 1 2,197
性別平等教育專區 1 590
法令及宣導資料 1 1,182
條文內容文及總說明 1 8,232
國家廉政建設行動方案 1 9,125
要點說明及宣導資料 1 6,465
法務部表揚參與監所教化及保護事業有功人士團體實施計畫 1 1,192
第二層區塊（前 40）
區塊 文件數
首頁公告訊息 > 新聞發布 3,542
資訊公開 > 電子公布欄 2,567
訴願決定書查詢 1,543
資訊公開 > 檢察官評鑑委員會專區 1,085
法治視窗 > 法律推廣 1,055
法務部簡介 > 重要措施 553
下載專區 > 政府資料開放 433
新聞發布 372
法治視窗 > 法律資源 305
首頁公告訊息 > 業務宣導 305
法務資料庫 > 出版品 236
資訊公開 > 檢察官人事審議委員會決議公告專區 163
線上服務e點通 > 就業資訊 140
法務部簡介 > 重大政策 125
法律時事專欄 109
法務部簡介 > 施政重點 97
資訊公開 > 法務研究計畫與成果 94
資訊公開 > 性別主流化/性騷擾防治專區 86
中央廉政委員會 67
業務宣導 60
資訊公開 > 黑心油品事件專區 48
法治視窗 > 中央廉政委員會 45
法治視窗 > 法治QA 42
資訊公開 > 法務部獎項（勵）專區 38
資訊公開 > 應主動公開資訊 37
司法保護電子報 34
法治視窗 > 公務員廉政倫理規範 30
法務部簡介 > 組織架構 25
資訊公開 > 物價聯合稽查專區 22
本部廉政會報 21
最新消息 21
行動化應用軟體服務績效 20
下載專區 > 宣導資料下載 19
法務資料庫 > 司法保護資料庫 18
資訊公開 > 貪污治罪條例第4條第1項第3款案例分享 18
資訊公開 > 內部控制專區 16
表揚名單 13
生態檢核資訊公開平台 12
本部電子公布欄 11
資訊公開 > 轉型正義業務專區 11

抽取方式

extraction 文件數 token 數
ocr:dots.ocr 7,877 73,268,519
html 5,388 7,401,363
odt 267 5,559,705
docx 184 2,347,507
txt 36 307,326

語言辨識

language_script 文件數
cmn_Hani 12,845
anp_Deva 479
glg_Latn 256
tir_Ethi 94
eng_Latn 29
jpn_Jpan 12
zxx_Latn 10
lzh_Hani 5

發布年份

年份 文件數
???? 2,505
2023 831
2011 590
2015 587
2022 576
2014 534
2024 524
2012 522
2017 522
2013 510
2019 490
2025 471
2021 469
2016 434
2009 419
2020 416
2018 413
2010 403
2006 402
2008 393
2026 375
2007 361
2005 356
2003 131
2002 130
2004 126
2001 124
2000 119
1999 19

Dataset Creation

Curation Rationale

法務部網站累積二十年以上的新聞稿、政策說明、法治教育教材與問答，是台灣法律與刑事政策領域少見的大量、權威、以正體中文書寫的公開文本， 但散落在上萬個網頁與 PDF 中。本資料集把它整理成可直接訓練的形式，並以增量同步維持更新。

Source Data

Data Collection and Processing

  1. 探索：自首頁開始 BFS 走訪所有 Nodelist／Lpsimplelist 等導覽與列表頁，列表頁逐頁翻完；CountAndRedirectUrl 轉址只收仍指向本站的。
  2. 抓取：內容頁存原始 HTML，解析標題、發布／更新日期、麵包屑、附件；附件下載原檔。
  3. 抽取：如上節所述（HTML 正文 / dots.ocr / 文件結構）。OCR 逐頁快取，失敗頁會在下一次同步重試。
  4. 過濾：去掉少於 60 字或只有標題的空殼頁、中文字占比低於 20% 的文件（幾乎都是數字統計表）、與所屬網頁重複的附件、全文完全相同的文件（保留發布日期最早者）。
  5. 增量同步：每日 cron 只翻列表頁前段抓新項目；每週一次完整重走並重抓所有內容頁，以正文雜湊判定是否更新、以「本輪未再出現」判定下架。 每次建置與上一版 manifest 比對，只有內容有增刪改時才產生新版本。

Who are the source data producers?

中華民國法務部及其各司處。

Personal and Sensitive Information

網站為公開資訊，但仍包含公務員姓名與職稱、新聞稿聯絡人電話、甄選結果名單、表揚名單， 以及遮蔽後的訴願人姓名（如「謝OO」）。公示送達、轉型正義處分書等個資密集區塊已整區排除。使用時請勿據以識別或評價特定個人。

Bias, Risks, and Limitations

  • 內容為政府機關觀點與用語，具官方立場；新聞稿中「澄清媒體報導」類文件代表機關說法。
  • OCR 可能有錯字、表格結構失真或閱讀順序錯誤，尤其是掃描品質差的舊文件；extraction 欄可用來區分。
  • 網站內容有時效性，舊的政策、法規說明可能已不適用。
  • 抓取當下失敗或 OCR 未完成的項目不會出現在該版本中。

Recommendations 

from datasets import load_dataset
ds = load_dataset("lianghsun/tw-moj-corpus", split="train")
# 只要網頁正文
html = ds.filter(lambda r: r["doc_type"] == "html")
# 只要法治 QA
qa = ds.filter(lambda r: "法治QA" in (r["section"] or ""))

抓取狀態（最近一次同步）

  • 內容項目狀態：gone 567, new 495, nocp 3, ok 31,473
  • 文字抽取狀態：dup_of_page 1,544, error 3, ok 38,903, skipped_too_many_pages 77
  • 過濾：drop_low_cjk_table 505, drop_short 9,453, drop_title_only 146, drop_exact_dup 549, drop_excluded_section 14,402, drop_dup_of_page 96

Changelog

建置時間 文件數 token 數 新增 更新 移除
2026-10-03 04:34 13,752 88,884,420 +1 ~0 -0
2026-10-02 04:08 13,751 88,882,036 +1 ~0 -0
2026-10-01 03:49 13,750 88,880,798 +12 ~0 -0
2026-09-30 06:02 13,738 88,862,639 +8352 ~0 -0
2026-09-29 13:52 5,386 7,397,741 +5386 ~0 -0

Dataset Card Authors

Liang Hsun Huang

Dataset Card Contact

Liang Hsun Huang
Downloads last month
8
Total file size:
67.6 MB