You need to agree to share your Hugging Face information to access this dataset

This repository is publicly accessible, but you have to accept the conditions to access its files and content.

Log in or Sign Up to review the conditions and access this dataset content.

Dataset Card for tw-mof-corpus

💰 tw-mof-corpus 是把財政部全球資訊網(www.mof.gov.tw)整站有意義的內容—— 本部新聞稿(含國庫署、賦稅署、關務署、國有財產署等所屬機關以財政部名義發布者)、常見問答、各稅法令研審會議紀錄、 國際財政與租稅協定說明、施政計畫與績效、財政統計通報與專題分析、出版刊物、廉政與性別平等宣導等—— 連同頁面上的 PDF/DOCX/ODT 附件,整理成可直接用於語言模型持續預訓練(continued pretraining)的繁體中文語料。 欄位格式比照 lianghsun/fineweb-edu-zhtw,可直接與其混合使用。

  • 文件數:6,035
  • token 數:5,286,868(tiktoken cl100k_base)
  • 最近建置:2026-10-02
  • 本版只含網頁正文:附件 PDF 仍有 1,320 份在 OCR 中,全部完成後的下一次同步會自動發布含附件的完整版本(屆時 doc_type 會出現 pdf/docx/odt)

Dataset Details

Dataset Description

本資料集以爬蟲走訪財政部全球資訊網的完整導覽樹(首頁選單+站方 sitemap.xml 列出的節點): 每個 /htmlList/(導覽)、/multiplehtml/(列表或單篇內容)節點都走過,列表以 ?page=N 翻到最後一頁, 取得所有內容頁(/singlehtml/…?cntId=…)與列表上直接掛載的檔案(/download/…,以及統計通報等放在 service.mof.gov.tw/public/Data/ 的出版品 PDF),再把內容頁正文與附件分別轉為純文字:

  • 網頁:只取正文區塊(.article-page),去掉導覽列、頁尾、字級/分享/列印工具列、發布單位與點閱次數列、附件下載區等版面元素; 表格轉為以「 | 」分隔的列。每篇以標題為第一行。
  • PDF:一律逐頁以 150 DPI 轉圖後送 dots.ocr OCR API, 丟棄 Page-header/Page-footer/Picture 區塊,表格 HTML 轉為以「 | 」分隔的列。不使用 PDF 內嵌文字層,避免掃描檔與字型編碼錯亂造成的亂碼。
  • DOCX/ODT/TXT:直接解析文件結構取出段落與表格。

一份網頁與其每個附件各自為一筆;附件若與所屬網頁內容重複(附件 5-gram 有 80% 以上已出現在網頁正文,典型例子是新聞稿 PDF),只保留網頁版; 有文字層的 PDF 會先用文字層做這個判斷,重複者不送 OCR(extracts.status = dup_of_page)。 有文字層、但中文字占比低於 20% 的 PDF(月度貿易統計附表等數字報表)也不送 OCR(extracts.status = numeric_table), 這類文件即使 OCR 也會被下方的過濾規則排除。

Dataset Sources

收錄範圍與排除

依需求不收全國法規資料庫與判決書;財政部「主管法規查詢系統」(law-out.mof.gov.tw)、訴願決定查詢、各稅法令函釋檢索系統等獨立系統, 以及所屬機關(國稅局、關務署、國庫署、國有財產署、財政資訊中心等)的獨立網站不在本資料集範圍。另外排除個資密集或無語料價值的區塊:

節點 排除理由
/multiplehtml/42(活動公告) 活動公告(記者會行程模板,上千筆高度重複,無語料價值)
392 公益彩券統計(每月數字報表)
393 青年安心成家貸款統計(每月數字報表)
6998 暫准通關證件數及金額統計(數字報表)
212 預算、決算書及會計報表(數字報表)
208 支付或接受之補助(表格清單)
e9a10ef50ac34401b1d3b6edbd953caf 對民間團體及個人補(捐)助情形(表格清單)
404 政策宣導之執行情形表(表格清單)
312d0057f94547f49afbb5a134b4b45c 因公派員出國考察費用執行情形表(表格清單)
/multiplehtml/c77d22e99b28454bb7f010d75295b21e(本部員工子女非營利幼兒園財務資訊) 員工子女非營利幼兒園財務資訊(財務報表)
213 人民申請提供政府資訊案件統計(數字報表)
3a15dbed1c514ced855cdaebd239dca0 公務統計報表(數字報表)
292 性別統計表(數字報表)
1481 重要財政指標(數字報表)
1479 重要財政指標(數字報表)
278 進出口統計表(數字報表)
6597 法案諮詢專家學者資料庫(人名名冊,個資)
7009 利益衝突迴避法第 14 條事後公開(公職人員與關係人姓名,個資)
011d05c38c8b4f56bd990de99799f5a2 廉潔楷模名冊(人員名冊,個資)
b079045b4009430b9285214562b8803e 性別平等專案小組委員名單(名冊)
112 政治獻金法第七條查詢網(查詢系統)
/multiplehtml/285(財政貿易統計 > 財政及賦稅統計 > 電子書) 財政統計年報/月報電子書(逐表 PDF/ODS/XLS 數字報表,約 1.7 萬檔)
/multiplehtml/279(財政貿易統計 > 進出口統計 > 電子書) 進出口貿易統計電子書(逐表數字報表,約 6,800 檔)
/multiplehtml/293(財政貿易統計 > 性別統計 > 性別統計年報) 性別統計年報(逐表數字報表)
/multiplehtml/384(新聞與公告 > 國家金融安定基金訊息 > 每季公告之財務報表、每年之決算書) 國家金融安定基金每季財務報表、決算書(數字報表)
/multiplehtml/238(財政貿易統計 > 其他業務統計 > 訴願及法制相關統計 > 訴願統計資料) 訴願統計資料(數字報表)
/multiplehtml/76(賦稅服務資訊) 賦稅服務資訊(記帳士/稅務代理人懲戒決議書點名當事人、代理人名冊、績優營業人名冊,個資)
/majorTaxRefund/… 重大欠稅公告(欠稅人姓名、欠稅額,個資)
/link/…(站外) 主管法規查詢系統、訴願決定查詢、各稅法令函釋檢索系統、所屬機關網站等站外系統
/video/… 影音宣導(影音)

影音、圖片、試算表(xls/xlsx/ods/csv)、壓縮檔附件不處理;.doc(舊版 Word)目前不處理。 超過 400 頁的 PDF 不送 OCR(本版共 0 份),之後可能分批補上。

Uses

Direct Use

  • 繁體中文、台灣財政/租稅/政府領域的持續預訓練語料;可與 fineweb-edu-zhtw 等通用語料混合。
  • 租稅制度與稅務實務、國庫與公債、關務、國有財產、促參、財政統計與經貿分析等主題的領域適應(domain-adaptive pretraining)。

Out-of-Scope Use

  • 不應作為稅務或法律意見、或法規現行條文的依據:網站內容有時效性,稅率、門檻與法規請以全國法規資料庫及財政部最新公告為準。
  • 本資料集不含指令-回應結構,不直接適用於 SFT;「常見問答」類文件雖為問答體,仍以原文形式收錄。
  • 不得用於識別、追蹤或評價特定個人。

Dataset Structure

一筆一份文件,單一 train split。前 13 欄與 fineweb-edu-zhtw 的同名欄位定義相同,其後為財政部特有欄位。

欄位 說明
text 文件全文(網頁以標題為首行)
id <urn:mof:cnt:ID>(內容頁)、<urn:mof:node:ID>(單篇內容型節點頁)或 <urn:mof:media:ID>(附件;列表直掛檔案也是這個形式)
dump 抓取批次,MOF-YYYY-MM
url 內容頁網址或附件下載網址
date 本筆最近一次抓取時間
file_path 內容頁:本地原始 HTML 封存路徑;附件:檔案網址
language / language_score / language_script / top_langs GlotLID 語言辨識結果(同 fineweb 系列)
avg_words_per_line / word_count 詞數(CJK 逐字 + 英數逐詞,與 fineweb-edu-zhtw 同算法)
token_count tiktoken cl100k_base token 數
title 標題;附件為「所屬頁標題|檔名」
section 網站麵包屑路徑,例如 新聞與公告 > 本部新聞 > 財政部發行「115乙4期」2年期公債
list_title 所在列表頁名稱
doc_type html / pdf / docx / odt / txt
extraction html / ocr:dots.ocr / docx / odt / txt
parent_url 附件所屬內容頁網址(網頁本身與列表直掛檔案為 null)
published_date / updated_date 網站標示的發布日期、最後更新日期(ISO,民國年已轉西元)
ocr_pages OCR 的 PDF 頁數
content_sha1 去空白後全文的 SHA-1(用於增量同步比對)

各區塊分布

網站大類 文件數 token 數
新聞與公告 5,459 4,890,064
便民服務 324 105,474
資訊園地 97 88,370
核心業務 73 58,882
政策計畫 25 89,645
財政貿易統計 23 17,994
財政法規 17 11,087
本部簡介 13 20,450
熱門焦點 4 4,902
第二層區塊(前 40)
區塊 文件數
新聞與公告 > 本部新聞 5,439
便民服務 > 常見問答 308
資訊園地 > 廉政專區 78
核心業務 > 國際財政 73
新聞與公告 > 國家金融安定基金訊息 19
政策計畫 > 重大措施 19
便民服務 > 訴願及促參申訴 13
資訊園地 > 出版刊物 10
財政法規 > 各稅法令函釋 10
本部簡介 > 組織職掌 10
財政貿易統計 > 進出口統計 7
財政貿易統計 > 財政及賦稅統計 7
財政貿易統計 > 稅務行業標準分類 5
財政法規 > 法規預告 4
資訊園地 > 主動公開之政府資訊 4
資訊園地 > 性別平等專區 3
熱門焦點 > 納稅者權利保護 3
政策計畫 > 施政績效 2
政策計畫 > 研究發展 2
財政貿易統計 > 統計出版品 1
財政貿易統計 > 分析與研究 1
資訊園地 > 創意提案專區 1
便民服務 > 勞務承攬派駐勞工權益維護申訴機制專區 1
新聞與公告 > 就業資訊 1
本部簡介 > 首長簡歷 1
政策計畫 > 當月施政要聞 1
政策計畫 > 施政計畫 1
財政法規 > 本部相關法規 1
財政法規 > 法規英譯 1
財政貿易統計 > 其他業務統計 1
熱門焦點 > 跨境網購詐騙瑕疵退免稅 1
本部簡介 > 成立沿革 1
本部簡介 > 聯絡資訊 1
便民服務 > 檔案應用 1
資訊園地 > 勤休新制專區 1
財政貿易統計 > 性別統計 1
財政法規 > 法規命令草案年度立法計畫專區 1
便民服務 > 促參履約爭議調解 1

抽取方式

extraction 文件數 token 數
html 6,035 5,286,868

語言辨識

language_script 文件數
cmn_Hani 5,916
jpn_Jpan 112
yue_Hani 3
zxx_Latn 1
vep_Latn 1
dan_Latn 1
nan_Hani 1

發布年份

年份 文件數
2026 971
2023 935
2020 879
2025 752
2021 734
2022 696
2024 618
2019 227
2018 56
2015 52
2016 34
2017 34
2014 31
2013 7
2011 5
2012 2
2004 1
2007 1

Dataset Creation

Curation Rationale

財政部網站累積多年的新聞稿、租稅法令說明與研審會議紀錄、常見問答、財政統計通報與施政資料,是台灣財政與租稅領域少見的大量、權威、以正體中文書寫的公開文本, 但散落在上萬個網頁與 PDF 中。本資料集把它整理成可直接訓練的形式,並以增量同步維持更新。

Source Data

Data Collection and Processing

  1. 探索:自首頁選單與 sitemap.xml 的節點開始 BFS 走訪所有 /htmlList/、/multiplehtml/ 節點,列表以 ?page=N 逐頁翻完(每頁固定 10 筆);/link/ 轉址只收仍指向本站節點或內容頁的,已下架節點(307 轉回首頁)略過。
  2. 抓取:內容頁存原始 HTML,解析標題、發布單位、發布/更新日期、麵包屑、附件(正文內與「附件下載」區的 /download/ 連結);附件先讀 Content-Disposition 取得真實副檔名,只下載 PDF/DOCX/ODT/TXT。
  3. 抽取:如上節所述(HTML 正文 / dots.ocr / 文件結構)。OCR 逐頁快取,失敗頁會在下一次同步重試。
  4. 過濾:去掉少於 60 字或只有標題的空殼頁、中文字占比低於 20% 的文件(幾乎都是數字統計表)、與所屬網頁重複的附件、全文完全相同的文件(保留發布日期最早者)。
  5. 增量同步:每日 cron 只翻列表頁前段抓新項目;每週一次完整重走並重抓所有內容頁,以正文雜湊判定是否更新、以「本輪未再出現」判定下架。 每次建置與上一版 manifest 比對,只有內容有增刪改時才產生新版本。

Who are the source data producers?

中華民國財政部及其各司處與所屬機關(新聞稿發布單位欄可見國庫署、賦稅署、關務署、國有財產署、各地區國稅局等)。

Personal and Sensitive Information

網站為公開資訊,但仍包含公務員姓名與職稱、新聞稿聯絡人姓名與電話、會議紀錄出席人員等。 重大欠稅公告、廉潔楷模名冊、委員名單、利益衝突迴避事後公開、專家學者資料庫等個資密集區塊已整區排除。使用時請勿據以識別或評價特定個人。

Bias, Risks, and Limitations

  • 內容為政府機關觀點與用語,具官方立場;新聞稿中「澄清媒體報導」類文件代表機關說法。
  • OCR 可能有錯字、表格結構失真或閱讀順序錯誤,尤其是掃描品質差的舊文件;extraction 欄可用來區分。
  • 網站內容有時效性,舊的政策、法規說明可能已不適用。
  • 抓取當下失敗或 OCR 未完成的項目不會出現在該版本中。

Recommendations

from datasets import load_dataset
ds = load_dataset("lianghsun/tw-mof-corpus", split="train")
# 只要網頁正文
html = ds.filter(lambda r: r["doc_type"] == "html")
# 只要常見問答
qa = ds.filter(lambda r: "常見問答" in (r["section"] or ""))

抓取狀態(最近一次同步)

  • 內容項目狀態:excluded 375, gone 6, nocp 20, nontext 17, ok 7,006
  • 文字抽取狀態:dup_of_page 4, error 7, numeric_table 2, ok 9,499, partial 6
  • 過濾:drop_short 164, drop_exact_dup 47, drop_low_cjk_table 8

Changelog

建置時間 文件數 token 數 新增 更新 移除
2026-10-02 17:12 6,035 5,286,868 +8 ~0 -0
2026-10-01 16:36 6,027 5,280,848 +16 ~0 -5
2026-09-30 13:35 6,016 5,276,218 +6016 ~0 -0

Dataset Card Authors

Liang Hsun Huang

Dataset Card Contact

Liang Hsun Huang

Downloads last month
4