Datasets:
Dataset Card for tw-mof-corpus
💰 tw-mof-corpus 是把財政部全球資訊網(www.mof.gov.tw)整站有意義的內容—— 本部新聞稿(含國庫署、賦稅署、關務署、國有財產署等所屬機關以財政部名義發布者)、常見問答、各稅法令研審會議紀錄、 國際財政與租稅協定說明、施政計畫與績效、財政統計通報與專題分析、出版刊物、廉政與性別平等宣導等—— 連同頁面上的 PDF/DOCX/ODT 附件,整理成可直接用於語言模型持續預訓練(continued pretraining)的繁體中文語料。 欄位格式比照 lianghsun/fineweb-edu-zhtw,可直接與其混合使用。
- 文件數:6,035
- token 數:5,286,868(tiktoken
cl100k_base) - 最近建置:2026-10-02
- 本版只含網頁正文:附件 PDF 仍有 1,320 份在 OCR 中,全部完成後的下一次同步會自動發布含附件的完整版本(屆時
doc_type會出現pdf/docx/odt)
Dataset Details
Dataset Description
本資料集以爬蟲走訪財政部全球資訊網的完整導覽樹(首頁選單+站方 sitemap.xml 列出的節點):
每個 /htmlList/(導覽)、/multiplehtml/(列表或單篇內容)節點都走過,列表以 ?page=N 翻到最後一頁,
取得所有內容頁(/singlehtml/…?cntId=…)與列表上直接掛載的檔案(/download/…,以及統計通報等放在
service.mof.gov.tw/public/Data/ 的出版品 PDF),再把內容頁正文與附件分別轉為純文字:
- 網頁:只取正文區塊(
.article-page),去掉導覽列、頁尾、字級/分享/列印工具列、發布單位與點閱次數列、附件下載區等版面元素; 表格轉為以「 | 」分隔的列。每篇以標題為第一行。 - PDF:一律逐頁以 150 DPI 轉圖後送 dots.ocr OCR API,
丟棄
Page-header/Page-footer/Picture區塊,表格 HTML 轉為以「 | 」分隔的列。不使用 PDF 內嵌文字層,避免掃描檔與字型編碼錯亂造成的亂碼。 - DOCX/ODT/TXT:直接解析文件結構取出段落與表格。
一份網頁與其每個附件各自為一筆;附件若與所屬網頁內容重複(附件 5-gram 有 80% 以上已出現在網頁正文,典型例子是新聞稿 PDF),只保留網頁版;
有文字層的 PDF 會先用文字層做這個判斷,重複者不送 OCR(extracts.status = dup_of_page)。
有文字層、但中文字占比低於 20% 的 PDF(月度貿易統計附表等數字報表)也不送 OCR(extracts.status = numeric_table),
這類文件即使 OCR 也會被下方的過濾規則排除。
- Curated by: Liang Hsun Huang
- Language(s) (NLP): Traditional Chinese
- License: 政府資料開放授權條款-第 1 版(依財政部網站政府網站資料開放宣告;使用時應註明出處)
Dataset Sources
- Source: https://www.mof.gov.tw/
- Repository: lianghsun/tw-mof-corpus
收錄範圍與排除
依需求不收全國法規資料庫與判決書;財政部「主管法規查詢系統」(law-out.mof.gov.tw)、訴願決定查詢、各稅法令函釋檢索系統等獨立系統, 以及所屬機關(國稅局、關務署、國庫署、國有財產署、財政資訊中心等)的獨立網站不在本資料集範圍。另外排除個資密集或無語料價值的區塊:
| 節點 | 排除理由 |
|---|---|
/multiplehtml/42(活動公告) |
活動公告(記者會行程模板,上千筆高度重複,無語料價值) |
392 |
公益彩券統計(每月數字報表) |
393 |
青年安心成家貸款統計(每月數字報表) |
6998 |
暫准通關證件數及金額統計(數字報表) |
212 |
預算、決算書及會計報表(數字報表) |
208 |
支付或接受之補助(表格清單) |
e9a10ef50ac34401b1d3b6edbd953caf |
對民間團體及個人補(捐)助情形(表格清單) |
404 |
政策宣導之執行情形表(表格清單) |
312d0057f94547f49afbb5a134b4b45c |
因公派員出國考察費用執行情形表(表格清單) |
/multiplehtml/c77d22e99b28454bb7f010d75295b21e(本部員工子女非營利幼兒園財務資訊) |
員工子女非營利幼兒園財務資訊(財務報表) |
213 |
人民申請提供政府資訊案件統計(數字報表) |
3a15dbed1c514ced855cdaebd239dca0 |
公務統計報表(數字報表) |
292 |
性別統計表(數字報表) |
1481 |
重要財政指標(數字報表) |
1479 |
重要財政指標(數字報表) |
278 |
進出口統計表(數字報表) |
6597 |
法案諮詢專家學者資料庫(人名名冊,個資) |
7009 |
利益衝突迴避法第 14 條事後公開(公職人員與關係人姓名,個資) |
011d05c38c8b4f56bd990de99799f5a2 |
廉潔楷模名冊(人員名冊,個資) |
b079045b4009430b9285214562b8803e |
性別平等專案小組委員名單(名冊) |
112 |
政治獻金法第七條查詢網(查詢系統) |
/multiplehtml/285(財政貿易統計 > 財政及賦稅統計 > 電子書) |
財政統計年報/月報電子書(逐表 PDF/ODS/XLS 數字報表,約 1.7 萬檔) |
/multiplehtml/279(財政貿易統計 > 進出口統計 > 電子書) |
進出口貿易統計電子書(逐表數字報表,約 6,800 檔) |
/multiplehtml/293(財政貿易統計 > 性別統計 > 性別統計年報) |
性別統計年報(逐表數字報表) |
/multiplehtml/384(新聞與公告 > 國家金融安定基金訊息 > 每季公告之財務報表、每年之決算書) |
國家金融安定基金每季財務報表、決算書(數字報表) |
/multiplehtml/238(財政貿易統計 > 其他業務統計 > 訴願及法制相關統計 > 訴願統計資料) |
訴願統計資料(數字報表) |
/multiplehtml/76(賦稅服務資訊) |
賦稅服務資訊(記帳士/稅務代理人懲戒決議書點名當事人、代理人名冊、績優營業人名冊,個資) |
/majorTaxRefund/… |
重大欠稅公告(欠稅人姓名、欠稅額,個資) |
/link/…(站外) |
主管法規查詢系統、訴願決定查詢、各稅法令函釋檢索系統、所屬機關網站等站外系統 |
/video/… |
影音宣導(影音) |
影音、圖片、試算表(xls/xlsx/ods/csv)、壓縮檔附件不處理;.doc(舊版 Word)目前不處理。
超過 400 頁的 PDF 不送 OCR(本版共 0 份),之後可能分批補上。
Uses
Direct Use
- 繁體中文、台灣財政/租稅/政府領域的持續預訓練語料;可與 fineweb-edu-zhtw 等通用語料混合。
- 租稅制度與稅務實務、國庫與公債、關務、國有財產、促參、財政統計與經貿分析等主題的領域適應(domain-adaptive pretraining)。
Out-of-Scope Use
- 不應作為稅務或法律意見、或法規現行條文的依據:網站內容有時效性,稅率、門檻與法規請以全國法規資料庫及財政部最新公告為準。
- 本資料集不含指令-回應結構,不直接適用於 SFT;「常見問答」類文件雖為問答體,仍以原文形式收錄。
- 不得用於識別、追蹤或評價特定個人。
Dataset Structure
一筆一份文件,單一 train split。前 13 欄與 fineweb-edu-zhtw 的同名欄位定義相同,其後為財政部特有欄位。
| 欄位 | 說明 |
|---|---|
text |
文件全文(網頁以標題為首行) |
id |
<urn:mof:cnt:ID>(內容頁)、<urn:mof:node:ID>(單篇內容型節點頁)或 <urn:mof:media:ID>(附件;列表直掛檔案也是這個形式) |
dump |
抓取批次,MOF-YYYY-MM |
url |
內容頁網址或附件下載網址 |
date |
本筆最近一次抓取時間 |
file_path |
內容頁:本地原始 HTML 封存路徑;附件:檔案網址 |
language / language_score / language_script / top_langs |
GlotLID 語言辨識結果(同 fineweb 系列) |
avg_words_per_line / word_count |
詞數(CJK 逐字 + 英數逐詞,與 fineweb-edu-zhtw 同算法) |
token_count |
tiktoken cl100k_base token 數 |
title |
標題;附件為「所屬頁標題|檔名」 |
section |
網站麵包屑路徑,例如 新聞與公告 > 本部新聞 > 財政部發行「115乙4期」2年期公債 |
list_title |
所在列表頁名稱 |
doc_type |
html / pdf / docx / odt / txt |
extraction |
html / ocr:dots.ocr / docx / odt / txt |
parent_url |
附件所屬內容頁網址(網頁本身與列表直掛檔案為 null) |
published_date / updated_date |
網站標示的發布日期、最後更新日期(ISO,民國年已轉西元) |
ocr_pages |
OCR 的 PDF 頁數 |
content_sha1 |
去空白後全文的 SHA-1(用於增量同步比對) |
各區塊分布
| 網站大類 | 文件數 | token 數 |
|---|---|---|
| 新聞與公告 | 5,459 | 4,890,064 |
| 便民服務 | 324 | 105,474 |
| 資訊園地 | 97 | 88,370 |
| 核心業務 | 73 | 58,882 |
| 政策計畫 | 25 | 89,645 |
| 財政貿易統計 | 23 | 17,994 |
| 財政法規 | 17 | 11,087 |
| 本部簡介 | 13 | 20,450 |
| 熱門焦點 | 4 | 4,902 |
第二層區塊(前 40)
| 區塊 | 文件數 |
|---|---|
| 新聞與公告 > 本部新聞 | 5,439 |
| 便民服務 > 常見問答 | 308 |
| 資訊園地 > 廉政專區 | 78 |
| 核心業務 > 國際財政 | 73 |
| 新聞與公告 > 國家金融安定基金訊息 | 19 |
| 政策計畫 > 重大措施 | 19 |
| 便民服務 > 訴願及促參申訴 | 13 |
| 資訊園地 > 出版刊物 | 10 |
| 財政法規 > 各稅法令函釋 | 10 |
| 本部簡介 > 組織職掌 | 10 |
| 財政貿易統計 > 進出口統計 | 7 |
| 財政貿易統計 > 財政及賦稅統計 | 7 |
| 財政貿易統計 > 稅務行業標準分類 | 5 |
| 財政法規 > 法規預告 | 4 |
| 資訊園地 > 主動公開之政府資訊 | 4 |
| 資訊園地 > 性別平等專區 | 3 |
| 熱門焦點 > 納稅者權利保護 | 3 |
| 政策計畫 > 施政績效 | 2 |
| 政策計畫 > 研究發展 | 2 |
| 財政貿易統計 > 統計出版品 | 1 |
| 財政貿易統計 > 分析與研究 | 1 |
| 資訊園地 > 創意提案專區 | 1 |
| 便民服務 > 勞務承攬派駐勞工權益維護申訴機制專區 | 1 |
| 新聞與公告 > 就業資訊 | 1 |
| 本部簡介 > 首長簡歷 | 1 |
| 政策計畫 > 當月施政要聞 | 1 |
| 政策計畫 > 施政計畫 | 1 |
| 財政法規 > 本部相關法規 | 1 |
| 財政法規 > 法規英譯 | 1 |
| 財政貿易統計 > 其他業務統計 | 1 |
| 熱門焦點 > 跨境網購詐騙瑕疵退免稅 | 1 |
| 本部簡介 > 成立沿革 | 1 |
| 本部簡介 > 聯絡資訊 | 1 |
| 便民服務 > 檔案應用 | 1 |
| 資訊園地 > 勤休新制專區 | 1 |
| 財政貿易統計 > 性別統計 | 1 |
| 財政法規 > 法規命令草案年度立法計畫專區 | 1 |
| 便民服務 > 促參履約爭議調解 | 1 |
抽取方式
| extraction | 文件數 | token 數 |
|---|---|---|
| html | 6,035 | 5,286,868 |
語言辨識
| language_script | 文件數 |
|---|---|
| cmn_Hani | 5,916 |
| jpn_Jpan | 112 |
| yue_Hani | 3 |
| zxx_Latn | 1 |
| vep_Latn | 1 |
| dan_Latn | 1 |
| nan_Hani | 1 |
發布年份
| 年份 | 文件數 |
|---|---|
| 2026 | 971 |
| 2023 | 935 |
| 2020 | 879 |
| 2025 | 752 |
| 2021 | 734 |
| 2022 | 696 |
| 2024 | 618 |
| 2019 | 227 |
| 2018 | 56 |
| 2015 | 52 |
| 2016 | 34 |
| 2017 | 34 |
| 2014 | 31 |
| 2013 | 7 |
| 2011 | 5 |
| 2012 | 2 |
| 2004 | 1 |
| 2007 | 1 |
Dataset Creation
Curation Rationale
財政部網站累積多年的新聞稿、租稅法令說明與研審會議紀錄、常見問答、財政統計通報與施政資料,是台灣財政與租稅領域少見的大量、權威、以正體中文書寫的公開文本, 但散落在上萬個網頁與 PDF 中。本資料集把它整理成可直接訓練的形式,並以增量同步維持更新。
Source Data
Data Collection and Processing
- 探索:自首頁選單與
sitemap.xml的節點開始 BFS 走訪所有/htmlList/、/multiplehtml/節點,列表以?page=N逐頁翻完(每頁固定 10 筆);/link/轉址只收仍指向本站節點或內容頁的,已下架節點(307 轉回首頁)略過。 - 抓取:內容頁存原始 HTML,解析標題、發布單位、發布/更新日期、麵包屑、附件(正文內與「附件下載」區的
/download/連結);附件先讀Content-Disposition取得真實副檔名,只下載 PDF/DOCX/ODT/TXT。 - 抽取:如上節所述(HTML 正文 / dots.ocr / 文件結構)。OCR 逐頁快取,失敗頁會在下一次同步重試。
- 過濾:去掉少於 60 字或只有標題的空殼頁、中文字占比低於 20% 的文件(幾乎都是數字統計表)、與所屬網頁重複的附件、全文完全相同的文件(保留發布日期最早者)。
- 增量同步:每日 cron 只翻列表頁前段抓新項目;每週一次完整重走並重抓所有內容頁,以正文雜湊判定是否更新、以「本輪未再出現」判定下架。 每次建置與上一版 manifest 比對,只有內容有增刪改時才產生新版本。
Who are the source data producers?
中華民國財政部及其各司處與所屬機關(新聞稿發布單位欄可見國庫署、賦稅署、關務署、國有財產署、各地區國稅局等)。
Personal and Sensitive Information
網站為公開資訊,但仍包含公務員姓名與職稱、新聞稿聯絡人姓名與電話、會議紀錄出席人員等。 重大欠稅公告、廉潔楷模名冊、委員名單、利益衝突迴避事後公開、專家學者資料庫等個資密集區塊已整區排除。使用時請勿據以識別或評價特定個人。
Bias, Risks, and Limitations
- 內容為政府機關觀點與用語,具官方立場;新聞稿中「澄清媒體報導」類文件代表機關說法。
- OCR 可能有錯字、表格結構失真或閱讀順序錯誤,尤其是掃描品質差的舊文件;
extraction欄可用來區分。 - 網站內容有時效性,舊的政策、法規說明可能已不適用。
- 抓取當下失敗或 OCR 未完成的項目不會出現在該版本中。
Recommendations
from datasets import load_dataset
ds = load_dataset("lianghsun/tw-mof-corpus", split="train")
# 只要網頁正文
html = ds.filter(lambda r: r["doc_type"] == "html")
# 只要常見問答
qa = ds.filter(lambda r: "常見問答" in (r["section"] or ""))
抓取狀態(最近一次同步)
- 內容項目狀態:excluded 375, gone 6, nocp 20, nontext 17, ok 7,006
- 文字抽取狀態:dup_of_page 4, error 7, numeric_table 2, ok 9,499, partial 6
- 過濾:drop_short 164, drop_exact_dup 47, drop_low_cjk_table 8
Changelog
| 建置時間 | 文件數 | token 數 | 新增 | 更新 | 移除 |
|---|---|---|---|---|---|
| 2026-10-02 17:12 | 6,035 | 5,286,868 | +8 | ~0 | -0 |
| 2026-10-01 16:36 | 6,027 | 5,280,848 | +16 | ~0 | -5 |
| 2026-09-30 13:35 | 6,016 | 5,276,218 | +6016 | ~0 | -0 |
Dataset Card Authors
Dataset Card Contact
- Downloads last month
- 4