Datasets:
Dataset Card for tw-mac-corpus
🌊 tw-mac-corpus 是把大陸委員會全球資訊網（www.mac.gov.tw）整站有意義的內容—— 新聞稿與說明資料、即時新聞澄清、大陸情勢季報與兩岸情勢簡報、兩岸大事記、大陸政策文件與總統兩岸政策談話、 民意調查結果、港澳情勢資料庫與港澳季報、答客問、陸配／陸生／臺生／臺商等專區說明、委託研究報告、年報與施政計畫、列席國會報告等—— 連同頁面上的 PDF／DOCX／ODT 附件，整理成可直接用於語言模型持續預訓練（continued pretraining）的繁體中文語料。 欄位格式比照 lianghsun/fineweb-edu-zhtw，可直接與其混合使用。
- 文件數：8,842
- token 數：26,509,556（tiktoken
cl100k_base） - 最近建置：2026-10-04
- 本版只含網頁正文：附件 PDF 仍有 1,776 份尚未 OCR、OCR 失敗頁占 9.8%（重試中），全部處理過一次且失敗頁 ≤1% 後的下一次同步會自動發布含附件的完整版本（屆時
doc_type會出現pdf／docx／odt）
Dataset Details
Dataset Description
本資料集以爬蟲走訪陸委會全球資訊網（Hyweb GSP 版型）的完整導覽樹：每個導覽頁（Content_List.aspx）、每個列表頁（News.aspx 等）翻到最後一頁，
取得所有內容頁（News_Content.aspx、cp.aspx）與列表上直接掛載的檔案；每個抓到的頁面也會再收頁內的站內連結，補上只被其他內容頁引用的頁面。
站方 sitemap.xml 的所有節點也一併當起點。同網域下本會的專題子網站（如公務員赴陸專區 /CSGTC/、出版品 /MAIRC/）一併收錄。
內容頁正文與附件分別轉為純文字：
- 網頁：只取正文區塊（
#CCMS_Content），去掉導覽列、頁尾、發布日期列、分類子選單、圖表模組、附件清單等版面元素；表格轉為以「 | 」分隔的列。每篇以標題為第一行。 - PDF：一律逐頁以 150 DPI 轉圖後送 dots.ocr OCR API，
丟棄
Page-header／Page-footer／Picture區塊，表格 HTML 轉為以「 | 」分隔的列。不使用 PDF 內嵌文字層，避免掃描檔與字型編碼錯亂造成的亂碼。 - DOCX／ODT／TXT：直接解析文件結構取出段落與表格。
一份網頁與其每個附件各自為一筆；附件若與所屬網頁內容重複（附件 5-gram 有 80% 以上已出現在網頁正文，典型例子是新聞稿 PDF），只保留網頁版；
有文字層的 PDF 會先用文字層做這個判斷，重複者不送 OCR（extracts.status = dup_of_page）。
- Curated by: Liang Hsun Huang
- Language(s) (NLP): Traditional Chinese
- License: 政府資料開放授權條款－第 1 版（依大陸委員會政府網站資料開放宣告；使用時應註明出處）
Dataset Sources
- Source: https://www.mac.gov.tw/
- Repository: lianghsun/tw-mac-corpus
收錄範圍與排除
依需求不收全國法規資料庫與判決書：本站「大陸事務法規」下各類法規全文、主管法規查詢（law.mac.gov.tw）都不收，
本會出版的答客問、法規說明照收。所屬／捐助機構（海基會、臺港經濟文化合作策進會、港澳辦事處等）的獨立網站不在本資料集範圍；
簡體版（/cn/）與英文版（/en/）不收。robots.txt 禁止的 /public/ 舊檔路徑不抓。另外排除轉載他機關內容、純數字報表與名冊：
節點（網址 n=，含其下所有內容） |
排除理由 |
|---|---|
n=FCE654B9A9575A97 |
大陸事務法規／中華民國憲法（法規全文，全國法規資料庫另有來源） |
n=6B84A3041B83304D |
臺灣地區與大陸地區人民關係條例專區（法規全文） |
n=CB8634BC32C9D091 |
臺灣地區與大陸地區人民關係條例（法規全文） |
n=13992AF062188E72 |
臺灣地區與大陸地區人民關係條例施行細則（法規全文） |
n=AA7F5E39A6D3B893 |
陸生專區／臺灣地區與大陸地區人民關係條例（法規全文） |
n=F35EF1F226BA24FA |
陸生專區／相關法令規定（法規全文） |
n=DCD4BE1106ED5B01 |
財經交通農漁類法規（法規全文） |
n=455B2352278A7C8D |
教育科技文化類法規（法規全文） |
n=7D6B9BB2B62B80A5 |
兩岸中介團體交流法規（法規全文） |
n=76B9477A422F022A |
香港澳門關係條例相關子法（法規全文） |
n=C301A2CA5FD688B6 |
退休人員赴陸專區／相關規定（法規全文） |
n=29B3D06675FAF607 |
公務員赴陸相關法規（法規全文） |
n=6CBDEFEA8AA3DAA3 |
行政院說明資料（轉載行政院內容） |
n=DED5DAB0D6C7BED6 |
相關機關大陸事務發言（轉載其他機關發言） |
n=F34D408ACAA86887 |
相關機關大陸事務發言（歷史資料，轉載其他機關發言） |
n=B9B1EF4D0359896B |
臺生專區／相關媒體報導彙編（轉載媒體報導） |
n=4892E8B8F5C0E174 |
中國大陸人民來臺從事文教交流統計（數字報表） |
n=BF634E946ACD5EAA |
經貿交流統計（兩岸經濟統計月報、小三通統計月報、統計速報等數字報表） |
n=2C28D363038C300F |
兩岸經濟統計月報（數字報表） |
n=15F9C17AD897B71A |
出版品／兩岸經濟統計月報（數字報表） |
n=3BFF7336E5AF5AE9 |
金馬小三通航運人員往來統計月報（數字報表） |
n=050986896173B482 |
兩岸經濟交流統計速報（數字報表） |
n=00CC8E467A1194B0 |
兩岸重要經濟指標統計速報（數字報表） |
n=691A08254BBD61D8 |
臺港澳交流統計（數字報表） |
n=89F88F5F9AFA2330 |
臺港澳交流統計（歷史資料，數字報表） |
n=A32CC2FD844F08E7 |
公務統計報表程式（報表格式） |
n=4885C636E3E48F87 |
預算、決算書及會計報告（數字報表） |
n=53026DD483F63F6F |
單位預算（數字報表） |
n=C58B0984AE840F04 |
單位決算（數字報表） |
n=B97913B02BA42A9F |
會計報告（數字報表） |
n=1BDCEB573A155D9A |
預算執行狀況月報表（數字報表） |
n=C71481A4C69DE892 |
書面之公共工程及採購契約（表格清單） |
n=BD3B450373053909 |
支付或接受之補助（表格清單） |
n=052449DD01A26E24 |
補(捐)助經費彙總表（表格清單） |
n=B0B4247B94EF3821 |
人民申請提供政府資訊案件統計表（數字報表） |
n=24DDFB55D2D6BA71 |
媒體政策及業務宣導執行情形表（表格清單） |
n=A882831462E15694 |
媒體政策及業務宣導執行情形表（表格清單） |
n=313CD0DA8D03E21E |
媒體政策及業務宣導費預算分析報告（數字報表） |
n=CFC9286CD2B1D16F |
媒體政策及業務宣導費預算分析報告（數字報表） |
n=5560D5C4C9877488 |
因公派員出國考察費用執行表（表格清單） |
n=B988C0B9B93AA121 |
政府資料開放（資料檔清單） |
n=C5DC452234BD3585 |
推動節能作業成果（數字報表） |
n=70F08B98FEDF056F |
節電目標達成情形（數字報表） |
n=B8344E9F9950DC39 |
推動綠色採購情形（數字報表） |
n=356CB6F81804518A |
國賠案件統計（數字報表） |
n=F6A29549FD03E057 |
大陸事務財團法人名冊（名冊） |
影音、圖片、試算表（xls/xlsx/ods/csv）、壓縮檔附件不處理；.doc（舊版 Word）目前不處理。
超過 400 頁的 PDF 不送 OCR（本版共 0 份），之後可能分批補上。
Uses
Direct Use
- 繁體中文、台灣政府／兩岸關係領域的持續預訓練語料；可與 fineweb-edu-zhtw 等通用語料混合。
- 兩岸政策、中國大陸情勢、港澳事務、兩岸交流（陸配、陸生、臺商、旅遊）等主題的領域適應（domain-adaptive pretraining）。
Out-of-Scope Use
- 不應作為法律意見或法規現行條文的依據：網站內容有時效性，法規請以全國法規資料庫為準。
- 本資料集不含指令－回應結構，不直接適用於 SFT；「答客問」類文件雖為問答體，仍以原文形式收錄。
- 不得用於識別、追蹤或評價特定個人。
Dataset Structure
一筆一份文件，單一 train split。前 13 欄與 fineweb-edu-zhtw 的同名欄位定義相同，其後為本資料集特有欄位。
| 欄位 | 說明 |
|---|---|
text |
文件全文（網頁以標題為首行） |
id |
<urn:mac:s:XXXX>／<urn:mac:n:XXXX>（內容頁，取網址 s= 或 n=）或 <urn:mac:media:XXXX>（附件，檔案路徑 SHA-1 前 16 碼） |
dump |
抓取批次，MAC-YYYY-MM |
url |
內容頁網址或附件下載網址 |
date |
本筆最近一次抓取時間 |
file_path |
內容頁：本地原始 HTML 封存路徑；附件：檔案網址 |
language / language_score / language_script / top_langs |
GlotLID 語言辨識結果（同 fineweb 系列） |
avg_words_per_line / word_count |
詞數（CJK 逐字 + 英數逐詞，與 fineweb-edu-zhtw 同算法） |
token_count |
tiktoken cl100k_base token 數 |
title |
標題；附件為「所屬頁標題｜檔名」 |
section |
網站麵包屑路徑，例如 政策與情勢 > 兩岸及大陸情勢 > 大陸情勢季報 |
list_title |
所在列表頁名稱 |
doc_type |
html / pdf / docx / odt / txt |
extraction |
html / ocr:dots.ocr / docx / odt / txt |
parent_url |
附件所屬內容頁網址（網頁本身與列表直掛檔案為 null） |
published_date / updated_date |
網站標示的發布日期、最後更新日期（ISO，民國年已轉西元） |
ocr_pages |
OCR 的 PDF 頁數 |
content_sha1 |
去空白後全文的 SHA-1（用於增量同步比對） |
各區塊分布
| 網站大類 | 文件數 | token 數 |
|---|---|---|
| 資訊園地 | 5,165 | 8,827,726 |
| 政策與情勢 | 2,237 | 12,084,430 |
| 臺港澳關係 | 375 | 580,297 |
| 歷史資料區 | 351 | 3,490,722 |
| 館藏查詢 | 237 | 913,129 |
| 網站資訊 | 95 | 68,824 |
| 兩岸交流 | 93 | 67,626 |
| 為民服務 | 92 | 106,675 |
| Q&A | 44 | 25,009 |
| 縣市兩岸資訊服務專區 | 39 | 21,153 |
| 歷史資料 | 26 | 78,165 |
| 主管法規 | 17 | 106,556 |
| 陸委會出版品 | 12 | 6,033 |
| 本會簡介 | 11 | 46,256 |
| 廉政Q&A | 8 | 8,641 |
| 服務項目 | 6 | 4,501 |
| 身心障礙者權利公約 | 6 | 10,378 |
| 廉政法規 | 4 | 26,312 |
| 廉政會報專區 | 3 | 2,017 |
| 新聞稿 | 3 | 5,635 |
| 性別主流化專區 | 2 | 326 |
| 遊說法相關法規 | 2 | 8,362 |
| 最新消息 | 2 | 389 |
| 廉政政策 | 2 | 3,525 |
| 貪瀆不法檢舉專區 | 1 | 259 |
| 常態化制度化查核軍公教人員不得在中國大陸設籍、領用中共相關身分證件 | 1 | 3,448 |
| 廉政網站連結 | 1 | 174 |
| 關於兩岸協議監督條例 | 1 | 628 |
| 資料庫查詢 | 1 | 152 |
| 兒童權利公約專區 | 1 | 3,092 |
| 兩岸兩會互設辦事機構 | 1 | 691 |
| 協議文本架構 | 1 | 284 |
| 兩公約人權專區 | 1 | 7,417 |
| 申請書表及須知 | 1 | 724 |
第二層區塊（前 40）
| 區塊 | 文件數 |
|---|---|
| 資訊園地 > 歷史資料專區 | 3,791 |
| 政策與情勢 > 兩岸及大陸情勢 | 1,619 |
| 資訊園地 > 新聞園地 | 1,158 |
| 政策與情勢 > 大陸政策 | 401 |
| 歷史資料區 > 新到期刊篇目選輯 | 236 |
| 館藏查詢 > 新書資訊 | 235 |
| 政策與情勢 > 相關民意調查結果 | 178 |
| 臺港澳關係 > 港澳關懷服務及交流專區 | 178 |
| 資訊園地 > 出版品 | 155 |
| 臺港澳關係 > 港澳情勢 | 127 |
| 兩岸交流 > 兩岸文教交流 | 87 |
| 歷史資料區 > 陸委會出版品 | 82 |
| 網站資訊 > 答客問 | 75 |
| 臺港澳關係 > 答客問及旅遊資訊 | 69 |
| 為民服務 > 陸配專區 | 54 |
| 資訊園地 > 政府資訊公開 | 49 |
| Q&A | 44 |
| 政策與情勢 > 政府兩岸政策重要措施 | 38 |
| 歷史資料 > 105年5月20日前相關資料 | 26 |
| 縣市兩岸資訊服務專區 > 常見問題Q&A | 21 |
| 縣市兩岸資訊服務專區 > 兩岸交流措施及規範 | 17 |
| 歷史資料區 > 互設簡介 | 15 |
| 為民服務 > 政府因應『港版國安法』專區 | 14 |
| 主管法規 > 大陸事務法規 | 14 |
| 陸委會出版品 > 本會出版品 | 11 |
| 資訊園地 > 重要議題專區 | 10 |
| 歷史資料區 > 相關訊息 | 9 |
| 為民服務 > 大陸廣告規範平台 | 8 |
| 廉政Q&A | 8 |
| 網站資訊 > 最新消息 | 7 |
| 網站資訊 > 媒體影音 | 7 |
| 為民服務 > 本會補助及委辦活動 | 6 |
| 身心障礙者權利公約 > 教材案例 | 5 |
| 為民服務 > 臺商窗口 | 5 |
| 歷史資料區 > 網路資源 | 5 |
| 兩岸交流 > 兩岸經濟交流 | 4 |
| 為民服務 > 陸港澳緊急服務資訊與旅遊警示專區 | 4 |
| 廉政法規 | 4 |
| 本會簡介 > 聯絡資訊 | 3 |
| 本會簡介 > 大陸工作體系 | 3 |
抽取方式
| extraction | 文件數 | token 數 |
|---|---|---|
| html | 8,842 | 26,509,556 |
語言辨識
| language_script | 文件數 |
|---|---|
| cmn_Hani | 8,656 |
| anp_Deva | 60 |
| yue_Hani | 50 |
| glg_Latn | 43 |
| und_Samr | 23 |
| tir_Ethi | 4 |
| jpn_Jpan | 2 |
| und_Tang | 1 |
發布年份
| 年份 | 文件數 |
|---|---|
| 1991 | 1 |
| 1997 | 1 |
| 1998 | 1 |
| 1999 | 28 |
| 2000 | 33 |
| 2001 | 178 |
| 2002 | 168 |
| 2003 | 236 |
| 2004 | 144 |
| 2005 | 263 |
| 2006 | 222 |
| 2007 | 224 |
| 2008 | 211 |
| 2009 | 187 |
| 2010 | 275 |
| 2011 | 277 |
| 2012 | 237 |
| 2013 | 172 |
| 2014 | 175 |
| 2015 | 123 |
| 2016 | 161 |
| 2017 | 206 |
| 2018 | 206 |
| 2019 | 230 |
| 2020 | 129 |
| 2021 | 82 |
| 2022 | 110 |
| 2023 | 182 |
| 2024 | 262 |
| 2025 | 306 |
| 2026 | 266 |
| ???? | 3,546 |
Dataset Creation
Curation Rationale
陸委會網站累積三十年以上的新聞稿、大陸政策文件、大陸與港澳情勢分析、兩岸大事記、民意調查與交流說明， 是兩岸關係領域少見的大量、權威、以正體中文書寫的公開文本，但散落在上萬個網頁與 PDF 中。本資料集把它整理成可直接訓練的形式，並以增量同步維持更新。
Source Data
Data Collection and Processing
- 探索：自首頁與
sitemap.xml開始 BFS 走訪所有導覽與列表頁（&page=k&PageSize=200翻到「最末頁」），並從每個抓到的頁面收站內連結。站前有 Cloudflare，以curl_cffi模擬瀏覽器連線。 - 抓取：內容頁存原始 HTML，解析標題、發布日期、麵包屑、附件（相關檔案區與正文內直連
ws.mac.gov.tw的檔案）；附件下載原檔。 - 抽取：如上節所述（HTML 正文 / dots.ocr / 文件結構）。OCR 逐頁快取，失敗頁會在下一次同步重試。
- 過濾：去掉少於 60 字或只有標題的空殼頁、中文字占比低於 20% 的文件（幾乎都是數字統計表）、與所屬網頁重複的附件、全文完全相同的文件（保留發布日期最早者）。
- 增量同步：每日 cron 只翻列表頁前段抓新項目；每週一次完整重走並重抓所有內容頁，以正文雜湊判定是否更新、以「本輪未再出現」或 404 判定下架。 每次建置與上一版 manifest 比對，只有內容有增刪改時才產生新版本。
Who are the source data producers?
中華民國大陸委員會（行政院大陸委員會）及其各處室。
Personal and Sensitive Information
網站為公開資訊，但仍包含政務官與公務員姓名職稱、新聞稿聯絡人電話、陸配與港澳人士心情故事中的受訪者姓名， 以及人權案例中當事人姓名（公開報導）。財團法人名冊等名冊已整區排除。使用時請勿據以識別或評價特定個人。
Bias, Risks, and Limitations
- 內容為中華民國政府機關觀點與用語，具官方立場；「即時新聞澄清」類文件代表機關說法。
- 不同時期政府的大陸政策論述不同，舊文件反映當時立場。
- OCR 可能有錯字、表格結構失真或閱讀順序錯誤，尤其是掃描品質差的舊文件；
extraction欄可用來區分。 - 抓取當下失敗或 OCR 未完成的項目不會出現在該版本中。
Recommendations
from datasets import load_dataset
ds = load_dataset("lianghsun/tw-mac-corpus", split="train")
# 只要網頁正文
html = ds.filter(lambda r: r["doc_type"] == "html")
# 只要大陸情勢季報
q = ds.filter(lambda r: "大陸情勢季報" in (r["section"] or ""))
抓取狀態（最近一次同步）
- 內容項目狀態：excluded 9, gone 1, new 4, nocp 145, ok 11,513
- 文字抽取狀態：dup_of_page 1,758, error 52, ok 13,894, partial 590
- 過濾：drop_short 763, drop_exact_dup 75, drop_low_cjk_table 184, drop_title_only 3
Changelog
| 建置時間 | 文件數 | token 數 | 新增 | 更新 | 移除 |
|---|---|---|---|---|---|
| 2026-10-04 20:49 | 8,842 | 26,509,556 | +887 | ~3 | -5 |
| 2026-10-04 15:50 | 7,960 | 23,400,292 | +1 | ~0 | -0 |
| 2026-10-03 09:10 | 7,959 | 23,399,270 | +1 | ~0 | -0 |
| 2026-09-30 16:17 | 7,958 | 23,398,049 | +7958 | ~0 | -0 |
Dataset Card Authors
Dataset Card Contact
- Downloads last month
- 5