Datasets:
Dataset Card for tw-ncc-corpus
📡 tw-ncc-corpus 是把國家通訊傳播委員會全球資訊網（www.ncc.gov.tw，NCC）整站有意義的內容—— 新聞稿與即時新聞澄清、一般公告、本會公報（法規命令／行政規則／法規草案預告）、公開說明會與聽證會資料、委員會議議程與紀錄、 委託研究與出國報告、施政計畫與年度報告、消費者保護與防詐宣導、媒體素養與性平教材、常見問答、業務介紹等—— 連同頁面上的 PDF／DOCX／ODT／DOC 附件，整理成可直接用於語言模型持續預訓練（continued pretraining）的繁體中文語料。 欄位格式比照 lianghsun/fineweb-edu-zhtw，可直接與其混合使用。
- 文件數：6,688
- token 數：12,728,533（tiktoken
cl100k_base） - 最近建置：2026-10-04
- 本版只含網頁正文：附件 PDF 仍有 4,585 份在 OCR 中，全部完成後的下一次同步會自動發布含附件的完整版本（屆時
doc_type會出現pdf／docx／odt）
Dataset Details
Dataset Description
NCC 網站前端是 Angular 單頁應用，資料由 api.ncc.gov.tw/api/… 的 JSON 介面提供。本資料集自導覽樹（menuData）出發，
走訪每個資料夾、每個列表（翻到最後一頁）、每個單頁（artwebsite），並探測導覽樹沒有、但仍在線上的列表 id（孤兒列表）；
列表介面直接帶有每筆內容的正文（detailContent）與附件清單，再把正文與附件分別轉為純文字：
- 網頁：只取正文 HTML，去掉導覽列、頁尾、瀏覽人次、分享列與附件清單等版面元素；表格轉為以「 | 」分隔的列。每篇以標題為第一行。
- PDF：一律逐頁以 150 DPI 轉圖後送 dots.ocr OCR API（layout prompt），
丟棄
Page-header／Page-footer／Picture區塊，表格 HTML 轉為以「 | 」分隔的列。 - 文字層例外（
extraction = pdftext）：共用 OCR 端點吞吐有限（實測約 2–9 頁／分），而本站 PDF 估計達數十萬頁（委託研究報告單份常達 150–500 頁）， 因此 6 頁以上的 PDF 若內嵌文字層通過品質閘門——有字頁 ≥80%、替換／私用區字元 <0.2%、並抽 2 頁送 OCR 對照、字元 F1 ≥ 0.85——才採用文字層 （去除重複頁首頁尾與頁碼、接回斷行）；未通過者照常 OCR。文字層的表格會失去欄位結構，可用extraction欄排除； 共用 OCR 端點有空檔時，後續同步會逐步把這些文件改為 OCR 版本。 - DOCX／ODT／DOC／TXT：直接解析文件結構取出段落與表格（DOC 以 Word 97 piece table 解析；ODT 略過註解與修訂追蹤）。
一份網頁與其每個附件各自為一筆；以下情況只保留一份：
同一篇內容以多種格式提供同一文件（常見 PDF＋ODT＋DOC 三版）：依 DOCX > ODT > DOC > TXT > PDF 保留一份，有同名文字檔的 PDF 不送 OCR（
extracts.status = sibling_text）；附件與所屬網頁內容重複（附件 5-gram 有 80% 以上已出現在網頁正文，典型例子是新聞稿 PDF）：保留網頁版， 有文字層的 PDF 會先用文字層做這個判斷，重複者不送 OCR（
extracts.status = dup_of_page）。Curated by: Liang Hsun Huang
Language(s) (NLP): Traditional Chinese
License: 政府資料開放授權條款－第 1 版（依 NCC 網站「政府網站資料開放宣告」）
Dataset Sources
- Source: https://www.ncc.gov.tw/
- Repository: lianghsun/tw-ncc-corpus
收錄範圍與排除
不收全國法規資料庫與判決書；NCC 的法規查詢系統（ncclaw.ncc.gov.tw）、訴願決定書查詢（opweb.ncc.gov.tw）、 陳情網、通訊傳播市場脈動等獨立子網站、英文版網站均不在本資料集範圍。另外排除個資密集、轉載或純數字報表的區塊：
| 節點 id | 區塊 | 排除理由 |
|---|---|---|
| 130 | 預算與決算書 | 預決算書與會計報告（數字報表） |
| 131 | 支付或接受之補助 | 補捐助經費彙總（表格清單） |
| 132 | 媒體廣告月(季)報表 | 廣告經費報表（表格清單） |
| 133 | 民間捐助之財團法人資訊公開專區 | 各財團法人財務報表（他單位報表） |
| 143 | 非營業特種基金出國及赴大陸地區計畫執行情形 | 經費執行表（表格清單） |
| 1234 | 因公派員出國考察費用執行情形 | 經費執行表（表格清單） |
| 1178 | 經濟部公告「在臺灣地區從事商業行為禁止事項項目表」 | 轉載經濟部公告，非本會內容 |
| 435 | 其他政府機關宣導區 | 轉載他機關宣導，非本會內容 |
| 1180 | 主題網站 | 外部網站連結清單 |
| 1181 | 會外網站 | 外部網站連結清單 |
| 182 | 開放資料集 | 開放資料集清單（資料檔另於 data.gov.tw 提供） |
| 180 | 政府資料開放諮詢小組成員清冊 | 成員名冊（個資） |
| 492 | 即時災損查詢 | 各次颱風地震通訊災損統計表（數字報表） |
| 491 | 地震告警訊息發布資訊及其時序圖 | 告警發布時序圖表 |
| 1161 | 無線廣播電視節目表 | 節目表 |
| 249 | 衛星電視及無線電視本國自製節目播送情形 | 節目時數統計（數字報表） |
| 250 | 廣電事業播出臺語、客語及原住民族語言等節目時數統計資料 | 節目時數統計（數字報表） |
| 25 | 業務統計 > 通訊類 | 電信業者家數、營運概況等統計（數字報表） |
| 26 | 業務統計 > 傳播類 | 廣電業者家數、訂戶數等統計（數字報表） |
| 27 | 業務統計 > 行政業務類 | 監理、裁處件數等統計（數字報表） |
| 29 | 業務統計 > 其他類 | 性別統計、行政救濟統計等（數字報表） |
| 30 | 業務統計 > 圖像統計區 | 統計圖表 |
| 64 | 違反衛生法規核處紀錄 | 他機關（衛福部等）移送之核處一覽表（表格） |
| 1237 | 已登記電信事業清單 | 業者名單（表格清單） |
| 225 | 查詢電信事業申請作業進度 | 業者申請進度清單（表格清單） |
| 1212 | IASP 配合限制接取清單 | 限制接取網址清單（表格清單） |
| 1179 | 型式認證審驗合格資料透明化 | 審驗合格設備清單（表格） |
| 421 | 本會員工性別統計 | 數字報表 |
| 422 | 本會主管業者性別統計 | 數字報表 |
| 426 | 性別統計專區 > 其他 | 數字報表 |
| 139 | 辦理人民申請提供政府資訊案件季年統計總表 | 數字報表 |
| 128 | 訴願業務統計 | 數字報表 |
| 779 | 委員簡介 | 人員介紹（個資） |
| 75 | 活動報名 | 報名系統 |
| — | 標題含「公示送達」者 | 公示送達（公告受送達公司代表人姓名與案號，個資且無語料價值） |
影音、圖片（含 TIF 掃描圖）、試算表（xls/xlsx/ods/csv）、簡報、壓縮檔附件不處理。 超過 400 頁的 PDF 不送 OCR（本版共 0 份），之後可能分批補上。
Uses
Direct Use
- 繁體中文、台灣通訊傳播監理與政府領域的持續預訓練語料；可與 fineweb-edu-zhtw 等通用語料混合。
- 電信、廣播電視、網路治理、頻譜管理、消費者保護、防詐與媒體素養等主題的領域適應（domain-adaptive pretraining）。
Out-of-Scope Use
- 不應作為法律意見或法規現行條文的依據：網站內容有時效性，法規請以全國法規資料庫與 NCC 法規系統為準。
- 本資料集不含指令－回應結構，不直接適用於 SFT；「常見問答」類文件雖為問答體，仍以原文形式收錄。
- 不得用於識別、追蹤或評價特定個人。
Dataset Structure
一筆一份文件，單一 train split。前 13 欄與 fineweb-edu-zhtw 的同名欄位定義相同，其後為本資料集特有欄位。
| 欄位 | 說明 |
|---|---|
text |
文件全文（網頁以標題為首行） |
id |
<urn:ncc:<module>:<serno>>（列表內容）、<urn:ncc:art:<id>>（單頁）或 <urn:ncc:file:<hash>>（附件） |
dump |
抓取批次，NCC-YYYY-MM |
url |
內容頁網址或附件下載網址 |
date |
本筆最近一次抓取時間 |
file_path |
內容：本地原始 JSON 封存路徑；附件：檔案網址 |
language / language_score / language_script / top_langs |
GlotLID 語言辨識結果（同 fineweb 系列） |
avg_words_per_line / word_count |
詞數（CJK 逐字 + 英數逐詞，與 fineweb-edu-zhtw 同算法） |
token_count |
tiktoken cl100k_base token 數 |
title |
標題；附件為「所屬頁標題｜檔名」 |
section |
網站麵包屑路徑，例如 澄清＆施政公告 > 公告訊息 > 新聞稿 |
list_title |
所在列表頁名稱 |
doc_type |
html / pdf / docx / odt / doc / txt |
extraction |
html / ocr:dots.ocr / pdftext（驗證過的 PDF 文字層） / docx / odt / doc / txt |
parent_url |
附件所屬內容頁網址（網頁本身與選單直掛檔案為 null） |
published_date / updated_date |
網站標示的發布日期、最後更新日期（ISO，民國年已轉西元） |
ocr_pages |
OCR 的 PDF 頁數 |
content_sha1 |
去空白後全文的 SHA-1（用於增量同步比對） |
各區塊分布
| 網站大類 | 文件數 | token 數 |
|---|---|---|
| 澄清＆施政公告 | 4,863 | 5,182,491 |
| 首頁隱藏項目 | 1,258 | 7,191,415 |
| 服務與推廣 | 444 | 249,513 |
| 業務申辦 | 60 | 15,410 |
| 政府公開資料 | 28 | 44,081 |
| 關於本會 | 25 | 22,252 |
| 業務統計 | 7 | 21,485 |
| 法規查詢 | 2 | 576 |
| 陳情&申訴 | 1 | 1,310 |
第二層區塊（前 40）
| 區塊 | 文件數 |
|---|---|
| 澄清＆施政公告 > 公告訊息 | 3,067 |
| 首頁隱藏項目 > 法規命令 | 1,257 |
| 澄清＆施政公告 > 本會公報 | 807 |
| 澄清＆施政公告 > 活動訊息 | 795 |
| 服務與推廣 > 專區彙集 | 303 |
| 澄清＆施政公告 > 公開意見討論 | 179 |
| 業務申辦 > 常見問答 | 55 |
| 服務與推廣 > 打擊詐欺專區 | 43 |
| 服務與推廣 > 災防告警服務 | 39 |
| 服務與推廣 > 性別平等專區 | 35 |
| 服務與推廣 > 消費者專區 | 19 |
| 政府公開資料 > 研究及出國報告 | 17 |
| 澄清＆施政公告 > 施政績效 | 15 |
| 關於本會 > 業務職掌 | 14 |
| 關於本會 > 重要政策 | 9 |
| 業務統計 > 民眾申訴類 | 7 |
| 業務申辦 > 申請文件總覽 | 5 |
| 服務與推廣 > 媒體素養 | 5 |
| 政府公開資料 > 本會出版品 | 4 |
| 政府公開資料 > 內控聲明書 | 4 |
| 政府公開資料 > 政府資訊公開法及相關規定 | 3 |
| 關於本會 > 本會簡介 | 2 |
| 法規查詢 > 本會法令查詢資源 | 2 |
| 首頁隱藏項目 > 特別資料 | 1 |
| 陳情&申訴 > 陳情與申訴 | 1 |
抽取方式
| extraction | 文件數 | token 數 |
|---|---|---|
| html | 6,688 | 12,728,533 |
語言辨識
| language_script | 文件數 |
|---|---|
| cmn_Hani | 6,669 |
| anp_Deva | 5 |
| eng_Latn | 4 |
| kiu_Latn | 3 |
| glg_Latn | 2 |
| und_Egyp | 2 |
| yue_Hani | 1 |
| und_Cans | 1 |
發布年份
| 年份 | 文件數 |
|---|---|
| 2017 | 518 |
| 2016 | 436 |
| 2020 | 422 |
| 2007 | 419 |
| 2018 | 385 |
| 2013 | 384 |
| 2008 | 379 |
| 2014 | 364 |
| 2011 | 357 |
| 2010 | 328 |
| 2012 | 323 |
| 2019 | 299 |
| 2015 | 286 |
| 2009 | 273 |
| 2024 | 237 |
| 2022 | 187 |
| 2021 | 170 |
| 2023 | 160 |
| 2006 | 154 |
| 2025 | 96 |
| 2026 | 87 |
| 2003 | 79 |
| 2004 | 57 |
| 2002 | 52 |
| 2005 | 52 |
| 2000 | 47 |
| 2001 | 41 |
| 1999 | 28 |
| 1997 | 26 |
| 1998 | 15 |
| 1996 | 7 |
| 1993 | 6 |
| 1994 | 4 |
| 1977 | 2 |
| 1995 | 2 |
| 1958 | 1 |
| 1970 | 1 |
| 1976 | 1 |
| 1982 | 1 |
| 1988 | 1 |
| 1992 | 1 |
Dataset Creation
Curation Rationale
NCC 網站累積二十年的新聞稿、公報、法規草案說明、委員會議紀錄、委託研究報告與消費者宣導，是台灣電信與廣電監理領域少見的大量、 權威、以正體中文書寫的公開文本，但散落在上萬筆列表資料與附件中。本資料集把它整理成可直接訓練的形式，並以增量同步維持更新。
Source Data
Data Collection and Processing
- 探索：自導覽樹（
menuData）取得所有資料夾、列表、單頁與直掛檔案節點；列表逐頁翻完（每頁 200 筆）；正文內連回本站的列表／單頁／內容連結也一併走訪； 另探測導覽樹沒有、但仍在線上的列表 id。站前有 Cloudflare，以瀏覽器 TLS 指紋存取。 - 抓取：保存每筆原始 JSON（標題、正文、發布／更新日期、麵包屑、附件清單）；附件下載原檔（依檔頭判斷實際格式）。
- 抽取：如上節所述（HTML 正文 / dots.ocr / 文件結構）。OCR 逐頁快取，失敗頁會在下一次同步重試。
- 過濾：去掉少於 60 字或只有標題的空殼頁、中文字占比低於 20% 的文件（幾乎都是數字統計表）、與所屬網頁重複的附件、 同一內容的同名多格式附件、全文完全相同的文件（保留發布日期最早者）。
- 增量同步：每日 cron 只翻列表前段抓新項目與內容變更；每週一次完整重走並重寫所有內容，以正文雜湊判定是否更新、以「本輪未再出現」判定下架。 每次建置與上一版 manifest 比對，只有內容有增刪改時才產生新版本。
Who are the source data producers?
國家通訊傳播委員會及其各處室。
Personal and Sensitive Information
網站為公開資訊，但仍包含公務員姓名與職稱、新聞稿聯絡人電話、委託研究主持人姓名、裁處對象（多為業者名稱）等。 公示送達公告、成員名冊、委員簡介等個資密集內容已排除。使用時請勿據以識別或評價特定個人。
Bias, Risks, and Limitations
- 內容為政府機關觀點與用語，具官方立場；新聞稿中「澄清媒體報導」類文件代表機關說法。
pdftext文件的表格欄位會錯位（文字層依版面輸出）；OCR 可能有錯字、表格結構失真或閱讀順序錯誤，尤其是掃描品質差的舊文件；extraction欄可用來區分。- 網站內容有時效性，舊的政策、法規說明可能已不適用。
- 抓取當下失敗或 OCR 未完成的項目不會出現在該版本中。
Recommendations
from datasets import load_dataset
ds = load_dataset("lianghsun/tw-ncc-corpus", split="train")
# 只要網頁正文
html = ds.filter(lambda r: r["doc_type"] == "html")
# 只要新聞稿
news = ds.filter(lambda r: "新聞稿" in (r["section"] or ""))
抓取狀態（最近一次同步）
- 內容項目狀態：excluded 62, gone 26, ok 13,882
- 文字抽取狀態：dup_file 368, dup_of_page 126, error 17, ok 26,119, sibling_text 1,349
- 過濾：drop_exact_dup 295, drop_short 6,666, drop_title_only 209, drop_low_cjk_table 10
Changelog
| 建置時間 | 文件數 | token 數 | 新增 | 更新 | 移除 |
|---|---|---|---|---|---|
| 2026-10-04 18:04 | 6,688 | 12,728,533 | +1 | ~0 | -2 |
| 2026-09-30 09:19 | 6,689 | 12,730,659 | +6689 | ~0 | -0 |
Dataset Card Authors
Dataset Card Contact
- Downloads last month
- 7