Update README.md
Browse files
README.md
CHANGED
|
@@ -1,32 +1,47 @@
|
|
| 1 |
-
# csc_eval_public
|
| 2 |
-
## 一、测评数据说明
|
| 3 |
-
### 1.1 数据清洗
|
| 4 |
-
```
|
| 5 |
-
余-馀: 替换为馀-余
|
| 6 |
-
other - 馀: 替换为余
|
| 7 |
-
覆-复: 替换为复-覆
|
| 8 |
-
other-覆: # 答疆/回覆/反覆
|
| 9 |
-
# 覆审
|
| 10 |
-
他-她:不纠
|
| 11 |
-
她-他:不纠
|
| 12 |
-
人名不纠: 识别人名并丢弃
|
| 13 |
-
|
| 14 |
-
|
| 15 |
-
##
|
| 16 |
-
|
| 17 |
-
|
| 18 |
-
|
| 19 |
-
|
| 20 |
-
##
|
| 21 |
-
-
|
| 22 |
-
|
| 23 |
-
|
| 24 |
-
|
| 25 |
-
|
| 26 |
-
|
| 27 |
-
##
|
| 28 |
-
|
| 29 |
-
|
| 30 |
-
|
| 31 |
-
|
| 32 |
-
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 1 |
+
# csc_eval_public
|
| 2 |
+
## 一、测评数据说明
|
| 3 |
+
### 1.1 数据清洗
|
| 4 |
+
```
|
| 5 |
+
余-馀: 替换为馀-余
|
| 6 |
+
other - 馀: 替换为余
|
| 7 |
+
覆-复: 替换为复-覆
|
| 8 |
+
other-覆: # 答疆/回覆/反覆
|
| 9 |
+
# 覆审
|
| 10 |
+
他-她:不纠
|
| 11 |
+
她-他:不纠
|
| 12 |
+
人名不纠: 识别人名并丢弃
|
| 13 |
+
的得地: 建议丢弃(标注得不准)
|
| 14 |
+
|
| 15 |
+
# # 的 - 地
|
| 16 |
+
# # 的 - 得
|
| 17 |
+
# # 它 - 他
|
| 18 |
+
# # 哪 - 那
|
| 19 |
+
|
| 20 |
+
# # 改-大小改: 余-馀 覆-复 借-藉 功-工 琅-瑯 震-振 百-白 也-叶 经-禁(经不起-禁不起)
|
| 21 |
+
# # 部分不变(人名): 小-晓 一-逸 佳-家 得-地(马哈得) 红-虹 民-明
|
| 22 |
+
# # 匹配上但是不改的: 惟-唯 象-像 查-察 立-利 止-只 建-健 他-它 地-的 定-订 带-戴 力-利 成-城 点-店
|
| 23 |
+
# # 匹配上但是不改的: 作-做 得-的 场-厂 身-生 有-由 种-重 理-里
|
| 24 |
+
|
| 25 |
+
|
| 26 |
+
# # 空白没匹配上: 今-在 年-今 前-目 当-在 目-在 者-是
|
| 27 |
+
# # 外国人名等:其-齐 课-科 博-波
|
| 28 |
+
```
|
| 29 |
+
|
| 30 |
+
### 1.2 代码
|
| 31 |
+
```
|
| 32 |
+
a00_csc_clean_public_wang271k.py
|
| 33 |
+
```
|
| 34 |
+
|
| 35 |
+
### 1.3 数据来源
|
| 36 |
+
- [shibing624/CSC](https://huggingface.co/datasets/shibing624/CSC)
|
| 37 |
+
```注意:
|
| 38 |
+
test.json 和 dev.json 为 SIGHAN数据集, 包括SIGHAN13 14 15,来自 官方csc.html ,文件大小:339kb,4千条。
|
| 39 |
+
train.json 为 Wang271k数据集,包括 Wang271k ,来自 Automatic-Corpus-Generation dimmywang提供 ,文件大小:93MB,27万条。
|
| 40 |
+
```
|
| 41 |
+
|
| 42 |
+
## 二、论文
|
| 43 |
+
### 初始来源
|
| 44 |
+
- [https://github.com/wdimmy/Automatic-Corpus-Generation](https://github.com/wdimmy/Automatic-Corpus-Generation)
|
| 45 |
+
|
| 46 |
+
### 论文
|
| 47 |
+
- [A Hybrid Approach to Automatic Corpus Generation for Chinese Spelling Checking](https://aclanthology.org/D18-1273)
|