forked from vinta/pangu.py
/
test_pangu.py
291 lines (233 loc) · 17.5 KB
/
test_pangu.py
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
51
52
53
54
55
56
57
58
59
60
61
62
63
64
65
66
67
68
69
70
71
72
73
74
75
76
77
78
79
80
81
82
83
84
85
86
87
88
89
90
91
92
93
94
95
96
97
98
99
100
101
102
103
104
105
106
107
108
109
110
111
112
113
114
115
116
117
118
119
120
121
122
123
124
125
126
127
128
129
130
131
132
133
134
135
136
137
138
139
140
141
142
143
144
145
146
147
148
149
150
151
152
153
154
155
156
157
158
159
160
161
162
163
164
165
166
167
168
169
170
171
172
173
174
175
176
177
178
179
180
181
182
183
184
185
186
187
188
189
190
191
192
193
194
195
196
197
198
199
200
201
202
203
204
205
206
207
208
209
210
211
212
213
214
215
216
217
218
219
220
221
222
223
224
225
226
227
228
229
230
231
232
233
234
235
236
237
238
239
240
241
242
243
244
245
246
247
248
249
250
251
252
253
254
255
256
257
258
259
260
261
262
263
264
265
266
267
268
269
270
271
272
273
274
275
276
277
278
279
280
281
282
283
284
285
286
287
288
289
290
291
# coding: utf-8
import unittest
import pangu
class PanguTestCase(unittest.TestCase):
def test_spacing(self):
self.assertEqual(pangu.spacing('新八的構造成分有95%是眼鏡、3%是水、2%是垃圾'), u'新八的構造成分有 95% 是眼鏡、3% 是水、2% 是垃圾')
self.assertEqual(pangu.spacing(u'新八的構造成分有95%是眼鏡、3%是水、2%是垃圾'), u'新八的構造成分有 95% 是眼鏡、3% 是水、2% 是垃圾')
self.assertEqual(pangu.spacing('所以,請問Jackey的鼻子有幾個?3.14個!'), u'所以, 請問 Jackey 的鼻子有幾個? 3.14 個!')
self.assertEqual(pangu.spacing(u'所以,請問Jackey的鼻子有幾個?3.14個!'), u'所以, 請問 Jackey 的鼻子有幾個? 3.14 個!')
self.assertEqual(pangu.spacing('JUST WE就是JUST WE，既不偉大也不卑微！'), u'JUST WE 就是 JUST WE，既不偉大也不卑微！')
self.assertEqual(pangu.spacing(u'JUST WE就是JUST WE，既不偉大也不卑微！'), u'JUST WE 就是 JUST WE，既不偉大也不卑微！')
self.assertEqual(pangu.spacing('搭載MP3播放器，連續播放時數最長達到124小時的超強利刃……菊一文字RX-7!'), u'搭載 MP3 播放器，連續播放時數最長達到 124 小時的超強利刃…… 菊一文字 RX-7!')
self.assertEqual(pangu.spacing(u'搭載MP3播放器，連續播放時數最長達到124小時的超強利刃……菊一文字RX-7!'), u'搭載 MP3 播放器，連續播放時數最長達到 124 小時的超強利刃…… 菊一文字 RX-7!')
self.assertEqual(pangu.spacing('V'), u'V')
def test_spacing_text(self):
self.assertEqual(pangu.spacing("Mr.龍島主道：「Let's Party!各位高明博雅君子！」"), u"Mr. 龍島主道：「Let's Party! 各位高明博雅君子！」")
def test_latin1_supplement(self):
self.assertEqual(pangu.spacing('中文Ø漢字'), u'中文 Ø 漢字')
self.assertEqual(pangu.spacing('中文 Ø 漢字'), u'中文 Ø 漢字')
def test_general_punctuation(self):
self.assertEqual(pangu.spacing('中文•漢字'), u'中文 • 漢字')
self.assertEqual(pangu.spacing('中文 • 漢字'), u'中文 • 漢字')
def test_number_forms(self):
self.assertEqual(pangu.spacing('中文Ⅶ漢字'), u'中文 Ⅶ 漢字')
self.assertEqual(pangu.spacing('中文 Ⅶ 漢字'), u'中文 Ⅶ 漢字')
def test_cjk_radicals_supplement(self):
self.assertEqual(pangu.spacing('abc⻤123'), u'abc ⻤ 123')
self.assertEqual(pangu.spacing('abc ⻤ 123'), u'abc ⻤ 123')
def test_kangxi_radicals(self):
self.assertEqual(pangu.spacing('abc⾗123'), u'abc ⾗ 123')
self.assertEqual(pangu.spacing('abc ⾗ 123'), u'abc ⾗ 123')
def test_hiragana(self):
self.assertEqual(pangu.spacing('abcあ123'), u'abc あ 123')
self.assertEqual(pangu.spacing('abc あ 123'), u'abc あ 123')
def test_katakana(self):
self.assertEqual(pangu.spacing('abcア123'), u'abc ア 123')
self.assertEqual(pangu.spacing('abc ア 123'), u'abc ア 123')
def test_bopomofo(self):
self.assertEqual(pangu.spacing('abcㄅ123'), u'abc ㄅ 123')
self.assertEqual(pangu.spacing('abc ㄅ 123'), u'abc ㄅ 123')
def test_enclosed_cjk_letters_and_months(self):
self.assertEqual(pangu.spacing('abc㈱123'), u'abc ㈱ 123')
self.assertEqual(pangu.spacing('abc ㈱ 123'), u'abc ㈱ 123')
def test_cjk_unified_ideographs_extension_a(self):
self.assertEqual(pangu.spacing('abc㐂123'), u'abc 㐂 123')
self.assertEqual(pangu.spacing('abc 㐂 123'), u'abc 㐂 123')
def test_cjk_unified_ideographs(self):
self.assertEqual(pangu.spacing('abc丁123'), u'abc 丁 123')
self.assertEqual(pangu.spacing('abc 丁 123'), u'abc 丁 123')
def test_cjk_compatibility_ideographs(self):
self.assertEqual(pangu.spacing('abc車123'), u'abc 車 123')
self.assertEqual(pangu.spacing('abc 車 123'), u'abc 車 123')
def test_tilde(self):
self.assertEqual(pangu.spacing('前面~後面'), u'前面~ 後面')
self.assertEqual(pangu.spacing('前面 ~ 後面'), u'前面 ~ 後面')
self.assertEqual(pangu.spacing('前面~ 後面'), u'前面~ 後面')
def test_back_quote(self):
self.assertEqual(pangu.spacing('前面`後面'), u'前面 ` 後面')
self.assertEqual(pangu.spacing('前面 ` 後面'), u'前面 ` 後面')
self.assertEqual(pangu.spacing('前面` 後面'), u'前面 ` 後面')
def test_exclamation_mark(self):
self.assertEqual(pangu.spacing('前面!後面'), u'前面! 後面')
self.assertEqual(pangu.spacing('前面 ! 後面'), u'前面 ! 後面')
self.assertEqual(pangu.spacing('前面! 後面'), u'前面! 後面')
def test_at(self):
# https://twitter.com/vinta
self.assertEqual(pangu.spacing('前面@vinta後面'), u'前面 @vinta 後面')
self.assertEqual(pangu.spacing('前面 @vinta 後面'), u'前面 @vinta 後面')
# http://weibo.com/vintalines
self.assertEqual(pangu.spacing('前面@陳上進 後面'), u'前面 @陳上進 後面')
self.assertEqual(pangu.spacing('前面 @陳上進 後面'), u'前面 @陳上進 後面')
self.assertEqual(pangu.spacing('前面 @陳上進tail'), u'前面 @陳上進 tail')
def test_hash(self):
self.assertEqual(pangu.spacing('前面#H2G2後面'), u'前面 #H2G2 後面')
self.assertEqual(pangu.spacing('前面#銀河便車指南 後面'), u'前面 #銀河便車指南 後面')
self.assertEqual(pangu.spacing('前面#銀河便車指南tail'), u'前面 #銀河便車指南 tail')
self.assertEqual(pangu.spacing('前面#銀河公車指南 #銀河拖吊車指南 後面'), u'前面 #銀河公車指南 #銀河拖吊車指南 後面')
self.assertEqual(pangu.spacing('前面#H2G2#後面'), u'前面 #H2G2# 後面')
self.assertEqual(pangu.spacing('前面#銀河閃電霹靂車指南#後面'), u'前面 #銀河閃電霹靂車指南# 後面')
def test_dollar(self):
self.assertEqual(pangu.spacing('前面$後面'), u'前面 $ 後面')
self.assertEqual(pangu.spacing('前面 $ 後面'), u'前面 $ 後面')
self.assertEqual(pangu.spacing('前面$100後面'), u'前面 $100 後面')
def test_percent(self):
self.assertEqual(pangu.spacing('前面%後面'), u'前面 % 後面')
self.assertEqual(pangu.spacing('前面 % 後面'), u'前面 % 後面')
self.assertEqual(pangu.spacing('前面100%後面'), u'前面 100% 後面')
def test_caret(self):
self.assertEqual(pangu.spacing('前面^後面'), u'前面 ^ 後面')
self.assertEqual(pangu.spacing('前面 ^ 後面'), u'前面 ^ 後面')
def test_ampersand(self):
self.assertEqual(pangu.spacing('前面&後面'), u'前面 & 後面')
self.assertEqual(pangu.spacing('前面 & 後面'), u'前面 & 後面')
self.assertEqual(pangu.spacing('Vinta&Mollie'), u'Vinta&Mollie')
self.assertEqual(pangu.spacing('Vinta&陳上進'), u'Vinta & 陳上進')
self.assertEqual(pangu.spacing('陳上進&Vinta'), u'陳上進 & Vinta')
self.assertEqual(pangu.spacing('得到一個A&B的結果'), u'得到一個 A&B 的結果')
def test_asterisk(self):
self.assertEqual(pangu.spacing('前面*後面'), u'前面 * 後面')
self.assertEqual(pangu.spacing('前面 * 後面'), u'前面 * 後面')
self.assertEqual(pangu.spacing('Vinta*Mollie'), u'Vinta*Mollie')
self.assertEqual(pangu.spacing('Vinta*陳上進'), u'Vinta * 陳上進')
self.assertEqual(pangu.spacing('陳上進*Vinta'), u'陳上進 * Vinta')
self.assertEqual(pangu.spacing('得到一個A*B的結果'), u'得到一個 A*B 的結果')
def test_parentheses(self):
self.assertEqual(pangu.spacing('前面(中文123漢字)後面'), u'前面 (中文 123 漢字) 後面')
self.assertEqual(pangu.spacing('前面(中文123)後面'), u'前面 (中文 123) 後面')
self.assertEqual(pangu.spacing('前面(123漢字)後面'), u'前面 (123 漢字) 後面')
self.assertEqual(pangu.spacing('前面(中文123漢字) tail'), u'前面 (中文 123 漢字) tail')
self.assertEqual(pangu.spacing('head (中文123漢字)後面'), u'head (中文 123 漢字) 後面')
self.assertEqual(pangu.spacing('head (中文123漢字) tail'), u'head (中文 123 漢字) tail')
def test_minus(self):
self.assertEqual(pangu.spacing('前面-後面'), u'前面 - 後面')
self.assertEqual(pangu.spacing('前面 - 後面'), u'前面 - 後面')
self.assertEqual(pangu.spacing('Vinta-Mollie'), u'Vinta-Mollie')
self.assertEqual(pangu.spacing('Vinta-陳上進'), u'Vinta - 陳上進')
self.assertEqual(pangu.spacing('陳上進-Vinta'), u'陳上進 - Vinta')
self.assertEqual(pangu.spacing('得到一個A-B的結果'), u'得到一個 A-B 的結果')
def test_underscore(self):
self.assertEqual(pangu.spacing('前面_後面'), u'前面_後面')
self.assertEqual(pangu.spacing('前面 _ 後面'), u'前面 _ 後面')
def test_plus(self):
self.assertEqual(pangu.spacing('前面+後面'), u'前面 + 後面')
self.assertEqual(pangu.spacing('前面 + 後面'), u'前面 + 後面')
self.assertEqual(pangu.spacing('Vinta+Mollie'), u'Vinta+Mollie')
self.assertEqual(pangu.spacing('Vinta+陳上進'), u'Vinta + 陳上進')
self.assertEqual(pangu.spacing('陳上進+Vinta'), u'陳上進 + Vinta')
self.assertEqual(pangu.spacing('得到一個A+B的結果'), u'得到一個 A+B 的結果')
self.assertEqual(pangu.spacing('得到一個C++的結果'), u'得到一個 C++ 的結果')
def test_equal(self):
self.assertEqual(pangu.spacing('前面=後面'), u'前面 = 後面')
self.assertEqual(pangu.spacing('前面 = 後面'), u'前面 = 後面')
self.assertEqual(pangu.spacing('Vinta=Mollie'), u'Vinta=Mollie')
self.assertEqual(pangu.spacing('Vinta=陳上進'), u'Vinta = 陳上進')
self.assertEqual(pangu.spacing('陳上進=Vinta'), u'陳上進 = Vinta')
self.assertEqual(pangu.spacing('得到一個A=B的結果'), u'得到一個 A=B 的結果')
def test_braces(self):
self.assertEqual(pangu.spacing('前面{中文123漢字}後面'), u'前面 {中文 123 漢字} 後面')
self.assertEqual(pangu.spacing('前面{中文123}後面'), u'前面 {中文 123} 後面')
self.assertEqual(pangu.spacing('前面{123漢字}後面'), u'前面 {123 漢字} 後面')
self.assertEqual(pangu.spacing('前面{中文123漢字} tail'), u'前面 {中文 123 漢字} tail')
self.assertEqual(pangu.spacing('head {中文123漢字}後面'), u'head {中文 123 漢字} 後面')
self.assertEqual(pangu.spacing('head {中文123漢字} tail'), u'head {中文 123 漢字} tail')
def test_brackets(self):
self.assertEqual(pangu.spacing('前面[中文123漢字]後面'), u'前面 [中文 123 漢字] 後面')
self.assertEqual(pangu.spacing('前面[中文123]後面'), u'前面 [中文 123] 後面')
self.assertEqual(pangu.spacing('前面[123漢字]後面'), u'前面 [123 漢字] 後面')
self.assertEqual(pangu.spacing('前面[中文123漢字] tail'), u'前面 [中文 123 漢字] tail')
self.assertEqual(pangu.spacing('head [中文123漢字]後面'), u'head [中文 123 漢字] 後面')
self.assertEqual(pangu.spacing('head [中文123漢字] tail'), u'head [中文 123 漢字] tail')
def test_pipe(self):
self.assertEqual(pangu.spacing('前面|後面'), u'前面 | 後面')
self.assertEqual(pangu.spacing('前面 | 後面'), u'前面 | 後面')
self.assertEqual(pangu.spacing('Vinta|Mollie'), u'Vinta|Mollie')
self.assertEqual(pangu.spacing('Vinta|陳上進'), u'Vinta | 陳上進')
self.assertEqual(pangu.spacing('陳上進|Vinta'), u'陳上進 | Vinta')
self.assertEqual(pangu.spacing('得到一個A|B的結果'), u'得到一個 A|B 的結果')
def test_backslash(self):
self.assertEqual(pangu.spacing('前面\後面'), u'前面 \ 後面')
self.assertEqual(pangu.spacing('前面 \ 後面'), u'前面 \ 後面')
def test_colon(self):
self.assertEqual(pangu.spacing('前面:後面'), u'前面: 後面')
self.assertEqual(pangu.spacing('前面 : 後面'), u'前面 : 後面')
self.assertEqual(pangu.spacing('前面: 後面'), u'前面: 後面')
def test_semicolon(self):
self.assertEqual(pangu.spacing('前面;後面'), u'前面; 後面')
self.assertEqual(pangu.spacing('前面 ; 後面'), u'前面 ; 後面')
self.assertEqual(pangu.spacing('前面; 後面'), u'前面; 後面')
def test_quote(self):
self.assertEqual(pangu.spacing('前面"中文123漢字"後面'), u'前面 "中文 123 漢字" 後面')
self.assertEqual(pangu.spacing('前面"中文123"後面'), u'前面 "中文 123" 後面')
self.assertEqual(pangu.spacing('前面"123漢字"後面'), u'前面 "123 漢字" 後面')
self.assertEqual(pangu.spacing('前面"中文123漢字" tail'), u'前面 "中文 123 漢字" tail')
self.assertEqual(pangu.spacing('head "中文123漢字"後面'), u'head "中文 123 漢字" 後面')
self.assertEqual(pangu.spacing('head "中文123漢字" tail'), u'head "中文 123 漢字" tail')
def test_single_quote(self):
self.assertEqual(u"前面 '中文 123 漢字' 後面", pangu.spacing("前面'中文123漢字'後面"))
self.assertEqual(u"前面 '中文 123' 後面", pangu.spacing("前面'中文123'後面"))
self.assertEqual(u"前面 '123 漢字' 後面", pangu.spacing("前面'123漢字'後面"))
self.assertEqual(u"前面 '中文 123 漢字' tail", pangu.spacing("前面'中文123漢字' tail"))
self.assertEqual(u"head '中文 123 漢字' 後面", pangu.spacing("head '中文123漢字'後面"))
self.assertEqual(u"head '中文 123 漢字' tail", pangu.spacing("head '中文123漢字' tail"))
self.assertEqual(u"陳上進 likes 林依諾's status.", pangu.spacing("陳上進 likes 林依諾's status."))
def test_less_than_and_greater_than(self):
self.assertEqual(pangu.spacing('前面<中文123漢字>後面'), u'前面 <中文 123 漢字> 後面')
self.assertEqual(pangu.spacing('前面<中文123>後面'), u'前面 <中文 123> 後面')
self.assertEqual(pangu.spacing('前面<123漢字>後面'), u'前面 <123 漢字> 後面')
self.assertEqual(pangu.spacing('前面<中文123漢字> tail'), u'前面 <中文 123 漢字> tail')
self.assertEqual(pangu.spacing('head <中文123漢字>後面'), u'head <中文 123 漢字> 後面')
self.assertEqual(pangu.spacing('head <中文123漢字> tail'), u'head <中文 123 漢字> tail')
def test_less_than(self):
self.assertEqual(pangu.spacing('前面<後面'), u'前面 < 後面')
self.assertEqual(pangu.spacing('前面 < 後面'), u'前面 < 後面')
self.assertEqual(pangu.spacing('Vinta<Mollie'), u'Vinta<Mollie')
self.assertEqual(pangu.spacing('Vinta<陳上進'), u'Vinta < 陳上進')
self.assertEqual(pangu.spacing('陳上進<Vinta'), u'陳上進 < Vinta')
self.assertEqual(pangu.spacing('得到一個A<B的結果'), u'得到一個 A<B 的結果')
def test_comma(self):
self.assertEqual(pangu.spacing('前面,後面'), u'前面, 後面')
self.assertEqual(pangu.spacing('前面 , 後面'), u'前面 , 後面')
self.assertEqual(pangu.spacing('前面, 後面'), u'前面, 後面')
def test_greater_than(self):
self.assertEqual(pangu.spacing('前面>後面'), u'前面 > 後面')
self.assertEqual(pangu.spacing('前面 > 後面'), u'前面 > 後面')
self.assertEqual(pangu.spacing('Vinta>Mollie'), u'Vinta>Mollie')
self.assertEqual(pangu.spacing('Vinta>陳上進'), u'Vinta > 陳上進')
self.assertEqual(pangu.spacing('陳上進>Vinta'), u'陳上進 > Vinta')
self.assertEqual(pangu.spacing('得到一個A>B的結果'), u'得到一個 A>B 的結果')
def test_period(self):
self.assertEqual(pangu.spacing('前面.後面'), u'前面. 後面')
self.assertEqual(pangu.spacing('前面 . 後面'), u'前面 . 後面')
self.assertEqual(pangu.spacing('前面. 後面'), u'前面. 後面')
def test_question_mark(self):
self.assertEqual(pangu.spacing('前面?後面'), u'前面? 後面')
self.assertEqual(pangu.spacing('前面 ? 後面'), u'前面 ? 後面')
self.assertEqual(pangu.spacing('前面? 後面'), u'前面? 後面')
def test_slash(self):
self.assertEqual(pangu.spacing('前面/後面'), u'前面 / 後面')
self.assertEqual(pangu.spacing('前面 / 後面'), u'前面 / 後面')
self.assertEqual(pangu.spacing('Vinta/Mollie'), u'Vinta/Mollie')
self.assertEqual(pangu.spacing('Vinta/陳上進'), u'Vinta / 陳上進')
self.assertEqual(pangu.spacing('陳上進/Vinta'), u'陳上進 / Vinta')
self.assertEqual(pangu.spacing('得到一個A/B的結果'), u'得到一個 A/B 的結果')
def test_special_characters(self):
# \u201c and \u201d
self.assertEqual(pangu.spacing('前面“中文123漢字”後面'), u'前面 “中文 123 漢字” 後面')
# \u2026
self.assertEqual(pangu.spacing('前面…後面'), u'前面… 後面')
self.assertEqual(pangu.spacing('前面……後面'), u'前面…… 後面')
# \u2027
self.assertEqual(pangu.spacing('前面‧後面'), u'前面 ‧ 後面')
if __name__ == '__main__':
unittest.main()