Python正则匹配中文方法_unicode字符集说明【技巧】

Python正则默认不匹配中文因未启用Unicode模式；需显式添加re.UNICODE标志或使用u''前缀，否则\w仅匹配ASCII字符，且显式范围如[\u4e00-\u9fa5]无法覆盖全角标点、生僻字及扩展汉字。

Python正则为什么匹配不到中文

默认情况下，re.match 或 re.search 在 Python 3 中并不会自动识别中文字符——不是正则写错了，而是底层字符集没覆盖到 Unicode 中文范围。常见现象是：r'[\u4e00-\u9fa5]+' 看似能用，但遇到全角标点、生僻字、emoji 或扩展汉字（如「?」\U00020BB7）就失效；更隐蔽的是，在某些旧系统或未声明编码的脚本里，字符串本身可能被误 decode 成 latin-1，导致正则根本对不上。

用 `\w` + `re.UNICODE` 还是直接写范围

\w 默认只匹配 ASCII 字母数字下划线，但加上 re.UNICODE 标志后，它会包含所有 Unicode 字母（含中文、日文平假名、阿拉伯字母等）。不过要注意：\w 不匹配中文标点、空格、连接符，也不包括中文里的「〇」「Ⅰ」「①」这类数字变体。所以：

想宽泛匹配“类词单位”（比如提取所有文字块）：用 re.findall(r'\w+', text, re.UNICODE)
想严格限定为“常用汉字+中文标点”：还是得手动指定范围，推荐 r'[\u4e00-\u9fff\u3400-\u4dbf\uf900-\ufaff\uff00-\uffef]+'（覆盖基本汉字、扩展 A、兼容汉字、全角 ASCII）
想覆盖更广（如古籍用字、扩展 B 区）：需额外加 \U00010000-\U0001FFFF 等，但注意 Python 正则在窄编译模式下不支持 > \U0000FFFF 的码点（Windows 默认可能窄）

`re.compile` 预编译时要不要加 `re.U`

re.U 是 re.UNICODE 的简写，必须显式传入，不能靠源文件编码或字符串前缀生效。预编译时漏掉它，后续所有 .match() 都不会启用 Unicode 模式：

import re
# ❌ 错误：没加 re.U，\w 仍只认 ASCII
pattern = re.compile(r'\w+')
# ✅ 正确：显式启用 Unicode 行为
pattern = re.compile(r'\w+', re.U)
# ✅ 也可写成
pattern = re.compile(r'\w+', flags=re.UNICODE)