正则基础之 神奇的转义

前端  /  管理员 发布于 7年前   233

1 概述
这或许会是一个让人迷惑，甚至感到混乱的话题，但也正因为如此，才有了讨论的必要。
在正则中，一些具有特殊意义的字符，或是字符序列，被称作元字符，如“?”表示被修饰的子表达式匹配0次或1次，“(?i)”表示忽略大小写的匹配模式等等。而当这些元字符被要求匹配其本身时，就要进行转义处理了。
不同的语言或应用场景下，正则定义方式、元字符出现的位置不同，转义的方式也是林林总总，不一而同。
2 .NET正则中的字符转义
2.1     .NET正则中的转义符
绝大多数语言中，“\”都被作为转义符，用来转义一些具有特殊意义的字符或字符序列，比如“\n”表示换行，“\t”表示水平制表符等。而这样的转义，应用到正则中，又会有一些意想不到的变化。
话题由C#中一个正则问题引出

复制代码 代码如下:

string[] test = new string[]{"\\", "\\\\"};
Regex reg = new Regex("^\\\\$");
foreach (string s in test)
{
     richTextBox2.Text += "源字符串： " + s.PadRight(5, ' ') + "匹配结果： " + reg.IsMatch(s) + "\n";
}
/*--------输出--------
源字符串： \    匹配结果： True
源字符串： \\   匹配结果： False
*/

对于这个结果，或许有人会感到迷惑，字符串中的“\\”不是代表一个经过转义的“\”字符吗？而“\\\\”不就应该代表两个经过转义的“\”字符吗？那么上面正则匹配的结果应该是第一个为False，第二个为True才对啊？
对于这一问题，直接解释或许不太容易理解，还是换种方式来解释吧。
比如要匹配的字符是这样的
string test = "(";
那么正则如何写呢？因为“(”在正则中是有特殊意义的，所以写正则时必须对它进行转义，也就是“\(”，而在字符串中，要使用“\\” 来表示“\”本身，也就是
Regex reg = new Regex("^\\($");
这个如果理解了，那再把“(”换回“\”，同样道理，在字符串中，要使用“\\” 来表示“\”本身，也就是
Regex reg = new Regex("^\\\\$");
通过这样的分析，可以看出，其实在以字符串形式声明的正则中，“\\\\”匹配的实际上就是单独的一个“\”字符。总结一下它们之间的关系：
输出到控制台或界面的字符串：\
程序中声明的字符串：string test = "\\";
程序中声明的正则：Regex reg = new Regex("^\\\\$");
这样解释是不是已经可以理解了，那么是不是感觉这样很笨拙？是的，在程序中以字符串形式声明的正则，涉及到转义符时就是这样笨拙的。
所以在C#中，还提供了另一种字符串声明方式，在字符串前加个“@”，就可以忽略转义。

复制代码 代码如下:

string[] test = new string[] { @"\", @"\\" };
Regex reg = new Regex(@"^\\$");
foreach (string s in test)
{
    richTextBox2.Text += "源字符串： " + s.PadRight(5, ' ') + "匹配结果： " + reg.IsMatch(s) + "\n";
}
/*--------输出--------
源字符串： \    匹配结果： True
源字符串： \\   匹配结果： False
*/

这样就简洁多了，也符合通常的理解。
但同时也带来另一个问题，就是双引号的转义处理。在普通的字符串声明中，可以用“\””对双引号进行转义。
string test = "<a href=\"www.test.com\">only a test</a>";
但是在字符串前加了“@”后，“\”会被识别为“\”字符本身，这样就不能用“\””对双引号进行转义了，需要用“”””对双引号进行转义。
string test = @"<a href="https:/article/"www.test.com"">only a test</a>";
而在VB.NET中，正则的定义只有一种形式，与C#中加了“@”后的定义方式是一致的。

复制代码 代码如下:

Dim test As String() = New String() {"\", "\\"}
Dim reg As Regex = New Regex("^\\$")
For Each s As String In test
    RichTextBox2.Text += "源字符串：" & s.PadRight(5, " "c) & "匹配结果：" & reg.IsMatch(s) & vbCrLf
Next
'--------输出--------
'源字符串：\    匹配结果：True
'源字符串：\\   匹配结果：False
'--------------------

2.2     .NET正则中需要转义的元字符
在MSDN中，以下字符作为正则中的元字符，在匹配其本身时，需要对其进行转义
. $ ^ { [ ( | ) * + ? \
但实际应用中，还要根据实际情况来判断，以上字符可能不需要转义，也可能不止以上字符需要转义。
在正常的正则书写过程中，以上字符的转义通常都能被编写人员正常处理，但是在动态生成正则时，就需要格外的注意，否则变量中包含元字符时，动态生成的正则在编译时可能会抛异常。好在.NET中提供了Regex.Escape方法来处理这一问题。比如根据动态获取的id来提取相应的div标签内容。
string id = Regex.Escape(textBox1.Text);
Regex reg = new Regex(@"(?is)<div(?:(?!id=).)*id=(['""]?)" + id  + @"\1[^>]*>(?><div[^>]*>(?<o>)|</div>(?<-o>)|(?:(?!</?div\b).)*)* (?(o)(?!))</div>");
如果不做转义处理，那么动态获取的id如果为“abc(def”这种形式，程序运行过程中就会抛出异常了。
2.3     .NET正则中字符组的转义
在字符组[]中，元字符通常是不需要转义的，甚至于“[”也是不需要转义的。

复制代码 代码如下:

string test = @"the test string:  . $ ^ { [ ( | ) * + ? \";
Regex reg = new Regex(@"[.$^{[(|)*+?\\]");
MatchCollection mc = reg.Matches(test);
foreach (Match m in mc)
{
     richTextBox2.Text += m.Value + "\n";
}
/*--------输出--------
.
$
^
{
[
(

)
*
+
?
\
*/

但是在正则书写时，字符组中的“[”还是建议使用“\[”对其转义的，正则本身就已经是非常抽象，可读性很低的了，如果在字符组中再掺杂进这样不经转义的“[”，会使得可读性更差。而且在出现不正确的嵌套时，可能会导致正则编译异常，以下正则在编译时就会抛异常的。
Regex reg = new Regex(@"[.$^{[(]|)*+?\\]");
然而，.NET的字符组中，是支持集合减法的，在这种正常语法形式下，是允许字符组嵌套的。

复制代码 代码如下:

string test = @"abcdefghijklmnopqrstuvwxyz";
Regex reg = new Regex(@"[a-z-[aeiou]]+");
MatchCollection mc = reg.Matches(test);
foreach (Match m in mc)
{
     richTextBox2.Text += m.Value + "\n";
}
/*--------输出--------
bcd
fgh
jklmn
pqrst
vwxyz
*/

这种用法可读性很差，应用也很少见，即使有这种需求也可以通过其它方式实现，了解一下即可，不必深究。
话题再回到转义上，字符组中必须转义的只有“\”，而“[”和“]”出现在字符组中时，也是建议一定做转义处理的。另外有两个字符“^”和“-”，出现在字符组中特定位置时，如果要匹配其本身，也是需要转义的。
“^”出现在字符组开始位置，表示排除型字符组，“[^Char]”也就是匹配除字符组中包含的字符之外的任意一个字符，比如“[^0-9]”表示除数字外的任意一个字符。所以在字符组中，要匹配“^”字符本身，要么不放在字符组开始位置，要么用“\^”进行转义。
Regex reg1 = new Regex(@"[0-9^]");
Regex reg2 = new Regex(@"[\^0-9]");
这两种方式都表达匹配任意一个数字或普通字符“^”。
至于“-”在字符组中特殊性，举一个例子。

复制代码 代码如下:

string test = @"$";
Regex reg = new Regex(@"[#-*%&]");
richTextBox2.Text = "匹配结果：" + reg.IsMatch(test);
/*--------输出--------
匹配结果：True
*/

正则表达式中明明没有“$”，为什么匹配结果会是“True”呢？
[]支持用连字符“-”连接两个字符，来表示一个字符范围。需要注意的是，“-”前后的两个字符是有顺序的，在使用相同的编码时，后面的字符码位应大于或等于前面字符的码位。

复制代码 代码如下:

for (int i = '#'; i <= '*'; i++)
{
     richTextBox2.Text += (char)i + "\n";
}
/*--------输出--------
#
$
%
&
'
(
)
*
*/

由于“#”和“*”符合要求，“[#-*]”可以表示一个字符范围，其中就包含了字符“$”，所以上面的正则是可以匹配“$”的，如果只是把“-”当作一个普通字符处理，那么要么换个位置，要么把“-”转义。
Regex reg1 = new Regex(@"[#*%&-]");
Regex reg2 = new Regex(@"[#\-*%&]");
这两种方式都表示匹配字符组中列举的字符中的任意一个。
在字符组中，还有一个比较特殊的转义字符，“\b”出现在正则表达式中一般位置时，表示单词边界，也就是一侧为组成单词的字符，另一侧不是；而当“\b”出现在字符组中时，表示的是退格符，与普通字符串中出现的“\b”意义是一样的。
同样的，还有一个容易被忽视，而且经常被忽视的转义符“|”，当“|”出现在正则表达式中一般位置时，表示左右两侧“或”的关系；而当“|”出现在字符组中时，它仅仅表示“|”字符本身，没有任何特殊意义，所以如果不是要匹配“|”本身，而试图在字符组中使用“|”时，是错误的。比如正则表达式“[a|b]”表示的是“a”、“b”、“|”中的任意一个，而不是“a”或“b”。
2.4     .NET正则应用中不可见字符转义处理
对于一些不可见字符，要在字符串中表示时，需要用转义字符，比较常见的有“\r”、“\n”、“\t”等等，而这些字符在正则中应用，就变得有些神奇了，先看一段代码。

复制代码 代码如下:

string test = "one line. \n another line.";
List<Regex> list = new List<Regex>();
list.Add(new Regex("\n"));
list.Add(new Regex("\\n"));
list.Add(new Regex(@"\n"));
list.Add(new Regex(@"\\n"));
foreach (Regex reg in list)
{
    richTextBox2.Text += "正则表达式：" + reg.ToString();
    MatchCollection mc = reg.Matches(test);
    foreach (Match m in mc)
    {
        richTextBox2.Text += "   匹配内容：" + m.Value + "   匹配起始位置：" + m.Index + "   匹配长度：" + m.Length;
    }
    richTextBox2.Text += "   匹配总数：" + reg.Matches(test).Count + "\n----------------\n";
}
/*--------输出--------
正则表达式：
   匹配内容：
   匹配起始位置：10   匹配长度：1   匹配总数：1
----------------
正则表达式：\n   匹配内容：
   匹配起始位置：10   匹配长度：1   匹配总数：1
----------------
正则表达式：\n   匹配内容：
   匹配起始位置：10   匹配长度：1   匹配总数：1
----------------
正则表达式：\\n   匹配总数：0
----------------
*/

可以看到，前三种写法，输出的正则虽不同，但执行结果却是完全相同的，只有最后一种是没有匹配的。
正则表达式一Regex("\n")，其实就是以普通字符串形式来声明正则的，与用Regex("a")来匹配字符“a”是同样的道理，是不经过正则引擎转义的。
正则表达式二Regex("\\n")，是以正则表达式形式来声明正则的，正如正则中的“\\\\”就等同于字符串中的“\\”一样，正则中的“\\n”就等同于字符串中的“\n”，是经过正则引擎转义的。
正则表达式三Regex(@"\n")，与正则表达式二等价，是字符串前加“@”的写法。
正则表达式四Regex(@"\\n")，其实这个表示的是字符“\”后面跟一个字符“n”，是两个字符，这个在源字符串中自然是找不到匹配项的。
这里需要特别注意的还是“\b”，不同的声明方式，“\b”的意义是不同的。

复制代码 代码如下:

string test = "one line. \n another line.";
List<Regex> list = new List<Regex>();
list.Add(new Regex("line\b"));
list.Add(new Regex("line\\b"));
list.Add(new Regex(@"line\b"));
list.Add(new Regex(@"line\\b"));
foreach (Regex reg in list)
{
     richTextBox2.Text += "正则表达式：" + reg.ToString() + "\n";
     MatchCollection mc = reg.Matches(test);
     foreach (Match m in mc)
     {
          richTextBox2.Text += "匹配内容：" + m.Value + "   匹配起始位置：" + m.Index + "   匹配长度：" + m.Length + "\n";
     }
     richTextBox2.Text += "匹配总数：" + reg.Matches(test).Count + "\n----------------\n";
}
/*--------输出--------
正则表达式：line_
匹配总数：0
----------------
正则表达式：line\b
匹配内容：line   匹配起始位置：4   匹配长度：4
匹配内容：line   匹配起始位置：20   匹配长度：4
匹配总数：2
----------------
正则表达式：line\b
匹配内容：line   匹配起始位置：4   匹配长度：4
匹配内容：line   匹配起始位置：20   匹配长度：4
匹配总数：2
----------------
正则表达式：line\\b
匹配总数：0
----------------
*/

正则表达式一Regex("line\b")，这里的“\b”是退格符，是不经过正则引擎转义的。源字符串中是没有的，所以匹配结果为0。
正则表达式二Regex("line\\b")，是以正则表达式形式来声明正则的，这里的“\\b”是单词边界，是经过正则引擎转义的。
正则表达式三Regex(@"line\b")，与正则表达式二等价，指单词边界。
正则表达式四Regex(@"line\\b")，其实这个表示的是字符“\”后面跟一个字符“b”，是两个字符，这个在源字符串中自然是找不到匹配项的。
2.5     .NET正则应用中其它转义处理
.NET正则应用中还有一些其它转义方式，虽然用得不多，但也顺便提一下吧。
需求：把字符串中“<”和“>”之间的数字前加上“$”

复制代码 代码如下:

string test = "one test <123>, another test <321>";
Regex reg = new Regex(@"<(\d+)>");
string result = reg.Replace(test, "<$$1>");
richTextBox2.Text = result;
/*--------输出--------
one test <$1>, another test <$1>
*/
也许你会惊奇的发现，替换结果不是在数字前加了“$”，而是将所有数字都替换为“$1”了。
为什么会这样呢，这是因为在替换结构中，“$”是有特殊意义的，在它后面接数字，表示对对应编号捕获组匹配结果的引用，而有些情况下，需要在替换结果中出现“$”字符本身，但它后面又跟了数字，这时候就需要用“$$”对它进行转义了。而上面这个例子却恰恰是由于这种转义效果导致出现了异常结果，要规避这一问题，可以使替换结果中不出现对捕获组的引用。
string test = "one test <123>, another test <321>";
Regex reg = new Regex(@"(?<=<)(?=\d+>)");
string result = reg.Replace(test, "$");
richTextBox2.Text = result;
/*--------输出--------
one test <$123>, another test <$321>
*/

3 JavaScript及Java中的转义符
JavaScript及Java中正则的转义符处理，以字符串形式声明时，基本上都是与.NET中一致的，简单的介绍一下。
在JavaScript中，以字符串形式声明正则，与C#中的表现是一样的，同样会显得很笨拙。

复制代码 代码如下:

<script type="text/javascript">
    var data = ["\\", "\\\\"];
    var reg = new RegExp("^\\\\$", "");
    for(var i=0;i<data.length;i++)
    {
        document.write("源字符串：" + data[i]  + "   匹配结果：" + reg.test(data[i]) + "<br />");
    }
</script>
/*--------输出--------
源字符串：\ 匹配结果：true
源字符串：\\ 匹配结果：false
*/

JavaScript中虽然没有提供C#中这种“@”方式的字符串声明方式，但提供了另一种正则表达式的专有声明方式。

复制代码 代码如下:

<script type="text/javascript">
    var data = ["\\", "\\\\"];
    var reg = /^\\$/;
    for(var i=0;i<data.length;i++)
    {
        document.write("源字符串：" + data[i]  + "   匹配结果：" + reg.test(data[i]) + "<br />");
    }
</script>
/*--------输出--------
源字符串：\ 匹配结果：true
源字符串：\\ 匹配结果：false
*/

JavaScript中
var reg = /Expression/igm;
这种声明方式，一样可以简化含有转义符的正则。
当然，以这种形式声明正则时，“/”自然也就成为了元字符，正则中出现这一字符时，必须进行转义处理。比如匹配链接中域名的正则
var reg = /http:\/\/:([^\/]+)/ig;
很不幸的是，在Java中，目前只提供了一种正则声明方式，也就是字符串形式的声明方式

复制代码 代码如下:

String test[] = new String[]{"\\", "\\\\" };
String reg = "^\\\\$";
for(int i=0;i<test.length ;i++)
{
  System.out.println("源字符串：" + test[i] + "   匹配结果：" + Pattern.compile(reg).matcher(test[i]).find());
}
/*--------输出--------
源字符串：\   匹配结果：true
源字符串：\\   匹配结果：false
*/

只能期待Java的后续版本能提供这方面的优化了。