【Rust】字符串和文本

UnicodeASCII 匹配所有 ASCII 字符,从 00x7f。例如,都将字符 * 分配给码点 42。类似地,Unicode00xff 分配给与 ISO/IEC 8859-1 字符集相同的字符,用于西欧语言的 8ASCII 超集。Unicode 将此码点范围称为 Latin-1 代码块。

因为 UnicodeLatin-1 的超集,所以从 Latin-1 转换到 Unicode 是完全允许的:

1
2
3
fn latin1_to_char(latin1: u8) -> char {
latin1 as char
}

假设码点在 Latin-1 范围内,反向转换也很简单:

1
2
3
4
5
6
7
fn char_to_latin1(c: char) -> Option<u8> {
if c as u32 <= 0xff {
Some(c as u8)
} else {
None
}
}

RustStringstr 类型都是使用 UTF-8 编码格式,它是一种变长编码,使用14个字节对字符进行编码。有效的 UTF-8 序列有两个限制。首先,对于任何给定码点,只有最短的编码被认为是有效的,也就是不能花费4个字节来编码一个适合3个字节的码点。 此规则确保给定代码点只有一个 UTF-8 编码。其次,有效的 UTF-8 不得编码为 0xd8000xdfff 或超过 0x10ffff 的数字:这些数字要么保留用于非字符目的,要么完全超出 Unicode 的范围。

字符

Rust 中使用一个 32 位值存储 Unicode 码点,char 保证落在 00xd7ff0xe0000x10ffff 的范围内,所有用于创建和操作 char 值的方法都确保这个规则。char 类型实现了 CopyClone,以及用于比较、hash 和格式化的所有常用 Trait

例如,通过 &str 获得字符序列:

1
assert_eq!("カニ".chars().next(), Some('カ'));

分类

下表是一些常用的字符类型的分类方法:

下标是一些专门用于 ASCII 字符的方法:

所有的 is_ascii_ 开头的方法在 u8 类型上都是可用:

1
2
assert!(32u8.is_ascii_whitespace());
assert!(b'9'.is_ascii_digit());

在使用这些函数来实现现有规范时要小心,因为分类可能不同。例如 is_whitespaceis_ascii_whitespace 在对某些字符的处理上有所不同:

1
2
3
let line_tab = '\u{000b}'; // 'line tab', AKA 'vertical tab'
assert_eq!(line_tab.is_whitespace(), true);
assert_eq!(line_tab.is_ascii_whitespace(), false);

因为 is_ascii_whitespace 实现了 web 标准的空白字符,而 is_whitespace 实现了 Unicode 标准的字符。

数字处理

下面是一些用于处理数字的方法:

  • ch.to_digit(radix):转换成 radix 进制数字,返回 Some(num)numu32 类型;

  • std::char::from_digit(num, radix):从数字转换成字符,返回 Some(ch)

  • ch.is_digit(radix):判断字符是否是一个 ASCII 数字,等价于 ch.to_digit(radix) != None

1
2
3
4
5
6
fn main() {
assert_eq!('F'.to_digit(16), Some(15));
assert_eq!(std::char::from_digit(15, 16), Some('f'));
assert!(char::is_digit('f', 16));
assert!(char::is_digit('8', 10));
}

大小写转换

  • ch.is_lowercase()ch.is_uppercase():判断字符是否是一个小写或者大写字母;

  • ch.to_lowercase()ch.to_uppercase():转换成小写或者大小可迭代字符序列,根据 Unicode 大小写转换算法;

    1
    2
    3
    let mut upper = 's'.to_uppercase();
    assert_eq!(upper.next(), Some('S'));
    assert_eq!(upper.next(), None);

    这些方法返回一个迭代器而不是单个字符,因为 Unicode 中不是一对一转换:

    1
    2
    3
    4
    5
    6
    7
    8
    9
    10
    11
    12
    13
    14
    15
    fn main() {
    // The uppercase form of the German letter "sharp S" is "SS":
    let mut upper = 'ß'.to_uppercase();
    assert_eq!(upper.next(), Some('S'));
    assert_eq!(upper.next(), Some('S'));
    assert_eq!(upper.next(), None);
    // Unicode says to lowercase Turkish dotted capital 'İ' to 'i'
    // followed by `'\u{307}'`, COMBINING DOT ABOVE, so that a
    // subsequent conversion back to uppercase preserves the dot.
    let ch = 'İ'; // `'\u{130}'`
    let mut lower = ch.to_lowercase();
    assert_eq!(lower.next(), Some('i'));
    assert_eq!(lower.next(), Some('\u{307}'));
    assert_eq!(lower.next(), None);
    }

    为了方便,这些迭代器实现了 std::fmt::Display

与数字之间的转换

使用 as 操作符可以将字符转换成整数,高位字节可能会被删除:

1
2
3
assert_eq!('B' as u32, 66);
assert_eq!('饂' as u8, 66); // upper bits truncated
assert_eq!('二' as i8, -116); // same

u8 可以转换成 charchar 也实现了 From<u8>。但是更宽的字符可能代表无效的字符,所以必须使用 std::char::from_u32

1
2
3
assert_eq!(char::from(66), 'B');
assert_eq!(std::char::from_u32(0x9942), Some('饂'));
assert_eq!(std::char::from_u32(0xd800), None); // reserved for UTF-16

Stringstr

RustStringstr 类型保证只保存有效的 UTF-8。通过限制可以创建 Stringstr 值的方式以及可以对它们执行的操作来确保这一点,这样这些值在引入时有效并在使用它们时保持不变。他们所有的方法都保护了这一保证:对它们的任何安全操作都不会引入无效的 UTF-8,这简化了处理文本的代码。

Rust 将文本处理方法放置在 strString 上,具体取决于该方法是否需要可调整大小的缓冲区或内容只是为了使用适当的文本。由于 String 解引用就是 &str,因此在 str 上定义的每个方法也可以直接在 String 上使用。

String 被实现为 Vec<u8> 的包装器,以确保 vector 的内容总是有效的 UTF-8

下表包含后续的解释中用到的词汇:

创建 String

  • String::new():返回新的空字符串,没有堆内存申请;

  • String::with_capacity(n):返回新的,预申请 n 字节的字符串;

  • str_slice.to_string():重新申请一个新的 String,它的整个内容都是字符串切片,例如:"literal text".to_string()

  • iter.collect():通过连接迭代器 item 创建 String,例如:

    1
    2
    3
    4
    let spacey = "man hat tan";
    let spaceless: String =
    spacey.chars().filter(|c| !c.is_whitespace()).collect();
    assert_eq!(spaceless, "manhattan");
  • slice.to_owned():Returns a copy of slice as a freshly allocated String. The str type cannot implement Clone: the trait would require clone on a &str to return a str value, but str is unsized. However, &str does implement ToOwned, which lets the implementer specify its owned equivalent.

简单操作

这些方法能获取字符串基本信息:

  • slice.len():字符串字节长度;

  • slice.is_empty():即 slice.len() == 0

  • slice[range]:返回给定部分的切片,有界和无界范围都可以,例如:

    1
    2
    3
    4
    5
    6
    7
    8
    fn main() {
    let full = "bookkeeping";
    assert_eq!(&full[..4], "book");
    assert_eq!(&full[5..], "eeping");
    assert_eq!(&full[2..4], "ok");
    assert_eq!(full[..].len(), 11);
    assert_eq!(full[5..].contains("boo"), false);
    }

    不能通过括号单个索引字符,必须要先将字符串转换成 Unicode 字符序列,然后进行迭代:

    1
    2
    3
    4
    fn main() {
    let full = "你好啊";
    assert_eq!(full.chars().next(), Some('你'))
    }
  • slice.split_at(i):返回 (slice[..i], slice[i..]) 这样的 tuple

  • slice.is_char_boundary(i):返回 true 如果 i 是一个字符的边界,这样他就可以作为 slice 的边界;

自然地,可以比较切片的相等性、排序和散列。有序比较只是将字符串视为 Unicode 代码点序列,并按字典顺序比较它们。

追加、插入

  • string.push(ch):插入单个字符 ch 到字符串;

  • string.push_str(slice):追加 slice 的全部内容;

  • string.extend(iter):将迭代器产生的所有 item 追加到 String,迭代器可以产生 charstr 或者 String,这些都被 String 实现:

    1
    2
    3
    let mut also_spaceless = "con".to_string();
    also_spaceless.extend("tri but ion".split_whitespace());
    assert_eq!(also_spaceless, "contribution");
  • string.insert(i, ch):插入一个单个的字符在 i 字节处,这会涉及字符串的向后移动;

  • string.insert_str(i, slice):在 i 字节处插入一个 slice

String 实现了 std::fmt::Write,这就意味着 write!writeln! 可以被用来向 String 中追加格式化文本:

1
2
3
4
5
6
7
8
9
10
11
12
fn main() -> Result<(), std::fmt::Error> {
use std::fmt::Write;
let mut letter = String::new();
writeln!(letter, "Whose {} these are I think I know", "rutabagas")?;
writeln!(letter, "His house is in the village though;")?;
assert_eq!(
letter,
"Whose rutabagas these are I think I know\n\
His house is in the village though;\n"
);
Ok(())
}

因为 String 实现了 Add<&str>AddAssign<&str>,所以你可以使用 ++=

1
2
3
4
5
6
7
fn main() {
let left = "partners".to_string();
let mut right = "crime".to_string();
assert_eq!(left + " in " + &right, "partners in crime");
right += " doesn't pay";
assert_eq!(right, "crime doesn't pay");
}

但是左操作数不能是 &str,所以下面的写法是不可以的:

1
let parenthetical = "(" + string + ")";

而是应该这样写:

1
let parenthetical = "(".to_string() + &string + ")";

但是,不鼓励从末尾向后构建字符串。字符串的行为方式与向量相同,当它需要更多容量时,它的缓冲区大小总是至少翻倍。这使重新复制开销与最终大小成正比。即便如此,使用  String::with_capacity 创建具有正确缓冲区大小的字符串可以完全避免调整大小,并且可以减少重新的内存分配。

删除、替换

String 有一些删除文本的方法,这个不会影响字符串容量,如果需要可以使用 shrink_to_fit

  • string.clear():重置 String 称为空的;

  • string.truncate(n):丢掉 n 字节后的所有字符如果原来的字符串就少于 n,不做任何操作;

  • string.pop():删除字符串中最后一个字符,返回 Option<char>

  • string.remove(i):从 String 中删除 i 字节偏移的字符并且返回;

  • string.drain(range):删除指定范围的资费并且返回,后面的字符会前移:

      
    1
    2
    3
    4
    5
    fn main() {
    let mut choco = "chocolate".to_string();
    assert_eq!(choco.drain(3..6).collect::<String>(), "col");
    assert_eq!(choco, "choate");
    }

    如果你仅仅是想去删除区间内的字符,可以立即丢掉返回的迭代器:

      
    1
    2
    3
    4
    5
    fn main() {
    let mut winston = "Churchill".to_string();
    winston.drain(2..6);
    assert_eq!(winston, "Chill");
    }
  • string.replace_range(range, replacement):用给定的替换字符串切片替换字符串中的给定范围。切片的长度不必与被替换的范围相同,但除非被替换的范围到达字符串的末尾,否则将需要移动范围末尾之后的所有字节:

      
    1
    2
    3
    4
    5
    fn main() {
    let mut beverage = "a piña colada".to_string();
    beverage.replace_range(2..7, "kahlua"); // 'ñ' is two bytes!
    assert_eq!(beverage, "a kahlua colada");
    }

搜索模式

当标准库函数需要搜索、匹配、拆分或修剪文本时,它接受几种不同的类型来表示要查找的内容:

1
2
3
4
let haystack = "One fine day, in the middle of the night";
assert_eq!(haystack.find(','), Some(12));
assert_eq!(haystack.find("night"), Some(35));
assert_eq!(haystack.find(char::is_whitespace), Some(3));

这些类型叫做 pattern,大多数操作都支持它们:

1
2
3
4
assert_eq!(
"## Elephants".trim_start_matches(|ch: char| ch == '#' || ch.is_whitespace()),
"Elephants"
);

标准库支持四种类型的模式:

  1. char 类型作为字符匹配的模式;

  2. String&str 或者 &&str 匹配等于它们表示的一个子串;

  3. FnMut(char) -> bool 使用闭包匹配单个的字符;

  4. &[char] 匹配任何出现在 char 列表中的字符,如果使用数组字面量,需要使用 as_ref 进行类型转换:

     
    1
    2
    3
    4
    5
    6
    7
    8
    fn main() {
    let code = "\t function noodle() { ";
    assert_eq!(
    code.trim_start_matches([' ', '\t'].as_ref()),
    "function noodle() { "
    );
    // Shorter equivalent: &[' ', '\t'][..]
    }

而在库代码中,pattern 是任何实现了 std::str::pattern::Pattern 的类型,该类型目前还是实验性质,所以为避免引起兼容性问题,不要为自己的类型实现。

搜索、替换

Rust 提供了几种方法用于slice模式搜索以及替换:

  • slice.contains(pattern):如果 slice 包含指定模式,返回 true

  • slice.starts_with(pattern), slice.ends_with(pattern)slice 是否以某个 pattern 为前缀或者后缀;

  • slice.find(pattern), slice.rfind(pattern):返回 Some(i) 表示 slice 包含指定的模式,i 是偏移量,find 找到最后一个匹配的,而 rfind 找到最后一个匹配的:

      
    1
    2
    3
    4
    5
    6
    7
    fn main() {
    let quip = "We also know there are known unknowns";
    assert_eq!(quip.find("know"), Some(8));
    assert_eq!(quip.rfind("know"), Some(31));
    assert_eq!(quip.find("ya know"), None);
    assert_eq!(quip.rfind(char::is_uppercase), Some(0));
    }
  • slice.replace(pattern, replacement):替换所有匹配 pattern 子串:

      
    1
    2
    3
    4
    5
    6
    7
    8
    9
    10
    fn main() {
    assert_eq!(
    "The only thing we have to fear is fear itself".replace("fear", "spin"),
    "The only thing we have to spin is spin itself"
    );
    assert_eq!(
    "`Borrow` and `BorrowMut`".replace(|ch: char| !ch.is_alphanumeric(), ""),
    "BorrowandBorrowMut"
    );
    }

    .replace() 在重叠匹配上的行为可能有点怪,在这里,模式"aba"有四个实例,但在替换第一个和第三个后,第二个和第四个不再匹配:

      
    1
    assert_eq!("cabababababbage".replace("aba", "***"), "c***b***babbage")
  • slice.replacen(pattern, replacement, n):和前者相同,但是至多替换 n 次;

文本迭代

标准库提供了几种迭代文本的方式,例如:

大多数这些方法返回的迭代器是可反转的,也就是实现了 DoubleEndedIterator

  • slice.chars():返回包含 slice 中所有字符的迭代器;

  • slice.char_indices():返回 slice 中所有字符的字节的偏移量;

      
    1
    2
    3
    4
    5
    6
    7
    8
    9
    10
    11
    fn main() {
    assert_eq!(
    "élan".char_indices().collect::<Vec<_>>(),
    vec![
    (0, 'é'), // has a two-byte UTF-8 encoding
    (2, 'l'),
    (3, 'a'),
    (4, 'n')
    ]
    );
    }

    这个和 .chars().enumerate() 不等价。

  • slice.bytes():返回切片各个字节的迭代器:

      
    1
    2
    3
    4
    assert_eq!(
    "élan".bytes().collect::<Vec<_>>(),
    vec![195, 169, b'l', b'a', b'n']
    );
  • slice.lines():以 \n 或者 \r\n 分割字符,返回一个 &str 的迭代器;

  • slice.split(pattern):由匹配 pattern 的子串进行分割,如果模式是 &str,返回的迭代器是不可反转的;

  • slice.rsplit(pattern):方法是相同的,只是从右至左扫描;

  • slice.split_terminator(pattern), slice.rsplit_terminator(pattern):模式被视为终止符,而不是分隔符,如果模式在切片的最后匹配,迭代器不会产生一个空切片,例如:

      
    1
    2
    3
    4
    5
    6
    7
    8
    9
    10
    11
    12
    13
    14
    15
    16
    fn main() {
    // The ':' characters are separators here. Note the final "".
    assert_eq!(
    "jimb:1000:Jim Blandy:".split(':').collect::<Vec<_>>(),
    vec!["jimb", "1000", "Jim Blandy", ""]
    );
    // The '\n' characters are terminators here.
    assert_eq!(
    "127.0.0.1 localhost\n\
    127.0.0.1 www.reddit.com\n"
    .split_terminator('\n')
    .collect::<Vec<_>>(),
    vec!["127.0.0.1 localhost", "127.0.0.1 www.reddit.com"]
    );
    // Note, no final ""!
    }
  • slice.splitn(n, pattern), slice.rsplitn(n, pattern):限定最左分割成 nslice

  • slice.split_whitespace(), slice.split_ascii_whitespace():通过 Unicode 定义的空格和 ASCII 空格来分割字符串:

      
    1
    2
    3
    4
    5
    6
    7
    8
    9
    10
    fn main() {
    let poem = "This is just to say\n\
    I have eaten\n\
    the plums\n\
    again\n";
    assert_eq!(
    poem.split_whitespace().collect::<Vec<_>>(),
    vec!["This", "is", "just", "to", "say", "I", "have", "eaten", "the", "plums", "again"]
    );
    }
  • slice.matches(pattern):返回切片中匹配 pattern 的迭代器,slice.rmatches(pattern) 是相同的,但从右往左迭代;

  • slice.match_indices(pattern), slice.rmatch_indices(pattern):返回 (offset, match) 对,offset 是匹配到的 match 开始字节偏移量;

Trim

修剪字符串是从字符串的开头或结尾删除文本,通常是空格。

  • slice.trim():返回删除了前后空格的子串,slice.trim_start()slice.trim_end() 仅删除前或后空格:

      
    1
    2
    3
    4
    5
    fn main() {
    assert_eq!("\t*.rs ".trim(), "*.rs");
    assert_eq!("\t*.rs ".trim_start(), "*.rs ");
    assert_eq!("\t*.rs ".trim_end(), "\t*.rs");
    }
  • slice.trim_matches(pattern):删除 slice 前后匹配 pattern 的子串,trim_start_matchestrim_end_matches 仅作用于前面或者后面:

      
    1
    assert_eq!("001990".trim_start_matches('0'), "1990");

转换成其他类型

如果一个类型实现了 std::str::FromStr,那么它就提供了一个标准的方式可以从字符串生成它的值:

1
2
3
4
pub trait FromStr: Sized {
type Err;
fn from_str(s: &str) -> Result<Self, Self::Err>;
}

所有常用的机器类型都实现了 FromStr

1
2
3
4
5
6
7
8
fn main() {
use std::str::FromStr;
assert_eq!(usize::from_str("3628800"), Ok(3628800));
assert_eq!(f64::from_str("128.5625"), Ok(128.5625));
assert_eq!(bool::from_str("true"), Ok(true));
assert!(f64::from_str("not a float at all").is_err());
assert!(bool::from_str("TRUE").is_err());
}

char 也实现了 FromStr,但是只针对哪些只包含一个字符的:

1
2
assert_eq!(char::from_str("é"), Ok('é'));
assert!(char::from_str("abcdefg").is_err());

std::net::IpAddr 也实现了 FromStr

1
2
3
4
5
6
7
8
9
10
11
use std::net::{AddrParseError, IpAddr};
use std::str::FromStr;

fn main() -> Result<(), AddrParseError> {
let address = IpAddr::from_str("fe80::0000:3ea9:f4ff:fe34:7a50")?;
assert_eq!(
address,
IpAddr::from([0xfe80, 0, 0, 0, 0x3ea9, 0xf4ff, 0xfe34, 0x7a50])
);
Ok(())
}

字符串切片有一个 parse 方法,可以将切片解析为想要的任何类型,只要它实现了 FromStr,但是需要拼出所需的类型:

1
let address = "fe80::0000:3ea9:f4ff:fe34:7a50".parse::<IpAddr>()?;

从其他类型转换

这有三种方式转换非文本值到字符串:

  • 对于实现了 std::fmt::Display 的类型,可以使用 format! 通过 {} 格式符来构建字符串:

    1
    2
    3
    4
    5
    6
    7
    8
    9
    10
    11
    12
    13
    fn main() -> Result<(), AddrParseError> {
    let address = "fe80::0000:3ea9:f4ff:fe34:7a50".parse::<IpAddr>()?;
    assert_eq!(format!("{}, wow", "doge"), "doge, wow");
    assert_eq!(format!("{}", true), "true");
    assert_eq!(
    format!("({:.3}, {:.3})", 0.5, f64::sqrt(3.0) / 2.0),
    "(0.500, 0.866)"
    );
    // Using `address` from above.
    let formatted_addr: String = format!("{}", address);
    assert_eq!(formatted_addr, "fe80::3ea9:f4ff:fe34:7a50");
    Ok(())
    }

    所有 Rust 的数字类型,字符以及字符串都实现了 Display,智能指针 Box<T>, Rc<T>, Arc<T>T 实现 Display 时也会实现 DisplayVecHashMap 没有实现 Display

  • 如果一个类型实现了 Display,那么他就会自动实现 std::str::ToString,可以通过调用 .to_string() 达到目的:

    1
    assert_eq!(address.to_string(), "fe80::3ea9:f4ff:fe34:7a50");
  • 标准库里面的导出类型都实现了 std::fmt::Debug,可以通过 {:?} 格式声明生成字符串:

    1
    2
    3
    4
    5
    6
    7
    8
    9
    10
    fn main() -> Result<(), AddrParseError> {
    let address = "fe80::0000:3ea9:f4ff:fe34:7a50".parse::<IpAddr>()?;
    // Continued from above.
    let addresses = vec![address, IpAddr::from_str("192.168.0.1")?];
    assert_eq!(
    format!("{:?}", addresses),
    "[fe80::3ea9:f4ff:fe34:7a50, 192.168.0.1]"
    );
    Ok(())
    }

    对于任何实现了 DebugTVec<T> 也实现了 Debug,所有 Rust 集合类型都有这样的实现。可以通过派生为自己的类型实现 Debug

    1
    2
    #[derive(Copy, Clone, Debug)]
    struct Complex { re: f64, im: f64 }

借用为其他类型

  • 切片和字符串实现 AsRef<str>AsRef<[u8]>AsRef<Path>AsRef<OsStr>。许多标准库函数使用这些Trait作为其参数类型的界限,因此可以直接将切片和字符串传递给它们,即使它们真正想要的是其他类型,详细请查看 AsRef、AsMut

  • slice 和字符串也实现了 std::borrow::Borrow<str>HashMapBTreeMap 使用 Borrow 使 String 可以很好地作为表中的键工作,详细请查看 Borrow、BorrowMut

转化为字节序列

  • slice.as_bytes():将 slice 转换为 &[u8],由于这不是一个可变引用,所以 slice 可以假设它的字节将保持有效的 UTF-8

  • string.into_bytes():获取 String 的所有权,并且转换为 Vec<u8>,这是一种廉价的转换,因为它只是将字符串一直用作其缓冲区的 Vec<u8> 交出。由于字符串不再存在,因此无法再确保是正确的 UTF-8 编码,调用者可以随意修改 Vec<u8>

从字节序列生成

这里有一些方法从字节序列转换成 String 或者 slice,取决于你如何处理错误:

  • str::from_utf8(byte_slice):以 &[u8] 作为输入,返回 Result,如果正确将生成 Ok(&str)

  • String::from_utf8(vec):尝试去构建字符串从 Vec<u8>,如果转化成功,返回 Ok(String),并且将 Vec 中缓冲区的所有权转移至 String,以至于没有额外的内存申请。如果转换失败,返回 Err(e)e 的类型是 FromUtf8Error,可以调用 e.into_bytes() 获得原 vec 的所有权:

    1
    2
    3
    4
    5
    6
    7
    8
    9
    10
    11
    12
    13
    14
    fn main() {
    let good_utf8: Vec<u8> = vec![0xe9, 0x8c, 0x86];
    assert_eq!(String::from_utf8(good_utf8).ok(), Some("錆".to_string()));

    let bad_utf8: Vec<u8> = vec![0x9f, 0xf0, 0xa6, 0x80];
    let result = String::from_utf8(bad_utf8);
    assert!(result.is_err());
    // Since String::from_utf8 failed, it didn't consume the original
    // vector, and the error value hands it back to us unharmed.
    assert_eq!(
    result.unwrap_err().into_bytes(),
    vec![0x9f, 0xf0, 0xa6, 0x80]
    );
    }
  • String::from_utf8_lossy(byte_slice):尝试从 &[u8] 共享字节片构造字符串或 &str。此转换始终成功,将任何无效的 UTF-8 替换为 Unicode 替换字符。返回值是一个 Cow<str>,如果它包含有效的 UTF-8,则直接从 byte_slice 借用 &str,或者拥有一个新分配的字符串,其中替换字符替换了无效的字节。 因此,当 byte_slice 有效时,不会发生堆分配或复制。

  • String::from_utf8_unchecked:如果知道 Vec<u8> 包含有效的 UTF-8,那么可以调用 unsafe 函数。这只是将 Vec<u8> 包装为一个字符串并返回它,根本不检查字节,开发者有责任确保你没有将无效的 UTF-8 引入系统,这就是为什么这个函数被标记为不安全的原因。

  • str::from_utf8_unchecked:类似地,这需要一个 &[u8] 并将其作为 &str 返回,而不检查它是否包含有效的 UTF-8

延迟分配

来看一个示例:

1
2
3
4
fn get_name() -> String {
std::env::var("USER") // Windows uses "USERNAME"
.unwrap_or("whoever you are".to_string())
}

这个函数要求返回一个 String,但是实际上它应该返回一个 String 或一个静态文本,我们没必要为静态文本 &'static str 再次分配内存把它转换成 String 返回。这个时候应该使用 std::borrow::CowCow<'a, T> 是一个有两种变体的枚举:OwnedBorrowedBorrowed 持有引用 &'a TOwned 能将持有的 &str 转换为 String&[i32] 转换为 Vec<i32>,依此类推。无论是 Owned 还是 BorrowedCow<'a, T> 总能产生一个 &T 供你使用。事实上,Cow<'a, T> 解引用 &T 很像智能指针。

1
2
3
4
5
6
7
use std::borrow::Cow;

fn get_name() -> Cow<'static, str> {
std::env::var("USER")
.map(|v| Cow::Owned(v))
.unwrap_or(Cow::Borrowed("whoever you are"))
}

由于 Cow 经常用于字符串,标准库对 Cow<'a, str> 有一些特殊的支持。它提供了来自 String&strFromInto 转换,因此可以更简洁地编写 get_name

1
2
3
4
5
fn get_name() -> Cow<'static, str> {
std::env::var("USER")
.map(|v| v.into())
.unwrap_or("whoever you are".into())
}

Cow 也实现了 Add<&'a str>Add<Cow<'a str>>AddAsign<&'a str>以及AddAssign<Cow<'a, str>> 所以可以使用 ++= 运算符:

1
2
3
4
if let Some(title) = get_title() {
name += ", ";
name += title;
}

实现 Default

String 是下了 std::default::Defaultstd::iter::Extend:返回空的字符串,以及追加字符,&[str]Cow<.., str>或者其他字符串。这与 Rust 的其他集合类型(如 VecHashMap)实现的特征组合相同,用于通用构造模式(如 collectpartition)。

&str 也实现了 Default,返回空切片。

格式化

Rust 的格式化工具被设计为开放式的。 可以通过实现 std::fmt 模块的格式化特征来扩展这些宏以支持自己的类型。可以使用 format_args! 宏和 std::fmt::Arguments 类型以使自己的函数和宏支持格式化语言。

格式化宏总是借用对其参数的共享引用,他们从不获取所有权或改变它们。

{...} 叫做格式化参数,形式是:{which:how}whichhow 都可以省略,{} 是我们常用的格式。

which 用于指定应该使用模板后面的哪个参数,格式化参数中没有 {} 就会简单的从左到右按序取。

how 用来表示参数如何被格式化,填充多少、精度、数字基数等等。 如果 how 存在,则它前面的:是必需的。

下面是一些常用的例子:

文本格式化

对于 String 或者 &str 类型,how 参数的值有几个部分,都是可选的:

  1. 文本长度限制。如果声明,超过这个长度的文本就会被截断;

  2. 最小字段宽度。在任何截断之后,如果你的参数比这个短,Rust 会在右边(默认)用空格(默认)填充它,以形成这个宽度的字段。如果省略,Rust不会填充;

  3. 对齐方式。可以通过 < ^ > 声明位左对齐,中对齐,右对齐;

  4. 填充字符,如果省略,会自动使用空格;如果声明填充字符,必须声明对齐方式;

文本格式化示例:

Rust 的格式化程序假设每个字符占据一列,而不考虑组合字符、全角半角、零宽度空格或 Unicode 的其他现实。例如:

1
2
assert_eq!(format!("{:4}", "th\u{e9}"), "th\u{e9} ");
assert_eq!(format!("{:4}", "the\u{301}"), "the\u{301}");

尽管 Unicode 说这些字符串都等价于 thé,但 Rust 的格式化程序并不知道像 \u{301} 这样的字符,结合了重音符号需要特殊处理。 它正确地填充了第一个字符串,但假定第二个字符串是四列宽并且不添加任何填充。尽管很容易看出 Rust 在这种特定情况下如何改进,但所有 Unicode 脚本的真正多语言文本格式化是一项艰巨的任务,最好依靠平台的用户界面工具包来处理。有一个流行的包 unicode-width,可以处理这方面的某些方面。

就像 &strString,还可以传递带有文本引用的格式化宏智能指针类型,例如 Rc<String>Cow<'a, str>

由于文件名路径不一定是有效的 UTF-8std::path::Path 不是一个文本类型;不能将 std::path::Path 直接传递给格式化宏。但是,Pathdisplay 方法返回一个值,可以以适合平台的方式格式化它:

1
println!("processing file: {}", path.display());

数值格式化

Rust 提供了用于格式化数字的方式:

  1. 类似于文本的填充和对齐方式;
  2. + 显示有数值的正负号;
  3. # 要求显示的前缀 0x0b 或者 0o
  4. 0 要求通过在数字中包含前导0来满足最小字段宽度,而不是通常的填充方法;
  5. 最小字段宽度。如果格式化后的数字至少没有这么宽,Rust 在左边(默认)用空格(默认)填充它,以形成一个给定宽度的字段;
  6. 浮点参数的精度,指示 Rust 应该在小数点后包含多少位。Rust 会根据需要进行四舍五入或零扩展,以准确生成这么多小数位数。如果省略了精度,Rust 会尝试使用尽可能少的数字来准确地表示该值,对于整数类型的参数,精度被忽略;
  7. 一个符号。对于整数类型,这可以是 b 表示二进制,o 表示八进制,或者 xX 表示带有小写或大写字母的十六进制。如果包含 # 字符,则这些字符包括显式的 Rust 样式基数前缀、0b0o0x0X。对于浮点类型,eE 的基数要求科学记数法,具有归一化系数,使用 eE 作为指数。如果你不指定任何符号,Rust 会以十进制格式格式化数字;

下面是一些数字格式化的例子,示例 1234_i32

如最后两个示例所示,最小字段宽度适用于整个数字、符号、基数前缀等。负数总是包括它们的符号。 结果与“强制符号”示例中显示的结果类似。当要求前导零时,对齐和填充字符将被忽略,因为零会扩展数字以填充整个字段。

下面以 1234.5678 为例,演示浮点数格式化:

格式化其他类型

除了数字和字符串之外,你还可以格式化下面几种标注库类型:

  1. 错误类型都可以直接格式化,便于将它们包含在错误消息中。每个错误类型都应该实现 std::error::Error,它扩展了默认的格式化std::fmt::Display。因此,任何实现 Error 的类型都可以格式化;

  2. 可以格式化互联网协议地址类型,例如 std::net::IpAddrstd::net::SocketAddr

  3. truefalse 可以格式化,尽管这些通常不是直接呈现给最终用户的最佳字符串;

用于调试的格式化

为了帮助调试和记录,{:?} 参数以对程序员有帮助的方式格式化 Rust 标准库中的任何公共类型。可以使用它来调试 vector、切片、元组、哈希表、线程和数百种其他类型。

例如,你可这样写:

1
2
3
4
5
6
7
fn main() {
use std::collections::HashMap;
let mut map = HashMap::new();
map.insert("Portland", (45.5237606, -122.6819273));
map.insert("Taipei", (25.0375167, 121.5637));
println!("{:?}", map);
}

这将输出:

{"Taipei": (25.0375167, 121.5637), "Portland": (45.5237606, -122.6819273)}

可以使用 {:#?} 以更适合阅读的方式打印:

{
    "Taipei": (
        25.0375167,
        121.5637,
    ),
    "Portland": (
        45.5237606,
        -122.6819273,
    ),
}

调试格式通常以十进制打印数字,但可以在问号前放置一个 xX 来请求十六进制。前导0和字段宽度语法也可以接受。例如,可以编写:

1
2
3
4
fn main() {
println!("ordinary: {:02?}", [9, 15, 240]);
println!("hex: {:02x?}", [9, 15, 240]);
}

这将输出:

ordinary: [09, 15, 240]
hex: [09, 0f, f0]

可以通过 #[derive(Debug)] 让自己的类型支持 {:?}

1
2
#[derive(Copy, Clone, Debug)]
struct Complex { re: f64, im: f64 }

例如:

1
2
let third = Complex { re: -0.5, im: f64::sqrt(0.75) };
println!("{:?}", third);

这将输出:

Complex { re: -0.5, im: 0.8660254037844386 }

格式化指针

通常,如果将任何类型的指针传递给格式化宏——引用BoxRc——宏只会格式化引用的对象,指针本身并不重要。但是在调试时,有时查看指针会很有帮助:地址可以作为单个值的粗略“名称”,这在检查具有循环或共享的结构时会很有启发性。

{:p} 将引用和智能指针格式化为地址:

1
2
3
4
5
6
7
8
fn main() {
use std::rc::Rc;
let original = Rc::new("mazurka".to_string());
let cloned = original.clone();
let impostor = Rc::new("mazurka".to_string());
println!("text: {}, {}, {}", original, cloned, impostor);
println!("pointers: {:p}, {:p}, {:p}", original, cloned, impostor);
}

这可能输出:

text: mazurka, mazurka, mazurka
pointers: 0x6000024ac2b0, 0x6000024ac2b0, 0x6000024ac2e0

从结果可以看出 originalcloned 具有相同的地址,这也符合 Rc 的定义。

通过索引或者名称引用参数

可以简单的通过索引来指定格式化参数使用哪个值,也就是指定开始所说的 which

1
2
3
4
5
6
7
8
9
10
fn main() {
assert_eq!(
format!("{1},{0},{2}", "zeroth", "first", "second"),
"first,zeroth,second"
);
assert_eq!(
format!("{2:#06x},{1:b},{0:=>10}", "first", 10, 100),
"0x0064,1010,=====first"
);
}

也可以通过名称选择参数,有点像Python的关键字参数,例如:

1
2
3
4
5
6
7
8
9
10
11
fn main() {
assert_eq!(
format!(
"{description:.<25}{quantity:2} @ {price:5.2}",
price = 3.25,
quantity = 3,
description = "Maple Turmeric Latte"
),
"Maple Turmeric Latte..... 3 @ 3.25"
);
}

可以将命名参数,位置参数,索引参数混合起来使用,只是命名参数必须出现在最后。位置参数与参数从左到右配对,就好像索引和命名参数不存在一样:

1
2
3
4
5
6
7
8
9
10
11
12
fn main() {
assert_eq!(
format!(
"{mode} {2} {} {}",
"people",
"eater",
"purple",
mode = "flying"
),
"flying purple people eater"
);
}

动态宽度和精度

之前我们看到的宽度和精度都是固定值,也可以在运行时确定:

1
format!("{:>1$}", content, get_width())

1$ 告诉 format! 使用第二个参数作为宽度,宽度的类型必须是 usize,也可以使用命名参数:

1
format!("{:>width$}", content, width=get_width())

相同的方式处理文本长度限制:

1
2
3
4
5
6
format!(
"{:>width$.limit$}",
content,
width = get_width(),
limit = get_limit()
);

在文本长度或者浮点参数的位置,你还可以写 *,来使用下一个位置参数作为精度。例如:

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
fn get_width() -> usize {
10
}

fn get_limit() -> usize {
10
}

fn main() {
let content = "hello world";
println!(
"{:>width$.limit$}",
content,
width = get_width(),
limit = get_limit()
);
println!("{:.*}", get_limit(), content);
}

这将输出:

hello worl
hello worl

格式化自定义类型

格式化宏实际上是 std::fmt 中定义的一系列宏,可以通过自己实现这些特征中的一个或多个来使 Rust 的格式化宏格式化自己的类型。

用于格式化的 Trait 都有相同的结构,仅仅是名字不同,以 std::fmt::Display 为例:

1
2
3
4
trait Display {
fn fmt(&self, dest: &mut std::fmt::Formatter)
-> std::fmt::Result;
}

fmt 方法的工作是生成有效的 self 表示并将其字符写入 dest。 除了作为输出流之外,dest 参数还携带从格式参数解析的详细信息,例如对齐方式和最小字段宽度。

下面是一个完整的实现用于 Complex 格式化输出:

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
use std::fmt;

struct Complex {
re: f64,
im: f64,
}

impl fmt::Display for Complex {
fn fmt(&self, dest: &mut fmt::Formatter) -> fmt::Result {
let (re, im) = (self.re, self.im);
if dest.alternate() {
let abs = f64::sqrt(re * re + im * im);
let angle = f64::atan2(im, re) / std::f64::consts::PI * 180.0;
write!(dest, "{} ∠ {}°", abs, angle)
} else {
let im_sign = if im < 0.0 { '-' } else { '+' };
write!(dest, "{} {} {}i", re, im_sign, f64::abs(im))
}
}
}

fn main() {
let ninety = Complex { re: 0.0, im: 2.0 };
assert_eq!(format!("{}", ninety), "0 + 2i");
assert_eq!(format!("{:#}", ninety), "2 ∠ 90°");
}

如果格式化参数中携带 #,我们以极坐标的形式显示负数,否则我们按照常规的方式展示。虽然 fmt 返回 Result,但是我们通常不用处理错误,只需向上传递,Formatter 还有很多其他有用的方法,alternate 只是其中一个。

format_args!

可以使用 Rustformat_args 编写自己的函数和宏来接受类型为 std::fmt::Arguments 的参数。例如,假设程序需要在运行时记录状态消息,并且想使用 Rust 的文本格式化语言来生成它们,例如:

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
#![allow(dead_code, unused_imports)]

use std::fmt;
use std::fs::OpenOptions;
use std::io::Write;

macro_rules! log {
($format:tt, $($arg:expr),*) => (
write_log_entry(format_args!($format, $($arg),*))
)
}

fn logging_enabled() -> bool {
true
}

fn write_log_entry(entry: std::fmt::Arguments) {
if logging_enabled() {
// Keep things simple for now, and just
// open the file every time.
let mut log_file = OpenOptions::new()
.append(true)
.create(true)
.open("log-file-name")
.expect("failed to open log file");

log_file.write_fmt(entry).expect("failed to write to log");
}
}

#[derive(Debug)]
struct Complex {
re: f64,
im: f64,
}

fn main() {
let mysterious_value = Complex { re: 0.2, im: 1.2 };

log!(
"O day and night, but this is wondrous strange! {:?}\n",
mysterious_value
);
}

在编译时,format_args! 宏解析模板字符串并根据参数类型检查它,如果有任何问题则报告错误。在运行时,它计算参数值并构建一个 Arguments ,其中包含格式化文本所需的所有信息:模板的预解析形式,以及对参数值的共享引用。

构造一个 Arguments 没有什么消耗:它只是收集一些指针,还没有进行格式化工作。这很重要:如果未启用日志记录,则将数字转换为十进制、填充值等所花费的任何时间都将被浪费。

File 类型实现了 std::io::Write 特征,其 write_fmt 方法接受 Argument 并进行格式化,它将结果写入底层流。

正则表达式

regexRust 的官方正则表达式库,它提供通常的搜索和匹配功能。它对 Unicode 有很好的支持,但它也可以搜索字节字符串,尽管它不支持在其他正则表达式包中经常发现的某些功能,例如反向引用和环视模式,但这些简化允许正则表达式确保搜索时间与表达式的大小和正在搜索的文本长度呈线性关系。除其他外,这些保证使正则表达式可以安全使用,即使是在搜索不可信文本的不可信表达式中也是如此。

尽管 regex 不在 std 中,但它由 Rust 库团队维护。要使用正则表达式,请将以下行放在Cargo.toml 文件的 [dependencies] 部分中:

1
regex = "1"

基本使用

Regex 值表示已解析的正则表达式可供使用。Regex::new 构造函数尝试将 &str 解析为正则表达式,并返回一个结果:

1
2
3
4
5
6
7
8
9
10
use regex::{Error, Regex};
use std::error::Error as StdError;

fn main() -> Result<(), Box<dyn StdError + Send + Sync + 'static>> {
let semver = Regex::new(r"(\d+)\.(\d+)\.(\d+)(-[-.[:alnum:]]*)?")?;
// Simple search, with a Boolean result.
let haystack = r#"regex = "0.2.5""#;
assert!(semver.is_match(haystack));
Ok(())
}

Regex::captures 方法在字符串中搜索第一个匹配项,并返回一个 regex::Captures 值,其中包含表达式中每个组的匹配信息:

1
2
3
4
5
6
7
8
// You can retrieve capture groups:
let captures = semver
.captures(haystack)
.ok_or("semver regex should have matched")?;
assert_eq!(&captures[0], "0.2.5");
assert_eq!(&captures[1], "0");
assert_eq!(&captures[2], "2");
assert_eq!(&captures[3], "5");

使用索引可能会发生 panic,可以使用 Captures::get,它返回一个 Option<regex::Match>Match 包含了的那个的组匹配:

1
2
3
4
assert_eq!(captures.get(4), None);
assert_eq!(captures.get(3).unwrap().start(), 13);
assert_eq!(captures.get(3).unwrap().end(), 14);
assert_eq!(captures.get(3).unwrap().as_str(), "5");

find_iter 为文本中每个连续的非重叠匹配返回一个迭代器,返回相对于文本的开始和结束字节索引。例如:

1
2
3
4
5
6
7
8
9
let haystack = "In the beginning, there was 1.0.0. \
For a while, we used 1.0.1-beta, \
but in the end, we settled on 1.2.4.";

let matches: Vec<&str> = semver
.find_iter(haystack)
.map(|match_| match_.as_str())
.collect();
assert_eq!(matches, vec!["1.0.0", "1.0.1-beta", "1.2.4"]);

captures_iter 产生的 Captures 包含所有匹配组:

1
2
3
4
5
6
7
8
for caps in semver.captures_iter(haystack) {
for m in caps.iter() {
if let Some(m) = m {
println!("{} -> {}, {}", m.start(), m.end(), &haystack[m.range()]);
break;
}
}
}

这将输出:

28 -> 33, 1.0.0
56 -> 66, 1.0.1-beta
98 -> 103, 1.2.4

懒惰构建 Regex

Regex::new 构造函数可能很昂贵:为 1,200 个字符的正则表达式构造 Regex 即使在快速机器上也需要一毫秒,即使是很小的表达式也需要数微秒,因此,最好将 Regex 构造排除在繁重的计算循环之外,而是应该构建一次正则表达式,然后重用同一个。

lazy_static 提供了一种比较好的方式用于延迟初始化静态值,这些值只有在第一次使用时才会被初始化,在 Cargo.toml 添加如下依赖:

1
2
[dependencies]
lazy_static = "1"

示例代码:

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
use regex::{Error, Regex};
use std::error::Error as StdError;

use lazy_static::lazy_static;

fn main() -> Result<(), Box<dyn StdError + Send + Sync + 'static>> {
lazy_static! {
static ref SEMVER: Regex =
Regex::new(r"(\d+)\.(\d+)\.(\d+)(-[-.[:alnum:]]*)?").expect("error parsing regex");
}

// Simple search, with a Boolean result.
let haystack = r#"regex = "0.2.5""#;
assert!(SEMVER.is_match(haystack));
Ok(())
}

该宏为一个名为 SEMVER 的静态变量的声明,但它的类型不完全是 Regex。 相反,它是实现 Deref<Target=Regex> 的宏生成类型,因此公开了与 Regex 相同的所有方法。第一次解引用 SEMVER 时会进行初始化,并保存该值以供以后使用。由于 SEMVER 是一个静态变量,而不仅仅是一个局部变量,因此初始化程序在每次程序执行时最多运行一次。

Normalization

大多数用户会认为茶的法语单词 thé 是三个字符长。然而,Unicode 实际上有两种方式来表示这个文本:

  • composed形式中,thé 包含三个字符 thé,其中 é 是单个 Unicode 字符,代码点为 0xe9

  • decomposed形式中,thé 包含四个字符 the\u{301},其中 e 是纯 ASCII 字符,没有重音符号,代码点 0x301 是“组合重音符号”字符,它为它后面的任何字符添加一个尖锐的重音。

Unicode 不认为 é 的组合形式或分解形式是“正确的”形式;相反,它认为它们都是相同抽象字符的等效表示。Unicode 表示两种表单都应该以相同的方式显示,并且允许使用文本输入法生成任何一种,因此用户通常不会知道他们正在查看或输入哪种表单。(Rust 允许直接在字符串文字中使用 Unicode 字符,因此如果不在乎获得哪种编码,可以简单地编写 thé。为了清楚起见,我们将使用 \u 转义。)

然而,考虑到 Rust&strString 值,“th\u{e9}”“the\u{301}”是完全不同的。它们有不同的长度,比较不相等,有不同的哈希值,并且相对于其他字符串有不同的顺序:

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
use std::collections::hash_map::DefaultHasher;
use std::hash::{Hash, Hasher};

fn hash<T: ?Sized + Hash>(t: &T) -> u64 {
let mut s = DefaultHasher::new();
t.hash(&mut s);
s.finish()
}

fn main() {
assert!("th\u{e9}" != "the\u{301}");
assert!("th\u{e9}" > "the\u{301}");

assert_eq!(hash("th\u{e9}"), 0x53e2d0734eb1dff3);
assert_eq!(hash("the\u{301}"), 0x90d837f0a0928144);
}

显然,如果打算比较用户提供的文本或将其用作哈希表或 Btree 中的键,则需要首先将每个字符串放在某种规范形式中。

幸运的是,Unicode 指定了字符串的规范化形式。每当根据 Unicode 规则将两个字符串视为等效时,它们的规范化形式是逐字符相同的。当使用 UTF-8 编码时,它们是逐字节相同的。这意味着可以将规范化的字符串与 == 进行比较,将它们用作 HashMapHashSet 中的键等。

未能规范化甚至会产生安全后果,例如,如果网站在某些情况下对用户名进行了规范化,但在其他情况下没有规范化用户名,最终可能会得到两个不同的用户,名为 bananasflambé,代码的某些部分将其视为同一个用户,但其他部分将其区别开来,从而导致一个人的权限被错误地扩展到另一个。当然,有很多方法可以避免此类问题,但历史表明也有很多方法可以避免。

Normalization Forms

Unicode 定义了四种规范化形式,每一种都适用于不同的用途。 有两个问题需要回答:

  • 首先,更喜欢字符是尽可能组合还是尽可能分开?例如,越南语单词 Phởcomposed 形式是三个字符串"Ph\u{1edf}",其中声调符号̉和元音符号̛都应用于单个字符的基本字符"o"Unicode 负责将拉丁小写字母 o 命名为上面带有角和钩的字符。

    decomposed 形式将基本字母及其两个标记拆分为三个单独的 Unicode 字符:o\u{31b}\u{309},从而产生 Pho\u{31b}\u{309}。组合形式通常兼容性问题较少,因为它与大多数语言在 Unicode 建立之前用于其文本的表示形式更加匹配。它还可以很好地与 Rustformat! 工作。另一方面,decomposed 形式可能更适合显示文本或搜索,因为它使文本的详细结构更加明确。

  • 第二个问题是:如果两个字符序列表示相同的基本文本,但文本格式的方式不同,你想将它们视为等价还是保持不同?

    Unicode 对普通数字 5、上标数字 (或 \u{2075})和带圆圈的数字 (或\u{2464})有单独的字符,但声明所有这三个是兼容性等价的。类似地,Unicode 有一个用于连字的单个字符 \u{fb03},但声明它与三个字符序列 ffi 等效。

    兼容性等价对搜索有意义:仅使用 ASCII 字符搜索"difficult",应该匹配字符串"di\u{fb03}cult"。对后一个字符串应用兼容性分解会将连字替换为三个纯字母“ffi”,从而使搜索更容易。但是将文本规范化为兼容性等效形式可能会丢失基本信息,因此不应粗心地应用它。例如,在大多数情况下将2⁵存储为25是不正确的。

Unicode 规范化形式 NFC 和规范化形式 NFD 使用每个字符的最大组合和最大分解形式,但不尝试统一兼容性等效序列。而NFKCNFKD 规范化形式类似于 NFCNFD,但将所有兼容性等价序列规范化为它们类的一些简单代表。

万维网联盟的建议对所有内容使用 NFCUnicode 标识符和模式语法建议在编程语言中使用 NFKC 作为标识符,并提供必要时调整格式的原则。

unicode-normalization

Rustunicode-normalization 提供了一个 trait,它向 &str 添加方法以将文本置于四种规范化形式中的任何一种。要使用它,将以下行添加到 Cargo.toml 文件的 [dependencies] 部分:

1
unicode-normalization = "0.1.17"

有了这个声明,&str 有四个新方法,它们返回对特定规范化字符串形式的迭代器:

1
2
3
4
5
6
7
8
9
10
11
12
13
14
use unicode_normalization::UnicodeNormalization;

fn main() {
// No matter what representation the left-hand string uses
// (you shouldn't be able to tell just by looking),
// these assertions will hold.
assert_eq!("Phở".nfd().collect::<String>(), "Pho\u{31b}\u{309}");
assert_eq!("Phở".nfc().collect::<String>(), "Ph\u{1edf}");
// The left-hand side here uses the "ffi" ligature character.
assert_eq!(
"① Di\u{fb03}culty".nfkc().collect::<String>(),
"1 Difficulty"
);
}

Taking a normalized string and normalizing it again in the same form is guaranteed to return identical text.

Although any substring of a normalized string is itself normalized, the concatenation of two normalized strings is not necessarily normalized: for example, the second string might start with combining characters that should be placed before combining characters at the end of the first string.

As long as a text uses no unassigned code points when it is normalized, Unicode promises that its normalized form will not change in future versions of the standard. This means that normalized forms are generally safe to use in persistent storage, even as the Unicode standard evolves.