Golang学习 - unicode/utf8 包

heshao2005

------------------------------------------------------------　　

　　
// 编码所需的基本数字
　　
const (
　　
RuneError = '\uFFFD'     // 错误的 Rune 或 Unicode 代理字符
　　
RuneSelf  = 0x80         // ASCII 字符范围
　　
MaxRune   = '\U0010FFFF' // Unicode 码点的最大值
　　
UTFMax    = 4            // 一个字符编码的最大长度
　　
)
　　

　　
------------------------------------------------------------
　　

　　
// 将 r 转换为 UTF-8 编码写入 p 中（p 必须足够长，通常为 4 个字节）
　　
// 如果 r 是无效的 Unicode 字符，则写入 RuneError
　　
// 返回写入的字节数
　　
func EncodeRune(p []byte, r rune) int
　　

　　
// 解码 p 中的第一个字符，返回解码后的字符和 p 中被解码的字节数
　　
// 如果 p 为空，则返回（RuneError, 0）
　　
// 如果 p 中的编码无效，则返回（RuneError, 1）
　　
// 无效编码：UTF-8 编码不正确（比如长度不够）、结果超出 Unicode 范围、编码不是最短的。
　　
// 关于最短编码：可以用四个字节编码一个单字节字符，但它不是最短的，比如：
　　
// [111100000 10000000 10000000 10111000] 不是最短的，应该使用 [00111000]

　　
func DecodeRune(p []byte) (r rune,>　　

　　
// 功能同上，参数为字符串

　　
func DecodeRuneInString(s string) (r rune,>　　

　　
// 解码 p 中的最后一个字符，返回解码后的字符，和 p 中被解码的字节数
　　
// 如果 p 为空，则返回（RuneError, 0）
　　
// 如果 p 中的编码无效，则返回（RuneError, 1）

　　
func DecodeLastRune(p []byte) (r rune,>　　

　　
// 功能同上，参数为字符串

　　
func DecodeLastRuneInString(s string) (r rune,>　　

　　
// FullRune 检测 p 中第一个字符的 UTF-8 编码是否完整（完整并不表示有效）。
　　
// 一个无效的编码也被认为是完整字符，因为它将被转换为一个 RuneError 字符。
　　
// 只有“编码有效但长度不够”的字符才被认为是不完整字符。
　　
// 也就是说，只有截去一个有效字符的一个或多个尾部字节，该字符才算是不完整字符。
　　
// 举例：
　　
// "好"     是完整字符
　　
// "好"[1:] 是完整字符（首字节无效，可转换为 RuneError 字符）
　　
// "好"[2:] 是完整字符（首字节无效，可转换为 RuneError 字符）
　　
// "好"[:2] 是不完整字符（编码有效但长度不够）
　　
// "好"[:1] 是不完整字符（编码有效但长度不够）
　　
func FullRune(p []byte) bool
　　

　　
// 功能同上，参数为字符串
　　
func FullRuneInString(s string) bool
　　

　　
// 返回 p 中的字符个数
　　
// 错误的 UTF8 编码和长度不足的 UTF8 编码将被当作单字节的 RuneError 处理
　　
func RuneCount(p []byte) int
　　

　　
// 功能同上，参数为字符串
　　
func RuneCountInString(s string) (n int)
　　

　　
// RuneLen 返回需要多少字节来编码字符 r，如果 r 是无效的字符，则返回 -1
　　
func RuneLen(r rune) int
　　

　　
// 判断 b 是否为 UTF8 字符的首字节编码，最高位(bit)是不是 10 的字节就是首字节。
　　
func RuneStart(b byte) bool
　　

　　
// Valid 判断 p 是否为完整有效的 UTF8 编码序列。
　　
func Valid(p []byte) bool
　　

　　
// 功能同上，参数为字符串
　　
func ValidString(s string) bool
　　

　　
// ValidRune 判断 r 能否被正确的转换为 UTF8 编码
　　
// 超出 Unicode 范围的码点或 UTF-16 代理区中的码点是不能转换的
　　
func ValidRune(r rune) bool
　　

　　
------------------------------
　　

　　
// 示例
　　
func main() {
　　
b := make([]byte, utf8.UTFMax)
　　

　　
n := utf8.EncodeRune(b, '好')
　　
fmt.Printf("%v：%v\n", b, n) // [229 165 189 0]：3
　　

　　
r, n := utf8.DecodeRune(b)
　　
fmt.Printf("%c：%v\n", r, n) // 好：3
　　

　　
s := "大家好"
　　
for i := 0; i < len(s); {
　　
r, n = utf8.DecodeRuneInString(s[i:])
　　
fmt.Printf("%c：%v   ", r, n) // 大：3   家：3   好：3
　　
i += n
　　
}
　　
fmt.Println()
　　

　　
for i := len(s); i > 0; {
　　
r, n = utf8.DecodeLastRuneInString(s[:i])
　　
fmt.Printf("%c：%v   ", r, n) // 好：3   家：3   大：3
　　
i -= n
　　
}
　　
fmt.Println()
　　

　　
b = []byte("好")
　　
fmt.Printf("%t, ", utf8.FullRune(b))     // true
　　
fmt.Printf("%t, ", utf8.FullRune(b[1:])) // true
　　
fmt.Printf("%t, ", utf8.FullRune(b[2:])) // true
　　
fmt.Printf("%t, ", utf8.FullRune(b[:2])) // false
　　
fmt.Printf("%t\n", utf8.FullRune(b[:1])) // false
　　

　　
b = []byte("大家好")
　　
fmt.Println(utf8.RuneCount(b)) // 3
　　

　　
fmt.Printf("%d, ", utf8.RuneLen('A'))          // 1
　　
fmt.Printf("%d, ", utf8.RuneLen('\u03A6'))     // 2
　　
fmt.Printf("%d, ", utf8.RuneLen('好'))          // 3
　　
fmt.Printf("%d, ", utf8.RuneLen('\U0010FFFF')) // 4
　　
fmt.Printf("%d\n", utf8.RuneLen(0x1FFFFFFF))   // -1
　　

　　
fmt.Printf("%t, ", utf8.RuneStart("好"[0])) // true
　　
fmt.Printf("%t, ", utf8.RuneStart("好"[1])) // false
　　
fmt.Printf("%t\n", utf8.RuneStart("好"[2])) // false
　　

　　
b = []byte("你好")
　　
fmt.Printf("%t, ", utf8.Valid(b))     // true
　　
fmt.Printf("%t, ", utf8.Valid(b[1:])) // false
　　
fmt.Printf("%t, ", utf8.Valid(b[2:])) // false
　　
fmt.Printf("%t, ", utf8.Valid(b[:2])) // false
　　
fmt.Printf("%t, ", utf8.Valid(b[:1])) // false
　　
fmt.Printf("%t\n", utf8.Valid(b[3:])) // true
　　

　　
fmt.Printf("%t, ", utf8.ValidRune('好'))        // true
　　
fmt.Printf("%t, ", utf8.ValidRune(0))          // true
　　
fmt.Printf("%t, ", utf8.ValidRune(0xD800))     // false  代理区字符
　　
fmt.Printf("%t\n", utf8.ValidRune(0x10FFFFFF)) // false  超出范围
　　
}
　　

　　
------------------------------------------------------------