Go语言中的UTF-8实现


Posted in Golang onApril 26, 2021

计算机刚诞生的时候,计算机内的字符可以全部由 ASCII 来表示,ASCII 字符的长度是 7 位,可以表示 128 个字符,对于美国等国家来说是够了,但是对于世界上的其他国家,特别是东亚国家,文字不是由字母组成,汉字就有几万个,ASCII 码根本不够用。

字符本质就是对应计算机中的一个数值,既然不够用,那么解决方法就是把这个范围扩大,Unicode 的出现就解决了这个问题,它包括了世界上所有的字符,每一个字符都对应一个数值,这个数值被称之为 Unicode 码点。

但是 Unicode 也不是没有缺点,因为表示的范围大,所以每一个 Unicode 都需要 4 个字节来表示,但是对于原本的 ASCII 编码,本来只需要一个字节,现在也需要 4个字节,这样会浪费很多存储。

UTF-8 的出现解决了这个问题,它解决问题的思路是让每个字符选择自己的大小,需要多少字节就用多少。对于占不同字节的字符,有不同的表示格式:

  • 1 字节:0xxxxxxx
  • 2 字节:110xxxxx 10xxxxxx
  • 3 字节:1110xxxx 10xxxxxx 10xxxxxx
  • 4 字节:11110xxx 10 xxxxxx 10xxxxxx 10xxxxxx

通过识别每个字符串的头部来判断占几个字节。

每个 Unicode 字符都对应一个码点,在字符串中,可以对码点进行转义,使用 \uhhhh 表示 16 位码点,使用 \Uhhhhhhhh 来表示 32 位码点,每一个 h 都代表一个十六进制的数字。

这里有一点比较特殊,对于码点值小于 256 的文字符号可以使用单个十六进制的数字来表示,比如 'A' 可以使用 '\x41' 来表示,对于大于 256 的码点,就必须使用 \u 或者 \U 来转义。

Go 语言对于 UTF-8 的支持很好,这里有一点很有意思,Go 语言的两位作者 Ken Thompson 和 Rob Pike 同时也是 UTF-8 的发明者,Go 语言对 UTF-8 的支持赢在起跑线。

Go 语言总是使用 UTF-8 来处理源文件,同时也是优先使用 UTF-8 来处理字符串。所以上面说到的那些 Unicode 字符的转义被 Go 直接处理,比如下面三个字符串在 Go 语言中是等价的:

"世界"
"\u4e16\u754c"
"\U00004e16\U0000u754c"

Go 字符串使用只读的 []byte 来存储,所以字符串值是不变的,这样做更安全,效率也很高:

s := "left root"
t := s
s += ", right root"

fmt.Println(s) // left root, right root
fmt.Println(t) // left root

在上面的例子中, s 的值出现了变化,但是 t 的值还是旧的字符串。由于是 [] byte 是 slice 类型,所以字符串的截取操作效率很高,但是在字符串截取的过程中,就会出现一些坑。
Go 中的字符串底层使用了只读的 []byte 来存储,所以**本质上 Go 语言中的字符串是使用字节来表示,而不是字符表示,**理解这一点很重要。

str := "hello world"
fmt.Println(str[:2]) // he

str = "你好,世界"
fmt.Println(str[:2]) // ��,这个符号用来表示 UTF-8 里面的未知字符,码点是

非 ASCII 码的字符一般占用的字节会超过一个,如果直接截取,就会导致截取不到正确的位置,从而乱码。在上面的例子中,一个中文字符占 3 个字节,只有严格按照字节数来截取才能获取到显示正常的字符:

str = "你好,世界"
fmt.Println(str[:3]) // 你

那么在这个时候,如果要按照字符截取,就需要把字符串转成 []rune,每个 rune 都代表一个 UTF-8 中的码点,对 []rune 按照字符截取就不会出现乱码:

str = "你好,世界"
runeStr := []rune(str)
fmt.Println(string(runeStr[:1])) // 你

把字符串转成 []rune,就是把字符串转成 UTF-8 码点,而不是 []byte,rune 其实就是 int32 类型。

Go 语言中有一个专门 unicode/utf8 包来处理 utf8 字符。由于每个字符占据的字节可能不一样,所以字符数和字节数大小是两回事:

s := "Hello, 世界" // 逗号是半角符号
fmt.Println(len(s))                    // 13
fmt.Println(utf8.RuneCountInString(s)) // 9

如果要获取字符占据的总字节数,就使用 len 方法,如果需要计算字符的个数,那就需要使用 utf8.RuneCountInString 方法。
这个包里面还提供了其他常用函数:

// 判断是否符合 utf8 编码:
func Valid(p []byte) bool
func ValidRune(r rune) bool
func ValidString(s string) bool
// 判断 rune 所占的字节数
func RuneLen(r rune) int
// 判断字节串或者字符串中的 rune 字符数
func RuneCount(p []byte) int
func RuneCountInString(s string) int
// 对 rune 的编码和解码
func EncodeRune(p []byte, r rune) int
func DecodeRune(p []byte) (r rune, size int)
func DecodeRuneInString(s string) (r rune, size int)
func DecodeLastRune(p []byte) (r rune, size int)
func DecodeLastRuneInString(s string) (r rune, size int)

除了 utf8 包之外, unicode 包对提供了一系列 IsXX 函数来 rune 的检查:

func Is(rangeTab *RangeTable, r rune) bool // 是否是 RangeTable 类型的
func In(r rune, ranges ...*RangeTable) bool  // 是否是 ranges 中任意一个类型的字符
func IsControl(r rune) bool  // 是否是控制字符
func IsDigit(r rune) bool  // 是否是阿拉伯数字字符,即 0-9
func IsGraphic(r rune) bool // 是否是图形字符
func IsLetter(r rune) bool // 是否是字母
func IsLower(r rune) bool // 是否是小写字符
func IsMark(r rune) bool // 是否是符号字符
func IsNumber(r rune) bool // 是否是数字字符,包含罗马数字
func IsOneOf(ranges []*RangeTable, r rune) bool // 是否是 RangeTable 中的一个
func IsPrint(r rune) bool // 是否是可打印字符
func IsPunct(r rune) bool // 是否是标点符号
func IsSpace(r rune) bool // 是否是空格
func IsSymbol(r rune) bool // 是否符号字符
func IsTitle(r rune) bool // 字符串中的每个单词的第一个字符是否是大写
func IsUpper(r rune) bool // 是否是大写字符

RangeTable 是对所有 Unicode 字符的分类,比如验证一个字符是否是汉字:

r := '中'
result := unicode.Is(unicode.Han, r)
fmt.Println(result) // true

其中 unicode.Han 就是 RangeTable 类型,表示汉字。

到此这篇关于Go语言中的UTF-8实现的文章就介绍到这了,更多相关Go语言UTF-8内容请搜索三水点靠木以前的文章或继续浏览下面的相关文章希望大家以后多多支持三水点靠木!

Golang 相关文章推荐
基于go interface{}==nil 的几种坑及原理分析
Apr 24 Golang
golang 实现菜单树的生成方式
Apr 28 Golang
关于golang高并发的实现与注意事项说明
May 08 Golang
Golang中异常处理机制详解
Jun 08 Golang
再次探讨go实现无限 buffer 的 channel方法
Jun 13 Golang
go语言使用Casbin实现角色的权限控制
Jun 26 Golang
Go 语言下基于Redis分布式锁的实现方式
Jun 28 Golang
golang中字符串MD5生成方式总结
Jul 04 Golang
入门学习Go的基本语法
Jul 07 Golang
Go语言安装并操作redis的go-redis库
Apr 14 Golang
golang使用map实现去除重复数组
Apr 14 Golang
Go gorilla securecookie库的安装使用详解
Aug 14 Golang
golang中实现给gif、png、jpeg图片添加文字水印
Apr 26 #Golang
Go语言带缓冲的通道实现
Apr 26 #Golang
go语言求任意类型切片的长度操作
Apr 26 #Golang
golang如何去除多余空白字符(含制表符)
Apr 25 #Golang
用golang如何替换某个文件中的字符串
Apr 25 #Golang
Golang 正则匹配效率详解
golang正则之命名分组方式
Apr 25 #Golang
You might like
PHP文件上传类实例详解
2016/04/08 PHP
header与缓冲区之间的深层次分析
2016/07/30 PHP
PHP编写daemon process详解及实例代码
2016/09/30 PHP
php中preg_replace正则替换用法分析【一次替换多个值】
2017/01/17 PHP
php微信公众号开发之简答题
2018/10/20 PHP
Yii框架中用response保存cookie,用request读取cookie的原理解析
2019/09/04 PHP
关于javascript 回调函数中变量作用域的讨论
2009/09/11 Javascript
理解Javascript_14_函数形式参数与arguments
2010/10/20 Javascript
推荐30个新鲜出炉的精美 jQuery 效果
2012/03/26 Javascript
javascript中input中readonly和disabled区别介绍
2012/10/23 Javascript
jquery怎样实现ajax联动框(一)
2013/03/08 Javascript
JS小游戏之宇宙战机源码详解
2014/09/25 Javascript
JS实现图片放大镜效果的方法
2015/02/27 Javascript
JS实现可点击展开与关闭的左侧广告代码
2015/09/02 Javascript
原生JS+HTML5实现跟随鼠标一起流动的粒子动画效果
2018/05/03 Javascript
vue监听键盘事件的快捷方法【推荐】
2018/07/11 Javascript
Node.js操作系统OS模块用法分析
2019/01/04 Javascript
VueJs里利用CryptoJs实现加密及解密的方法示例
2019/04/29 Javascript
浅谈layui 数据表格前后台传值的问题
2019/09/12 Javascript
js实现滑动滑块验证登录
2020/07/24 Javascript
vue仿携程轮播图效果(滑动轮播,下方高度自适应)
2021/02/11 Vue.js
自己编程中遇到的Python错误和解决方法汇总整理
2015/06/03 Python
python实现指定文件夹下的指定文件移动到指定位置
2018/09/17 Python
Python递归函数特点及原理解析
2020/03/04 Python
opencv 查找连通区域 最大面积实例
2020/06/04 Python
将tf.batch_matmul替换成tf.matmul的实现
2020/06/18 Python
Python 如何查找特定类型文件
2020/08/17 Python
python破解同事的压缩包密码
2020/10/14 Python
matplotlib绘制正余弦曲线图的实现
2021/02/22 Python
Linux的文件类型
2016/07/05 面试题
如何利用cmp命令比较文件
2013/09/23 面试题
电脑专业个人求职信范文
2014/02/04 职场文书
教师个人剖析材料
2014/02/05 职场文书
承诺书样本
2014/08/30 职场文书
2015新学期家长寄语
2015/02/26 职场文书
再读《皇帝的新衣》的读后感悟!
2019/08/07 职场文书