设为首页 收藏本站
查看: 1403|回复: 0

[经验分享] Golang Tcp粘包处理(转)

[复制链接]

尚未签到

发表于 2018-9-20 10:22:24 | 显示全部楼层 |阅读模式
  在用golang开发人工客服系统的时候碰到了粘包问题,那么什么是粘包呢?例如我们和客户端约定数据交互格式是一个json格式的字符串:
  

{"Id":1,"Name":"golang","Message":"message"}  

  当客户端发送数据给服务端的时候,如果服务端没有及时接收,客户端又发送了一条数据上来,这时候服务端才进行接收的话就会收到两个连续的字符串,形如:
  

{"Id":1,"Name":"golang","Message":"message"}{"Id":1,"Name":"golang","Message":"message"}  

  如果接收缓冲区满了的话,那么也有可能接收到半截的json字符串,酱紫的话还怎么用json解码呢?真是头疼。以下用golang模拟了下这个粘包的产生。
  备注:下面贴的代码均可以运行于golang 1.3.1,如果发现有问题可以联系我。

粘包示例
  server.go

  

//粘包问题演示服务端  
package main
  

  
import (
  
"fmt"
  
"net"
  
"os"
  
)
  

  
func main() {
  
netListen, err := net.Listen("tcp", ":9988")
  
CheckError(err)
  

  
defer netListen.Close()
  

  
Log("Waiting for clients")
  
for {
  
conn, err := netListen.Accept()
  
if err != nil {
  
continue
  
}
  

  
Log(conn.RemoteAddr().String(), " tcp connect success")
  
go handleConnection(conn)
  
}
  
}
  

  
func handleConnection(conn net.Conn) {
  
buffer := make([]byte, 1024)
  
for {
  
n, err := conn.Read(buffer)
  
if err != nil {
  
Log(conn.RemoteAddr().String(), " connection error: ", err)
  
return
  
}
  
Log(conn.RemoteAddr().String(), "receive data length:", n)
  
Log(conn.RemoteAddr().String(), "receive data:", buffer[:n])
  
Log(conn.RemoteAddr().String(), "receive data string:", string(buffer[:n]))
  
}
  
}
  

  
func Log(v ...interface{}) {
  
fmt.Println(v...)
  
}
  

  
func CheckError(err error) {
  
if err != nil {
  
fmt.Fprintf(os.Stderr, "Fatal error: %s", err.Error())
  
os.Exit(1)
  
}
  
}
  

  

  

  client.go

  

//粘包问题演示客户端  
package main
  

  
import (
  
"fmt"
  
"net"
  
"os"
  
"time"
  
)
  

  
func sender(conn net.Conn) {
  
for i := 0; i < 100; i++ {
  
words := "{\"Id\":1,\"Name\":\"golang\",\"Message\":\"message\"}"
  
conn.Write([]byte(words))
  
}
  
}
  

  
func main() {
  
server := "127.0.0.1:9988"
  
tcpAddr, err := net.ResolveTCPAddr("tcp4", server)
  
if err != nil {
  
fmt.Fprintf(os.Stderr, "Fatal error: %s", err.Error())
  
os.Exit(1)
  
}
  

  
conn, err := net.DialTCP("tcp", nil, tcpAddr)
  
if err != nil {
  
fmt.Fprintf(os.Stderr, "Fatal error: %s", err.Error())
  
os.Exit(1)
  
}
  

  
defer conn.Close()
  

  
fmt.Println("connect success")
  

  
go sender(conn)
  

  
for {
  
time.Sleep(1 * 1e9)
  
}
  
}
  

  

  

  运行后查看服务端输出:

  golang粘包问题演示
  可以看到json格式的字符串都粘到一起了,有种淡淡的忧伤了——头疼的事情又来了。

粘包产生原因
  关于粘包的产生原因网上有很多相关的说明,主要原因就是tcp数据传递模式是流模式,在保持长连接的时候可以进行多次的收和发。如果要深入了解可以看看tcp协议方面的内容。这里推荐下鸟哥的私房菜,讲的非常通俗易懂。

粘包解决办法
  主要有两种方法:
  1、客户端发送一次就断开连接,需要发送数据的时候再次连接,典型如http。下面用golang演示一下这个过程,确实不会出现粘包问题。

  

//客户端代码,演示了发送一次数据就断开连接的  
package main
  

  
import (
  
"fmt"
  
"net"
  
"os"
  
"time"
  
)
  

  
func main() {
  
server := "127.0.0.1:9988"
  

  
for i := 0; i < 10000; i++ {
  
tcpAddr, err := net.ResolveTCPAddr("tcp4", server)
  
if err != nil {
  
fmt.Fprintf(os.Stderr, "Fatal error: %s", err.Error())
  
os.Exit(1)
  
}
  

  
conn, err := net.DialTCP("tcp", nil, tcpAddr)
  
if err != nil {
  
fmt.Fprintf(os.Stderr, "Fatal error: %s", err.Error())
  
os.Exit(1)
  
}
  

  
words := "{\"Id\":1,\"Name\":\"golang\",\"Message\":\"message\"}"
  
conn.Write([]byte(words))
  

  
conn.Close()
  
}
  

  
for {
  
time.Sleep(1 * 1e9)
  
}
  
}
  

  

  

  服务端代码参考上面演示粘包产生过程的服务端代码
  2、包头+数据的格式,根据包头信息读取到需要分析的数据。形式如下图:

  golang粘包问题包头定义
  从数据流中读取数据的时候,只要根据包头和数据长度就能取到需要的数据。这个其实就是平时说的协议(protocol),只是这个数据传输协议非常 简单,不像tcp、ip等协议有较多的定义。在实际的过程中通常会定义协议类或者协议文件来封装封包和解包的过程。下面代码演示了封包和解包的过程:
  protocol.go

  

//通讯协议处理,主要处理封包和解包的过程  
package protocol
  

  
import (
  
"bytes"
  
"encoding/binary"
  
)
  

  
const (
  
ConstHeader         = "www.01happy.com"
  
ConstHeaderLength   = 15
  
ConstSaveDataLength = 4
  
)
  

  
//封包
  
func Packet(message []byte) []byte {
  
return append(append([]byte(ConstHeader), IntToBytes(len(message))...), message...)
  
}
  

  
//解包
  
func Unpack(buffer []byte, readerChannel chan []byte) []byte {
  
length := len(buffer)
  

  
var i int
  
for i = 0; i < length; i = i + 1 {
  
if length < i+ConstHeaderLength+ConstSaveDataLength {
  
break
  
}
  
if string(buffer[i:i+ConstHeaderLength]) == ConstHeader {
  
messageLength := BytesToInt(buffer[i+ConstHeaderLength : i+ConstHeaderLength+ConstSaveDataLength])
  
if length < i+ConstHeaderLength+ConstSaveDataLength+messageLength {
  
break
  
}
  
data := buffer[i+ConstHeaderLength+ConstSaveDataLength : i+ConstHeaderLength+ConstSaveDataLength+messageLength]
  
readerChannel

运维网声明 1、欢迎大家加入本站运维交流群:群②:261659950 群⑤:202807635 群⑦870801961 群⑧679858003
2、本站所有主题由该帖子作者发表,该帖子作者与运维网享有帖子相关版权
3、所有作品的著作权均归原作者享有,请您和我们一样尊重他人的著作权等合法权益。如果您对作品感到满意,请购买正版
4、禁止制作、复制、发布和传播具有反动、淫秽、色情、暴力、凶杀等内容的信息,一经发现立即删除。若您因此触犯法律,一切后果自负,我们对此不承担任何责任
5、所有资源均系网友上传或者通过网络收集,我们仅提供一个展示、介绍、观摩学习的平台,我们不对其内容的准确性、可靠性、正当性、安全性、合法性等负责,亦不承担任何法律责任
6、所有作品仅供您个人学习、研究或欣赏,不得用于商业或者其他用途,否则,一切后果均由您自己承担,我们对此不承担任何法律责任
7、如涉及侵犯版权等问题,请您及时通知我们,我们将立即采取措施予以解决
8、联系人Email:admin@iyunv.com 网址:www.yunweiku.com

所有资源均系网友上传或者通过网络收集,我们仅提供一个展示、介绍、观摩学习的平台,我们不对其承担任何法律责任,如涉及侵犯版权等问题,请您及时通知我们,我们将立即处理,联系人Email:kefu@iyunv.com,QQ:1061981298 本贴地址:https://www.yunweiku.com/thread-598729-1-1.html 上篇帖子: Golang Programming Tips 下篇帖子: Golang之chan/goroutine(转)
您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

扫码加入运维网微信交流群X

扫码加入运维网微信交流群

扫描二维码加入运维网微信交流群,最新一手资源尽在官方微信交流群!快快加入我们吧...

扫描微信二维码查看详情

客服E-mail:kefu@iyunv.com 客服QQ:1061981298


QQ群⑦:运维网交流群⑦ QQ群⑧:运维网交流群⑧ k8s群:运维网kubernetes交流群


提醒:禁止发布任何违反国家法律、法规的言论与图片等内容;本站内容均来自个人观点与网络等信息,非本站认同之观点.


本站大部分资源是网友从网上搜集分享而来,其版权均归原作者及其网站所有,我们尊重他人的合法权益,如有内容侵犯您的合法权益,请及时与我们联系进行核实删除!



合作伙伴: 青云cloud

快速回复 返回顶部 返回列表