设为首页 收藏本站
查看: 1184|回复: 0

[经验分享] Zookeeper 3.3.3 Transaction Logs&Snapshot 序列化

[复制链接]

尚未签到

发表于 2015-11-22 09:15:37 | 显示全部楼层 |阅读模式
  Zookeeper Server持久化两类数据,Transaction以及Snapshot,logDir存储transaction命令,dataDir存储snap快照,其下子目录名称以version-2命名,子目录内部文件是分别以log.zxid和snapshot. lastProcessedZxid命名,每个目录下可以有很多个这样的文件,
  Transaction文件的文件名中zxid是文件中所有命令中zxid最小的zxid,而Snapshot中的lastProcessedZxid是最后一个操作的zxid,一般来讲是最大的zxid。
DSC0000.gif
  
  事务日志记录的是当前要操作的命令以及命令参数,可以认为是动态的,快照记录的是当前的ZK静态数据结构,包括ACL,节点树,session/临时节点对应关系,从下面的结构中可以分析到并没有持久化watch相关数据,watch是怎么搞后面我还得看看。

Transactionlog存储的文件格式:



LogFile:
FileHeader TxnList ZeroPad
FileHeader: {
magic 4bytes (ZKLG)
version 4bytes(2)
dbid 8bytes //该文件所属数据库
}
TxnList:
Txn || Txn TxnList
Txn:
checksum Txnlen TxnHeader Record 0x42
checksum: 8bytes Adler32 is currently used
calculated across payload -- Txnlen, TxnHeader, Record and 0x42
Txnlen:
len 4bytes
TxnHeader: {
sessionid 8bytes
cxid 4bytes//客户端的xid
zxid 8bytes//服务器事务xid
time 8bytes//服务器事务开始时间
type 4bytes//操作的类型
}
Record:
See Jute definition file for details on the various record types
ZeroPad:
0 padded to EOF (filled during preallocation stage)

  
可以查找最后一个zxid,查找zxid所在的文件,以及删除zxid以后的所有记录和文件。


Snapshot 文件格式:

FileSnap:
FileHeader sessionsData DataTree checksum  /[分割线]
FileHeader: {
magic 4bytes (ZKSN)
version 4bytes(2)
dbid 8bytes //该文件所属数据库
}
sessionsData:{
sessioncount 4bytes
sessionList
}
sessionList:
session || session
session:{
id 8bytes //sessionid
timeout 4bytes//过期时间
}
DataTree:
ACLS Nodes
ACLS:
Aclsize  acllist
Acllist:
longId acls
Acls:
Perms id{schema,id}
Nodes:
Path  node childnodes
Childnoes:
Path node childnodes
Node:
Data[bytes] acl[long]  stat[统计信息]

Stat:
Czxid  createNode时事务号
mzxid, createNode时与Czxid同,setData时的事务号
ctime  创建节点时间
mtime   createNode时与ctime相同,setData时间
version     createNode版本为0,setData的数据版本号
cversion  createNode版本为0,增加/删除子节点时父节点+1
aversion  createNode版本为0,setACL时节点的版本号
ephemeralOwner  临时节点表示sessionid,非临时节点这个值为0
pzxid  createNode时与Czxid同,增加/删除子节点时为子节点事务号

FileTxnSnapLog. Restore时会读取snapshot然后根据snapshot中lastProcessedZxid+1后读取命令log重做命令附加到DataTree上。

运维网声明 1、欢迎大家加入本站运维交流群:群②:261659950 群⑤:202807635 群⑦870801961 群⑧679858003
2、本站所有主题由该帖子作者发表,该帖子作者与运维网享有帖子相关版权
3、所有作品的著作权均归原作者享有,请您和我们一样尊重他人的著作权等合法权益。如果您对作品感到满意,请购买正版
4、禁止制作、复制、发布和传播具有反动、淫秽、色情、暴力、凶杀等内容的信息,一经发现立即删除。若您因此触犯法律,一切后果自负,我们对此不承担任何责任
5、所有资源均系网友上传或者通过网络收集,我们仅提供一个展示、介绍、观摩学习的平台,我们不对其内容的准确性、可靠性、正当性、安全性、合法性等负责,亦不承担任何法律责任
6、所有作品仅供您个人学习、研究或欣赏,不得用于商业或者其他用途,否则,一切后果均由您自己承担,我们对此不承担任何法律责任
7、如涉及侵犯版权等问题,请您及时通知我们,我们将立即采取措施予以解决
8、联系人Email:admin@iyunv.com 网址:www.yunweiku.com

所有资源均系网友上传或者通过网络收集,我们仅提供一个展示、介绍、观摩学习的平台,我们不对其承担任何法律责任,如涉及侵犯版权等问题,请您及时通知我们,我们将立即处理,联系人Email:kefu@iyunv.com,QQ:1061981298 本贴地址:https://www.yunweiku.com/thread-142000-1-1.html 上篇帖子: 【ZooKeeper异常】Error contacting service. It is probably not running. 下篇帖子: Zookeeper 3.3.3消息序列化格式解析
您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

扫码加入运维网微信交流群X

扫码加入运维网微信交流群

扫描二维码加入运维网微信交流群,最新一手资源尽在官方微信交流群!快快加入我们吧...

扫描微信二维码查看详情

客服E-mail:kefu@iyunv.com 客服QQ:1061981298


QQ群⑦:运维网交流群⑦ QQ群⑧:运维网交流群⑧ k8s群:运维网kubernetes交流群


提醒:禁止发布任何违反国家法律、法规的言论与图片等内容;本站内容均来自个人观点与网络等信息,非本站认同之观点.


本站大部分资源是网友从网上搜集分享而来,其版权均归原作者及其网站所有,我们尊重他人的合法权益,如有内容侵犯您的合法权益,请及时与我们联系进行核实删除!



合作伙伴: 青云cloud

快速回复 返回顶部 返回列表