设为首页 收藏本站
查看: 606|回复: 0

[经验分享] 提高MySQL 导入导出测试

[复制链接]

尚未签到

发表于 2018-9-30 06:07:22 | 显示全部楼层 |阅读模式
  MySQL导出的SQL语句在导入时有可能会非常非常慢,在处理百万级数据的时候,可能导入要花几小时。在导出时合理使用几个参数,可以大大加快导 入的速度。
  -e 使用包括几个VALUES列表的多行INSERT语法;
  --max_allowed_packet=XXX 客户端/服务器之间通信的缓存区的最大大小;
  --net_buffer_length=XXX TCP/IP和套接字通信缓冲区大小,创建长度达net_buffer_length的行。
  注意:max_allowed_packet 和 net_buffer_length 不能比目标数据库的设定数值 大,否则可能出错。
  首先确定目标数据库的参数值
  mysql> show variables like 'max_allowed_packet';
  mysql> show variables like 'net_buffer_length';
  根据参数值书写 mysqldump 命令,如:
  # mysqldump -uroot -p dbhost -e --max_allowed_packet=16777216 --net_buffer_length=16384 > dbhost.sql
  OK,现在速度就很快了,主要注意的是导入和导出端的 max_allowed_packet 和 net_buffer_length 这2个参数值设定,弄大点就OK了
  其实,最快的方法,是直接COPY数据库目录,不过记得先停止 MySQL 服务。
  测试导出
  bblaishu数据库大小740M
  mysql> show variables like 'net_buffer_length';
  +-------------------+-------+
  | Variable_name     | Value |
  +-------------------+-------+
  | net_buffer_length | 16384 |
  +-------------------+-------+
  1 row in set (0.00 sec)
  mysql> show variables like 'max_allowed_packet';
  +--------------------+---------+
  | Variable_name      | Value   |
  +--------------------+---------+
  | max_allowed_packet | 1047552 |
  +--------------------+---------+
  1 row in set (0.00 sec)
  time mysqldump -uroot -p`cat /data/save/mysql_root` -T/data/test/test bblaishu -e --max_allowed_packet=1047552 --net_buffer_length=16384
  real    0m14.183s
  user    0m0.005s
  sys     0m0.003s
  mysql> show variables like 'net_buffer_length';
  +-------------------+-------+
  | Variable_name     | Value |
  +-------------------+-------+
  | net_buffer_length | 65536 |
  +-------------------+-------+
  1 row in set (0.00 sec)
  mysql> show variables like 'max_allowed_packet';
  +--------------------+---------+
  | Variable_name      | Value   |
  +--------------------+---------+
  | max_allowed_packet | 2096128 |
  +--------------------+---------+
  1 row in set (0.00 sec)
  time mysqldump -uroot -p`cat /data/save/mysql_root` -T/data/test/test bblaishu -e --max_allowed_packet=2096128 --net_buffer_length=65536
  real    1m8.397s
  user    0m0.007s
  sys     0m0.008s
  mysql> show variables like 'max_allowed_packet';
  +--------------------+---------+
  | Variable_name      | Value   |
  +--------------------+---------+
  | max_allowed_packet | 2096128 |
  +--------------------+---------+
  1 row in set (0.01 sec)
  mysql> show variables like 'net_buffer_length';
  +-------------------+-------+
  | Variable_name     | Value |
  +-------------------+-------+
  | net_buffer_length | 16384 |
  +-------------------+-------+
  1 row in set (0.00 sec)
  time mysqldump -uroot -p`cat /data/save/mysql_root` -T/data/test/test bblaishu -e --max_allowed_packet=2096128 --net_buffer_length=16384
  real    0m12.997s
  user    0m0.004s
  sys     0m0.007s
  结论:在将数据库导出的时候net_buffer_length默认就好,max_allowed_packet建议设置大一点,测试设置2M比较合适
  测试导入
  mysql> show variables like 'net_buffer_length';
  +-------------------+-------+
  | Variable_name     | Value |
  +-------------------+-------+
  | net_buffer_length | 16384 |
  +-------------------+-------+
  1 row in set (0.00 sec)
  mysql> show variables like 'max_allowed_packet';
  +--------------------+---------+
  | Variable_name      | Value   |
  +--------------------+---------+
  | max_allowed_packet | 1047552 |
  +--------------------+---------+
  1 row in set (0.00 sec)
  time mysqlimport --local -l -uroot -p`cat /data/save/mysql_root` bblaishu `find ./ -name "*.txt"`
  real    1m31.587s
  user    0m0.115s
  sys     0m0.409s
  mysql> show variables like 'max_allowed_packet';
  +--------------------+---------+
  | Variable_name      | Value   |
  +--------------------+---------+
  | max_allowed_packet | 2096128 |
  +--------------------+---------+
  1 row in set (0.00 sec)
  mysql> show variables like 'net_buffer_length';
  +-------------------+-------+
  | Variable_name     | Value |
  +-------------------+-------+
  | net_buffer_length | 65536 |
  +-------------------+-------+
  1 row in set (0.00 sec)
  time mysqlimport --local -l -uroot -p`cat /data/save/mysql_root` bblaishu `find ./ -name "*.txt"`
  real    1m31.524s
  user    0m0.122s
  sys     0m0.355s
  mysql> show variables like 'max_allowed_packet';
  +--------------------+---------+
  | Variable_name      | Value   |
  +--------------------+---------+
  | max_allowed_packet | 2096128 |
  +--------------------+---------+
  1 row in set (0.00 sec)
  mysql> show variables like 'net_buffer_length';
  +-------------------+-------+
  | Variable_name     | Value |
  +-------------------+-------+
  | net_buffer_length | 16384 |
  +-------------------+-------+
  1 row in set (0.00 sec)
  time mysqlimport --local -l -uroot -p`cat /data/save/mysql_root` bblaishu `find ./ -name "*.txt"`
  real    1m32.959s
  user    0m0.123s
  sys     0m0.429s
  结论:在导入的时候同样net_buffer_length默认就好,max_allowed_packet建议设置为2M


运维网声明 1、欢迎大家加入本站运维交流群:群②:261659950 群⑤:202807635 群⑦870801961 群⑧679858003
2、本站所有主题由该帖子作者发表,该帖子作者与运维网享有帖子相关版权
3、所有作品的著作权均归原作者享有,请您和我们一样尊重他人的著作权等合法权益。如果您对作品感到满意,请购买正版
4、禁止制作、复制、发布和传播具有反动、淫秽、色情、暴力、凶杀等内容的信息,一经发现立即删除。若您因此触犯法律,一切后果自负,我们对此不承担任何责任
5、所有资源均系网友上传或者通过网络收集,我们仅提供一个展示、介绍、观摩学习的平台,我们不对其内容的准确性、可靠性、正当性、安全性、合法性等负责,亦不承担任何法律责任
6、所有作品仅供您个人学习、研究或欣赏,不得用于商业或者其他用途,否则,一切后果均由您自己承担,我们对此不承担任何法律责任
7、如涉及侵犯版权等问题,请您及时通知我们,我们将立即采取措施予以解决
8、联系人Email:admin@iyunv.com 网址:www.yunweiku.com

所有资源均系网友上传或者通过网络收集,我们仅提供一个展示、介绍、观摩学习的平台,我们不对其承担任何法律责任,如涉及侵犯版权等问题,请您及时通知我们,我们将立即处理,联系人Email:kefu@iyunv.com,QQ:1061981298 本贴地址:https://www.yunweiku.com/thread-605907-1-1.html 上篇帖子: 关于Mysql服务自动停止的问题 下篇帖子: mysql-5.5.14安装笔记
您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

扫码加入运维网微信交流群X

扫码加入运维网微信交流群

扫描二维码加入运维网微信交流群,最新一手资源尽在官方微信交流群!快快加入我们吧...

扫描微信二维码查看详情

客服E-mail:kefu@iyunv.com 客服QQ:1061981298


QQ群⑦:运维网交流群⑦ QQ群⑧:运维网交流群⑧ k8s群:运维网kubernetes交流群


提醒:禁止发布任何违反国家法律、法规的言论与图片等内容;本站内容均来自个人观点与网络等信息,非本站认同之观点.


本站大部分资源是网友从网上搜集分享而来,其版权均归原作者及其网站所有,我们尊重他人的合法权益,如有内容侵犯您的合法权益,请及时与我们联系进行核实删除!



合作伙伴: 青云cloud

快速回复 返回顶部 返回列表