设为首页 收藏本站
查看: 688|回复: 0

[经验分享] Redis应用实践:小红书海量Redis存储之道

[复制链接]
发表于 2018-11-4 09:10:22 | 显示全部楼层 |阅读模式
  简介文字:
  小红书业务增长非常迅猛,保证数据存取效率的前提下,海量的SNS数据无法用传统型关系数据库去解决,同时爆发式的业务场景使小红书的研发团队更佳青睐于用非关系型数据库做主业务数据存储。为了应对快速增长的业务数据需求,小红书海量规模的使用了腾讯云redis(CRS),存储容量接近6T,在行业内算是超大海量规模的使用redis的互联网公司。
  作者简介
  陈环,腾讯云NoSQL产品经理,负责腾讯云redis,Mongodb,Hbase等产品策划和系统建设,研发推动腾讯云Redis产品的建设以及MongoDB的发布,长期关注NoSQL数据库在各个行业里的运用与发展。
  小红书大规模使用腾讯云redis(CRS),存储容量接近6T,在行业内算是海量规模的使用redis的互联网公司,在这里分享redis的存储之道。
  先说说案例情况:小红书是一家从社区起家的电商公司,2013年6月成立于上海,希望帮下一代消费者找到全世界的好东西。业务主要包括两个板块,UGC(用户原创内容)模式的海外购物分享社区,以及跨境电商“福利社”。小红书已经成立3年之久,目标群体包括18至35岁的中国女性。平台宣传注册用户达到1700万,曾先后获纪源资本和真格基金的投资。有数据显示,截止到2015年9月,小红书营收达7亿元。
  上云前的技术挑战:如何应对运维单实例上百G的挑战?
  业务数据快速增长,单个实例的数据量达到上百G,很快达到单机的物理瓶颈。 为了解决这一棘手问题,目前成熟的twemproxy对平滑扩容、故障恢复和集群管理方面多做得不够,运维和服务能力需要很多定制开发,社区的cluster版本对现有业务的兼容性和性能方面都不够理想。
  活动大促,如何扛住高并发的访问量?
  小红书大促活动首日24小时的销售额,已超过当月整月的总销量。两周注册用户增加300万。剧增的新增用户产生近200G的首页recommend数据需要快速读取,抢购活动时间点上,redis的网络流量高于20Gbps,远远高于单机网络瓶颈。受到单进程的约束,服务扩展能力受到很大的限制,在海量用户高并发场景下,怎么能扛住是一个难以绕开的问题。
  腾讯云CRS的应对方法
  多轮沟通后决定借助腾讯云CRS即基于QQ后台分布式存储系统、兼容redis协议的云服务, 数据以一致性hash的方式分布到多台机器上,单个集群支持上T的容量,可以扩容对业务无感知,目前小红书的单个实例数据量已经超过300G。在高并发访问的时刻,借助腾讯云CRS的分布式能力,多台机器分担流量请求,请求都在1ms内返回,轻松应对毫无压力。2名DBA就能稳健运维现网环境上百台机器,上千的数据库实例以及复杂的业务数据。
  云上的业务技术突破,6T存储!
  小红书业务增长非常迅猛,保证数据存取效率的前提下,海量的SNS数据无法用传统型关系数据库去解决,同时爆发式的业务场景使小红书的研发团队更佳青睐于用非关系型数据库做主业务数据存储。为了应对快速增长的业务数据需求,小红书海量规模的使用了腾讯云redis(CRS),存储容量接近6T,在行业内算是超大海量规模的使用redis的互联网公司。
  小红书云上业务基础架构

  目前小红书主要的业务数据分布在note集群,explore集群,recommend集群这三大redis存储集群。

  •   note集群1T主要存放用户缩发的内容数据,包括内容,时间,状态等基本元素信息。
  •   explore集群1T主要存放内容发现数据,对读写性能要求非常高。
  •   recommend集群2T主要存放首页feed个性化推荐内容数据,记录每个用户的推荐结果list数据,数据量非常之大。
  单机版实例和集群版实例混合部署,业务逻辑层路由到不同实例上,同时单机版实例存储量增长到一定容量的时候可以平滑的扩容大集群版。扩容过程中业务无中断。集群版可无上限了扩容,随时应对海量存储。
  腾讯云存储redis的介绍
  相比于自己搭建redis服务,云存储redis提供了一键生产,在线扩容,自动备份和监控告警等功能,旨在帮用户提供更为弹性的云存储服务和更为便捷的运维管理。

  •   支持分布式服-无缝升级,平滑扩容,不中断服务;支持事务操作
  •   稳定可靠-支持备份多拷贝,数据高可靠;主从热备,自动容灾,服务高可用;
  •   数据落地存储-支持数据持久化;支持数据操作流水日志;数据自动备份,多种恢复方式
  •   便捷管理-全web 管理, 提升运维效率;立体化监控,提前规避运营风险
  •   数据持久化-数据可持久化,且落地存储过程中不影响对外服务
  •   数据管理-备份回档一键式操作,支持自动备份
  •   自定义监控告警-通过浏览器即可查看CRS 丰富的性能监控数据,支持针对不同的监控项自定义阈值告警。
  2016年7月5日,诚邀您参与腾讯·“云+未来”生态峰会,与腾讯董事会主席马化腾先生及各界顶级企业家,国际专家一同,共探产业与互联网融合发展之道,推动互联网+生态圈发展。欢迎点击了解http://www.qcloud.com/event/tcc2016?utm_source=infoqlink&utm_medium=wzl&utm_campaign=infoQ


运维网声明 1、欢迎大家加入本站运维交流群:群②:261659950 群⑤:202807635 群⑦870801961 群⑧679858003
2、本站所有主题由该帖子作者发表,该帖子作者与运维网享有帖子相关版权
3、所有作品的著作权均归原作者享有,请您和我们一样尊重他人的著作权等合法权益。如果您对作品感到满意,请购买正版
4、禁止制作、复制、发布和传播具有反动、淫秽、色情、暴力、凶杀等内容的信息,一经发现立即删除。若您因此触犯法律,一切后果自负,我们对此不承担任何责任
5、所有资源均系网友上传或者通过网络收集,我们仅提供一个展示、介绍、观摩学习的平台,我们不对其内容的准确性、可靠性、正当性、安全性、合法性等负责,亦不承担任何法律责任
6、所有作品仅供您个人学习、研究或欣赏,不得用于商业或者其他用途,否则,一切后果均由您自己承担,我们对此不承担任何法律责任
7、如涉及侵犯版权等问题,请您及时通知我们,我们将立即采取措施予以解决
8、联系人Email:admin@iyunv.com 网址:www.yunweiku.com

所有资源均系网友上传或者通过网络收集,我们仅提供一个展示、介绍、观摩学习的平台,我们不对其承担任何法律责任,如涉及侵犯版权等问题,请您及时通知我们,我们将立即处理,联系人Email:kefu@iyunv.com,QQ:1061981298 本贴地址:https://www.yunweiku.com/thread-630480-1-1.html 上篇帖子: Redis复制与可扩展集群搭建 下篇帖子: 玩转Redis集群(上)
您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

扫码加入运维网微信交流群X

扫码加入运维网微信交流群

扫描二维码加入运维网微信交流群,最新一手资源尽在官方微信交流群!快快加入我们吧...

扫描微信二维码查看详情

客服E-mail:kefu@iyunv.com 客服QQ:1061981298


QQ群⑦:运维网交流群⑦ QQ群⑧:运维网交流群⑧ k8s群:运维网kubernetes交流群


提醒:禁止发布任何违反国家法律、法规的言论与图片等内容;本站内容均来自个人观点与网络等信息,非本站认同之观点.


本站大部分资源是网友从网上搜集分享而来,其版权均归原作者及其网站所有,我们尊重他人的合法权益,如有内容侵犯您的合法权益,请及时与我们联系进行核实删除!



合作伙伴: 青云cloud

快速回复 返回顶部 返回列表