设为首页 收藏本站
查看: 1474|回复: 0

[经验分享] 通过redis扩展分布式存储fastdfs的数据对应及方案

[复制链接]

尚未签到

发表于 2018-11-7 09:19:15 | 显示全部楼层 |阅读模式
  前言:
  周天被朋友拖住了,他说最近要实现一个文件分享的网站,一个是图片,一个是特定的文件,比如压缩包、pdf这类的。 他是做idc的,手里的资源还是不少的, 想通过文件分享网站来导入点所谓的流量。哥年轻时跟他搞过一个php的淘宝图片站,结果有个卖衣服的站点,流量很大,成本太高了,再说也没钱再次投入了,也就放弃 ~   没赚多少钱,倒是赔给那几个淘宝卖家100多块钱。  想起往事,还算有趣的 ~
  现在的我以前不是当初菜鸟的我了,google了半天,从别地方,拔下来一个html模板,而且还是很高端的样子,后端是用pyton的tornado框架改了改,跑了几个实例都是没有问题的 ~
  实现的方法简单的
  上传
  建立表单,文件上传,然后写如到tmp目录的下,调用自己写的python fastdfs模块上传文件。也可以放到目录后,用inotify 来做文件的监控,触发文件后,就上传到fastdfs分布式存储里面。
  下载
  可以通过fastdfs本身的web做下载连接,但是为了更高的性能,推荐使用nginx fastdfs模块来实现的下载,给朋友也是这么做的。
  (还没有正式的上线,嘿嘿)
  subprocess 调用系统的fastdfs客户端
上传文件:/usr/local/bin/fdfs_upload_file     tornado的文件上传api
def post(self):  upload_path=os.path.join(os.path.dirname(__file__),'files')  #文件的暂存路径
  file_metas=self.request.files['file']    #提取表单中‘name’为‘file’的文件元数据
  for meta in file_metas:
  filename=meta['filename']
  filepath=os.path.join(upload_path,filename)
  with open(filepath,'wb') as up:      #有些文件需要已二进制的形式存储,实际中可以更改
  up.write(meta['body'])
  self.write('finished!')
  
app=tornado.web.Application([
  (r'/file',UploadFileHandler),
  
])
DSC0000.jpg

  一般来说,上传后得到的文件名字,是一串hash,和以前的名字比起来不太一样。
  举个例子,我明明上传的文件时 xiaorui.jpg,结果fastdfs接口给我返回的是 一堆的hash ,这是在让人有点小郁闷。
  我这里还只是图片的应用,后期文件功能出来后,让人看到的都是hash,你都不能通过hash想象出他的文件。
DSC0001.jpg

  查看了uc那边的技术博客,扩展了一套简单的路子。
  
  这边用到的是   nginx tornado  jquery bootstrap
  
  1.   应用系统在上传文件到FastDFS成功时将原始文件名和“文件索引(FID)”保存下来,我这里会记录在redis里面。
  2.  在浏览器下载的时用Nginx的域名和FID拼出url,在url后面增加一个参数,指定原始文件名。例如: xxx.xx.xx.xx/group2/M00/00/89/eQ6h3FKJf_PRl8p4AUz4wO8tqaA688.apk?attname=xiaorui.cc
  3. 在Nginx上进行如下配置,这样Nginx就会截获url中的参数attname,在Http响应头里面加上字段 Content-Disposition “attachment;filename=$arg_attname”。
location /group1/M00 {  
root /data/store/data1;
  
if ($arg_attname ~ "^(.*).cc") {
  add_header Content-Disposition "attachment;filename=$arg_attname";
  
}
  
ngx_fastdfs_module;
  
}
  
location /group2/M00 {
  
root /data/store/data2;
  
if ($arg_attname ~ "^(.*).cc") {
  add_header Content-Disposition "attachment;filename=$arg_attname";
  
}
  
ngx_fastdfs_module;
  
}
  4.   浏览器发现响应头里面有Content-Disposition “attachment;filename=$arg_attname”时,就会把文件名显示成filename指定的名称。
  大家可以测试下,原来就是给用户的url多出一个get参数,用nginx识别到之后,插入到header头信息Content-Disposition 协议。
  到半夜为止,和哥们一块已经实现了该项目的大部门网络框架,当然前端的nginx
  是用kvm虚拟机做的,毕竟7层对io需求不是很大。针对nginx做的轮训是在代码
  层面实现的。
DSC0002.jpg

  好了,就这样吧。 这fastdfs真是个好东西 ! 特别适合以文件为载体的在线服
  务,如图片站,文件分享等等 !
  



运维网声明 1、欢迎大家加入本站运维交流群:群②:261659950 群⑤:202807635 群⑦870801961 群⑧679858003
2、本站所有主题由该帖子作者发表,该帖子作者与运维网享有帖子相关版权
3、所有作品的著作权均归原作者享有,请您和我们一样尊重他人的著作权等合法权益。如果您对作品感到满意,请购买正版
4、禁止制作、复制、发布和传播具有反动、淫秽、色情、暴力、凶杀等内容的信息,一经发现立即删除。若您因此触犯法律,一切后果自负,我们对此不承担任何责任
5、所有资源均系网友上传或者通过网络收集,我们仅提供一个展示、介绍、观摩学习的平台,我们不对其内容的准确性、可靠性、正当性、安全性、合法性等负责,亦不承担任何法律责任
6、所有作品仅供您个人学习、研究或欣赏,不得用于商业或者其他用途,否则,一切后果均由您自己承担,我们对此不承担任何法律责任
7、如涉及侵犯版权等问题,请您及时通知我们,我们将立即采取措施予以解决
8、联系人Email:admin@iyunv.com 网址:www.yunweiku.com

所有资源均系网友上传或者通过网络收集,我们仅提供一个展示、介绍、观摩学习的平台,我们不对其承担任何法律责任,如涉及侵犯版权等问题,请您及时通知我们,我们将立即处理,联系人Email:kefu@iyunv.com,QQ:1061981298 本贴地址:https://www.yunweiku.com/thread-631782-1-1.html 上篇帖子: Redis 在新浪微博中的应用 下篇帖子: Redis Sentinel集群方案--单机测试
您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

扫码加入运维网微信交流群X

扫码加入运维网微信交流群

扫描二维码加入运维网微信交流群,最新一手资源尽在官方微信交流群!快快加入我们吧...

扫描微信二维码查看详情

客服E-mail:kefu@iyunv.com 客服QQ:1061981298


QQ群⑦:运维网交流群⑦ QQ群⑧:运维网交流群⑧ k8s群:运维网kubernetes交流群


提醒:禁止发布任何违反国家法律、法规的言论与图片等内容;本站内容均来自个人观点与网络等信息,非本站认同之观点.


本站大部分资源是网友从网上搜集分享而来,其版权均归原作者及其网站所有,我们尊重他人的合法权益,如有内容侵犯您的合法权益,请及时与我们联系进行核实删除!



合作伙伴: 青云cloud

快速回复 返回顶部 返回列表