开源Nginx 文件上传服务器。ngx_upload_module+web.py+gevent+varnish前端缓存

wanmin444

　　最近参与公司一项目，当中需使用图片与音频的存储方案，经过多方面考虑，采用了Nginx的ngx_upload_module作为上传前端，python web.py+gevent作为后端文件处理及生成缩略图方式，配合使用Varnish作为http缓存。整体架构与性能上应该比较理想。
　　前期由于考虑了分布式存储，大量地实验与尝试了fastDFS，感觉的确是小文件存储方案里面比较优秀的，但是由于对fastDFS的不熟悉与稳定性的考虑，暂时放下。
　　实现时，参考了大量py-graphic-0.1.1的思路，感谢作者。
　　https://code.google.com/p/py-graphic/
　　
　　1、实现原理
　　由Nginx+nginx_upload_module实现接收http Post请求，并将用户文件保存到nginx.conf指定的位置，这些文件信息从原始请求体中分离并根据nginx.conf中的配置重新组装好上传参数，交由upload_pass指定的段处理，从而允许处理任意上传文件。每个上传文件中的file字段值被一系列的upload_set_form_field指令值替换。每个上传文件的内容可以从$upload_tmp_path变量读取，或者可以将文件转移到目的目录下。上传的文件移除可以通过upload_cleanup指令控制。如果请求的方法不是POST，模块将返回405错误(405 Not Allowed)，该错误提示可以通过error_page指令处理。
　　     upload_pass指定为proxy_pass地址，将上传结果转由gevent+web.py进行处理。通过web.input()获取所有参数，包括文件实际路径与大小，Md5等字段。如果是图片格式，则通过pgmagick组件对图片进能剪栽切割生成缩略图。然后将原图与缩略图保存到web目录下，最后对客户端返回JSON格式的Varnish缓存地址。
　　
　　2、所需用到的依赖项
　　    以CentOS 最小化安装为例。



yum -y install gcc gcc-c++ autoconf make python python-devel libjpeg libjpeg-devel libpng libpng-devel freetype freetype-devel libxml2 libxml2-devel zlib zlib-devel glibc glibc-devel glib2 glib2-devel bzip2 bzip2-devel ncurses ncurses-devel curl curl-devel e2fsprogs e2fsprogs-devel krb5 krb5-devel libidn libidn-devel openssl openssl-devel openldap openldap-devel nss_ldap openldap-clients openldap-servers
　　
　　　单独编译安装：      



boost_1_50_0
setuptools-0.6c11-py2.6.egg
gevent-1.0rc2
GraphicsMagick-1.3.16
pcre-8.10
pgmagick-0.5.4

　　安装Nginx + ngx_upload_module 2.2。
　　安装过程可以参考http://blog.s135.com/nginx_php_v6/
　　3、配置nginx.conf
　　具体ngx_upload_module配置参数，请参考官网。



user www www;
worker_processes  4;
error_log /*自定义路径*/nginx_error.log crit;
pid        /usr/local/nginx/nginx.pid;
worker_rlimit_nofile 65535;
events {
use epoll;
worker_connections  65535;
}
http {
include       mime.types;
default_type  application/octet-stream;
server_names_hash_bucket_size 128;
client_header_buffer_size 32k;
large_client_header_buffers 4 32k;
client_max_body_size 20m;
sendfile on;
tcp_nopush     on;
keepalive_timeout 60;
tcp_nodelay on;
gzip on;
gzip_min_length  1k;
gzip_buffers     4 16k;
gzip_http_version 1.0;
gzip_comp_level 2;
gzip_types       text/plain application/x-javascript text/css application/xml;
gzip_vary on;
server {
listen      9000;
server_name  localhost;
location / {
index  index.html index.htm;
root /自定义路径;
}

location /PicUpload {
upload_pass /PicProccess;
upload_store /*自定义路径*/ 1;
upload_store_access user:r;
upload_set_form_field $upload_field_name.name "$upload_file_name";
upload_set_form_field $upload_field_name.content_type "$upload_content_type";
upload_set_form_field $upload_field_name.path "$upload_tmp_path";
upload_aggregate_form_field "$upload_field_name.md5" "$upload_file_md5";
upload_aggregate_form_field "$upload_field_name.size" "$upload_file_size";
upload_pass_form_field "^uid$|^thumb$";  #指定用户ID与缩略图尺寸，例如100x100
upload_cleanup 400 404 499 500-505;  #遇到这些码，就清除上传内容。
}
location /VoiceUpload {
upload_pass /VoiceProccess;
upload_store /*自定义路径*/ 1;
upload_store_access user:r;
upload_set_form_field $upload_field_name.name "$upload_file_name";
upload_set_form_field $upload_field_name.content_type "$upload_content_type";
upload_set_form_field $upload_field_name.path "$upload_tmp_path";
upload_aggregate_form_field "$upload_field_name.md5" "$upload_file_md5";
upload_aggregate_form_field "$upload_field_name.size" "$upload_file_size";
upload_pass_form_field "^uid$";  #post带uid域
upload_cleanup 400 404 499 500-505;
}
location /PicProccess {
proxy_pass http://127.0.0.1:9020/PicUpload;
        }
location /VoiceProccess {
proxy_pass http://127.0.0.1:9020/VoiceUpload;
        }
error_page   500 502 503 504  /50x.html;
location = /50x.html {
root   /自定义路径;
}
log_format access '$remote_addr - $remote_user[$time_local] "$request"'
'$status $body_bytes_sent "$http_referer"'
'$http_user_agent" $http_x_forwarded_for';
access_log /日志路径/nginx_access.log access;
}
}
　　4、　创建upload_store 存储位置。
　　由于ngx_upload_module是散列存储，所以子目录需要包含 0 1 2 3 4 5 6 7 8 9 十个目录。
　　具体可参考http://www.grid.net.ru/nginx/upload.en.html
　　5、开源Github地址
　　https://github.com/vovolie/nginx_upload
　　十分简单的代码，可随意修改。
　　目录结构
　　bin : 包括Daemon守护进程，wsgiServer.py主程序。
　　conf:日志配置与程序配置文件。
　　log:日志存放位置。
　　test:post测试的小程序。
　　6、安装varnish，如果是同一台服务器，需指定不同的端口，在conf配置文件中进行修改返回的地址。