设为首页 收藏本站
查看: 2767|回复: 0

[经验分享] 【转】FTP自动上传文件的perl脚本以及配置文件

[复制链接]
发表于 2015-12-27 18:13:51 | 显示全部楼层 |阅读模式
  这个perl文件将执行的任务是, 按照指定的文件夹目录,自动将该文件夹下的所有文件上传到指定ftp站点的指定目录下
  
  
  本应用程序设计的几个基本理念是:
工具箱再利用:尽可能利用已有的工具;
简化运行步骤;不引入过多的业务逻辑,满足的需求越简单越好。
  
  所以,我们定义了本应用程序依赖于以下几个工具的运行:
ActivePerl-5.8.4.810-MSWin32-x86
Upload.pl
Upload.config
  
  我们将主要的执行逻辑都放在Perl源文件Upload.pl中了,配置文件为Upload.config。
  
  这个perl文件将执行的任务是, 按照指定的文件夹目录,自动将该文件夹下的所有文件上传到指定ftp站点的指定目录下。
  
  这个Perl脚本实际是从Uwe Keim 的《Perl Script for uploading modified files to a FTP-Server》继承下来的,
只不过增加了容错反应和读取外部配置文件的部分,刨掉了与一般业务逻辑无关的读写access文件的部分。
  
  程序大致的流程:
第一步,尝试登陆ftp站点;
第二步,在指定文件夹A类下寻找符合条件的文件,并将A类文件上传到FTP站点指定目录下;
第三步,如果A类文件们全部上传成功,那么在指定文件夹B类下寻找指定文件, 并且上传到FTP指定目录下
第四步,写成功/失败日志。
最后,要写的成功/失败日志的格式如下:
成功: 生成一个名为“Upload_Succ_2005_01_04_17_23.log”的日志文件
文件格式:输出上传时间,以及所有上传文件名及其大小和耗费的时间。
失败: 生成一个名为“Upload_Fail_2005_01_04_17_23.log”的日志文件
文件格式:输出上传时间,以及已经上传的文件名及其大小和耗费的时间,和失败的文件名及原因。
  
  配置perl脚本运行有两个办法:
您可以在Windows计划任务中配置运行“Perl Upload.pl”的时间,这需要在Windows环境中配置ActivePerl 5.8.4.810;
您也可以利用Perl2Exe(p2x-8.40-Win32)来将perl脚本编译为一个exe可执行程序,在计划任务中运行这个exe(这需要PerlCRT.dll在系统路径下)。
  
  [注意!]在运行之前,您必须修改“Upload.config”文件以配置所需的重要参数。
外部配置参数
  
  在和perl脚本同一目录下的“Upload.config”配置文件中,是事先配置的六个外部参数:
参数1: ftp_server:
FTP服务器的IP地址。
  
  参数2: ftp_dir:
指定的FTP上传目录路径;
  
  参数3: ftp_uid:
FTP的登陆用户名;
  
  参数4: ftp_pw:
FTP的登陆密码;
  
  参数5: src_dir_WAVFiles,这是一个数组:
指定A类文件夹,放置所有要上传的语音文件;
注意:这个目录下的子文件夹也会被上传。
  
  参数6: src_dir_NamesListFile,这是一个数组:
指定B类文件夹,放置B类文件.
注意:这个目录下的子文件夹也会被上传。
  
  附录:
Upoad.pl内容:
  
  
  

复制代码代码如下:  


#!/usr/bin/perl -w
##--------------------------------
#
# 工程项目: FTP自动上传两类文件
#
# 模块名称: FTPAutoUpload
#
# 模块任务: 按照指定的文件夹目录,自动将该文件夹下的所有文件上传到指定ftp站点的指定目录下
#
# 程序名称:     Upload.pl
#
##-------------------------------
##---------------------------#
## 引用的库声明 2
#use strict;
use File::Copy;
use File::stat;
use File::Find;
use Net::FTP;
use Date::Pcalc qw(Delta_DHMS);
use Date::Parse;
use Win32::OLE;
use Win32::OLE::Variant;
##---------------------------#
##---------------------------#
## 引用的库声明 1
#- 读取ini配置文件的库
use Config::IniFiles;
my $cfg = Config::IniFiles->new( -file => "Upload.config" );
##---------------------------#
##---------------------------#
## 从配置文件读取外部参数 ##
##
## FTP服务器的IP地址 ##
$ftp_server    = $cfg->val('FTPServer', 'ftp_server') || '';
## 指定的FTP上传目录路径 ##
#! 切记:文件夹最后不要加"/"符号 !#
$ftp_dir    = $cfg->val('FTPServer', 'ftp_dir') || '';
## FTP的登陆用户名 ##
$ftp_uid   = $cfg->val('FTPServer', 'ftp_uid') || '';
## FTP的登陆密码 ##
$ftp_pw     = $cfg->val('FTPServer', 'ftp_pw') || '';
## 指定文件夹“语音文件”,放置所有要上传的语音文件 ##
#! 切记:文件夹最后不要加"\\"符号 !#
@src_dir_WAVFiles = $cfg->val('SrcDirectory', 'src_dir_WAVFiles');
## 指定文件夹“命名对照列表文件TXT”,放置命名对照列表文件 ##
#! 切记:文件夹最后不要加"\\"符号 !#
@src_dir_NamesListFile = $cfg->val('SrcDirectory', 'src_dir_NamesListFile');
## 一个字符串集合,表明哪些类型的文件/文件夹将不被上传到服务器 ##
@wc_exclude   = ("_vti",".mdb","\\bak","\\data","server.inc");
##---------------------------#
##---------------------------#
## 记录全部过程的日志文件准备
$logfilename = 'upload.log';
$log_cnt = 0;
LOG("");
LOG("自动上传FTP文件 Version 0.1");
LOG("");
LOG("用法: Perl Upload.pl");
LOG("");
##---------------------------#
##---------------------------#
##=== 程序执行的第一步:尝试登陆ftp站点 ==========================##
##  $total_files是上传文件的数目
$total_files = 0;
##  $processed_files是已上传文件的数目
$processed_files = 0;
##  $skipped_files是跳过文件的数目
$skipped_files = 0;
##  $start_date计算出当前开始的时间
$start_date = timeString(time);
## $g_nUploadSuccess代表是否已经完全上传,-1为不是,1为是:
my $g_nUploadSuccess = 1;
## $g_nIsAllWAVsFile_UploadSuccess代表是否已经完全将A类文件上传,-1为不是,1为是:
my $g_nIsAllWAVsFile_UploadSuccess = 1;
## $g_strLastError代表上次错误原因:
my $g_strLastError = "";
LOG("正在链接至指定FTP服务器($ftp_server)...");
$ftp = Net::FTP->new($ftp_server);
if($@)
{
$g_strLastError = "不能连接到FTP服务器,错误原因:".$@;
LOG("$g_strLastError@\n");
$g_nUploadSuccess = -1;
}
else
{
$ftp->login($ftp_uid, $ftp_pw);
if($@)
{
  $g_strLastError = "不能登陆FTP服务器,错误原因:".$@;
  LOG("$g_strLastError\n");
  $g_nUploadSuccess = -1;
}
else
{
  $ftp->binary;
  LOG("链接FTP服务器成功!");
##---------------------------#
##---------------------------#
##=== 程序执行的第二步,将指定A类文件夹下所有A类文件上传到FTP站点指定目录下 ===##
  my %lookup;
  LOG("准备上传“A类文件”目录(@src_dir_WAVFiles)下的所有文件!");
  find(\&processFiles, @src_dir_WAVFiles);
  LOG("目录(@src_dir_WAVFiles)已经处理完毕,结果是:");
##---------------------------#
##=== 程序执行的第三步,将指定B类文件夹下B类文件上传到FTP站点指定目录下 ===##
  if($g_nIsAllWAVsFile_UploadSuccess > 0)
  {
   LOG("+===============================+");
   LOG("准备上传B类目录(@src_dir_NamesListFile)下的所有文件!");
   find(\&processFiles, @src_dir_NamesListFile);
   LOG("目录(@src_dir_NamesListFile)已经处理完毕,结果是:");
   LOG("-===============================-");
  }
  else
  {
   LOG("-===============================-");
   LOG("由于A类文件目录并没有完全上传,所以本B类文件不上传!");
   LOG("-===============================-");
  }
##---------------------------#
##---------------------------#
# 日志文件的最后是一个统计报告
  $span = calcDeltaSeconds($start_date,timeString(time));
  LOG("上传结果:成功。\n花费:$span 秒, 总共处理了 $total_files 个文件, 其中 $processed_files 上传成功, 跳过了 $skipped_files 个文件。");
  $ftp->quit()         or warn "unable to quit: $@\n";
}
closeLogfile();
}
##---------------------------#
##---------------------------#
##=== 程序执行的第四步,写成功日志 ===============================##
if($g_nIsAllWAVsFile_UploadSuccess > 0 && $g_nUploadSuccess > 0)
{
$logfilename = 'Upload_Succ_'.shortTimeString(time).'.log';
$log_cnt = 0;
LOG("");
LOG("FTP自动上传文件 Version 0.1");
LOG("");
LOG("上传结果:成功。\n花费:$span 秒, 总共处理了 $total_files 个文件, 其中 $processed_files 上传成功, 跳过了 $skipped_files 个文件。");
LOG("");
closeLogfile();
}
##---------------------------#
##---------------------------#
##=== 程序执行的第四步,写失败日志 ===============================##
if($g_nIsAllWAVsFile_UploadSuccess < 0 || $g_nUploadSuccess < 0)
{
$logfilename = 'Upload_Fail_'.shortTimeString(time).'.log';
$log_cnt = 0;
LOG("");
LOG("FTP自动上传文件 Version 0.1");
LOG("");
LOG("上传结果:失败。失败原因:$g_strLastError。\n花费:$span 秒, 总共处理了 $total_files 个文件, 其中 $processed_files 上传成功, 跳过了 $skipped_files 个文件。");
LOG("");
closeLogfile();
}
##---------------------------#
## 以下是子函数体的定义
##----------------------------##
##
## 函数名称:processFiles
## 功能:   
##           得到指定文件夹下的所有文件以及子文件夹,然后依次处理它们。
##
## 程序员:  Uwe Keim
##
## 历史记录:
## 编号     日期       作者    备注
## 1        2000       Uwe Keim
##
##----------------------##
sub processFiles
{
my $srcdir = fsToBs($File::Find::dir);
my $srcpath = fsToBs($File::Find::name);
my $base = fsToBs($File::Find::topdir);
foreach my $exclude (@wc_exclude) {
  if ( index($srcpath, $exclude)>-1 ) {
   $File::Find::prune = 1 if -d $srcpath;
   return;
  }
}
# no DIRECT processing of directories.
if ( -d $srcpath ) {
  return;
}
my $dstdir = $srcdir;
my $dstpath = $srcpath;
$dstdir =~ s{\Q$base\E}{$ftp_dir}is;
$dstpath =~ s{\Q$base\E}{$ftp_dir}is;
$dstdir = bsToFs($dstdir);
$dstpath = bsToFs($dstpath);
processFile($srcpath,$dstpath,$dstdir);
}
sub processFile
{
my ($src,$dst,$dstdir) = @_;
$total_files++;
LOG("正在处理文件 $total_files \"$src\"...");
# --------------------
# check time.
my $need_upload = 0;
# create time.
my $t1 = $lookup{$src};
my $t2 = timeString(stat($src)->mtime);
if ( not defined $t1 ) {
  $lookup{$src} = $t2;
  $need_upload = 1;
} else {
  my $delta_sec = calcDeltaSeconds($t1,$t2);
  $need_upload = 1 if $delta_sec>5;     # 5 seconds as tolerance.
}
# --------------------
if ( $need_upload>0 ) {
  $processed_files++;
  LOG("正在上传文件:从源 \"$src\" 到目标 \"$dst\"...");
  $ftp->mkdir($dstdir,1);
  $ftp->put($src, $dst) or  $g_nIsAllWAVsFile_UploadSuccess=-1;
  if($g_nIsAllWAVsFile_UploadSuccess < 0)
  {
   LOG("不能上传文件:从源 \"$src\" 到目标 \"$dst\" (dst-dir: \"$dstdir\")。\n");
   if($@)
   {
    LOG("错误原因是:$@\n");
   }
  }
} else {
  $skipped_files++;
}
}
sub bsToFs {
my ($s) = @_;
$s =~ s/\\/\//gis;
return $s;
}
sub fsToBs {
my ($s) = @_;
$s =~ s/\//\\/gis;
return $s;
}
sub timeString {
my ($tm) = @_;
my ($sec,$min,$hour,$mday,$mon,$year,$wday,$yday,$isdst) = localtime($tm);
return sprintf("%04d-%02d-%02d %02d:%02d:%02d", $year+1900, $mon+1, $mday, $hour, $min, $sec);
}
sub shortTimeString {
my ($tm) = @_;
my ($sec,$min,$hour,$mday,$mon,$year,$wday,$yday,$isdst) = localtime($tm);
return sprintf("%04d_%02d_%02d_%02d_%02d", $year+1900, $mon+1, $mday, $hour, $min);
}
# input dates as string "YYYY-MM-DD HH:MM:SS".
# earlier as first parameter, later as second.
sub calcDeltaSeconds {
my ($t1,$t2) = @_;
my ($year1,$month1,$day1,$hh1,$mm1,$ss1) = scanDate($t1);
my ($year2,$month2,$day2,$hh2,$mm2,$ss2) = scanDate($t2);
my ($days, $hours, $minutes, $seconds) = Delta_DHMS(
  $year1, $month1, $day1, $hh1, $mm1, $ss1,     # earlier.
  $year2, $month2, $day2, $hh2, $mm2, $ss2);    # later.
return $seconds + $minutes*60 + $hours*60*60 + $days*60*60*24.
}
sub removeFilename {
my ($s) = @_;
my $pos = rindex($s,'\\');
return substr($s, 0, $pos);
}
# format: "2000-09-29 09:09:51".
sub scanDate {
my ($date) = @_;
my ($year, $month, $day, $hour, $minute, $seconds);
$year   = substr($date, 0, 4);
$month  = substr($date, 5, 2);
$day   = substr($date, 8, 2);
$hour   = substr($date, 11, 2);
$minute  = substr($date, 14, 2);
$seconds = substr($date, 17, 2);
return ($year, $month, $day, $hour, $minute, $seconds);
}
sub LOG {
my ($text) = @_;
my $time = timeString time;
# log to stdout.
print "[$time] $text\n";
# log to logfile.
my $LOG_STEP = 10;
flushLogfile() if ($log_cnt % $LOG_STEP)==0 or $log_cnt==0;
$log_cnt++;
print HLOG "[$time] $text\n";
}
sub openLogfile {
closeLogfile();
open(HLOG,">>$logfilename") or die("打开日志文件出错:文件名为 $logfilename ;错误原因为: $!");
};
sub closeLogfile {
close HLOG if defined HLOG;
}
sub flushLogfile {
closeLogfile();
openLogfile();
}
附录:
Upoad.config内容:
## 配置的外部参数 ##
##
[FTPServer]
#- FTP服务器的IP地址 -#
ftp_server   =
#- 指定的FTP上传目录路径 -#
#! 切记:文件夹最后不要加"/"符号 !#
ftp_dir       =
#- FTP的登陆用户名 -#
ftp_uid    =
#- FTP的登陆密码 -#
ftp_pw    =
## 配置的外部参数 ##
##
[SrcDirectory]
#- 指定文件夹“语音文件”,放置所有要上传的语音文件 -#
#! 切记:文件夹最后不要加"\"符号 !#
src_dir_WAVFiles  =
#- 指定文件夹“命名对照列表文件TXT”,放置命名对照列表文件 -#
#! 切记:文件夹最后不要加"\"符号 !#
src_dir_NamesListFile =  
  原文链接:http://www.iyunv.net/article/4979.htm

运维网声明 1、欢迎大家加入本站运维交流群:群②:261659950 群⑤:202807635 群⑦870801961 群⑧679858003
2、本站所有主题由该帖子作者发表,该帖子作者与运维网享有帖子相关版权
3、所有作品的著作权均归原作者享有,请您和我们一样尊重他人的著作权等合法权益。如果您对作品感到满意,请购买正版
4、禁止制作、复制、发布和传播具有反动、淫秽、色情、暴力、凶杀等内容的信息,一经发现立即删除。若您因此触犯法律,一切后果自负,我们对此不承担任何责任
5、所有资源均系网友上传或者通过网络收集,我们仅提供一个展示、介绍、观摩学习的平台,我们不对其内容的准确性、可靠性、正当性、安全性、合法性等负责,亦不承担任何法律责任
6、所有作品仅供您个人学习、研究或欣赏,不得用于商业或者其他用途,否则,一切后果均由您自己承担,我们对此不承担任何法律责任
7、如涉及侵犯版权等问题,请您及时通知我们,我们将立即采取措施予以解决
8、联系人Email:admin@iyunv.com 网址:www.yunweiku.com

所有资源均系网友上传或者通过网络收集,我们仅提供一个展示、介绍、观摩学习的平台,我们不对其承担任何法律责任,如涉及侵犯版权等问题,请您及时通知我们,我们将立即处理,联系人Email:kefu@iyunv.com,QQ:1061981298 本贴地址:https://www.yunweiku.com/thread-157162-1-1.html 上篇帖子: Perl资料共享(下载)43本电子书 下篇帖子: perl 爬虫研究2
您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

扫码加入运维网微信交流群X

扫码加入运维网微信交流群

扫描二维码加入运维网微信交流群,最新一手资源尽在官方微信交流群!快快加入我们吧...

扫描微信二维码查看详情

客服E-mail:kefu@iyunv.com 客服QQ:1061981298


QQ群⑦:运维网交流群⑦ QQ群⑧:运维网交流群⑧ k8s群:运维网kubernetes交流群


提醒:禁止发布任何违反国家法律、法规的言论与图片等内容;本站内容均来自个人观点与网络等信息,非本站认同之观点.


本站大部分资源是网友从网上搜集分享而来,其版权均归原作者及其网站所有,我们尊重他人的合法权益,如有内容侵犯您的合法权益,请及时与我们联系进行核实删除!



合作伙伴: 青云cloud

快速回复 返回顶部 返回列表