王高利：shell下使用find xargs grep查找文件及文件内容

0755mx

1，在某个路径下查文件。　　
在/etc下查找“*.log”的文件
　　
find /etc -name “*.log”
　　
2，扩展，列出某个路径下所有文件，包括子目录。
　　
find /etc -name “*”
　　
3，在某个路径下查找所有包含“hello abcserver”字符串的文件。
　　
find /etc -name “*” | xargs grep “hello abcserver”
　　
或者find /etc -name “*” | xargs grep “hello abcserver” > ./cqtest.txt
　　
4，网上摘抄的几个和查找文件或文件内容相关的命令详说：
　　
正则表达式
　　
\分别表示单词的开始和结束
　　
ex: \ 以T或者t开头，om结尾的单词
　　
正则表达式的元字符集：
　　
1) ^行首 /^love/ 以love开头的行；
　　
2) $行尾 /love$/ 以love结尾的行；
　　
3) . /l..e/ 匹配所有这样的行，字母l后面紧跟任意两个字符然后是e的行
　　
4) * 重复0次或者任意多次前面字符
　　
5) [x-y] 字符范围
　　
6) [^x-y] 排除字符范围
　　
7) \ 转义字符
　　
\ 界定单词的开头和结尾
　　
9) \( \) 标记后面用到的匹配字符 \(love\)able \1er=loveable lover
　　
10) x\{m,n\} 重复字符x至少m此，至多n次
　　
—————————————————————————
　　
—————————————————————————
　　
grep家族
　　
RE–regular expression; g: global; p: print
　　
出了上面10种元字符集，grep还支持下面的RE
　　
\w 字母或者数字
　　
\W 非单词字符（标点符号）
　　
+ 重复一个或者多个前面的字符
　　
｜ 或 love(a:b)表示lovea或者lobeb
　　
？单个字符
　　
grep返回状态值（$?） 0表示成功，1表示失败，2表示没有找到文件
　　
rgrep递归访问目录树
　　
—————————————————————————
　　
ls -l |grep ^d 显示目录
　　
grep -n -v -# -A# -B#
　　
-i 不区分大小写
　　
-n 显示匹配行和行号
　　
-v只显示不匹配行
　　
-#显示匹配行上下#行
　　
-A#匹配行后面打印#行
　　
-B#匹配行前面打印#行
　　
-c 只输出匹配行的行数
　　
-h 查询多文件的时候不显示匹配的文件名字
　　
-l 查询多文件只显示匹配的文件名
　　
-s 不显示错误信息
　　
grep与正则表达式同用
　　
grep “^[^abc]” *.f 提取行首不是abc的行
　　
grep “[0-9]\{3\}[8]” *.f 提取类似xxx8的行，x表示任意数字
　　
grep “a\{2\}” *.f 显示a至少出现两次的行，注意grep是以行处理单位的
　　
grep -n “^$” file 列出空行的行号
　　
-E参数，可以使用”与”和”或”模式
　　
grep -E “abc | def” *.f 显示包含abc或者def的行
　　
ex:
　　
ls -l | grep “^$” 显示目录
　　
ls -l | grep “^d” 显示文件
　　
ls -l | grep “^d..x..x..x” 显示特定权限的目录
　　
ps aux | grep “httpd” |grep -v “grep”
　　
—————————————————————————
　　
—————————————————————————
　　
**使用find和xargs
　　
1. find pathname -options [-print -exec -ok]
　　
-optinos
　　
1)-name:按照文件名查找
　　
find ~ -name “*.txt” -print
　　
find ~ -name “[a-z][0-9].txt” -print
　　
2)-perm:按照权限查找文件
　　
find ~ -perm 755 -print 查找权限为755的文件
　　
find ~ -perm 007 -print 查找o位置上具有7权限的文件
　　
find ~ -perm 4000 -print 查找具有suid的文件
　　
3)-prune
　　
不在当前目录下查找
　　
4)-user和－nouser
　　
find ~ -user zhao -print 查找文件属主是zhao的文件
　　
find ~ -nouser -print 查找文件属主已经被删除的文件
　　
5)-group和－nogroup
　　
find ~ -group zhao -print 查找文件群组是zhao的文件
　　
6)按照时间
　　
find ~ -mtime -5 -print 文件更改时间在5天内的文件
　　
find ~ -mtime +3 -print 文件更改时间在3天前的文件
　　
find ~ -newer file1 -print 查找比文件file1新的文件
　　
7)按照类型查找
　　
find ~ -type d -print 查找所有目录
　　
8)按照大小
　　
find ~ -size +1000000C -print 查找文件大小大于1000000字节(1M)的文件
　　
9)查找位于本文件系统里面的文件
　　
find / -name “*.txt” -mount -print
　　
-exec,-ok:find命令对于匹配文件执行该参数所给出shell命令，相应命令形式为: ‘command’ {} \;
　　
-ok 在执行命令前要确认
　　
find ~ -type f -exec ls -l {} \;
　　
find / -name “*.log” -mtime +5 -ok rm {} \;
　　
find . -name core -exec rm {} \;
　　
使用-x dev参数
　　
防止find搜索其他分区
　　
find . -size 0 -exec rm {} \;
　　
删除尺寸为０的文件
　　
2. xargs与-exec功能类似
　　
find ~ -type f | xargs ls -l
　　
find / -name “*.log” -type f -print| xargs grep -i DB0
　　
find . -type f |xargs grep -i “Mary”
　　
在所有文件中检索字符串Mary
　　
ls *~ |xargs rm -rf
　　
删除所有以~结尾的文件
　　
—————————————————————————
　　
—————————————————————————
　　
SED:
　　
=====
　　
sed [options] sedcommand inputfile >outputfile
　　
sed不接触初始输入文件，对其不做修改，若想保存改动，重要将输出重定向到一个文件即可
　　
a\: 当前行后面加入一行或者文本
　　
c\: 用信文本替换本行的文本
　　
d: 删除一行
　　
D: 删除模板块的第一行
　　
i\: 在当前行上面插入文本
　　
h: 拷贝模板块的内容到内存缓冲区
　　
H: 追加模板块的内容到内存缓冲区
　　
g: 获得内存缓冲区内容，并替换当前模板中的文本
　　
G: 获得内存缓冲区内容，并追加到当前模版块文本的后面
　　
n: 读取下一个输入行，用下一个命令处理新行而不是第一个命令
　　
N: 追加下一个输入行到模版块后面，并在二者间插入一个新行，改变当前行的号码
　　
p: 打印模板块的行
　　
P: 打印模板块的地一行
　　
q: 退出sed
　　
r file: 从file中读行
　　
!: 表示后面的命令对所有没有选中的行起作用
　　
s/re/strint/: 用string替换正则表达式re
　　
=: 打印当前行号
　　
#command: 把注释扩展到下一个换行符号前
　　
l 打印匹配行，包括显示控制符号
　　
**替换标记
　　
g: 行内全部替换
　　
p: 打印行
　　
w: 把行写入一个文件
　　
x: 互换模板块和缓冲区中的文本
　　
y: 把一个字符翻译成另外一个字符
　　
**sed中元字符可以使用正则表达式中所有的
　　
新加：
　　
& 保存搜索字符 s/love/**&**/ 用**love**代替love
　　
**sed定位文本的方式
　　
x 行号
　　
x-y 从x行到y行
　　
/patern/ 查询包括patern的行
　　
x,y! 不包括指定x-y行号的行
　　
ex:
　　
sed ‘/Tom/d’ file
　　
删除包含Tom的行；
　　
sed ‘/Tom/!d’ file
　　
删除所有不包含Tom的行；
　　
sed -n /north/p’ file
　　
打印包含north的行；
　　
sed ‘3d’ file
　　
删除第三行；
　　
sed ’3,$d’ file
　　
删除第三行到最后一行；
　　
sed ‘$d’ file
　　
删除最后一行；
　　
sed ‘/north/d’ file
　　
删除包含north的行；
　　
sed -n ‘s/west/north/g’ file
　　
替换所有west为north；
　　
sed -n ‘s/^west/north/p’ file
　　
一行的开头的west用north替换，并打印发生替换的行；
　　
sed ‘s/[0-9][0-9]$/&.5/’ file
　　
所有以两个数字结尾的行，最后两个数字被他们自己替换并附加.5；
　　
sed -n ‘s/\(Mar\)got/\1ianne/p’ file
　　
将Margot替换为Marianne，并打印发生替换的行；
　　
sed ‘s#abc#ABC#g’ file
　　
所有abc由ABC替换，（所有s后面紧跟的字符都被认为是新的分隔符）；
　　
sed ‘/west/,/east/p’ file
　　
打印包含west行和包含east行中间的所有行；
　　
sed ’1,/east/s/$/**A**/’ file
　　
地一行和包含east行之间的所有行的行尾加上字符串**A**；
　　
sed -e ’1,3d’ -e ‘s/aa/bb/’ file
　　
先删除1到3行，然后用bb替换aa；
　　
sed ‘/Sam/r file1′ file
　　
将文件file1中的内容附加在包含Sam的行后面；
　　
sed ‘/Sam/w file1′ file
　　
将还有Sam行写入文件file1中；
　　
sed ‘/^north /a\new line second line’ file
　　
所有以north加空格开头的行后面附加上两行文本，a\表示追加文本，\表示换行(tcsh中需要，bash中不需要)；
　　
sed ‘/^north/i\new line’ file
　　
在行首为north的行前面插入一个新行；
　　
sed ‘/norht/{n; s/aa/bb/;}’ file
　　
首先匹配含有north的行，然后执行一组命令，n表示移到下一行，并用bb代替aa；
　　
sed ’1,3g/abcdefghijklmnopqrstuvwxyz/ABCDEFGHIJKLMNOPQRSTUVWXYZ/’ file
　　
将1到3行中的所有小写字母用大写字母替换；
　　
sed ‘/Lewis/{s/Lewis/bbb;q;}’ file
　　
首先找到匹配Lewis的行，然后用bbb代替Lewis，接着q退出seq；
　　
sed -e ‘/north/h’ -e ‘$G’ file
　　
首先找到包含norht的行，h拷贝到内存缓冲区，然后到文件随后一行($)，G附加在最后一行后面；
　　
sed -e ‘/we/{h;d;}’ -e ‘/ct/{G:}’ file
　　
查找包含we的行，拷贝并且删除他，然后查找包含ct的行，将拷贝内容附加到他后面；
　　
sed -e ‘/north/h’ -e ‘$g’ file
　　
首先找到包含norht的行，h拷贝到内存缓冲区，然后到文件随后一行并覆盖他；
　　
sed -n ‘l’ file
　　
打印所有包含不能打印字符的行。
　　
sed -n ‘/.*ing/p’ file
　　
显示含有以ing结尾单词的行；
　　
sed -n ‘/music/=’ file
　　
打印含有music的行号；
　　
sed ‘^$d’ file
　　
删除空行
　　
sed ‘s/^/abcd/g’ file
　　
在行首填加abcd
　　
sed ‘s/$/abcd/g’ file
　　
在行尾填加abcd
　　
sed ‘s/rm$/played &/g’ file
　　
&表示在替换的时候保留被替换的词(rm–played rm)
　　
sed ‘s/^M//g’ file
　　
去掉行尾的^M (^M的输入，先按ctrl+v然后按enter即可即可)
　　
—————————————————————————
　　
—————————————————————————
　　
gawk程序：
　　
awk [-F 域分隔符] ‘commands’ inputfile
　　
awk执行时，其域标志符为$1,$2,$3………$n，$0表示所有的域
　　
awk -v var=value 赋值给一个用户定义的变量
　　
awk ‘pattern’ file
　　
awk ‘{action}’ file
　　
awk ‘pattern {action}’ file
　　
ex：
　　
awk ‘{print $0}’ file
　　
打印所有的域
　　
awk ‘/Mary/’ file
　　
打印包含file中包含Mary的行；
　　
awk ‘{print $1}’ file
　　
打印文件的第一列（第一个域）；
　　
awk ‘/Mary/ {print $1,$2}’ file
　　
打印文件file包含Mary的行的第一和第二个域；
　　
df | awk ‘S4>75000′
　　
打印可用空间大于75000的文件系统
　　
date | awk ‘{print ” month:”, $2, “\n year:” $6}’
　　
格式化date的输出；
　　
awk ‘BEGIN{OFMT=”%.2f”; print 1.25463}’
　　
指定数字输出格式，小数点后面保留两位有效数(1.25)；
　　
awk ‘/[ab]cdef/’ file
　　
打印匹配acdef或者bcdef的行；
　　
awk ‘{print NR, $0}’ file
　　
awk ‘{print $0, NR}’ file
　　
NR当前记录数，每处理一个记录NR就加1
　　
上面的命令相当于在每一行后面加上一个行号；
　　
NF则记录每一行的域的个数；
　　
awk -F ‘[ :\t]‘ ‘{print $0}’ file
　　
指定域分隔符为空格、:或者tab
　　
awk ‘/^[A-Z][a-z]+/’ file
　　
打印所有以一个大写字母开头，然后是一个或者多个小写字母的行；
　　
awk ‘$1~/[Bb]ill/’ file
　　
第一个域匹配Bill或者bill的行；
　　
awk ‘$1!~/ly$/’ file
　　
第一个域末尾不是ly的行；
　　
awk ‘/^(No|no)/’ file
　　
打印行首为No或者no的行；
　　
awk ‘BEGIN {print “file head \n”} {print $1 \t $4}’ file
　　
awk ‘BEGIN {print “file head \n”} {print $1 \t $4}’ file |tee out.file
　　
打印文件的时候附加一个文件头
　　
awk ‘BEGIN {print “file head \n”} {print $1 \t $4} END {print “end of file”}’ file
　　
打印文件的时候附加一个文件头和文件尾
　　
awk中使用正则表达式
　　
awk ‘{if($1~/hello/) print $0}’ file
　　
如果域1中包含hello，就打印所有的域
　　
~//表示匹配正则表达式，!~//表示不匹配正则表达式
　　
awk ‘{if($6,>=,==,!=,~,!~（匹配，不匹配）
　　
awk ‘$3==5346′ file
　　
第三个域等于5346，就打印出该行；
　　
awk ‘$3>5000 {print $1}’ file
　　
第三个域大于5000就打印该行第一个域
　　
awk ‘{max={$1>$2}?$1:$2; print max}’ file
　　
如果第一个域大于第二个域，max=$1否则=$2，打印最大值
　　
awk ‘{print ($1==11?”high\t” $2:”low\t” $2)}’ file
　　
&&逻辑和，||逻辑或，!逻辑非
　　
awk ‘$2==$5 && $3>5′ file
　　
awk ‘/Tom/,/Jary/’ file
　　
Tom第一次出现和Jary第一次出现之间的所有行；
　　
awk ‘/north/ {print $3+10}’ file
　　
包含north行的地三个域加10；
　　
awk ‘$3==”aa” {$2=”dd”; print $0}’ file
　　
将地三个域为aa的行的第二域变成dd，并打印该行；
　　
**awk编程：
　　
使用变量
　　
awk ‘$1~/Tom/ {wage=$2+$3; print wage}’ file
　　
先扫描第一个域，如果匹配Tom，就将第二和第三域的总和赋值给变量wage并输出；
　　
awk ‘BEGIN{FS=”:”; OFS=”\t”;ORS=”\n\n”}{print $0}’ file
　　
处理文件前设置
　　
域分隔符(FS)为(:)
　　
输出域分隔(OFS)为(\t)
　　
输出记录分隔符(ORS)为(\n\n)
　　
awk ‘END{print “The number of record is:’ NR}’ file
　　
处理完文件后执行END语句
　　
输出总记录数
　　
awk ‘/Mary/{count++} END{print “Mary was found” count “times”}’ file
　　
计数文件中Mary出现的次数；
　　
**awk输入输出重定向
　　
awk ‘$4>=70 {print $1, $2 >”outfile”}’ file
　　
结果重定向到文件outfile中
　　
awk ‘BEGIN{“date” |getline d; print d}’
　　
将date结果输给getline函数，并打印
　　
(getline从标准输出，管道等获得输入)
　　
awk ‘BEGIN{“date” |getline d; split(d,mon); print mon[1] mon[2]}’
　　
将date结果输给getline函数，slpit将d分解成数组，打印数组第2个变量
　　
**split函数：split(string,array,field seperator)
　　
awk ‘BEGIN{while(“ls”|getline) print}’
　　
依次输出ls的每一项
　　
awk
　　
‘BEGIN{print “what is your name?”; getline name 0) {lc++; print lc ” ” a}}’
　　
awk ‘BEGIN{while(getline a 0) {lc++; print lc}}’
　　
如果文件不存在，getline返回-1
　　
到达文件尾返回0
　　
读到一行返回1
　　
读取文件/etc/passwd，计数行数
　　
**awk控制语句
　　
if语句：
　　
awk ‘{if($6>50) print $1 “too high”}’ file
　　
awk ‘{if($6>20 && $250}{x++; print x} else {y++;print y}’ file
　　
awk ‘{if($1~/peter/){next} else {print}}’ file
　　
如果第一个域包含peter，awk就忽略这一行，读取文件的下一行，脚本从头开始执行；
　　
循环语句：
　　
awk ‘{i=1; while(i file
　　
cat -v file 显示文件，包括其中的控制符(-v)
　　
cat -n file 为每一行编号
　　
cat -b file 每个非空行编号
　　
cat -T file 以^I显示tab
　　
3.
　　
管道 | 把一个命令的输出传递给另外一个命令为输入
　　
ex:
　　
ls | grep file.doc
　　
查找文件file.doc
　　
who | awk ‘{print $1 “\t” $2}’ 只显示用户名和所在终端
　　
df -h | awk ‘{print $1}’ |grep -v “filesystem” (-v表示输出不包括filesystem的项目)
　　
df -h | awk ‘{print $1}’ |grep -v “filesystem” |sed ‘s/\/dev\///g’ 显示设备的时候不显示/dev/
　　
4.tee
　　
who | tee who.txt 输出到屏幕的同时输出到文件
　　
who | tee -a who.txt 附加在文件的后面
　　
5.文件重定向
　　
ls -l |grep ^d >file.out 所有目录名字重定向到一个文件
　　
cat /etc/passwd | awk -F: ‘{print $1}’ |sort >a.out (-F:指定分隔符为:)
　　
cat >file.out reboot
　　
at> ctrl+D
　　
3小时后reboot
　　
3.
　　
bc – 计算器
　　
scale=3 设置小数点后数字为数
　　
ibase=2 二进制运算
　　
4.
　　
ls -d dir
　　
只显示目录而不显示其下面的文件。
　　
5.
　　
sync
　　
更新superblock并把它写入硬盘
　　
6.
　　
scp user@host:/path/file1 user@host:/path/file
　　
服务器间拷贝文件