Linux上性能异常定位以及性能监控

212121

引言:大多数的服务都是跑在Linux上的，Linux现在也已经到了一个很广泛的应用,但是仍然会有很多问题出现，我们就来讨论下我们性能监控的指标，性能监控无非就是从I/O，内存，CPU，TCP连接数，网络，进程或者线程来出发，使用到的命令有iostat,vmstat,sar,mpstat,netstat,ss,iftop,free,pstree/ps,pidstat,top,(uptime)下面来进一步深入下吧.   一,磁盘I/O(iostat)
   我们的机器上有很多的数据是存储在磁盘上的，我们读取的很多数据都是要和磁盘交互的，但是磁盘同时又是一个低速设备，很多时候会发生阻塞，所以磁盘I/O的监控很重要。我们使用iostat来诊断磁盘的情况。使用的机器是腾讯云主机。
tps：该设备每秒的传输次数，表示每秒多少个I/O请求
Blk_read/s：每秒从设备读取到的数据量
Blk_wrtn/s：每秒向设备写入的数据量

Blk_read：读取的总数据量

Blk_wrtn：写入的总数据量
%user：代表用户态进程使用CPU的负载
%nice：代表优先级进程使用的CPU负载
%system：代表内核态进程使用的CPU负载
%iowait：代表CPU等待I/O时，CPU的负载
%steal：代表被偷走的CPU负载情况，这个在虚拟化技术中会用到
%idle：代表空闲的所占用的CPU负载情况
iostat还有一个常用的参数选项-x，表示扩展的信息

rrqm/s：每秒这个设备相关的读取请求有多少被Merge(多个I/O合并的操作)了

wrqm/s：每秒这个设备相关的写入请求有多少被Merge了
r/s：每秒发送到设备的读请求数
w/s：每秒发送到设备的写请求数

rsec/s：每秒读取设备扇区的次数
wsec/s：每秒写入设备扇区的次数
avgrq-sz：平均请求扇区的大小
avgqu-sz：平均请求队列的长度
await：每一个I/O请求的处理的平均时间(等待时间)
r_await：每一个读I/O请求的处理的平均时间
w_await：每一个写I/O请求的处理的平均时间
svctm：表示平均每次I/O操作的服务时间。如果svctm值和await值很接近，则表示I/O几乎没有等待，如果await的值远高于svctm的值，则表示I/O队列等待太长
%util：在统计的时间内总共有多少的时间用于处理I/O操作,即被消耗的CPU的百分比。例如统计时间间隔是1s，那么这个设备有0.65s在处理I/O，有0.35s处于空闲。那么这个设备的%util=0.65/1=65%，一般地，如果该参数是100%表示设备已经接近满负荷运行了（当然如果是多磁盘，即使%util是100%，因为磁盘的并发能力，所以磁盘使用未必就到了瓶颈）

   二,内存(free)
   在Linux系统中我们查看内存使用情况。使用free命令来查看
   
第一行的信息（我们可以认为从操作系统层面看待）

total：总物理内存大小
used：已经分配的大小
free：没有被分配的大小

shared：共享内存的大小，主要用于IPC通信
buffers：用于块设备的缓冲
cached：用于文件内容缓冲，也就是缓存
"缓存"就是在内存中划分一块区域，作为进程和硬盘之间的缓冲区，进程将数据写入缓存中，当那些数据需要读取的时候，就直接去"高速路"缓存中读取，而不会去"土路"硬盘中读取，这样大大的加快性能

这里buffer实际上是存储了我们数据的元数据(包括目录名字，文件大小，文件存储块，修改时间，权限等)，而cache则存放了我们最近读取过的文件。
第三行信息（我们可以认为从应用程序层面看待）
这里的-/+ buffers/cache分别为 -buffers/cache  和  +buffers/cache  两部分

-buffers/cache = used(第一行)-buffers-cached   实际上是当前程序上"真实使用"的"物理内存"

+buffers/cache = buffers+cached      意思就是暂时"借给"系统作为"缓冲区"使用的内存大小
used=(+buffers/cached)+(-buffers/cached)
所以从应用程序层面看,可用内存=free memory+buffers+cached
详细信息我们可以通过下面这种方式查看.
  ~ cat /proc/meminfo
MemTotal:        1020128 kB
MemFree:          670772 kB
Buffers:           97780 kB
Cached:           100980 kB
SwapCached:            0 kB
Active:           164988 kB
Inactive:         117296 kB
Active(anon):      83536 kB
Inactive(anon):      160 kB
Active(file):      81452 kB
Inactive(file):   117136 kB
Unevictable:           0 kB
Mlocked:               0 kB
SwapTotal:             0 kB
SwapFree:              0 kB
Dirty:                92 kB
Writeback:             0 kB
AnonPages:         83504 kB
Mapped:            17500 kB
Shmem:               172 kB
Slab:              46696 kB
SReclaimable:      28652 kB
SUnreclaim:        18044 kB
KernelStack:        1744 kB
PageTables:         2636 kB
NFS_Unstable:          0 kB
Bounce:                0 kB
WritebackTmp:          0 kB
CommitLimit:      510064 kB
Committed_AS:     343800 kB
VmallocTotal:   34359738367 kB
VmallocUsed:        7112 kB
VmallocChunk:   34359727304 kB
HardwareCorrupted:     0 kB
AnonHugePages:     36864 kB
HugePages_Total:       0
HugePages_Free:        0
HugePages_Rsvd:        0
HugePages_Surp:        0
Hugepagesize:       2048 kB
DirectMap4k:        8184 kB
DirectMap2M:     1040384 kB

   三,CPU(dstat,mpstat)
   首先我们使用dstat命令来查看下我们的CPU情况，他能够实时的输出我们的信息,

每2秒输出一次，一共输出10次

cpu：hiq、siq分别为硬中断和软中断次数
system：int、csw分别为系统的中断次数（interrupt）和上下文切换次数（context switch）。

-c：表示只显示我们的CPU信息

-m：表示只显示我们的内存信息

-p：表示只显示我们的进程信息
-n：表示只显示我们的网络信息
我们想以什么为什么优先顺序查看，可以在后面加下列参数

mpstat


%user      在internal时间段里，用户态的CPU时间(%)，不包含nice值为负进程  (usr/total)*100
%nice      在internal时间段里，nice值为负进程的CPU时间(%)   (nice/total)*100
%sys       在internal时间段里，内核时间(%)       (system/total)*100
%iowait    在internal时间段里，硬盘IO等待时间(%) (iowait/total)*100
%irq       在internal时间段里，硬中断时间(%)     (irq/total)*100
%soft      在internal时间段里，软中断时间(%)     (softirq/total)*100
%idle      在internal时间段里，CPU除去等待磁盘IO操作外的因为任何原因而空闲的时间闲置时间(%) (idle/total)*100
   四,TCP连接数(ss,netstat)
   ss是Socket  Statistics的缩写，顾名思义ss命令就是用来获取sockets的信息，他可以显示和netstat类似的内容，但是他比netstat更快更高效，而且显示更为详细的有关TCP连接信息。当我们的sockets连接数非常大的时候，无论是我们使用netstat命令还是在内核中查看连接数cat /proc/net/tcp的时候都会很缓慢。
   ss快速的原因就是他利用了TCP协议中的tcp_diag,tcp_diag是一个用于分析和统计的模块，他可以获取到Linux内核中的第一手信息，这个就确保了ss的高效性。
   我们可以对netstat和ss做个对比，有图有真相嘛
   
   
   netstat命令的时间显然比ss命令的时间慢多了
   netstat命令   
我们可以看到系统中守护进程的连接状态信息以及监听到的端口号
-t：表示TCP的连接
-u：表示UDP的连接
-n：表示以数字的形式显示信息
-p：表示显示监听的端口号

查看系统中守护进程的监听状态

我们可以看到State状态显示

ss命令
  查看当前服务器的网络连接统计: ss -s
  
其他ss的用法和netstat用法相同

   五，网络(iftop)
   使用iftop -i eth0
使用Ctrl+c退出，退出显示

我们可以使用-i参数监听不同的网卡流量信息，在iftop的哪个界面我们可以使用按p来查看端口流量信息

   六,进程信息(ps/pstree,top,pidstat)
   我们使用pstree来查看下我们的进程树，所有的进程都是init进程的子进程  

ps命令
查看具体的进程，比如MySQL进程我们可以使用ps aux mysqld或者ps -elf mysqld这种方式，这两种本质上没有什么区别，因为Linux继承的是Unix的一些思想，一个是Unix的Sys-v风格，一个是BSD的风格

我们可以详细的看到他的信息
pidstat命令
我们可以使用pidstat来查看每一个进程的pid的状态信息，以及他所占的CPU信息
   六，综合显示(vmstat,top,sar)
    我们看到内存，交换分区，I/O，CPU，以及进程上下文切换次数
top命令

在这个界面下：
按m按照内存使用大小排序显示
按P按照CPU使用大小排序显示
按M按照常驻留内存大小排序
按k表示杀死某个进程

sar命令

   有时候我们可能需要统计下我们的Linux启动了多长时间,我们可以使用uptime命令来显示这个信息,top也可以显示
   uptime命令
   
   top命令显示