Linux调试原理及方法2——内存占用调优
Linux 调试系列文章
[[Linux 性能调优1——CPU]]
[[Linux 性能调优2——Memory(Processing)]]
调试工具总览
Brendan D. Gregg 维护了一份Linux性能调优工具的蓝图Linux Performance Tools,针对Linux系统的各个组件都有相应的分析工具,一目了然。
基本原理
linux内核内存管理
-
【批发】linux内核基于伙伴算法管理物理内存页
-
【零售】linux内核基于slab管理内存
-
linux内核所用物理内存大小统计
linux进程内存管理
malloc() 是 C 标准库提供的内存分配函数,对应到系统调用上,有两种实现方式,即 brk() 和 mmap()
对小块内存(小于 128K),C 标准库使用 brk() 来分配,也就是通过移动堆顶的位置来分配内存。这些内存释放后并不会立刻归还系统,而是被缓存起来,这样就可以重复使用。
对大块内存(大于 128K),则直接使用内存映射 mmap() 来分配,也就是在文件映射段找一块空闲内存分配出去
各自的优缺点:
-
brk() 方式的缓存,可以减少缺页异常的发生,提高内存访问效率;不过,由于这些内存没有归还系统,在内存工作繁忙时,频繁的内存分配和释放会造成内存碎片
-
mmap() 方式分配的内存,会在释放时直接归还系统,所以每次 mmap 都会发生缺页异常。在内存工作繁忙时,频繁的内存分配会导致大量的缺页异常,使内核的管理负担增大
整体来说,Linux 使用伙伴系统来管理内存分配。前面我们提到过,这些内存在 MMU 中以页为单位进行管理,伙伴系统也一样,以页为单位来管理内存,并且会通过相邻页的合并,减少内存碎片化(比如 brk 方式造成的内存碎片)
虚拟内存
- 进程独享虚拟地址空间(32位) 0~3G
- 进程内分段管理内存空间
代码段
数据段
heap
malloc()
stack
文件映射,匿名映射 mmap()
进程内存按照用途分类
物理内存
进程所用物理内存大小统计
- PSS
一个进程所使用的内存可通过PSS和RSS来衡量。 计算进程的Pss: $ cat /proc/1/smaps | grep Pss | awk ‘{total+=$2}; END {print total}’
把一个共享库占用的内存,分摊到使用了这个共享库的各个进程头上
- RSS(不合理)
把共享库占用的内存直接加到每个进程头上
- USS
进程独自占用的物理内存(不包含共享库占用的内存)
内存回收
在用户空间,malloc 通过 brk() 分配的内存,在释放时并不立即归还系统,而是缓存起来重复利用。在内核空间,Linux 通过 slab 分配器来管理小内存,可以把 slab 看成构建在伙伴系统上的一个缓存,主要作用就是分配并释放内核中的小对象
系统也不会任由某个进程用完所有内存。在发现内存紧张时,系统就会通过一系列机制来回收内存:
-
回收缓存,比如使用 LRU(Least Recently Used)算法,回收最近使用最少的内存页面
-
回收不常访问的内存,把不常用的内存通过交换分区直接写到磁盘中(会用到交换分区)
-
杀死进程,内存紧张时系统还会通过 OOM(Out of Memory),直接杀掉占用大量内存的进程
OOM是内核的一种保护机制。它监控进程的内存使用情况,并且使用 oom_score 为每个进程的内存使用情况进行评分:
-
进程消耗的内存越大,oom_score 就越大
-
进程运行占用的 CPU 越多,oom_score 就越小
可以手动设置进程的oom_adj来调整oom_score。oom_adj的范围是[-17, 15],数值越大,进程越容易被OOM杀死;反之,越不容易被OOM杀死
回收时机
- 内存紧缺回收(alloc_pages的时候)
- 周期性内存回收:linux内存回收总结:从swapd触发到回收3部曲
- 手动回收
1 | echo 1 > /proc/sys/vm/drop_caches # "clean" page cache |
回收方式
- 页回写 直接释放物理页面
- 页交换 回写到swap分区,然后释放物理页面
- OOM Killer (较为暴力,应尽量避免)
性能指标
工具汇总
free
命令
1 | # 注意不同版本的free输出可能会有所不同 |
- 第一列,total 是总内存大小;
- 第二列,used 是已使用内存的大小,包含了共享内存;
- 第三列,free 是未使用内存的大小;
- 第四列,shared 是共享内存的大小;
- 第五列,buff/cache 是缓存和缓冲区的大小;
- 最后一列,available 是新进程可用内存的大小
注意:available 不仅包含未使用内存,还包括了可回收的缓存,所以一般会比未使用内存更大。不过,并不是所有缓存都可以回收,因为有些缓存可能正在使用中
top
命令
可以查看每个进程的内存使用情况
1 | # 按下M切换到内存排序 |
主要的几个信息:
- VIRT 是进程虚拟内存的大小,只要是进程申请过的内存,即便还没有真正分配物理内存,也会计算在内
- RES 是常驻内存的大小,也就是进程实际使用的物理内存大小,但不包括 Swap 和共享内存
- SHR 是共享内存的大小,比如与其他进程共同使用的共享内存、加载的动态链接库以及程序的代码段等
- %MEM 是进程使用物理内存占系统总内存的百分比
注意:
- 虚拟内存通常并不会全部分配物理内存。从上面的输出,你可以发现每个进程的虚拟内存都比常驻内存大得多
- 共享内存 SHR 并不一定是共享的,比方说,程序的代码段、非共享的动态链接库,也都算在 SHR 里。SHR 也包括了进程间真正共享的内存。所以在计算多个进程的内存使用时,不要把所有进程的 SHR 直接相加得出结果