Linux虚拟内存管理(glibc)

zoukankan html css js c++ java

Linux虚拟内存管理(glibc)
转：https://blog.csdn.net/tengxy_cloud/article/details/53067396

https://www.cnblogs.com/purpleraintear/p/6051562.html

在使用mysql作为DB开发的兑换券系统中，随着分区表的不断创建，发现mysqld出现了疑似“内存泄露”现象，但通过 valgrind 等工具检测后，并没发现类似的问题(最终原因是由于glibc的内存碎片造成)。

最近在做 MySQL 版本升级时（ 5.1->5.5 ） , 发现了 mysqld 疑似“内存泄露”现象，但通过 valgrind 等工具检测后，并没发现类似的问题。因此，需要深入学习 Linux 的虚拟内存管理方面的内容来解释这个现象。

Linux 的虚拟内存管理有几个关键概念：
1. 每个进程有独立的虚拟地址空间，进程访问的虚拟地址并不是真正的物理地址
2. 虚拟地址可通过每个进程上页表与物理地址进行映射，获得真正物理地址
3. 如果虚拟地址对应物理地址不在物理内存中，则产生缺页中断，真正分配物理地址，同时更新进程的页表；如果此时物理内存已耗尽，则根据内存替换算法淘汰部分页面至物理磁盘中。
基于以上认识，这篇文章通过本人以前对虚拟内存管理的疑惑由浅入深整理了以下十个问题，并通过例子和系统命令尝试进行解答。
1. Linux 虚拟地址空间如何分布？ 32 位和 64 位有何不同？
2. malloc 是如何分配内存的？
3. malloc 分配多大的内存，就占用多大的物理内存空间吗？
4. 如何查看进程虚拟地址空间的使用情况？
5. free 的内存真的释放了吗（还给 OS ） ?
6. 程序代码中 malloc 的内存都有相应的 free ，就不会出现内存泄露了吗？
7. 既然堆内内存不能直接释放，为什么不全部使用 mmap 来分配？
8. 如何查看进程的缺页中断信息？
9. 如何查看堆内内存的碎片情况？
10. 除了 glibc 的 malloc/free ，还有其他第三方实现吗？
一.Linux 虚拟地址空间如何分布？ 32 位和 64 位有何不同？

Linux 使用虚拟地址空间，大大增加了进程的寻址空间，由低地址到高地址分别为：
1. 只读段：该部分空间只能读，不可写，包括代码段、 rodata 段（ C 常量字符串和 #define 定义的常量）
2. 数据段：保存全局变量、静态变量的空间
3. 堆：就是平时所说的动态内存， malloc/new 大部分都来源于此。其中堆顶的位置可通过函数 brk 和 sbrk 进行动态调整。
4. 文件映射区域：如动态库、共享内存等映射物理空间的内存，一般是 mmap 函数所分配的虚拟地址空间。
5. 栈：用于维护函数调用的上下文空间，一般为 8M ，可通过 ulimit –s 查看。
6. 内核虚拟空间：用户代码不可见的内存区域，由内核管理。
下图是 32 位系统典型的虚拟地址空间分布（来自《深入理解计算机系统》）。

32 位系统有 4G 的地址空间，其中0x08048000~0xbfffffff 是用户空间，0xc0000000~0xffffffff 是内核空间，包括内核代码和数据、与进程相关的数据结构（如页表、内核栈）等。另外， %esp 执行栈顶，往低地址方向变化； brk/sbrk 函数控制堆顶往高地址方向变化。

可通过以下代码验证进程的地址空间分布，其中 sbrk(0) 函数用于返回栈顶指针。
1. #include <stdlib.h>
2. #include <stdio.h>
3. #include <string.h>
4. #include <unistd.h>
5. int global_num = 0;
6. char global_str_arr [65536] = {'a'};
7. int main(int argc, char** argv)
8. {
9. char* heap_var = NULL;
10. int local_var = 0;
11. printf("Address of function main 0x%lx ", main);
12. printf("Address of global_num 0x%lx ", &global_num);
13. printf("Address of global_str_arr 0x%lx ~ 0x%lx ", &global_str_arr[0], &global_str_arr[65535]);
14. printf("Top of stack is 0x%lx ", &local_var);
15. printf("Top of heap is 0x%lx ", sbrk(0));
16. heap_var = malloc(sizeof(char) * 127 * 1024);
17. printf("Address of heap_var is 0x%lx ", heap_var);
18. printf("Top of heap after malloc is 0x%lx ", sbrk(0));
19. free(heap_var);
20. heap_var = NULL;
21. printf("Top of heap after free is 0x%lx ", sbrk(0));
22. return 1;
23. }
32 位系统的结果如下，与上图的划分保持一致，并且栈顶指针在 mallloc 和 free 一个 127K 的存储空间时都发生了变化（增大和缩小）。
1. Address of function main 0x8048474
2. Address of global_num 0x8059904
3. Address of global_str_arr 0x8049900 ~ 0x80598ff
4. Top of stack is 0xbfd0886c
5. Top of heap is 0x805a000
6. Address of heap_var is 0x805a008
7. Top of heap after malloc is 0x809a000
8. Top of heap after free is 0x807b000
但是， 64 位系统结果怎样呢？ 64 位系统是否拥有 2^64 的地址空间吗？

64 位系统运行结果如下：
1. Address of function main 0x400594
2. Address of global_num 0x610b90
3. Address of global_str_arr 0x600b80 ~ 0x610b7f
4. Top of stack is 0x7fff2e9e4994
5. Top of heap is 0x8f5000
6. Address of heap_var is 0x8f5010
7. Top of heap after malloc is 0x935000
8. Top of heap after free is 0x916000
从结果知，与上图的分布并不一致。而事实上， 64 位系统的虚拟地址空间划分发生了改变：
1. 地址空间大小不是 2^32 ，也不是 2^64 ，而一般是 2^48 。因为并不需要 2^64 这么大的寻址空间，过大空间只会导致资源的浪费。 64 位 Linux 一般使用 48 位来表示虚拟地址空间， 40 位表示物理地址，这可通过 /proc/cpuinfo 来查看
  
  address sizes : 40 bits physical, 48 bits virtual
2. 其中， 0x0000000000000000~0x00007fffffffffff表示用户空间，0xFFFF800000000000~ 0xFFFFFFFFFFFFFFFF表示内核空间，共提供 256TB(2^48) 的寻址空间。这两个区间的特点是，第 47 位与 48~63 位相同，若这些位为 0 表示用户空间，否则表示内核空间。
3. 用户空间由低地址到高地址仍然是只读段、数据段、堆、文件映射区域和栈
二.malloc 是如何分配内存的？

malloc 是 glibc 中内存分配函数，也是最常用的动态内存分配函数，其内存必须通过 free 进行释放，否则导致内存泄露。

关于 malloc 获得虚存空间的实现，与 glibc 的版本有关，但大体逻辑是：
1. 若分配内存小于 128k ，调用 sbrk() ，将堆顶指针向高地址移动，获得新的虚存空间。
2. 若分配内存大于 128k ，调用 mmap() ，在文件映射区域中分配匿名虚存空间。
3. 这里讨论的是简单情况，如果涉及并发可能会复杂一些，不过先不讨论。
其中 sbrk 就是修改栈顶指针位置，而 mmap 可用于生成文件的映射以及匿名页面的内存，这里指的是匿名页面。

而这个 128k ，是 glibc 的默认配置，可通过函数 mallopt 来设置，可通过以下例子说明。
1. #include <stdlib.h>
2. #include <stdio.h>
3. #include <string.h>
4. #include <unistd.h>
5. #include <sys/mman.h>
6. #include <malloc.h>
7. void print_info(
8. char* var_name,
9. char* var_ptr,
10. size_t size_in_kb
11. )
13. {
14. printf("Address of %s(%luk) 0x%lx, now heap top is 0x%lx ",
15. var_name, size_in_kb, var_ptr, sbrk(0));
17. }
18. int main(int argc, char** argv)
19. {
20. char *heap_var1, *heap_var2, *heap_var3 ;
21. char *mmap_var1, *mmap_var2, *mmap_var3 ;
22. char *maybe_mmap_var;
23. printf("Orginal heap top is 0x%lx ", sbrk(0));
24. heap_var1 = malloc(32*1024);
25. print_info("heap_var1", heap_var1, 32);
26. heap_var2 = malloc(64*1024);
27. print_info("heap_var2", heap_var2, 64);
28. heap_var3 = malloc(127*1024);
29. print_info("heap_var3", heap_var3, 127);
30. printf(" ");
31. maybe_mmap_var = malloc(128*1024);
32. print_info("maybe_mmap_var", maybe_mmap_var, 128);
33. //mmap
34. mmap_var1 = malloc(128*1024);
35. print_info("mmap_var1", mmap_var1, 128);
36. // set M_MMAP_THRESHOLD to 64k
37. mallopt(M_MMAP_THRESHOLD, 64*1024);
38. printf("set M_MMAP_THRESHOLD to 64k ");
39. mmap_var2 = malloc(64*1024);
40. print_info("mmap_var2", mmap_var2, 64);
41. mmap_var3 = malloc(127*1024);
42. print_info("mmap_var3", mmap_var3, 127);
43. return 1;
44. }
这个例子很简单，通过 malloc 申请多个不同大小的动态内存，同时通过接口 print_info 打印变量大小和地址等相关信息，其中 sbrk(0) 可返回堆顶指针位置。另外，粗体部分是将 MMAP 分配的临界点由 128k 转为 64k ，再打印变量地址的不同。

下面是 Linux 64 位机器的执行结果（后文所有例子都是通过 64 位机器上的测试结果）。
1. Orginal heap top is 0x17da000
2. Address of heap_var1(32k) 0x17da010, now heap top is 0x1803000
3. Address of heap_var2(64k) 0x17e2020, now heap top is 0x1803000
4. Address of heap_var3(127k) 0x17f2030, now heap top is 0x1832000
5. Address of maybe_mmap_var(128k) 0x1811c40, now heap top is 0x1832000
6. Address of mmap_var1(128k) 0x7f4a0b1f2010, now heap top is 0x1832000
7. set M_MMAP_THRESHOLD to 64k
8. Address of mmap_var2(64k) 0x7f4a0b1e1010, now heap top is 0x1832000
9. Address of mmap_var3(127k) 0x7f4a0b1c1010, now heap top is 0x1832000
三.malloc 分配多大的内存，就占用多大的物理内存空间吗？

我们知道， malloc 分配的的内存是虚拟地址空间，而虚拟地址空间和物理地址空间使用进程页表进行映射，那么分配了空间就是占用物理内存空间了吗？

首先，进程使用多少内存可通过 ps aux 命令查看，其中关键的两信息（第五、六列）为：
1. VSZ ， virtual memory size ，表示进程总共使用的虚拟地址空间大小，包括进程地址空间的代码段、数据段、堆、文件映射区域、栈、内核空间等所有虚拟地址使用的总和，单位是 K
2. RSS ， resident set size ，表示进程实际使用的物理内存空间， RSS 总小于 VSZ 。
可通过一个例子说明这个问题：
1. #include <stdlib.h>
2. #include <stdio.h>
3. #include <string.h>
4. #include <unistd.h>
5. #include <sys/mman.h>
6. #include <malloc.h>
7. char ps_cmd[1024];
8. void print_info(
9. char* var_name,
10. char* var_ptr,
11. size_t size_in_kb
12. )
14. {
15. printf("Address of %s(%luk) 0x%lx, now heap top is 0x%lx ",
16. var_name, size_in_kb, var_ptr, sbrk(0));
17. system(ps_cmd);
18. }
20. int main(int argc, char** argv)
21. {
22. char *non_set_var, *set_1k_var, *set_5k_var, *set_7k_var;
23. pid_t pid;
24. pid = getpid();
25. sprintf(ps_cmd, "ps aux | grep %lu | grep -v grep", pid);
26. non_set_var = malloc(32*1024);
27. print_info("non_set_var", non_set_var, 32);
28. set_1k_var = malloc(64*1024);
29. memset(set_1k_var, 0, 1024);
30. print_info("set_1k_var", set_1k_var, 64);
31. set_5k_var = malloc(127*1024);
32. memset(set_5k_var, 0, 5*1024);
33. print_info("set_5k_var", set_5k_var, 127);
34. set_7k_var = malloc(64*1024);
35. memset(set_1k_var, 0, 7*1024);
36. print_info("set_7k_var", set_7k_var, 64);
37. return 1;
38. }
该代码扩展了上一个例子print_info能力，处理打印变量信息，同时通过 ps aux 命令获得当前进程的 VSZ 和 RSS 值。并且程序 malloc 一块内存后，会 memset 内存的若干 k 内容。

执行结果为
1. Address of non_set_var(32k) 0x502010, now heap top is 0x52b000
3. mysql 12183 0.0 0.0 2692 452 pts/3 S+ 20:29 0:00 ./test_vsz
5. Address of set_1k_var(64k) 0x50a020, now heap top is 0x52b000
7. mysql 12183 0.0 0.0 2692 456 pts/3 S+ 20:29 0:00 ./test_vsz
9. Address of set_5k_var(127k) 0x51a030, now heap top is 0x55a000
11. mysql 12183 0.0 0.0 2880 464 pts/3 S+ 20:29 0:00 ./test_vsz
13. Address of set_7k_var(64k) 0x539c40, now heap top is 0x55a000
15. mysql 12183 0.0 0.0 2880 472 pts/3 S+ 20:29 0:00 ./test_vsz
由以上结果知：
1. VSZ 并不是每次 malloc 后都增长，是与上一节说的堆顶没发生变化有关，因为可重用堆顶内剩余的空间，这样的 malloc 是很轻量快速的。
2. 但如果 VSZ 发生变化，基本与分配内存量相当，因为 VSZ 是计算虚拟地址空间总大小。
3. RSS 的增量很少，是因为 malloc 分配的内存并不就马上分配实际存储空间，只有第一次使用，如第一次 memset 后才会分配。
4. 由于每个物理内存页面大小是 4k ，不管 memset 其中的 1k 还是 5k 、 7k ，实际占用物理内存总是 4k 的倍数。所以 RSS 的增量总是 4k 的倍数。
5. 因此，不是 malloc 后就马上占用实际内存，而是第一次使用时发现虚存对应的物理页面未分配，产生缺页中断，才真正分配物理页面，同时更新进程页面的映射关系。这也是 Linux 虚拟内存管理的核心概念之一。
四. 如何查看进程虚拟地址空间的使用情况？

进程地址空间被分为了代码段、数据段、堆、文件映射区域、栈等区域，那怎么查询这些虚拟地址空间的使用情况呢？

Linux 提供了 pmap 命令来查看这些信息，通常使用 pmap -d $pid （高版本可提供 pmap -x $pid）查询，如下所示：
1. mysql@ TLOG_590_591:~/vin/test_memory> pmap -d 17867
3. 17867: test_mmap
5. START SIZE RSS DIRTY PERM OFFSET DEVICE MAPPING
7. 00400000 8K 4K 0K r-xp 00000000 08:01 /home/mysql/vin/test_memory/test_mmap
9. 00501000 68K 8K 8K rw-p 00001000 08:01 /home/mysql/vin/test_memory/test_mmap
11. 00512000 76K 0K 0K rw-p 00512000 00:00 [heap]
13. 0053e000 256K 0K 0K rw-p 0053e000 00:00 [anon]
15. 2b3428f97000 108K 92K 0K r-xp 00000000 08:01 /lib64/ld-2.4.so
17. 2b3428fb2000 8K 8K 8K rw-p 2b3428fb2000 00:00 [anon]
19. 2b3428fc1000 4K 4K 4K rw-p 2b3428fc1000 00:00 [anon]
21. 2b34290b1000 8K 8K 8K rw-p 0001a000 08:01 /lib64/ld-2.4.so
23. 2b34290b3000 1240K 248K 0K r-xp 00000000 08:01 /lib64/libc-2.4.so
25. 2b34291e9000 1024K 0K 0K ---p 00136000 08:01 /lib64/libc-2.4.so
27. 2b34292e9000 12K 12K 12K r--p 00136000 08:01 /lib64/libc-2.4.so
29. 2b34292ec000 8K 8K 8K rw-p 00139000 08:01 /lib64/libc-2.4.so
31. 2b34292ee000 1048K 36K 36K rw-p 2b34292ee000 00:00 [anon]
33. 7fff81afe000 84K 12K 12K rw-p 7fff81afe000 00:00 [stack]
35. ffffffffff600000 8192K 0K 0K ---p 00000000 00:00 [vdso]
37. Total: 12144K 440K 96K
从这个结果可以看到进程虚拟地址空间的使用情况，包括起始地址、大小、实际使用内存、脏页大小、权限、偏移、设备和映射文件等。 pmap 命令就是基于下面两文件内容进行解析的：
1. /proc/$pid/maps
3. /proc/$pid/smaps
并且对于上述每个内存块区间，内核会使用一个 vm_area_struct 结构来维护，同时通过页面建立与物理内存的映射关系，如下图所示。

五.free 的内存真的释放了吗（还给 OS ） ?

前面所有例子都有一个很严重的问题，就是分配的内存都没有释放，即导致内存泄露。原则上所有 malloc/new 分配的内存，都需 free/delete 来释放。但是， free 了的内存真的释放了吗？

要说清楚这个问题，可通过下面例子来说明。
1. 初始状态：如图 (1) 所示，系统已分配 ABCD 四块内存，其中 ABD 在堆内分配， C 使用 mmap 分配。为简单起见，图中忽略了如共享库等文件映射区域的地址空间。
2. E=malloc(100k) ：分配 100k 内存，小于 128k ，从堆内分配，堆内剩余空间不足，扩展堆顶 (brk) 指针。
3. free(A) ：释放 A 的内存，在 glibc 中，仅仅是标记为可用，形成一个内存空洞 ( 碎片 ) ，并没有真正释放。如果此时需要分配 40k 以内的空间，可重用此空间，剩余空间形成新的小碎片。
4. free(C) ： C 空间大于 128K ，使用 mmap 分配，如果释放 C ，会调用 munmap 系统调用来释放，并会真正释放该空间，还给 OS ，如图 (4) 所示。
5. free(D) ：与释放 A 类似，释放 D 同样会导致一个空洞，获得空闲空间，但并不会还给 OS 。此时，空闲总空间为 100K ，但由于虚拟地址不连续，无法合并，空闲空间无法满足大于 60k 的分配请求。
6. free(E) ：释放 E ，由于与 D 连续，两者将进行合并，得到 160k 连续空闲空间。同时 E 是最靠近堆顶的空间， glibc 的 free 实现中，只要堆顶附近释放总空间（包括合并的空间）超过 128k ，即会调用 sbrk(-SIZE) 来回溯堆顶指针，将原堆顶空间还给 OS ，如图 (6) 所示。而堆内的空闲空间还是不会归还 OS 的。
由此可见：
1. malloc 使用 mmap 分配的内存 ( 大于 128k) ， free 会调用 munmap 系统调用马上还给 OS ，实现真正释放。
2. 堆内的内存，只有释放堆顶的空间，同时堆顶总连续空闲空间大于 128k 才使用 sbrk(-SIZE) 回收内存，真正归还 OS 。
3. 堆内的空闲空间，是不会归还给 OS 的。
六. 程序代码中 malloc 的内存都有相应的 free ，就不会出现内存泄露了吗？

狭义上的内存泄露是指 malloc 的内存，没有 free ，导致内存浪费，直到程序结束。而广义上的内存泄露就是进程使用内存量不断增加，或大大超出系统原设计的上限。

上一节说到， free 了的内存并不会马上归还 OS ，并且堆内的空洞（碎片）更是很难真正释放，除非空洞成为了新的堆顶。所以，如上一例子情况 (5) ，释放了 40k 和 60k 两片内存，但如果此时需要申请大于 60k （如 70k ），没有可用碎片，必须向 OS 申请，实际使用内存仍然增大。

因此，随着系统频繁地 malloc 和 free ，尤其对于小块内存，堆内将产生越来越多不可用的碎片，导致“内存泄露”。而这种“泄露”现象使用 valgrind 是无法检测出来的。

下图是 MySQL 存在大量分区表时的内存使用情况 (RSS 和 VSZ) ，疑似“内存泄露”。

因此，当我们写程序时，不能完全依赖 glibc 的 malloc 和 free 的实现。更好方式是建立属于进程的内存池，即一次分配 (malloc) 大块内存，小内存从内存池中获得，当进程结束或该块内存不可用时，一次释放 (free) ，可大大减少碎片的产生。

七. 既然堆内内存不能直接释放，为什么不全部使用 mmap 来分配？

由于堆内碎片不能直接释放，而问题 5 中说到 mmap 分配的内存可以会通过 munmap 进行 free ，实现真正释放。既然堆内碎片不能直接释放，导致疑似“内存泄露”问题，为什么 malloc 不全部使用 mmap 来实现呢？而仅仅对于大于 128k 的大块内存才使用 mmap ？

其实，进程向 OS 申请和释放地址空间的接口 sbrk/mmap/munmap 都是系统调用，频繁调用系统调用都比较消耗系统资源的。并且， mmap 申请的内存被 munmap 后，重新申请会产生更多的缺页中断。例如使用 mmap 分配 1M 空间，第一次调用产生了大量缺页中断 (1M/4K 次 ) ，当 munmap 后再次分配 1M 空间，会再次产生大量缺页中断。缺页中断是内核行为，会导致内核态 CPU 消耗较大。另外，如果使用 mmap 分配小内存，会导致地址空间的分片更多，内核的管理负担更大。

而堆是一个连续空间，并且堆内碎片由于没有归还 OS ，如果可重用碎片，再次访问该内存很可能不需产生任何系统调用和缺页中断，这将大大降低 CPU 的消耗。

因此， glibc 的 malloc 实现中，充分考虑了 sbrk 和 mmap 行为上的差异及优缺点，默认分配大块内存 (128k) 才使用 mmap 获得地址空间，也可通过 mallopt(M_MMAP_THRESHOLD, <SIZE>)来修改这个临界值。

八. 如何查看进程的缺页中断信息？

可通过以下命令查看缺页中断信息
```
ps -o majflt,minflt -C <program_name>
ps -o majflt,minflt -p <pid>
```
其中， majflt 代表 major fault ，指大错误， minflt 代表 minor fault ，指小错误。这两个数值表示一个进程自启动以来所发生的缺页中断的次数。其中 majflt 与 minflt 的不同是， majflt 表示需要读写磁盘，可能是内存对应页面在磁盘中需要 load 到物理内存中，也可能是此时物理内存不足，需要淘汰部分物理页面至磁盘中。

例如，下面是 mysqld 的一个例子。
```
mysql@ TLOG_590_591:~> ps -o majflt,minflt -C mysqld
MAJFLT MINFLT
144856 15296294
```
如果进程的内核态 CPU 使用过多，其中一个原因就可能是单位时间的缺页中断次数多个，可通过以上命令来查看。

如果 MAJFLT 过大，很可能是内存不足。

如果 MINFLT 过大，很可能是频繁分配 / 释放大块内存 (128k) ， malloc 使用 mmap 来分配。对于这种情况，可通过 mallopt(M_MMAP_THRESHOLD, <SIZE>)增大临界值，或程序实现内存池。

九. 如何查看堆内内存的碎片情况？

glibc 提供了以下结构和接口来查看堆内内存和 mmap 的使用情况。
```
struct mallinfo {
  int arena;    /* non-mmapped space allocated from system */
  int ordblks;  /* number of free chunks */
  int smblks;   /* number of fastbin blocks */
  int hblks;    /* number of mmapped regions */
  int hblkhd;   /* space in mmapped regions */
  int usmblks;  /* maximum total allocated space */
  int fsmblks;  /* space available in freed fastbin blocks */
  int uordblks; /* total allocated space */
  int fordblks; /* total free space */
  int keepcost; /* top-most, releasable (via malloc_trim) space */
};


/* 返回 heap(main_arena) 的内存使用情况，以 mallinfo 结构返回 */
struct mallinfo mallinfo();
/* 将 heap 和 mmap 的使用情况输出到 stderr  */
void malloc_stats();
```
可通过以下例子来验证 mallinfo 和 malloc_stats 输出结果。
```
#include <stdlib.h>
#include <stdio.h>
#include <string.h>
#include <unistd.h>
#include <sys/mman.h>
#include <malloc.h>
size_t  heap_malloc_total, heap_free_total,
                mmap_total, mmap_count;
void print_info()
{
        struct mallinfo mi = mallinfo();
        printf("count by itself:
");
        printf("	heap_malloc_total=%lu heap_free_total=%lu heap_in_use=%lu

	mmap_total=%lu mmap_count=%lu
",
                heap_malloc_total*1024, heap_free_total*1024, heap_malloc_total*1024 - heap_free_total*1024,
                mmap_total*1024, mmap_count);
        printf("count by mallinfo:
");
        printf("	heap_malloc_total=%lu heap_free_total=%lu heap_in_use=%lu

	mmap_total=%lu mmap_count=%lu
",
                mi.arena, mi.fordblks, mi.uordblks,
                mi.hblkhd, mi.hblks);
      printf("from malloc_stats:
");
        malloc_stats();
}

#define ARRAY_SIZE 200
int main(int argc, char** argv)
{
        char** ptr_arr[ARRAY_SIZE];
        int i;
        for( i = 0; i < ARRAY_SIZE; i++) {
                ptr_arr[i] = malloc(i * 1024);
                if ( i < 128)
                        heap_malloc_total += i;
                else {
                        mmap_total += i;
                        mmap_count++;
                }

        }
        print_info();
        for( i = 0; i < ARRAY_SIZE; i++) {
                if ( i % 2 == 0)
                        continue;
                free(ptr_arr[i]);
                if ( i < 128)
                        heap_free_total += i;
                else {
                        mmap_total -= i;
                        mmap_count--;
                }
        }
        printf("
after free
");
        print_info();
        return 1;
}
```
该例子第一个循环为指针数组每个成员分配索引位置 (KB) 大小的内存块，并通过 128 为分界分别对 heap 和 mmap 内存分配情况进行计数；第二个循环是 free 索引下标为奇数的项，同时更新计数情况。通过程序的计数与 mallinfo/malloc_stats 接口得到结果进行对比，并通过 print_info 打印到终端。

下面是一个执行结果：
```
count by itself:
        heap_malloc_total=8323072 heap_free_total=0 heap_in_use=8323072
        mmap_total=12054528 mmap_count=72
count by mallinfo:
        heap_malloc_total=8327168 heap_free_total=2032 heap_in_use=8325136
        mmap_total=12238848 mmap_count=72
from malloc_stats:
Arena 0:
system bytes     =    8327168
in use bytes     =    8325136
Total (incl. mmap):
system bytes     =   20566016
in use bytes     =   20563984
max mmap regions =         72
max mmap bytes   =   12238848

after free

count by itself:
        heap_malloc_total=8323072 heap_free_total=4194304 heap_in_use=4128768
        mmap_total=6008832 mmap_count=36
count by mallinfo:
        heap_malloc_total=8327168 heap_free_total=4197360 heap_in_use=4129808
        mmap_total=6119424 mmap_count=36
from malloc_stats:
Arena 0:
system bytes     =    8327168
in use bytes     =    4129808
Total (incl. mmap):
system bytes     =   14446592
in use bytes     =   10249232
max mmap regions =         72
max mmap bytes   =   12238848
```
由上可知，程序统计和 mallinfo 得到的信息基本吻合，其中 heap_free_total 表示堆内已释放的内存碎片总和。

如果想知道堆内片究竟有多碎，可通过 mallinfo 结构中的 fsmblks 、 smblks 、 ordblks 值得到，这些值表示不同大小区间的碎片总个数，这些区间分别是 0~80 字节， 80~512 字节， 512~128k 。如果 fsmblks 、 smblks 的值过大，那碎片问题可能比较严重了。

不过， mallinfo 结构有一个很致命的问题，就是其成员定义全部都是 int ，在 64 位环境中，其结构中的 uordblks/fordblks/arena/usmblks 很容易就会导致溢出，应该是历史遗留问题，使用时要注意！

十. 除了 glibc 的 malloc/free ，还有其他第三方实现吗？

其实，很多人开始诟病 glibc 内存管理的实现，就是在高并发性能低下和内存碎片化问题都比较严重，因此，陆续出现一些第三方工具来替换 glibc 的实现，最著名的当属 google 的 tcmalloc 和 facebook 的 jemalloc 。

网上有很多资源，可搜索之，这里就不详述了。

总结

基于以上认识，最后发现 MySQL 的疑似“内存泄露”问题一方面是 MySQL 5.5 分区表使用更多的内存，另一方面跟内存碎片有关，这也是 TMySQL 一个优化方向。

然而，以上主要介绍了 glibc 虚拟内存管理主要内容，事实上，在并发情况下， glibc 的虚存管理会更加复杂，碎片情况也可能更严重，这将在另一篇再做介绍。

参考文章：
《深入理解计算机系统》第 10 章
http://www.kernel.org/doc/Documentation/x86/x86_64/mm.txt
https://en.wikipedia.org/wiki/X86-64#Canonical_form_addresses
https://www.ibm.com/developerworks/cn/linux/l-lvm64/
http://www.kerneltravel.net/journal/v/mem.htm
http://blog.csdn.net/baiduforum/article/details/6126337
http://www.nosqlnotes.net/archives/105
查看全文

相关阅读:
使用NUnit做单元测试（总结版）
http、ajax调试利器：Fiddler！！！（资料汇总）
驳《从团购网站看中国人的创新精神》
破解迷团：在asp.net 　2.0服务器上运行.net 3.5（一）
扩充NetCMS的功能：添加{TM:Repeater}{/TM:Repeater}标签
 TFS 2010 基础配置手动升级到高级配置安装实践
 .net 中的 StringBuilder 和 TextWriter 区别
 最大团问题
 全排列问题
 ado.net连接池

原文地址：https://www.cnblogs.com/newjiang/p/9543695.html

Linux虚拟内存管理(glibc)

Linux 的虚拟内存管理有几个关键概念：

一.Linux 虚拟地址空间如何分布？ 32 位和 64 位有何不同？

二.malloc 是如何分配内存的？

三.malloc 分配多大的内存，就占用多大的物理内存空间吗？

四. 如何查看进程虚拟地址空间的使用情况？

五.free 的内存真的释放了吗（还给 OS ） ?

六. 程序代码中 malloc 的内存都有相应的 free ，就不会出现内存泄露了吗？

七. 既然堆内内存不能直接释放，为什么不全部使用 mmap 来分配？

八. 如何查看进程的缺页中断信息？

九. 如何查看堆内内存的碎片情况？

十. 除了 glibc 的 malloc/free ，还有其他第三方实现吗？

总结