一:背景
1. 讲故事
训练营里的一位学员找到我,说他们的系统会出现内存暴涨的情况,看了下也不是托管堆的问题,让我协助一下到底怎么回事?既然有dump了,那就开始分析之旅吧。
二:内存暴涨分析
1. 为什么会暴涨
在分析之前还是那条原则,不要过分的相信求助者的话,否则容易被他带沟里去,毕竟人家是业余的,你是专业的。。。接下来使用 !address -summary 观察下提交内存,输出如下。
0:000> !address -summary --- Usage Summary ---------------- RgnCount ----------- Total Size -------- %ofBusy %ofTotal Free 637 5ffd`2b0ce000 ( 95.989 TB) 74.99% <unknown> 2783 2001`3b63cc00 ( 32.005 TB) 99.98% 25.00% Heap 3737 1`509cf000 ( 5.260 GB) 0.02% 0.00% Image 2615 0`2deb1400 ( 734.692 MB) 0.00% 0.00% Stack 235 0`12d00000 ( 301.000 MB) 0.00% 0.00% Other 80 0`082c8000 ( 130.781 MB) 0.00% 0.00% TEB 78 0`0009c000 ( 624.000 kB) 0.00% 0.00% PEB 1 0`00001000 ( 4.000 kB) 0.00% 0.00% --- Type Summary (for busy) ------ RgnCount ----------- Total Size -------- %ofBusy %ofTotal MEM_PRIVATE 6681 2002`9d342000 ( 32.010 TB) 100.00% 25.01% MEM_IMAGE 2625 0`2deca000 ( 734.789 MB) 0.00% 0.00% MEM_MAPPED 223 0`09d16000 ( 157.086 MB) 0.00% 0.00% --- State Summary ---------------- RgnCount ----------- Total Size -------- %ofBusy %ofTotal MEM_FREE 637 5ffd`2b0ce000 ( 95.989 TB) 74.99% MEM_RESERVE 855 2001`4093a000 ( 32.005 TB) 99.98% 25.00% MEM_COMMIT 8674 1`945e8000 ( 6.318 GB) 0.02% 0.00% ...
从卦中可以看到当前 MEM_COMMIT=6.3G 和 Heap=5.2G,卦象里已经非常明显的表明当前属 NT堆 暴涨,缩小范围之后继续使用 !heap -s 下钻分析。
0:000> !heap -s ************************************************************************************************************************ NT HEAP STATS BELOW ************************************************************************************************************************ NtGlobalFlag enables following debugging aids for new heaps: stack back traces LFH Key : 0x7a5897d060b6c4ee Termination on corruption : ENABLED Heap Flags Reserv Commit Virt Free List UCR Virt Lock Fast (k) (k) (k) (k) length blocks cont. heap ------------------------------------------------------------------------------------- 0000016214c40000 08000002 4711276 4710972 4710884 9187 1416 295 19 6d LFH 000001620cbd0000 08008000 64 8 64 6 1 1 0 0 0000016214f60000 08001002 1472 132 1080 21 7 2 0 0 LFH ...
从卦象看,这高内存是由 Heap=0000016214c40000 贡献的,其中 Commit=4.71G 也明确的表明当前是由海量的 alloc <1M 的 block 引发的,由于这个dump已经开启了 stack back traces,所以能够轻松的拿到分配block的调用栈。
2. 海量的block是什么
要想找到这个答案,可以对heap进行分配排序来观察异常特征,使用 !heap -stat -h 0000016214c40000 命令。
0:000> !heap -stat -h 0000016214c40000 heap @ 0000016214c40000 group-by: TOTSIZE max-display: 20 size #blocks total ( %) (percent of total busy bytes) 4000 40e08 - 103820000 (88.20) 1000 15a1d - 15a1d000 (7.35) 1309800 5 - 5f2f800 (2.02) e6a900 2 - 1cd5200 (0.61) ba6a20 1 - ba6a20 (0.25) 3a8000 3 - af8000 (0.23) 4ce500 2 - 99ca00 (0.20) 800027 1 - 800027 (0.17) ...
从卦中可以看到 block=4000byte 的块有 0x40e08 个,总大小为 0x103820000 = 4.3G,看样子离真相越来越近了,接下来使用 !heap -flt s 4000 看下这 0x40e08 个block都是些什么东西,部分输出如下:
0:000> !heap -flt s 4000 _HEAP @ 16214c40000 HEAP_ENTRY Size Prev Flags UserPtr UserSize - state 000001622fa684a0 0403 0000 [00] 000001622fa684d0 04000 - (busy) ... 0000016281dcf7b0 0403 0403 [00] 0000016281dcf7e0 04000 - (busy) 0000016281dd37e0 0403 0403 [00] 0000016281dd3810 04000 - (busy) 0000016281dd7810 0403 0403 [00] 0000016281dd7840 04000 - (busy) 0000016281ddb840 0403 0403 [00] 0000016281ddb870 04000 - (busy) 0000016281ddf870 0403 0403 [00] 0000016281ddf8a0 04000 - (busy) 0000016281de38a0 0403 0403 [00] 0000016281de38d0 04000 - (busy) 0000016281de78d0 0403 0403 [00] 0000016281de7900 04000 - (busy) 0000016281deb900 0403 0403 [00] 0000016281deb930 04000 - (busy) 0000016281def930 0403 0403 [00] 0000016281def960 04000 - (busy) 0000016281df3960 0403 0403 [00] 0000016281df3990 04000 - (busy) 0000016281df7990 0403 0403 [00] 0000016281df79c0 04000 - (busy) ...
接下来就是使用 !heap -p -a 0000016281df7990 抽几个 block 观察其分配栈,全都是如下输出:
0:000> !heap -p -a 0000016281df7990 address 0000016281df7990 found in _HEAP @ 16214c40000 HEAP_ENTRY Size Prev Flags UserPtr UserSize - state 0000016281df7990 0403 0000 [00] 0000016281df79c0 04000 - (busy) 7ffa3dadb49d ntdll!RtlpAllocateHeapInternal+0x0000000000000a7d 7ffa3b44fde6 ucrtbase!_malloc_base+0x0000000000000036 7ff9faacc1a9 xxxWrapper!xxxWrapper::operator=+0x0000000000008819 7ff9faac5474 xxxWrapper!xxxWrapper::operator=+0x0000000000001ae4 7ff9faac3efb xxxWrapper!xxxWrapper::operator=+0x000000000000056b 7ff9c8c06606 +0x00007ff9c8c06606
从卦象看是 0x00007ff9c8c06606 调用了 xxxWrapper.dll,可能有些人有疑问,前者为什么是地址而不是函数名,这是因为它是JIT动态生成的哈,使用 !ip2md 0x00007ff9c8c06606 让其现出原形。
0:000> !ip2md 0x00007ff9c8c06606 MethodDesc: 00007ff9c8e00068 Method Name: xxxWrapper.xxxWrapperHelper.GetSpectrum(Int32) Class: 00007ff9c8ded028 MethodTable: 00007ff9c8e001f8 mdToken: 0000000006000073 Module: 00007ff9c8dbcce8 IsJitted: yes CodeAddr: 00007ff9c8c06590 Transparency: Safe critical
最后根据 GetSpectrum 找到相应的源码,截图如下:

从卦中看应该只有分配,没有调用相关的释放 函数导致的,让朋友找一下 GetSpectrum 函数的 C++ 方,定会提供相关指导意见。
三:总结
本次内存暴涨事故属于C++和C#团队没有很好的沟通和协作引发的,不过像这种多语言项目想不弄出点事都难哈。