DotTrace系列:7. 诊断 托管和非托管 内存暴涨

一:背景

1. 讲故事

分析托管和非托管内存暴涨,很多人潜意识里都会想到抓dump上windbg分析,但我说可以用dottrace同样分析出来,是不是听起来有点让人惊讶,哈哈,其实很正常,它是另辟蹊径采用底层的ETW机制,即开启 windows 底层日志,所以 dottrace 可以做,官方血统的 perfview 就更可以了,话不多说,这篇就来开干吧。

二:托管和非托管内存分析

1. 托管内存暴涨

用 windbg 分析的话,基本上就是 !eeheap -gc + !dumpheap -stat + !gcroot 三板斧搞定,但dump的分析方式也不全是优点,它最大的缺点就是dump>20G 时,windbg 基本上就分析不动了,这个很致命,而且 >20G 的dump在分发方面也很麻烦,费时费力,所以在这种情况下,可以借助摄像头dottrace来解决此类问题。

比如有这样的一个场景:我有一个程序平时都是好好的,最近修复了一个bug,上线之后不知道为什么就吃了 4.4G+的内存,这明显是超出预期的,现在很惶恐,截图如下:

DotTrace系列:7. 诊断 托管和非托管 内存暴涨

我用 vmmap 简单看了下发现主要是 托管堆 的泄露,截图如下:

DotTrace系列:7. 诊断 托管和非托管 内存暴涨

由于dump是非常保密的,不适合分发给第三方,在生产上搭建windbg工作台也不是很方便,有没有轻量级的工具直接分析呢?哈哈,这时候就可以考虑下 dotrrace,它可以帮你找出托管内存分配都是从哪个方法出来的。

使用 dotrace 初始化跟踪或者附加进程一段时间后,采集到的跟踪文件如下:

DotTrace系列:7. 诊断 托管和非托管 内存暴涨

Filters 面板中可以看到有一个 .NET Memory Alocations 项,上面记录着当前程序分配的内存总量,接下来就可以选中进行下钻分析,截图如下:

DotTrace系列:7. 诊断 托管和非托管 内存暴涨

从卦中可以清晰的看到如下信息:

  • 托管内存主要被 LOH 大对象堆给吃了
  • 托管堆上最多的对象是 System.Byte[]

看到这里心里就踏实多了,接下来选中 System.Byte[],看下这些分配都藏在哪些方法里,接下来选择 Hotspots 中的 Plain List 选项,截图如下:

DotTrace系列:7. 诊断 托管和非托管 内存暴涨

从卦中可以看到内存主要被 LoadCustomerAttachments 方法给吃掉了,接下来点击 Show Code 观察该方法源码,代码参考如下:

         static void LoadCustomerAttachments()         {             Console.WriteLine($"[客户附件] 开始加载 (线程ID: {Thread.CurrentThread.ManagedThreadId})");              try             {                 var attachments = new Dictionary<int, byte[]>();                 for (int i = 0; i < 30; i++)                 {                     attachments[i] = new byte[100 * 1024 * 1024];                      for (int j = 0; j < attachments[i].Length; j += 1024)                     {                         attachments[i][j] = (byte)(i + j);                     }                      // 每5个附件输出一次进度                     if (i % 5 == 0)                     {                         Console.WriteLine($"[客户附件] 已加载 {i} 个附件 ({(i + 1) * 100}MB)");                     }                 }                  Console.WriteLine($"[客户附件] 加载完成,共{attachments.Count}个附件");             }             catch (OutOfMemoryException ex)             {                 Console.WriteLine($"[客户附件] 内存不足错误: {ex.Message}");             }         }  

到这里基本就真相大白,是不是有点像 ust 效果。

2. 非托管内存暴涨

不管是 linux 还是 windows,分析非托管内存泄露都是一个很苟的活,如果非托管内存的泄露是在 ntheap 上,除了重量级的 dump 分析之后,还可以使用轻量级的 dottrace,你没听错,dottrace 是可以分析 ntheap 堆泄露,前提就是勾选上 Collect only unreleased allcations,其实本质也是借助底层的 ETW 事件,截图如下:

DotTrace系列:7. 诊断 托管和非托管 内存暴涨

为了方便演示,我用 C# 调用 C++ 来实现一个NTHEAP 的非托管内存泄露,然后借助 dottrace 快速分析,首先定义几个C 导出函数,代码如下:

 extern "C" { 	_declspec(dllexport) void HeapMalloc1(int bytes); 	_declspec(dllexport) void HeapMalloc2(int bytes); 	_declspec(dllexport) void HeapMalloc3(int bytes); }  #include "iostream" #include <Windows.h>  using namespace std;   void HeapMalloc1(int bytes) { 	int* ptr = (int*)malloc(bytes); 	printf("bytes=%d ,分配完毕n", bytes); }  void HeapMalloc2(int bytes) { 	int* ptr = (int*)malloc(bytes); 	printf("bytes=%d ,分配完毕n", bytes);  }  void HeapMalloc3(int bytes) { 	int* ptr = (int*)malloc(bytes); 	printf("bytes=%d ,分配完毕n", bytes); }  

接下来通过C#不断的调用这几个函数,其中 HeapMalloc1 方法会泄露 2G 的内存,参考代码如下:

 namespace MemoryLeakSimulator {     internal class Program     {         [DllImport("Example_20_1_5", CallingConvention = CallingConvention.Cdecl)]         extern static void HeapMalloc1(int bytes);          [DllImport("Example_20_1_5", CallingConvention = CallingConvention.Cdecl)]         extern static void HeapMalloc2(int bytes);          [DllImport("Example_20_1_5", CallingConvention = CallingConvention.Cdecl)]         extern static void HeapMalloc3(int bytes);          static void Main(string[] args)         {             // Configure target leaks (in bytes)             long targetLeak1 = 2L * 1024 * 1024 * 1024;  // 2GB for HeapMalloc1             long targetLeak2 = new Random().Next(500, 1000) * 1024L * 1024;  // 500MB-1GB for HeapMalloc2             long targetLeak3 = new Random().Next(500, 1000) * 1024L * 1024;  // 500MB-1GB for HeapMalloc3              // Chunk size (e.g., 100MB per iteration)             int chunkSize = 100 * 1024 * 1024;              // Thread 1: Leak 2GB in chunks             Thread thread1 = new Thread(() =>             {                 long leaked = 0;                 while (leaked < targetLeak1)                 {                     int allocate = (int)Math.Min(chunkSize, targetLeak1 - leaked);                     HeapMalloc1(allocate);                     leaked += allocate;                     Console.WriteLine($"HeapMalloc1: Leaked {leaked / (1024 * 1024)}MB / {targetLeak1 / (1024 * 1024)}MB");                     Thread.Sleep(100); // Delay between allocations                 }             });              // Thread 2: Leak 500MB-1GB in chunks             Thread thread2 = new Thread(() =>             {                 long leaked = 0;                 while (leaked < targetLeak2)                 {                     int allocate = (int)Math.Min(chunkSize, targetLeak2 - leaked);                     HeapMalloc2(allocate);                     leaked += allocate;                     Console.WriteLine($"HeapMalloc2: Leaked {leaked / (1024 * 1024)}MB / {targetLeak2 / (1024 * 1024)}MB");                     Thread.Sleep(100);                 }             });              // Thread 3: Leak 500MB-1GB in chunks             Thread thread3 = new Thread(() =>             {                 long leaked = 0;                 while (leaked < targetLeak3)                 {                     int allocate = (int)Math.Min(chunkSize, targetLeak3 - leaked);                     HeapMalloc3(allocate);                     leaked += allocate;                     Console.WriteLine($"HeapMalloc3: Leaked {leaked / (1024 * 1024)}MB / {targetLeak3 / (1024 * 1024)}MB");                     Thread.Sleep(100);                 }             });              // Start all threads             thread1.Start();             thread2.Start();             thread3.Start();              // Wait for completion             thread1.Join();             thread2.Join();             thread3.Join();              Console.WriteLine("All leaks completed!");             Console.ReadLine();         }     } }  

启动dottrace跟踪,跟踪完成之后,在 Filters 面板中有一个 Native Allocations 项,上面记录了当前程序已泄露 3.5G 内存,截图如下:

DotTrace系列:7. 诊断 托管和非托管 内存暴涨

说实话有一点我想吐槽,dotTrace 为什么要将 Native MemoryNtHeap 做等价,Ntheap 只是 Native Memory 的子集,会让人觉得 Stack泄露,VirtualAlloc泄露都归到当前的 Native Allocations 中,这是一个很大的误解,所以更合适的名字叫 NtHeap Allocations

接下来选中 Native Allocations 项下钻,可以清楚的看到各个线程泄露的百分比以及对应的函数,截图如下:

DotTrace系列:7. 诊断 托管和非托管 内存暴涨

到这里我们终于知道原来 HeapMalloc1泄露了2G内存,HeapMalloc2泄露了800M内存,HeapMalloc3泄露了 640M 内存,真相大白。

三:总结

是不是觉得非常的棒,大家以后在分析托管或非托管内存的时候,在必要的场景下记得用 dottrace 哦。

DotTrace系列:7. 诊断 托管和非托管 内存暴涨

作为JetBrains社区内容合作者,如有购买jetbrains的产品,可以用我的折扣码 HUANGXINCHENG,有25%的内部优惠哦。

发表评论

评论已关闭。

相关文章