前言
如题,有感于博客园最近多次翻车,感觉像胡子眉毛一把抓, 定位不了生产环境的问题。
抛开流程问题,思考在生产环境中如何做故障排除, 发现博客园里面这方面的文章比较少。
.Net 本身是提供了sos.dll工具帮助我们在生产中故障排除,通过提供有关内部公共语言运行时(CLR)环境的信息,帮助您在Visual Studio和Windows调试器(WinDbg.exe)中调试托管程序。
头脑风暴
故障排除的核心是:调试待分析进程的dump文件
常规思路
① ps aux 找到待分析进程PID
② .netcore runtime自带createdump工具
③ 执行 ./createdump -f -u {PId} 命令导出coredump文件,默认生成 /tmp/coredump.%d dump文件, 使用Visual Studio 或者Windebug调试dump文件
容器中遇到的障碍
- .netcore app容器中需要有容器特权模式才能执行createdump命令, 否则会如下图错误
ps:可通过在docker run 生成该容器时增加--privileged = true操作特权
-
常规.netcore app容器内不包含ps命令, 难以明确容器内dotnet 进程PID
-
容器内导出的coredump文件,还需要使用 docker cp 命令导出到docker 主机,再行调试。
针对容器内.NetCore app生产调试,国外大牛已经针对 .NetCore特定runtime版本制成了工具镜像
Analyze running container
以下假设待分析容器使用的.netcore runtime与6opuc/lldb-netcore 工具镜像内runtime 相同。
1.找到待分析容器id (docker ps),例如: b5063ef5787c
2.运行包含createdump工具的容器(需要sys_admin,sys_ptrace特权), 如果运行的容器已经包含这个特权,可附加待分析容器并在容器中执行createdump工具
docker run --rm -it --cap-add sys_admin --cap-add sys_ptrace --net=container:b5063ef5787c --pid=container:b5063ef5787c -v /tmp:/tmp 6opuc/lldb-netcore /bin/bash
--net=container:b5063ef5787c 重用待分析容器的网络堆栈
--pid=container:b5063ef5787c 加入待分析容器的PID命名空间
3. 找到待分析dotnet进程PID: px aux
4. 生成dotnet进程的 coredump文件,并退出容器
createdump -u -f /tmp/coredump 7 # 7是dotnet进程id exit
5. 使用debugger打开coredump文件
docker run --rm -it -v /tmp/coredump:/tmp/coredump 6opuc/lldb-netcore
output:
(lldb) target create "/usr/bin/dotnet" --core "/tmp/coredump" Core file '/tmp/coredump' (x86_64) was loaded. (lldb) plugin load /coreclr/libsosplugin.so (lldb) sos PrintException There is no current managed exception on this thread (lldb)
6. 在lldb shell : help命令继续探索
lldb使用方式可参考https://docs.microsoft.com/en-us/dotnet/framework/tools/sos-dll-sos-debugging-extension
常见用例
该DockerHub Repo还提供了基于docker 生产故障排除的常见用例:
这个镜像对于基于容器的故障排除相当有用,不敢自称原创镜像;
分享给大家, 希望园友通过经历生产环境的故障排除,进阶为资深研发。