AK47所向披靡,内存泄漏一网打尽

Linux阅码场 2021-06-03 09:51
作者 / 尝君、品文
编辑 /  芹菜
出品 / 云巅论剑

青囊,喜欢运动T恤加皮裤的非典型程序猿。此时,他正目不转睛注视着屏幕上一行行的代码,内存泄漏这个问题已经让他茶饭不思两三天了,任凭偌大的雨滴捶打着窗户也无动于衷。就这么静悄悄地过了一会儿,突然间,他哼着熟悉的小曲,仿佛一切来的又那么轻松又惬意。

是谁,在撩动我琴弦,那一段被遗忘的时光......
初识内存泄漏

小白的练级之路少不了前辈们的语重心长。从踏上linux内核之路开始,专家们就对青囊说——“遇到困难要学会独立思考”、“最好的学习方式就是带着问题看代码”等等。可这次遇到的问题,让青囊百思不得其解——机器总内存有200G,运行800多天,slabUnreclaim占用 2G,且停掉业务进程,内存占用并没有降低客户非得让青囊给出合理解释:

1.slab 2G内存是否存在泄漏?如果存在泄漏需要找到原因。

2.如不存在泄漏,需要找到这2G的使用者。

客户的问题很毒辣,是或不是都得给出合理解释,需要用数据说话。带着这些疑问,青囊开始了漫长的排查之路。
正在青囊全身心投入工作的时候,专家走到他的身旁,静悄悄的脚步并没有被专心致志的青囊发现。专家的眼光放在了那一串串的代码之上,眼里流露出老父亲般的慈祥。专家张口一句:“内存泄漏,这类问题不难,内核自带kmemleak可以排查。况且200G的内存,slab Unreclaim才占用2G,这根本就没问题嘛。”青囊一下子抓到了救命稻草,眼里泛着希望的光芒。
一来这可能不是一个问题,二来也有排查工具kmemleak了。说干就干,青囊对kmemleak原理和使用进行了深入学习,kmemleak的使用总结起来就两条指令:

 echo scan > /sys/kernel/debug/kmemleak

cat /sys/kernel/debug/kmemleak

青囊迫不及待地登陆服务器执行命令——

#echo scan > /sys/kernel/debug/kmemleak

 bash: /sys/kernel/debug/kmemleak: Permission denied

咦,居然提示没权限?

#ls -l /sys/kernel/debug/kmemleak

ls: cannot access /sys/kernel/debug/kmemleak: No such file or directory

查看系统配置,原来线上环境根本就没有打开kmemleak。

# CONFIG_DEBUG_KMEMLEAK is not set

青囊立马想到,可以重新编译内核使能kmemleak,再让客户来复现问题,但客户狠狠地甩了一句,“你们的目标不是提供永不停机的计算服务吗!?
此时此刻,青囊燃起的希望又破灭了。
青囊自我安慰了一番,接着跑到专家边上想请教。他一脸沮丧地说着问题背景,专家听罢,无可奈何地挥了挥手:“你玩斗地主都是直接上来就王炸的吗?这种问题应该是自己思考解决的”。青囊只好灰头土脸地回工位。痛定思痛,他憋着口气,一定要搞懂内存管理,搞懂slab内存分配。
于是,青囊又开始了自己的钻研之路。

内存泄漏升华之路

经过系统学习,青囊对内存管理有了大致的了解。按照Linux 内存分配API的不同,可以把内存简单分为四种类型——
  1. alloc page 内存, 直接调用__get_free_page/alloc_pages等函数从伙伴系统申请单个或多个连续的页面。
  2.  slab 内存,使用kmalloc/kmem_cache_alloc 等slab接口申请内存。slab 分配器基于伙伴系统,提供了小内存的分配能力(虽然也兼容大内存分配)。slab分配器从伙伴系统"批发"大内存,然后把大内存分成许多小块内存,一个小块内存块称为object, 最后把object "零售"给其他内核组件使用。
  3. vmalloc内存,vmalloc内存也是基于伙伴系统,实现了线性映射非连续内存的能力,能够分配更多,更大的内存。
  4. 用户态内存,主要指anon page 和file cache,最终由内核一个个单一的页面映射而成。
青囊不知道自己这样的理解到底属于什么程度,于是想借着客户的问题,顺便也动手练习一下。虽然内存的使用进程成千上万,但作为物理存储介质,不管内存被哪个进程使用,物理上都是不可移动的。泄漏的内存是“躺尸”一样的存在,而且特征还非常明显。因为泄漏的slab内存,就好比聚会后的场地,总会留下点什么。
其特点有——
  1. 内存的内容不会再改变, 因为没有进程能访问到这块内存。

  2. slab的object内存对象,可能会残留使用过的全局变量, 函数名,字符串,指针,特定数值(垃圾满地)。

  3. 内存中充斥着大量内容相似(相等)的slab object对象。

基于以上三个特征,青囊这里也借助“大数据”思维来进行排查,可以使用crash工具在内存中寻找出现最多的object,并且在object中找到可视的函数名,全局变量,再结合代码,就可以推测泄漏的函数了。

sysAK——内存泄漏无处遁逃

有了slab分配器系统的学习,以及对内存泄漏特征的思考,等到再一次登陆机器时,青囊信心满满志在必得。想想毕竟有备而来,这次一定让内存泄漏无处可逃。
排查过程大致可以分为四步:
1. 确认泄漏的slab
通过slabtop  -s -a ,找到使用objects最多且不可回收的slab
OBJS ACTIVE USE OBJ SIZE SLABS OBJ/SLAB CACHE SIZE NAME 419440512 419440512 100% 0.03K 3276879 128 13107516K kmalloc-32 810303 401712 49% 0.10K 20777 39 83108K buffer_head 417600 362397 86% 1.05K 13920 30 445440K ext4_inode_cache 267596 241915 90% 0.57K 9557 28 152912K radix_tree_node 216699 154325 71% 0.19K 10319 21 41276K dentry 155958 37367 23% 0.04K 1529 102 6116K ext4_extent_status
可以看到kmalloc-32的active object达到了4亿多个,占用内存在1.3G左右,泄漏嫌疑最大,那就拿kmalloc-32来开刀了。
2. 启用crash实时分析kmalloc-32的内存
3.查找kmalloc-32内存页
crash> kmem -S kmalloc-32 | tailffffea000c784e00 ffff88031e138000 0 128 111 17ffffea00242d0240 ffff88090b409000 0 128 126 2ffffea00436c5800 ffff8810db160000 0 128 127 1ffffea0018b1df40 ffff88062c77d000 0 128 126 2ffffea005947d1c0 ffff881651f47000 0 128 126 2ffffea004d463080 ffff8813518c2000 0 128 126 2ffffea0030644100 ffff880c19104000 0 128 126 2
4.dump内存内容
这里可以随机选择多个page来分析,这里选择ffff88031e138000来分析。
crash> rd ffff88031e138000 -Sffff88031e138000: ffff882f59bade00 dead000000100100 ...Y/...........ffff88031e138010: dead000000200200 ffffffff002856f7 .. ......V(.....-------ffff88031e138020: ffff882f59bade00 dead000000100100 ...Y/...........ffff88031e138030: dead000000200200 ffffffff00284a2a .. .....*J(.....------ffff88031e138040: ffff882f59bade00 dead000000100100 ...Y/...........ffff88031e138050: dead000000200200 00303038002856f7 .. ......V(.800.------ffff88031e138060: ffff882f59bade00 dead000000100100 ...Y/...........ffff88031e138070: dead000000200200 ffffffff00284a29 .. .....)J(.....
可以看到每个object的内容大体相似,但并没有预期的顺利,没有看到函数名或者变量名,可青囊知道 ffff882f59bade00 这也是个slab内存地址,于是进一步打印其内容
crash> x /20a 0xffff882f59bade000xffff882f59bade00: 0x460656b7 0xffffffff81685b60 0xffff882f59bade10: 0x63ea63ea00000001 0xffff882f59bade180xffff882f59bade20: 0xffff882f59bade18 0x00xffff882f59bade30: 0x0 0xffff882f59bade380xffff882f59bade40: 0xffff882f59bade38 0x7fb27fb2
0xffffffff81685b60明显是内核只读段的地址。sym 这个地址,原来是inotify_fsnotify_ops全局变量,从而推出泄漏结构体是struct fsnotify_event_private_data,然后结合fsnotify_event_private_data分配和释放的代码,在释放内存时存在不正确的判断逻辑,导致分配的内存没有添加到链表,失去释放的机会,从而导致泄漏。
分析到这里,青囊终于确认这是一起内存泄漏,而且泄漏的函数也定位到了,这下算是可以给客户一个满意的答案了。
客户问题得到了解决,青囊也对内存管理有了深刻的认识,还形成了自己的一套分析方法。但是青囊心里也清楚,泄漏的内存不是每次都能找到函数名或者可视字符,手工使用crash查看的内存样本也不一定够,还要对内存地址比较敏感。于是青囊想把这套分析方法提炼成工具,可以对内存泄漏这类问题实施快速一键诊断,且不要懂内存知识,人人都可以上手分析
抱着这样的理念,实现了5个核心功能:
  1. 自动判断系统是否存在泄漏。

  2. 自动判断是slab, vmalloc还是alloc page泄漏。

  3.  扫描全局内存,找到内存中slab object最多,且内容相似度最高的object。

  4.  动态采集内存的分配和释放。

  5. 计算动态采集地址的内容与存量object的内容相似度,但达到一定相似度时,则对动态地址进行标记。

青囊把工具命名为sysAK,寓意像AK47一样,能够对系统问题快速定位。随着青囊的学习成长,sysAK后续也会加入更多的功能,实现对操作系统全方位的监控,诊断和修复。
手握sysAK,青囊也蠢蠢欲动想验证自己的工具,于是找专家们要来正在处理的“内存泄漏问题”。专家们只见青囊轻轻地敲击了一条指令sysak memleak
静静等待了200秒后,屏幕输出了令人为之一振的结果:
未释放内存汇总:次数 标记次数 函数66 62 bond_vminfo_add+0x7c/0x200 [bonding]109 0 memleak_max_object+0x3f7/0x7e0 [mem]33 0 inet_bind_bucket_create+0x21/0x701 0 copy_fs_struct+0x22/0xb01 0 tracepoint_add_probe+0xf8/0x430
slab: kmalloc-64 object地址: 0xffff88003605e000 相似object数量: 593975泄漏函数: bond_vminfo_add+0x7c/0x200 [bonding]
结果直接显示bond_vminfo_add函数存在泄漏,因为它分配的地址与内存中的59万个object高度相似。专家们看到这个结果,半信半疑地回去review代码——bond_vminfo_add函数竟然真存在泄漏。大家对青囊投来了诧异的眼神,满是赞许。
此刻的畅快,像极了游戏通关之后的感觉。通过自己的努力,最终顺利解决了问题,这个过程,只是说起来都觉得充满了成就感。这次经历,也鼓舞着青囊继续前行。
一个程序猿的自我修养——别轻易放过bug
(完)

往期精彩回顾
1、梦里花落知多少,网络抖动逃不了
2、谁来拯救存量SGX1平台?又一个内核特性合并的血泪史
3、浅谈国密算法在Linux内核文件完整性保护上的实践
4、师兄,2021春招来了,阿里云基础软件怎么样?


说明:本文为「云巅论剑」原创文章,转载请遵守转载要求,不允许修改内容,请务必保留作者和出处。
Linux阅码场 专业的Linux技术社区和Linux操作系统学习平台,内容涉及Linux内核,Linux内存管理,Linux进程管理,Linux文件系统和IO,Linux性能调优,Linux设备驱动以及Linux虚拟化和云计算等各方各面.
评论
  • 随着消费者对汽车驾乘体验的要求不断攀升,汽车照明系统作为确保道路安全、提升驾驶体验以及实现车辆与环境交互的重要组成,日益受到业界的高度重视。近日,2024 DVN(上海)国际汽车照明研讨会圆满落幕。作为照明与传感创新的全球领导者,艾迈斯欧司朗受邀参与主题演讲,并现场展示了其多项前沿技术。本届研讨会汇聚来自全球各地400余名汽车、照明、光源及Tier 2供应商的专业人士及专家共聚一堂。在研讨会第一环节中,艾迈斯欧司朗系统解决方案工程副总裁 Joachim Reill以深厚的专业素养,主持该环节多位
    艾迈斯欧司朗 2025-01-16 20:51 282浏览
  • 日前,商务部等部门办公厅印发《手机、平板、智能手表(手环)购新补贴实施方案》明确,个人消费者购买手机、平板、智能手表(手环)3类数码产品(单件销售价格不超过6000元),可享受购新补贴。每人每类可补贴1件,每件补贴比例为减去生产、流通环节及移动运营商所有优惠后最终销售价格的15%,每件最高不超过500元。目前,京东已经做好了承接手机、平板等数码产品国补优惠的落地准备工作,未来随着各省市关于手机、平板等品类的国补开启,京东将第一时间率先上线,满足消费者的换新升级需求。为保障国补的真实有效发放,基于
    华尔街科技眼 2025-01-17 10:44 233浏览
  • 数字隔离芯片是一种实现电气隔离功能的集成电路,在工业自动化、汽车电子、光伏储能与电力通信等领域的电气系统中发挥着至关重要的作用。其不仅可令高、低压系统之间相互独立,提高低压系统的抗干扰能力,同时还可确保高、低压系统之间的安全交互,使系统稳定工作,并避免操作者遭受来自高压系统的电击伤害。典型数字隔离芯片的简化原理图值得一提的是,数字隔离芯片历经多年发展,其应用范围已十分广泛,凡涉及到在高、低压系统之间进行信号传输的场景中基本都需要应用到此种芯片。那么,电气工程师在进行电路设计时到底该如何评估选择一
    华普微HOPERF 2025-01-20 16:50 113浏览
  •  万万没想到!科幻电影中的人形机器人,正在一步步走进我们人类的日常生活中来了。1月17日,乐聚将第100台全尺寸人形机器人交付北汽越野车,再次吹响了人形机器人疯狂进厂打工的号角。无独有尔,银河通用机器人作为一家成立不到两年时间的创业公司,在短短一年多时间内推出革命性的第一代产品Galbot G1,这是一款轮式、双臂、身体可折叠的人形机器人,得到了美团战投、经纬创投、IDG资本等众多投资方的认可。作为一家成立仅仅只有两年多时间的企业,智元机器人也把机器人从梦想带进了现实。2024年8月1
    刘旷 2025-01-21 11:15 616浏览
  •     IPC-2581是基于ODB++标准、结合PCB行业特点而指定的PCB加工文件规范。    IPC-2581旨在替代CAM350格式,成为PCB加工行业的新的工业规范。    有一些免费软件,可以查看(不可修改)IPC-2581数据文件。这些软件典型用途是工艺校核。    1. Vu2581        出品:Downstream     
    电子知识打边炉 2025-01-22 11:12 117浏览
  • 2024年是很平淡的一年,能保住饭碗就是万幸了,公司业绩不好,跳槽又不敢跳,还有一个原因就是老板对我们这些员工还是很好的,碍于人情也不能在公司困难时去雪上加霜。在工作其间遇到的大问题没有,小问题还是有不少,这里就举一两个来说一下。第一个就是,先看下下面的这个封装,你能猜出它的引脚间距是多少吗?这种排线座比较常规的是0.6mm间距(即排线是0.3mm间距)的,而这个规格也是我们用得最多的,所以我们按惯性思维来看的话,就会认为这个座子就是0.6mm间距的,这样往往就不会去细看规格书了,所以这次的运气
    wuliangu 2025-01-21 00:15 293浏览
  •  光伏及击穿,都可视之为 复合的逆过程,但是,复合、光伏与击穿,不单是进程的方向相反,偏置状态也不一样,复合的工况,是正偏,光伏是零偏,击穿与漂移则是反偏,光伏的能源是外来的,而击穿消耗的是结区自身和电源的能量,漂移的载流子是 客席载流子,须借外延层才能引入,客席载流子 不受反偏PN结的空乏区阻碍,能漂不能漂,只取决于反偏PN结是否处于外延层的「射程」范围,而穿通的成因,则是因耗尽层的过度扩张,致使跟 端子、外延层或其他空乏区 碰触,当耗尽层融通,耐压 (反向阻断能力) 即告彻底丧失,
    MrCU204 2025-01-17 11:30 209浏览
  • Ubuntu20.04默认情况下为root账号自动登录,本文介绍如何取消root账号自动登录,改为通过输入账号密码登录,使用触觉智能EVB3568鸿蒙开发板演示,搭载瑞芯微RK3568,四核A55处理器,主频2.0Ghz,1T算力NPU;支持OpenHarmony5.0及Linux、Android等操作系统,接口丰富,开发评估快人一步!添加新账号1、使用adduser命令来添加新用户,用户名以industio为例,系统会提示设置密码以及其他信息,您可以根据需要填写或跳过,命令如下:root@id
    Industio_触觉智能 2025-01-17 14:14 140浏览
  • 故障现象 一辆2007款日产天籁车,搭载VQ23发动机(气缸编号如图1所示,点火顺序为1-2-3-4-5-6),累计行驶里程约为21万km。车主反映,该车起步加速时偶尔抖动,且行驶中加速无力。 图1 VQ23发动机的气缸编号 故障诊断接车后试车,发动机怠速运转平稳,但只要换挡起步,稍微踩下一点加速踏板,就能感觉到车身明显抖动。用故障检测仪检测,发动机控制模块(ECM)无故障代码存储,且无失火数据流。用虹科Pico汽车示波器测量气缸1点火信号(COP点火信号)和曲轴位置传感器信
    虹科Pico汽车示波器 2025-01-23 10:46 58浏览
  • 本文介绍瑞芯微开发板/主板Android配置APK默认开启性能模式方法,开启性能模式后,APK的CPU使用优先级会有所提高。触觉智能RK3562开发板演示,搭载4核A53处理器,主频高达2.0GHz;内置独立1Tops算力NPU,可应用于物联网网关、平板电脑、智能家居、教育电子、工业显示与控制等行业。源码修改修改源码根目录下文件device/rockchip/rk3562/package_performance.xml并添加以下内容,注意"+"号为添加内容,"com.tencent.mm"为AP
    Industio_触觉智能 2025-01-17 14:09 189浏览
  • 临近春节,各方社交及应酬也变得多起来了,甚至一月份就排满了各式约见。有的是关系好的专业朋友的周末“恳谈会”,基本是关于2025年经济预判的话题,以及如何稳定工作等话题;但更多的预约是来自几个客户老板及副总裁们的见面,他们为今年的经济预判与企业发展焦虑而来。在聊天过程中,我发现今年的聊天有个很有意思的“点”,挺多人尤其关心我到底是怎么成长成现在的多领域风格的,还能掌握一些经济趋势的分析能力,到底学过哪些专业、在企业管过哪些具体事情?单单就这个一个月内,我就重复了数次“为什么”,再辅以我上次写的:《
    牛言喵语 2025-01-22 17:10 150浏览
  • 嘿,咱来聊聊RISC-V MCU技术哈。 这RISC-V MCU技术呢,简单来说就是基于一个叫RISC-V的指令集架构做出的微控制器技术。RISC-V这个啊,2010年的时候,是加州大学伯克利分校的研究团队弄出来的,目的就是想搞个新的、开放的指令集架构,能跟上现代计算的需要。到了2015年,专门成立了个RISC-V基金会,让这个架构更标准,也更好地推广开了。这几年啊,这个RISC-V的生态系统发展得可快了,好多公司和机构都加入了RISC-V International,还推出了不少RISC-V
    丙丁先生 2025-01-21 12:10 418浏览
  • 高速先生成员--黄刚这不马上就要过年了嘛,高速先生就不打算给大家上难度了,整一篇简单但很实用的文章给大伙瞧瞧好了。相信这个标题一出来,尤其对于PCB设计工程师来说,心就立马凉了半截。他们辛辛苦苦进行PCB的过孔设计,高速先生居然说设计多大的过孔他们不关心!另外估计这时候就跳出很多“挑刺”的粉丝了哈,因为翻看很多以往的文章,高速先生都表达了过孔孔径对高速性能的影响是很大的哦!咋滴,今天居然说孔径不关心了?别,别急哈,听高速先生在这篇文章中娓娓道来。首先还是要对各位设计工程师的设计表示肯定,毕竟像我
    一博科技 2025-01-21 16:17 143浏览
  • 现在为止,我们已经完成了Purple Pi OH主板的串口调试和部分配件的连接,接下来,让我们趁热打铁,完成剩余配件的连接!注:配件连接前请断开主板所有供电,避免敏感电路损坏!1.1 耳机接口主板有一路OTMP 标准四节耳机座J6,具备进行音频输出及录音功能,接入耳机后声音将优先从耳机输出,如下图所示:1.21.2 相机接口MIPI CSI 接口如上图所示,支持OV5648 和OV8858 摄像头模组。接入摄像头模组后,使用系统相机软件打开相机拍照和录像,如下图所示:1.3 以太网接口主板有一路
    Industio_触觉智能 2025-01-20 11:04 186浏览
我要评论
2
点击右上角,分享到朋友圈 我知道啦
请使用浏览器分享功能 我知道啦