Kernel Exploring
  • 前言
  • 支持
  • 老司机带你探索内核编译系统
    • 编译出你的第一个内核
    • 内核编译中的小目标
    • 可能是kbuild中最直接的小目标 – help
    • 使用了一个kbuild函数的目标 – cscope
    • 内核中单个.o文件的编译过程
    • 根目录vmlinux的编译过程
    • 启动镜像bzImage的前世今生
    • setup.bin的诞生记
    • 真假vmlinux–由vmlinux.bin揭开的秘密
    • bzImage的全貌
    • kbuild系统浅析
  • 启动时的小秘密
    • INIT_CALLS的秘密
    • 内核参数
  • 内核加载全流程
    • bootloader如何加载bzImage
    • 内核压缩与解压
    • 内核加载的几个阶段
    • 保护模式内核代码赏析
  • 内存管理
    • 内核页表成长记
      • 未解压时的内核页表
      • 内核早期的页表
      • cleanup_highmap之后的页表
      • 映射完整物理地址
      • 启用init_level4_pgt
    • 自底而上话内存
      • e820从硬件获取内存分布
      • 原始内存分配器--memblock
      • 页分配器
        • 寻找页结构体的位置
        • 眼花的页结构体
        • Node-Zone-Page
        • 传说的伙伴系统
        • Compound Page
        • GFP的功效
        • 页分配器的用户们
      • slub分配器
        • slub的理念
        • 图解slub
      • 内存管理的不同粒度
      • 挑战和进化
        • 扩展性的设计和实现
        • 减少竞争 per_cpu_pageset
        • 海量内存
        • 延迟初始化
        • 内存热插拔
        • 连续内存分配器
    • 虚拟内存空间
      • 页表和缺页中断
      • 虚拟地址空间的管家--vma
      • 匿名反向映射的前世今生
      • 图解匿名反向映射
      • THP和mapcount之间的恩恩怨怨
      • 透明大页的玄机
      • NUMA策略
      • numa balance
      • 老版vma
    • 内存的回收再利用
      • 水线
      • Big Picture
      • 手动触发回收
      • Page Fram Reclaim Algorithm
      • swapfile原理使用和演进
    • 内存隔离
      • memcg初始化
      • 限制memcg大小
      • 对memcg记账
    • 通用
      • 常用全局变量
      • 常用转换
    • 测试
      • 功能测试
      • 性能测试
  • 中断和异常
    • 从IDT开始
    • 中断?异常?有什么区别
    • 系统调用的实现
    • 异常向量表的设置
    • 中断向量和中断函数
    • APIC
    • 时钟中断
    • 软中断
    • 中断、软中断、抢占和多处理器
  • 设备模型
    • 总线
    • 驱动
    • 设备
    • 绑定
  • nvdimm初探
    • 使用手册
    • 上帝视角
    • nvdimm_bus
    • nvdimm
    • nd_region
    • nd_namespace_X
    • nd_dax
      • dev_dax
  • KVM
    • 内存虚拟化
      • Qemu内存模型
      • KVM内存管理
  • cgroup
    • 使用cgroup控制进程cpu和内存
    • cgroup文件系统
    • cgroup层次结构
    • cgroup和进程的关联
    • cgroup数据统计
  • 同步机制
    • 内存屏障
    • RCU
  • Trace/Profie/Debug
    • ftrace的使用
    • 探秘ftrace
    • 内核热补丁的黑科技
    • eBPF初探
    • TraceEvent
    • Drgn
  • 内核中的数据结构
    • 双链表
    • 优先级队列
    • 哈希表
    • xarray
    • B树
    • Maple Tree
    • Interval Tree
  • Tools
  • Good To Read
    • 内核自带文档
    • 内存相关
    • 下载社区邮件
Powered by GitBook
On this page
  • 扩展性
  • 海量内存
  • 内存热插拔
  • 连续内存分配器

Was this helpful?

  1. 内存管理
  2. 自底而上话内存

挑战和进化

Previous内存管理的不同粒度Next扩展性的设计和实现

Last updated 2 months ago

Was this helpful?

在没有深入研究内存子系统之前总是觉得这个子系统应该已经经过了千锤百炼,固若金汤了。

但是当深入研究之后就会发现,随着使用场景、硬件更新,原有内核的实现就暴露出了不同的问题。

在这里我尝试做一点总结。

扩展性

内存管理作为系统中最为重要的模块,其处理性能直接影响到整个系统的表现。经过这么多年社区各路大神的打磨,其中有不少值得我们借鉴的地方。

扩展性是一个非常有意思的话题,还希望各路大侠多多指教。

先来看看有那些设计层次的方法值得借鉴。

再来看一个实际的例子。为了加速页的分配和回收,减少多cpu之间对伙伴系统的竞争,内核给每个zone增加了per_cpu_pageset。

[per_cpu_pageset][7]

海量内存

仔细想象海量内存是对扩展性挑战的一个原因,正因为内存容量的增大导致了扩展性的瓶颈。

这一小节和上一小节观察的重点不同。而是主要观察内存控制结构struct page的空间分配和初始化。

首先我们来看空间分配上为了应对海量内存做的一步步演进。

其次随着内存容量的增加,需要初始化的page struct也增加。为此内核引入了延迟初始化。

内存热插拔

最近有review了相关的patch,发现自己之前竟然没有总结这一块。看来看去不知道放在哪里,就先放在这里吧~

连续内存分配器

不少设备需要很大,如10M,的连续内存。现有的page allocator无法满足这样的需求。

所以内核中增加了。

扩展性的设计和实现
海量内存
延迟初始化
内存热插拔
连续内存分配器