学习记录 · 小露当码农

学习记录共 5 篇

RTX 3050 4GB 实验记录 vLLM 服务与 DeepSpeed 单卡训练

在自己的 4GB 显卡上验证 KV 存储、vLLM 并发与前缀缓存，以及 DeepSpeed 训练和梯度累积。公开原始数据、固定配置、复现脚本与遇到的兼容问题。

从本地小模型服务和双卡微型训练开始，给出可复用的代码、实验变量和记录表，再梳理生成轨迹、训练更新与权重同步的系统边界。

从参数、梯度和 Adam 状态拆开训练显存，用四卡分工理解 ZeRO 1、2、3，并通过一张理论估算图看清节省来自哪里。

用共享书架和排队的例子理解 KV Cache、PagedAttention 与连续批处理，再手算上下文长度和 KV 头数怎样影响显存。

先分清推理和训练，再理解 KV Cache、连续批处理和 ZeRO，最后用小实验连接到 Agentic RL。四篇笔记组成一条可以持续补充的学习路线。