按你现在的目标找资料:基础入门、复习面试、读论文、动手做项目、补一个专题,或者安排求职准备。每条路线都列了起点和建议练习。
已经熟悉的部分可以跳过。这些笔记主要覆盖 ML / LLM 和 MLE / research 相关内容,其他岗位需要另补对应领域的知识。
刚开始学:先弄懂一次计算
会一点 Python 就能开始。向量和梯度不熟,先读从线性模型到神经网络,不用先学完全部数学。
- Tokenization:一句话怎样变成模型的输入。
- Transformer 图解:沿着一小段输入,看 Attention、FFN 和残差怎样接起来。
- 训练基础:预测错了以后,loss 怎样让参数发生变化。
读完试一试:拿一句短句,讲清输入怎样变成预测,以及 loss 怎样参与参数更新。再用 PyTorch 小实验对照计算过程。模型家族、MoE 和分布式训练可以之后再看。
准备技术面:先找出自己卡在哪
在面试准备里按需要选一块。已有基础可以直接看快速复习,想系统补课可以看按计划学习。路线中的小时数是参考,可以按自己的时间拆开学。
先看岗位描述和已经收到的面试说明,不要因为标题都叫 MLE,就默认每一轮考的一样。各岗位先练什么、时间紧时先放什么,见按岗位选练习。还没有具体面试,也可以拿一道概念题、一个小实现试试。
- 说不清原理:去 ML / LLM 基础问答。试着不看笔记回答,再用一个例子解释。
- 原理懂,代码写不出来:去 ML Coding。重点核对 shape、mask、梯度和边界条件。
- 写题慢或方法想不到:去 Python 和 LeetCode 方法,按方法练,不按题号背。
练习建议:独立完成一道题,解释思路,再换几个输入测试。需要准备设计题,接着看 Feed / RAG / Memory;项目追问参考准备什么。
读研究:弄清它到底改了什么
这条路线适合了解 Transformer、想进一步读论文或模型报告的人。重点是理解作者改了什么、实验能支持什么结论;Research Scientist / Research Engineer 的岗位要求仍以具体团队为准。
读完试一试:用一页纸概括问题、方法、实验结果和待验证的疑问。能复算的例子自己算一遍;只做了局部验证,就说明验证范围。对后训练(post-training)感兴趣,可以继续看原理和实验实践。
做项目:先让一条路径走通
没做过完整应用,先从本站与阅读清单开始。它不需要 GPU:看懂构建与 CI/CD,再连起页面、API 和数据库。
已经会写基本程序,可以直接选自己想做的项目:
- 推荐系统:沿着一次请求,看召回、排序、过滤与评估。
- RAG 知识库:从资料的版本和权限,到检索(retrieval)、引用和答案检查。
- 后训练实验:从要修的错误,到 SFT、数据 batch、多卡选择、checkpoint 和发布判断。
动手试一试:跑通一个最小例子,再改一个条件。例如,删掉支持答案的文档,或中断训练后恢复,观察系统会怎样处理。准备设计面试,可以先做系统设计题,再对照项目实现检查方案。
只想补一个专题,直接过去
下面按主题列出入口,各专题内有更详细的阅读顺序。
| 你关心的内容 | 从这里进入 |
|---|---|
| 模型基础与架构 | 核心机制 · 组件与模型家族 |
| 数据与训练 | 数据和反馈 · 预训练与训练工程 |
| 强化学习(reinforcement learning, RL)与后训练 | Deep RL · SFT / RLHF / 蒸馏 |
| 评估是否可信 | 指标与实验 · LLM-as-a-Judge |
| 图片怎样接进语言模型(language model, LM) | 多模态 |
| 检索与长期状态 | 搜索与检索 · 记忆 |
| 工具与智能体 | Agents · Personal AGI |
| 推理速度、成本与可靠性 | 推理 · AI 系统 · 模型体验 |
| 芯片、GPU、CUDA 与集群 | AI 基础设施(AI infra) · 待审核草稿 |
| 感知、机器人与自动驾驶 | 从像素到动作 · 待审核草稿 |
| 还在变化的方向 | 前沿:世界模型、递归自我改进(RSI)已审阅;测试时计算(test-time compute)、用 RL 训练 agent、机制可解释性是待审核草稿 |
只想查某个词,点顶部搜索或按 /。中文、英文术语都可以试试。
求职准备:先安排眼前需要做的事
可以先为最近一轮面试列出要补的内容,再安排具体练习。个人经历放在 25–26 intern 求职和 26–27 new grad 求职,仅供参考。
想看全貌,或以后接着读
全部内容分在基础与原理、面试准备、工程实践、编年史和求职记录中。路线只是不同的阅读顺序,指向同一份文章。
右上角 中文 / EN 切换同一篇。点标题下的「收藏本页」收藏文章,之后在「我的阅读」里找回收藏和最近读过的页面;记录只在当前浏览器,换设备前可以在「设置」里导出备份。内容还在继续补,哪些已写、哪些待核对,见覆盖与待办。
本页术语 5
- 消融 ablation
- 去掉一个组件再测一次,用来判断它到底有没有贡献
- 后训练 post-training
- 预训练之后为特定任务和行为做的所有训练
- 检索 retrieval
- 从外部语料里找出相关内容
- 强化学习 reinforcement learning, RL
- 根据行动带来的回报调整策略,学习怎样作出更好的选择
- 语言模型 language model, LM
- 对文本序列建模,用上下文预测或生成后续内容