按你现在的目标找资料:基础入门、复习面试、读论文、动手做项目、补一个专题,或者安排求职准备。每条路线都列了起点和建议练习。

已经熟悉的部分可以跳过。这些笔记主要覆盖 ML / LLM 和 MLE / research 相关内容,其他岗位需要另补对应领域的知识。

刚开始学:先弄懂一次计算

会一点 Python 就能开始。向量和梯度不熟,先读从线性模型到神经网络,不用先学完全部数学。

  1. Tokenization:一句话怎样变成模型的输入。
  2. Transformer 图解:沿着一小段输入,看 Attention、FFN 和残差怎样接起来。
  3. 训练基础:预测错了以后,loss 怎样让参数发生变化。

读完试一试:拿一句短句,讲清输入怎样变成预测,以及 loss 怎样参与参数更新。再用 PyTorch 小实验对照计算过程。模型家族、MoE 和分布式训练可以之后再看。

准备技术面:先找出自己卡在哪

在面试准备里按需要选一块。已有基础可以直接看快速复习,想系统补课可以看按计划学习。路线中的小时数是参考,可以按自己的时间拆开学。

先看岗位描述和已经收到的面试说明,不要因为标题都叫 MLE,就默认每一轮考的一样。各岗位先练什么、时间紧时先放什么,见按岗位选练习。还没有具体面试,也可以拿一道概念题、一个小实现试试。

  1. 说不清原理:去 ML / LLM 基础问答。试着不看笔记回答,再用一个例子解释。
  2. 原理懂,代码写不出来:去 ML Coding。重点核对 shape、mask、梯度和边界条件。
  3. 写题慢或方法想不到:去 Python 和 LeetCode 方法,按方法练,不按题号背。

练习建议:独立完成一道题,解释思路,再换几个输入测试。需要准备设计题,接着看 Feed / RAG / Memory;项目追问参考准备什么。

读研究:弄清它到底改了什么

这条路线适合了解 Transformer、想进一步读论文或模型报告的人。重点是理解作者改了什么、实验能支持什么结论;Research Scientist / Research Engineer 的岗位要求仍以具体团队为准。

  1. 架构组件:先找到论文改的是哪个部件,不熟的机制单独补。
  2. 模型家族:带着同一组问题比较设计,而不是记版本名字。
  3. 评估基础:看比较对象、数据、指标和消融(ablation),分清结果支持什么。

读完试一试:用一页纸概括问题、方法、实验结果和待验证的疑问。能复算的例子自己算一遍;只做了局部验证,就说明验证范围。对后训练(post-training)感兴趣,可以继续看原理和实验实践。

做项目:先让一条路径走通

没做过完整应用,先从本站与阅读清单开始。它不需要 GPU:看懂构建与 CI/CD,再连起页面、API 和数据库。

已经会写基本程序,可以直接选自己想做的项目:

  • 推荐系统:沿着一次请求,看召回、排序、过滤与评估。
  • RAG 知识库:从资料的版本和权限,到检索(retrieval)、引用和答案检查。
  • 后训练实验:从要修的错误,到 SFT、数据 batch、多卡选择、checkpoint 和发布判断。

动手试一试:跑通一个最小例子,再改一个条件。例如,删掉支持答案的文档,或中断训练后恢复,观察系统会怎样处理。准备设计面试,可以先做系统设计题,再对照项目实现检查方案。

只想补一个专题,直接过去

下面按主题列出入口,各专题内有更详细的阅读顺序。

你关心的内容 从这里进入
模型基础与架构 核心机制 · 组件与模型家族
数据与训练 数据和反馈 · 预训练与训练工程
强化学习(reinforcement learning, RL)与后训练 Deep RL · SFT / RLHF / 蒸馏
评估是否可信 指标与实验 · LLM-as-a-Judge
图片怎样接进语言模型(language model, LM) 多模态
检索与长期状态 搜索与检索 · 记忆
工具与智能体 Agents · Personal AGI
推理速度、成本与可靠性 推理 · AI 系统 · 模型体验
芯片、GPU、CUDA 与集群 AI 基础设施(AI infra) · 待审核草稿
感知、机器人与自动驾驶 从像素到动作 · 待审核草稿
还在变化的方向 前沿:世界模型、递归自我改进(RSI)已审阅;测试时计算(test-time compute)、用 RL 训练 agent、机制可解释性是待审核草稿

只想查某个词,点顶部搜索或按 /。中文、英文术语都可以试试。

求职准备:先安排眼前需要做的事

  1. 到底要准备什么:按岗位和自己的短板安排精力。
  2. 一次面试复盘:面完留下具体问题,再调整下一轮准备。

可以先为最近一轮面试列出要补的内容,再安排具体练习。个人经历放在 25–26 intern 求职和 26–27 new grad 求职,仅供参考。

想看全貌,或以后接着读

全部内容分在基础与原理、面试准备、工程实践、编年史和求职记录中。路线只是不同的阅读顺序,指向同一份文章。

右上角 中文 / EN 切换同一篇。点标题下的「收藏本页」收藏文章,之后在「我的阅读」里找回收藏和最近读过的页面;记录只在当前浏览器,换设备前可以在「设置」里导出备份。内容还在继续补,哪些已写、哪些待核对,见覆盖与待办。

本页术语 5
消融 ablation
去掉一个组件再测一次,用来判断它到底有没有贡献
后训练 post-training
预训练之后为特定任务和行为做的所有训练
检索 retrieval
从外部语料里找出相关内容
强化学习 reinforcement learning, RL
根据行动带来的回报调整策略,学习怎样作出更好的选择
语言模型 language model, LM
对文本序列建模,用上下文预测或生成后续内容