这里适合学过之后复习：看一个问题，先试着讲，再回去补没讲清楚的地方。如果是第一次接触这个主题，先读基础与原理，不用从追问开始学。
按你要复习的内容选
| 想复习什么 | 入口 | 重点练什么 |
|---|---|---|
| ML / LLM 常见基础 | 基础问答 | 用自己的话解释机制，而不只是报定义 |
| 概率、估计与优化 | ML 数学 | 写清变量和假设，知道每一步为什么成立 |
| Transformer 的设计选择 | Transformer 追问 | 比较方案：改了什么、解决什么、增加什么成本 |
| 综合检查 | 站内问答集 | 不靠章节顺序提示，发现遗漏的概念 |
一个问题可以讲到什么程度
比如“为什么 attention 要除以 $\sqrt{d_k}$？”
- 先讲直觉：点积（inner product）的数值尺度如果随维度增大，softmax 就容易变得很尖。
- 再讲前提：在分量独立、零均值、单位方差（variance）等简化假设下，点积的方差为 $d_k$；除以 $\sqrt{d_k}$ 后，方差回到 1。
- 最后讲限制：真实模型中的 Q、K 未必满足这些假设。这是在解释缩放的动机，不是在保证训练时的方差永远为 1。
需要完整计算过程，读多头注意力。想验证自己会不会实现，去 ML Coding。同一个概念，理解、表达和实现可以分别练。
复习到哪里先停
能解释机制，能举一个小例子，也能说出结论的前提，就可以继续下一题。被追问卡住时，记下具体缺口，例如“不会推方差”或“不懂 mask 的方向”，比写一个“attention 不熟”更方便回头补。
这不是标准答案库。不同岗位会关注不同深度；公式不必每次全部展开，但自己应该知道省略了哪些步骤。回到面试准备可以换到代码或算法路线。
本页术语 2
- 点积 inner product
- 两个向量对应分量相乘再求和，双塔的打分方式
- 方差 variance
- 估计量的波动幅度；重要性加权最容易在这里爆炸