两个驾驶模型在开环评测上的 L2 误差一模一样;放进闭环仿真,一个不到两秒就压线,另一个稳稳开在车道里。开环评测每一步都把车放回日志里的位置,模型自己的小偏差不会累积;闭环里,模型的偏差会改变它下一步看到的世界。端到端模型越强,越要用闭环或接近闭环的指标来判断,上路之前还要有一份安全论证。
待审核草稿。 这一篇还没有经过站主审阅,事实、取舍和措辞都可能修改;引用前请回到文中链接的一手资料核对。
“端到端”到底指什么
共同点是:规划或驾驶目标的梯度能传回感知,中间输出不再是必须的接口。差别在于内部还留多少结构、有没有语言模型(language model, LM)参与。
| 系统 | 时间 | 输入 → 输出 | 内部结构 | 来源性质 |
|---|---|---|---|---|
| UniAD | arXiv 2022-12,CVPR 2023 Best Paper | 多相机 → 规划轨迹 | 跟踪、建图、运动预测、占用、规划用 query 串起来 | 论文与 README |
| EMMA(Waymo) | 2024-10 | 原始相机图像 → 以文本形式输出轨迹、3D 物体、道路图 | 基于 Gemini 的多模态大模型,用任务提示切换 | Waymo 博客;自述不用 lidar 和 radar、推理成本高,未称已部署 |
| Waymo Foundation Model | 2025-12-09 | 相机、lidar、radar → 轨迹、物体、地图、验证信号 | 传感器融合编码器(encoder)加 Gemini 训练的 Driving VLM,大 Teacher 蒸馏(distillation)成车载 Student | Waymo 博客,没有给参数量 |
| Tesla FSD v12–v14 | 2023-12 起 | 相机等 → 车辆控制 | Tesla 没有发表架构论文 | 股东信和演讲,见下文 |
| Alpamayo(NVIDIA) | R1 2025-10;2 Super 权重 2026-08-04 | 相机 → 推理文本和轨迹 | Cosmos 推理 VLM 加 diffusion 轨迹解码器;2 Super 为 32B 加 2.3B action expert | 公司自报;AlpaSim 分数没有外部定义 |
下面只按 Tesla 自己的文件和演讲、按日期列,数字都是公司自报;这些一手资料都没有给出 v12–v14 的逐层结构:
- 2023 年第四季度股东信:V12 于 2023 年 12 月底开始推送,用 AI 来影响车辆控制,而不是把每种驾驶行为都手写出来,并称用了端到端训练。
- 2025 年第四季度股东信:FSD 跑在用客户车和 Robotaxi 真实数据训练的端到端 foundation model 上。
- 2026 年第一、二季度股东信(SEC 副本:Q1、Q2):v14.3 升级了针对长尾(long tail)的 RL 阶段,推理延迟最多降 20%;v14 lite 把 AI4 上 v14 的驾驶行为蒸馏到 AI3 硬件。
- 2026 年 6 月 CVPR WAD 演讲(视频,据自动字幕转述):Elluswamy 说输入包括相机、地图与导航、车辆状态和音频,网络在两颗冗余的 AI4 芯片上各跑一份。
模仿之外:RL 与 self-play
多数端到端模型先在人类驾驶日志上做模仿学习,也就逃不开模仿与奖励里讲的误差累积:日志里几乎只有“人在车道中央”的状态,没有“偏了以后怎么回来”。老补法之一是 ChauffeurNet:在训练数据里人为合成扰动,让模型见到偏离的状态。
另一条路是让模型在模拟器里自己开、按结果学:
- Apple 的 GigaFlow(ICML 2025)在批量模拟器里只用 self-play 做 RL。作者报告共模拟 16 亿公里、仿真中平均 17.5 年才出一次事故,在 CARLA、nuPlan、Waymax 上达到最好成绩;自述局限是只在仿真里,感知被抽象掉了。
- Tesla 在 2025 年 10 月的 ICCV 演讲中说,用神经世界模拟器重放过去的失败、注入对抗性的加塞,并做闭环 RL(视频,据自动字幕转述)。演讲者也说开环上的提升不一定能转化为真实驾驶,评测是最难的问题。
RL 绕开了“日志里没有偏离状态”的问题,但换来了新问题:模拟器不像真实世界的地方,可能被策略利用,这和 model-based 一篇里规划器钻模型漏洞是同一件事。
算一次:同样的开环分数,完全不同的闭环结局
下面全是教学设定。直道,车道宽 3.5 m,车宽 1.8 m,所以车身中心向一侧偏 $(3.5-1.8)/2=0.85$ m 时车轮压线,偏 1.75 m 时车身中心已越过车道线。车速 $v=10$ m/s。日志里人类一直在车道中央直行。两个策略都有同样的小偏差 $\varepsilon=0.02$ rad(约 1.15°):
- 策略 A:沿自车当前航向外推,再多偏 $\varepsilon$。 它只看自车状态,不看车道线。
- 策略 B:看车道线,往中心拉。 计划航向 $=\varepsilon-g\,y$,$y$ 是车身中心向左的偏移(m),$g=0.1$ rad/m。
开环,即 nuScenes 式的评测:每一帧都把日志里的状态喂给模型($y=0$,航向 0),让它输出未来 3 s 轨迹,再和日志比。两个策略在这个状态下都输出航向 0.02 的直线,横向偏移 $10\times t\times0.02=0.2t$:1、2、3 s 的 L2 误差都是 0.2、0.4、0.6 m,平均 0.4 m。下一帧又回到日志状态,误差从零重来。
闭环:每次执行计划的前 0.5 s(5 m),再从车实际到达的状态重新规划。用小角度近似 $\sin\theta\approx\theta$:
$$ \text{A:}\ \theta_k=\theta_{k-1}+\varepsilon,\qquad \text{B:}\ \theta_k=\varepsilon-g\,y_{k-1},\qquad y_k=y_{k-1}+v\,\Delta t\,\theta_k . $$
| 时间 (s) | 0.5 | 1.0 | 1.5 | 2.0 | 2.5 | 3.0 |
|---|---|---|---|---|---|---|
| A 的航向 (rad) | 0.02 | 0.04 | 0.06 | 0.08 | 0.10 | 0.12 |
| A 的横向偏移 (m) | 0.1 | 0.3 | 0.6 | 1.0 | 1.5 | 2.1 |
| B 的横向偏移 (m) | 0.100 | 0.150 | 0.175 | 0.188 | 0.194 | 0.197 |
A 的航向每步加 0.02,偏移按 $0.05\,k(k+1)$ 增长:在 1.5 s 到 2.0 s 之间车轮压线,3 s 时车身中心已在邻车道。B 每步 $y_k=0.5\,y_{k-1}+0.1$,收敛到 $\varepsilon/g=0.2$ m,一直在车道里。
| 指标 | 策略 A | 策略 B |
|---|---|---|
| 开环 L2(1 / 2 / 3 s) | 0.2 / 0.4 / 0.6 m | 0.2 / 0.4 / 0.6 m |
| 闭环 3 s 后横向偏移 | 2.1 m | 0.197 m |
| 车轮压线 | 1.5–2.0 s 之间 | 不压线 |
开环分不出它们,原因是日志里根本没有 $y\neq0$ 的状态,“偏了以后怎么办”从来没被问过。再换一个条件:一个完全不看路、只按当前速度和航向匀速外推的策略,在这条直道上开环 L2 是 0,满分。A 其实就是这种“自车状态外推器”加了一点偏差。
nuScenes 开环指标为什么不再可信
nuScenes 开环规划评测比较模型预测的自车轨迹和日志轨迹,报告 1、2、3 s 的 L2 误差和碰撞率。几项一手结果:
- Li 等(CVPR 2024)统计出 nuScenes 有 73.9% 是直行;摘要说“These models tend to rely predominantly on the ego vehicle's status for future path planning”,即这些模型主要靠自车状态做规划,继续刷这个榜未必能得出可信的结论。
- AD-MLP 的摘要说,只输入过去轨迹和速度、不看图像或 lidar 的 MLP,平均 L2 反而低约 20%,只是碰撞率不如用感知的方法。同一个 AD-MLP 放进 Bench2Drive 闭环测试,成功率是 0(README v0.0.4 的表)。
- 实现也不统一。UniAD 自己的 README 报 nuScenes 平均 L2 0.90 m,SparseDrive README 的对比表里 UniAD 是 0.73 m;碰撞率的算法各篇也不一样。
- Bench2Drive 的 README(2025-02-05)说这个指标没有说服力,维护者已停止报告。
闭环和准闭环各测什么
| 评测 | 车会不会偏离日志 | 其他车会不会反应 | 主要指标 | 主要局限 |
|---|---|---|---|---|
| nuScenes 开环 | 不会,每步回到日志 | 不适用 | L2、碰撞率 | 直行为主、自车状态捷径、实现不一 |
| NAVSIM v1 | 只在一次 4 s 模拟里 | 不会 | PDMS | 不看误差累积和其他车的反应 |
| NAVSIM v2 | 第二阶段从扰动后的起点出发 | 不会 | EPDMS | 起点是预先算好的,画面靠重建渲染 |
| nuPlan | 会 | CLS-R 会 | CLS-R / CLS-NR / OLS | 输入是给定的物体状态,不测感知 |
| CARLA / Bench2Drive | 会,全程自己开 | 会,由脚本控制 | 驾驶分 DS、成功率 | 画面和交通来自游戏引擎 |
| 学出来的世界模型 | 会 | 取决于模型 | 各家自定 | 截至 2026-10 没有公开的保真度指标 |
最后一行指 Waymo World Model(2026-02)、Wayve GAIA-4(2026-08)和 Tesla 的神经世界模拟器(据演讲自动字幕)这类生成式模拟器;纯重建为什么在车偏离日志后失效,见三维重建与神经渲染,世界模型怎样当评测器,见世界模型:机器人与驾驶。
NAVSIM:给一条计划,模拟 4 秒
NAVSIM v1(NeurIPS 2024)把模型给出的计划交给 LQR 控制器,在俯视图(view)里不带反应地模拟 4 s,再按规则打分:
$$ \text{PDMS}=\text{NC}\times\text{DAC}\times\frac{5\,\text{EP}+5\,\text{TTC}+2\,\text{C}}{12} $$
NC 是没有自己负责的碰撞,取 0、1/2 或 1;DAC 是没有驶出可行驶区域,取 0 或 1;EP 是行驶进度,在 0 到 1 之间;TTC 是碰撞时间没有低于阈值,C 是舒适,都取 0 或 1(指标文档)。算一次:NC=DAC=1,EP=0.8,TTC=C=1,PDMS $=(4+5+2)/12\approx0.917$,论文里写成 91.7。若像第 2 篇的候选(candidate) A 那样离前车太近、TTC=0,PDMS 降到 $(4+0+2)/12=0.5$;若驶出路面、DAC=0,其他项再好也是 0。这和第 2 篇的结构一样:硬约束相乘,软项加权平均。
论文 navtest 上的 PDMS:人类 94.8,TransFuser 84.0,UniAD 83.4,只用自车状态的 MLP 65.6,匀速外推 20.6。在这里,只看自车状态的方法明显落后,nuScenes L2 上看不出这一点。论文也写明了自己的局限:不模拟其他车的反应,不看误差累积,不含红绿灯和停车标志规则,建议同时跑 CARLA。
放回我们的例子:A 和 B 在日志起点给出的是同一条计划,4 s 后横向偏移 $0.2\times4=0.8$ m,PDMS 自然相同。v1 一样分不出它们,这正是“不看误差累积”的意思。
NAVSIM v2(CoRL 2025)的“伪仿真”分两个阶段:第一阶段照常给计划打分;第二阶段从一批预先算好、用 3D Gaussian splatting 渲染的扰动起点出发再打分,按起点与第一阶段终点的接近程度加权,最后两段相乘。它的 EPDMS 在乘法项里加了行驶方向和红绿灯,把舒适项换成历史舒适,并新增车道保持和扩展舒适两个加权项(指标文档)。摘要报告,它与闭环结果的 $R^2$ 为 0.8,最好的开环指标是 0.7。按这个设计,如果第二阶段的起点里有“已经偏左 0.8 m、车头也歪了”这样的状态,A 会继续偏,B 会拉回来,车道保持和可行驶区域两项才有机会把它们分开。
CARLA 与 Bench2Drive:让车全程自己开
CARLA 排行榜 2.0 的驾驶分是路线完成率乘以违规惩罚,每发生一次违规就乘一次对应系数:撞行人 0.50,撞车 0.60,撞静止物体 0.65,闯红灯 0.70,闯停车标志 0.80。
$$ \text{DS}=\text{RC}\times\prod_j p_j^{\,n_j} $$
算一次:完成 90% 路线,撞车一次、闯红灯一次,$\text{DS}=90\times0.60\times0.70=37.8$。另一个模型开到一半就停下、没有任何违规,$\text{DS}=50\times1=50$,反而更高。这不只是假想:CARLA 官网写明,参赛者发现提前结束路线比跑完全程得分更高,所以 2025 年 3 月起的 2.1 版把违规扣分从连乘改成线性,2.1 和 2.0 的分数不能直接比;官网也显示 2025 年没有办挑战赛。读 DS 时要和路线完成率、违规次数一起看。
Bench2Drive(NeurIPS 2024)在 CARLA 0.9.15 里用 44 类场景、220 条路线分项测试闭环能力,数据集是 13,638 段片段、200 万帧。README v0.0.4(2026-08-06)汇总的 DS 从 UniAD 的 38.69 到 LEAD 的 95.59;这是维护者汇总的表,各方法的训练设置不一定相同。
安全论证:几份标准各管什么
评测分数回答“它开得怎么样”,安全论证回答“凭什么相信它在设计运行范围内足够安全”。ISO 标准正文收费,页面也拒绝了我们的自动抓取,所以 ISO 和 SAE 几项只按标准名称和通常的定位来写,没有读到原文:
| 标准 | 管什么 | 和本篇的关系 |
|---|---|---|
| ISO 26262(道路车辆功能安全,第 2 版 2018) | 电子电气系统出故障时引起的危险 | 传感器坏了、芯片出错;上文 Tesla 演讲提到的冗余芯片,按我们的理解属于这一类考虑 |
| ISO 21448:2022(预期功能安全,SOTIF) | 没有任何部件坏,但功能本身不够用、或可预见的误用引起的危险 | 策略 A 没有坏,只是学得不够,按我们的理解更接近这一类 |
| ISO/PAS 8800:2024(道路车辆的安全与人工智能) | 道路车辆里 AI 部件的安全 | 端到端网络正是这样的部件 |
| UL 4600(第 3 版 2023-03-17) | 以安全论证为核心、按目标而不规定具体技术;不设固定的路测里程,要求组合分析、仿真、封闭场地和公共道路测试 | 告诉你一份论证需要什么证据,不规定用什么模型 |
| SAE J3016 | 驾驶自动化 0–5 级的分类 | 说清楚是辅助驾驶还是无人驾驶 |
端到端模型让“按部件逐项论证”变难:没有一个叫“感知”的模块可以单独出测试报告。Waymo 的做法是在车上另设一层独立的验证,并让同一个基础模型同时充当驾驶员、模拟器和评审(博客);它也公开了安全方法论(Webb 等 2020)。另一条思路是把“什么算安全”写成形式化规则,例如 RSS。
截至 2026-10:部署与公开证据
上路运营是最终的闭环测试。各家的乘车量和城市数见导读;这里只列能拿来判断“闭环里表现如何”的公开证据。
截至 2026-10-15(变化很快,引用前请核对日期)
- Waymo 的 Safety Impact(数据截至 2026-06,公司自报): 2.713 亿英里 rider-only 里程;与同类城市道路上的人类驾驶基准相比,重伤及以上的事故少 95%(少 55 起),致伤事故少 82%。这是 Waymo 自己做的相对比较,重伤事故的绝对数很小,且只覆盖 5 个成熟市场。
- 召回暴露的长尾(NHTSA 召回文件): Waymo 26E026(2026-05-06,3,791 辆)在较高车速道路上遇到积水车道,可能减速但不停车;Waymo 26E035(2026-06,3,871 辆)可能高速驶入封闭的高速公路施工区(读自汇总站);Zoox 26E044(2026-07-16,105 辆无人车)在事故现场可能识别不了浓烟。
积水、施工区、浓烟都是训练日志里少见的情况,开环 L2 测不出来。
读端到端论文时检查什么
| 先看什么 | 应该找到什么 | 缺了它,不能推出什么 |
|---|---|---|
| 用的是哪个 benchmark 和版本 | NAVSIM v1 还是 v2,CARLA 2.0 还是 2.1 | 跨版本的分数可比 |
| 有没有去掉自车状态的消融(ablation) | 去掉后分数掉多少 | 模型真的用到了感知 |
| 闭环里的路线完成率和违规次数 | 和 DS 一起报告 | DS 高就是开得好 |
| 有没有和规则基线(baseline)比 | PDM-Closed、匀速外推 | 学出来的规划器更好 |
| 数字是作者自报还是第三方 | 官方榜单或独立复现 | 结论能推广到别的设置 |
| 训练和测试的城市、路线是否分开 | 明确的划分 | 能泛化到新城市 |
参考:Parting with Misconceptions(PDM) · DAgger。上一篇:预测与规划;返回导读。
本页术语 8
- 语言模型 language model, LM
- 对文本序列建模,用上下文预测或生成后续内容
- 编码器 encoder
- 把原始输入压成向量的那一半模型
- 蒸馏 distillation
- 用一个模型的输出训练另一个通常更小的模型
- 长尾 long tail
- 出现频率很低但总量可观的那部分情况
- 视图 view
- 同一个对象的一种侧面表示;用户可以同时有画像视图和历史视图
- 候选 candidate
- 召回阶段捞出来、等待精排挑选的内容
- 消融 ablation
- 去掉一个组件再测一次,用来判断它到底有没有贡献
- 基线 baseline
- 用来比较新方法的参考方法或配置