Wink Pings

前沿实验室都在谈安全,Waymo那套笨办法为什么没人抄?

Michael R. Bock 2017到2019年在Waymo工作。他提到一个被忽略的问题:前沿实验室谈安全,却很少谈怎么建安全文化。Waymo的做法很贵很慢,测试层级、渐进部署、举报人保护,每一条都落在组织权力和预算上。

Michael R. Bock 在推文里提了一个被忽略的问题:前沿实验室的安全讨论很多,公司怎么建立安全文化却少有人谈。他2017到2019年在Waymo工作,看到的是另一套组织方式。Waymo是Alphabet旗下自动驾驶公司,从Google的消费产品体系里长出来,后来转成安全优先的硬件公司。结果有数据:比人类司机安全约95%,纯乘客里程达到数亿英里。

Waymo 安全数据图:严重或更严重伤害事故减少95%,减少55起

他提到,现在不少前沿实验室更像软件创业公司,不像安全关键型公司。Waymo的安全渗透到每个环节:

  • 测试分层:单元测试覆盖率、子系统测试、真实驾驶回放、合成模拟、封闭场地测试、逐步路测,甚至在沙漠里买一座假城市来开。
  • 测试和模拟投入约每年10亿美元的人力和算力。
  • 渐进部署:新软件先上少量车。
  • 安全案例构建:用复杂统计比较机器人和人类司机。
  • 举报人保护:任何人可以举手暂停测试或部署。

这些做法不神秘,难在贵、慢,还要把暂停权交给一线。安全文化落在预算、测试层级和谁能喊停上。只发原则声明,不投测试基础设施,不保护举报人,安全文化就只是公关词。前沿实验室可以继续谈模型能力,但组织里没有这些硬约束,安全讨论会停在发布稿。

发布时间: 2026-10-28 23:27