Waymo的计算机在上周五的亚利桑那州车祸期间可能并未处于运转状态，但最终自动驾驶汽车开发人员将不得不弄清楚他们敢于让AI驾驶员表现如何的人类。尽管人们对自动驾驶汽车的技术壁垒给予了足够的关注，并在一定程度上关注了保险和监管方面的影响，但另一个关键要素上却存在着巨大的黑洞。那就是无人驾驶的汽车道德。
尽管钱德勒警察局提出了初步建议，但韦莫说，在撞车时，它的车处于手动模式。也就是说，方向盘上的安全操作员实际上是在驾驶汽车，而不是Alphabet公司开发的系统。显然，几乎没有(如果有的话)紧急操作来避免操作员在撞车中遭受轻伤的即将到来的车辆。
对我来说突出的问题是，如果Waymo汽车处于自动模式而不是手动模式，它可能如何处理这种情况。的确，我怀疑这是一个更广泛的问题的第一个方面，随着技术的成熟，它将成为无人驾驶汽车最紧迫的问题。毕竟，有效的驾驶不仅仅遵循道路规则。这是关于我们作为人类汽车驾驶员的决策，几乎没有自觉地思考它们。
Waymo 已从其汽车的前置摄像头发布了视频，简短的剪辑显示，银色的Honda越过中央中间，几乎正对着自动驾驶汽车。但是，如果没有汽车侧面或后方的画面，很难说出更广泛的道路状况。这可能会对自动驾驶系统的反应产生巨大影响。
我想知道，如果AI处于控制之下，Waymo的汽车会转向一侧以避免躲避即将来临的本田吗?我怀疑这将是许多人类驾驶员的反应。不过，自动驾驶汽车具有360度视野：它将知道下一车道是否还有其他车辆。
自动驾驶汽车是否会转弯，如果知道这样做可能会使附近的汽车处于危险之中?或者，它是否停留在车道上，并在车道上尽可能地减少碰撞的影响而又不影响周围的其他车辆?例如，用力刹车，或在车道范围内谨慎行事。
问题是，汽车到底由谁来负责。里面的人吗?还有其他道路使用者吗?谁说保险单有责任?
一旦您开始进行自动驾驶汽车撞车伦理的心理锻炼，就很容易遭受严重的头痛。我最想做的运动包括无人驾驶汽车和一名修女走进马路。汽车会转弯吗，如果这样做会使其骑手陷入危险之中，但有可能拯救尼姑?还是，它优先考虑乘客，但会给行人带来风险?
也许，作为一名人类驾驶员，您会在一秒钟内将其称重，并认为修女很老，后面的孩子还年轻，因此您的汽车内装物更有价值。但是，只是为了适当地缓解头痛并使其严重偏头痛，然后您需要增加更多的修女。或他们正在放牧的小学生。或有人walking着可爱的小狗。
是否有中年男子乘无人驾驶汽车比一对学童或多或少值得储蓄?一群自动驾驶出租车中的青少年与一群中年妇女在汽车前走出来的相对价值是什么?妇女们是要带孩子还是推婴儿车呢?
斯坦福大学机械工程学教授，斯坦福大学汽车研究中心(CARS)主任J. Christian Gerdes表示，自动驾驶汽车的三个目标是：安全性，合法性和机动性。在理想的世界中，它会平等地满足这三个条件，但是在公共道路上的生活很少是理想的。取而代之的是，在某个时候，汽车(或汽车AI使用的道德规范)需要决定哪个优先。
当确定在碰撞情况下谁应该优先考虑时，自主汽车道德不仅重要。弄清机器人驾驶员的“人性”程度将对道路上汽车的各个方面产生影响。例如，对法律条文的解释过于严格，一旦遇到车道上的障碍，自动驾驶汽车就会停下来停留在那儿。只有当您在道德上有些松懈(在某种程度上愿意改变规则)时，它才会考虑绕过障碍物，即使这意味着暂时进入对面的车道或驶向肩膀。
格德斯认为，不会出现一个单一的“道德模块箱”，汽车制造商将能够从供应商那里购买并插入他们的自动驾驶汽车。确实，在他与莎拉·桑顿(Sarah M. Thornton)在2015年出版的《 Autonomes Fahren》一书中的一章中，有人建议说，不同类型的自动驾驶汽车最终可能会优先考虑不同级别的“良好”驾驶。
他们认为：“自动出租车可能会给乘客带来更大的舒适感，从而更好地展示其作为司机的优点。” “自动救护车可能希望在距行人或其他车辆的距离上有更大的余地，以体现希波克拉底誓言无害。
Waymo尚未发布有关其自主系统可能完成的工作的数据，如果它们在上周的事件中处于控制之中。我的猜测是，就像其他无人驾驶汽车项目一样，即使由操作员控制，人工智能仍在监视数据收集工作。据此，应该有可能弄清楚如果小型货车不在手动模式下计算机将如何反应。
与自动驾驶汽车相比，可预测性是自动驾驶汽车的一大优势。电脑永远不会累;永远不会因收音机或手机而分心。它的传感器可以一次看到周围的一切。
然而，这些传感器收集的数据以及其解释方式必须通过道德的角度来审视，我不确定我们是否已经进行了应有的考虑。如果要在公共道路上大规模部署无人驾驶汽车，那么我们需要弄清楚我们可以接受哪些道德准则来接受它们。Waymo的汽车可能不会在周五撞车，但有一天可能会转弯，其影响可能比挡泥板大得多。
