自动驾驶汽车将如何学习作出事关生死的决定？
+ 查看更多

随着AI汽车时代离我们越来越近，工程师、程序设计人员和生物伦理学家正在努力思考解决一些关键问题，包括识别人类、动物的价值、对安全和速度的权衡等。

Brett Berk

■

在路面驾驶时，人工智能(AI)视角下的伦理道德会是什么样的？

随着完全自动驾驶汽车离我们越来越近，驾驶决定将由AI掌控，许多汽车制造商认为这种转变将使驾驶更安全。

Alphabet旗下自动驾驶子公司Waymo的产品管理主管David Margines表示，让AI掌控驾驶可以排除许多导致事故的因素，例如超速、疲劳、分心和醉酒，从而防患于未然。

也有人持不同看法。“对自动驾驶汽车的期望远高于对人的期望，”圣克拉拉大学(Santa Clara University)通用工程系的人类学家兼讲师Melissa Cefkin表示，她与日产汽车(Nissan)和Waymo合作研究人与自动驾驶汽车之间的互动。“当一个人发生事故时，我们可以说，‘他们只不过是普通人。他们尽了最大努力。这只是一场意外’，”她说。“我们不会如此宽容地对待一家公司，而且可能也不应该如此。”

随着AI汽车时代渐行渐近，工程师、程序设计人员和生物伦理学家正在努力思考解决一些关键问题。

识别人类

为了避免撞到行人，自动驾驶汽车使用了一系列AI功能：感知、分类、预测、路径规划。但区分人类和人形送货机器人、零售用的人体模型甚至有人物图像的路面广告仍有难度。

普林斯顿大学(Princeton University)人类价值中心生物伦理学名誉教授Peter Singer表示，若训练数据有偏颇或电子摄像头带着偏见去“看”时，也会使一些AI系统在检测深色皮肤的行人时可靠性下降。

凭藉车对车(V2V)和车对基础设施(V2I)系统，自动驾驶汽车将能够彼此互动，并与交通信号灯和摄像头通信。

一些人还设想开发车辆与行人(V2P)通信。交通研究公司Guidehouse Insights的首席出行分析师Sam Abuelsamid表示，例如，手机ping广播可以向自动驾驶汽车的AI发出信号提示人的存在。但这可能引发隐私和个人自由方面的顾虑，并且将没有手机的人置于劣势之中。期望别人带着手机以保护自身安全是否合理？

人类学家Cefkin建议，自动驾驶汽车本身可以更多地表达自己，如使用箭头、灯光或文本来传达它们所看到的内容以及它们正在作出的决定。“人们开始意识到可以进行更多双向沟通，因为汽车现在会告诉他们更多东西。”

动物的价值

在碰撞中，麋和鹿可能对车辆及车内人员构成生存风险。刺猬、猫和狗等较小型动物的风险则较小。从道德角度来看，AI对这些动物的生命有不同考量是否可接受？

Margins说道，对于大型动物，Waymo优先考虑通过回避动作“降低对人类造成伤害的可能性”。至于花栗鼠和鸟类等小型动物，该公司AI“的认知是，刹车或对某些类型的异物采取规避动作本身可能就存在危险”，他说道。

对于豪猪或狐狸等中型动物，考量会有什么不同？对于可能是宠物的动物又有怎样的考量？

生物伦理学家Singer表示，目标应该是“尽量减少对包括人类和非人类在内的所有动物造成伤害”。他担心AI程序设计人员会带有“物种歧视”，偏向人类和作为人类伴侣的动物。作为一名实用主义者，他赞成这种折中考量，而不赞成“不关心非人类动物的利益”。不过，他警告说，像这样的道德决定不应简单地留给市场来决定。而应有专家意见和法规作为指引。

什么是美好的旅程？

选择最快的路线应是指引自动驾驶汽车的核心标准吗？还是其他因素也同样重要？对于自动驾驶共享汽车来说，侧重快速到达目的地将能使汽车完成更多行程并获得更多利润，但可能导致更多危险。而仅仅优先考虑安全也许会减缓和堵塞交通。还是优先选择让乘客享受旅程的路线呢？

Cefkin说，如果考虑服务于谁的利益，这样的决定就涉及到道德层面。“是乘客？自动驾驶出租车服务？还是其他道路使用者？”

安全和速度之间的权衡取舍“这个问题会真正影响到自动驾驶汽车99%的道德问题”，Mobileye首席技术官Shai Shalev-Shwartz说。他说，在这两极之间改变参数会导致不同的AI驾驶行为，从过于鲁莽到过于谨慎，再到看似“自然”和人性化的行为。Mobileye是英特尔(Intel)旗下开发自动驾驶汽车软件和硬件的部门，为全球一些大型车企提供产品。

Mobileye设计了一个包含AI决策五项原则的逻辑系统，分别为不要从后面撞人，不要鲁莽加塞，通行权是给予而非强行获取，在能见度有限的区域谨慎驾驶，以及如果能避免撞车而不造成另一起撞车事故、那就必须这样做。Shalev-Shwartz说，公司模拟发现，如果所有驾驶员都遵守这些规则，无论是人类还是自动驾驶汽车，都不会发生事故。

他说，还可以对这个软件进行调整以生成不同的驾驶风格。例如，自动驾驶跑车可能更追求激情以增强性能感，自动驾驶小型货车可能会将重点放在安全性上，而越野车辆可能会默认选择风景优美的路线。

瑞典汽车制造商沃尔沃(Volvo)希望在公众和自动驾驶汽车之间“建立信任”。“我们对自动驾驶汽车的设计初衷将是平稳和舒适行驶，车速会限定在一定范围内，”沃尔沃产品战略主管Martin Kristensson表示。“这有望影响交通模式，鼓励协作，减少事故，并且随着时间的推移给路面行为带来积极改变。”

有类似研究发现的Cefkin表示，这种行为具有感染力，可以缓解司机、乘客和行人的焦虑。“有证据表明，当人们看到其他人更镇定的反应时，对交通状况会有一些积极的影响，”她说。

对交通规则的反思

特斯拉(Tesla)曾召回配备该公司完全自动驾驶(Full Self-Driving)系统的车辆，因之前美国全国高速公路交通安全委员会(National Highway Traffic Safety Administration)表示，由于FSD技术，一些汽车违反了当地交通法规，出现没有遵照停止路牌指示停车等待等行为。

然而，许多人类驾驶员如何并道、变道、左转或绕过停着的送货车辆也面临着类似的严格合法性问题。那么对自动驾驶汽车是否应有不同的标准？

Mobileye的AI技术能够凭借来自车辆周身的传感器套件获得的数据，通过速度、车辆间距和转弯等指标来识别和区分当地的驾驶习惯。“我们可以调整我们的系统以适应不同地方人类驾驶员的驾驶方式，”Shalev-Shwartz说。“但仅仅因为我们可以做到，并不意味着我们应该这样做。”他认为这是监管部门的职责，建议他们应该“思考对于目前人们在所在城市的驾驶行为，他们是否满意，或者他们是否希望交通有所变化”。

Cefkin说，在AI时代，需要对道路和规则进行全面的重新思考，以提高安全性和便利性并扩展可用性。维持现状可能会失去进行更深层次变革的机会。“道路的出现远早于汽车，也曾有许多其他用途，”她说。“也许是时候让我们重新拿回来了。”

车队思维

想象一下，如果科技公司分派自动驾驶汽车车队来运送人员、货物、食物等。他们会联合起来对付我们吗？

“自动驾驶汽车本身的设计就是作为一个群体共同从驾驶经验中学习，”沃尔沃的Kristensson说。“与单个驾驶员相比，这大大提高了它们的学习速度。”

这些车辆将通过V2V和V2I通信进行互动，这种AI团队合作可能有助于自动驾驶汽车避免事故。但当存在竞争或合作的车队成员相遇时，它们应该如何表现？这些汽车“群体”是否应被允许在碰撞中偏向自己的同伴而不是其他车辆，在链式车队中最大限度地提高效率或主导路线？

Cefkin在思考自身利益是否会影响系统作出的决策。“无论是谁提供这个产品或服务，或者两者兼有，他们可能都希望对某些事情给予更多或不同的权重，”她说。

“车主、车外的人、驾驶另一辆车的人之间不应被区别对待，”Shalev-Shwartz说。他建议路面上所有的汽车都应遵守相同的标准，并平等对待彼此。

但最关键的是，到目前为止还没有这方面的法规。Abuelsamid说，公司可能决定，当发生冲突时，车辆应该优先考虑同一车队中的其他汽车。“作为一个社会，我们需要讨论我们要优先考虑什么？”他说。“我们是要优先考虑公司的需求，还是要优先考虑什么对生活在社会中的人们最为有利？”

注：本文仅代表作者个人观点

■