道德自动驾驶的合作

摘要

在自动驾驶车辆的采用成功中，其能力在于解决很少发生的安全关键角落情况。车辆通信（V2X）旨在通过增加明确的车间信息交换能力来提升自动驾驶的安全性和效率。我们认为 V2X 还可以实现另一项重要功能，即支持伦理驾驶决策。在本文中，我们阐述了我们设想的伦理协同驾驶交互协议设计的方法（包括要传达的内容以及基于接收信息所采取的行动）。通过伦理 V2X 赋能的协同操纵是我们在自动驾驶研究议程中推广的新研究方向。

作者

Galina Sidorenko 信息技术学院，哈姆斯塔德大学，瑞典；电气与信息技术系，工程学院，隆德大学，瑞典

Johan Thunberg 电气与信息技术系，工程学院，隆德大学，瑞典

Alexey Vinel 信息技术学院，哈姆斯塔德大学，瑞典；合作自主系统，卡尔斯鲁厄理工学院（KIT），德国

出版信息

期刊: 2024 20th International Conference on Wireless and Mobile Computing, Networking and Communications (WiMob) 年份: 2024 页码: 391-395 DOI: 10.1109/WiMob61911.2024.10770472 文章编号: 10770472 ISSN: 电子ISSN: 2160-4894，Print on Demand(PoD) ISSN: 2160-4886

计量

论文引用数: 3 总下载量: 127

关键词

IEEE 关键词: 无线通信，伦理，协议，安全，自动驾驶车辆，移动计算，信息交换

索引词： 自动驾驶车辆, 成功采用, 车载通信, 碰撞, 无线, 行人, 时隙, 时间瞬时, 伦理方法, 轨迹规划, 伦理标准, 紧急制动, V2X通信

作者关键词： 协作车辆, 自动驾驶, V2X通信, 车载安全, 伦理困境, 伦理决策, 自动驾驶伦理

未定义

第一节. 引言

自动驾驶有潜力确保未来的安全出行。自动决策能够恰当地处理人类出现错误的道路情形 1。然而，仍然会出现事故难以避免甚至无法预防的情况。 这些情况可能由于车辆自动化的局限性，例如感知能力不足 2，或者由于不安全的人类行为，例如行人行动不可预测 3。 这些情况被认为非常不太可能，但仍然存在。 然而，自动驾驶车辆必须知道如何应对这些情况，我们认为这种响应应遵循伦理原则。尽管自动驾驶中的伦理困境，例如人马问题，已被广泛讨论 4，但将伦理考量嵌入的实用轨迹规划算法在文献中相对有限 5–​6。

我们认为车辆之间的合作对于伦理轨迹规划至关重要。通过车载通信 (V2X) 7 支持的协作机动范式 8，可以帮助在不可避免事故（车辆碰撞）发生时执行协调行动，以满足某些伦理标准。解决特定困境背后的伦理推理超出本研究范围。相反，我们提供了决定不可避免事故如何发生以满足正式化伦理要求 9 的手段。

在不可避免的事故中做出此类道德决策或采取行动时，我们使用损害（harm）的概念来描述碰撞的严重程度。粗略地说，损害可以视为一种度量，其由碰撞时的相对速度、车辆质量、场景几何以及描述物理碰撞的其他参数定义。由于事故中相关车辆采取的规避行动（或未采取）不同，损害（单个或总计）可能会变化。如果能够根据协作方法以及协同车辆之间信息流的不完美来估计事故不同结果的概率分布，就可以推导出损害的概率分布。在这种设置下，安全目标功能性（SOTIF）框架中的风险——它涉及对车辆安全技术限制的表征 10——对应于期望（平均）损害。

V2X 在道德决策中扮演着核心角色，既用于实际机动协同，例如通过让车辆就如何在某一关键情境下执行紧急制动达成一致，也用于相应的损害评估，即通过交换计算损害所需的信息。在本文中，我们阐述了我们设想的伦理协同驾驶交互协议设计方法（包括应传达哪些信息以及如何根据收到的信息采取行动）。此外，我们还提供了一个纵向驾驶情境下的紧急制动案例研究 11。我们的目标是推动这一新的伦理 V2X 研究方向在自动驾驶社区中的发展。

第二节。伦理合作机动

动机：突发计划变更

在协同机动框架下，我们考虑一个群组协同车辆已就其轨迹达成一致（例如，在分布式协同交叉口管理场景 12）并开始执行该协议的时刻。如果每辆车都遵守约定的轨迹计划，则可以保证安全的无碰撞行驶，图 1。

自然，这些约定好的轨迹将会包含安全间隔，以应对轨迹可能需要的调整，或在执行协同计划时若出现未预料的情况 13。然而，这种安全间隔实际上是有限制的，因为协同车辆之间的交互协议必须在交通效率意义上提供有意义的驾驶功能。换句话说，短间隔并不安全，过长的间隔也不实用。此外，针对计划中出现的不可预见情况进行再规划，依赖于可能存在错误的 V2X 网络通信。因此，可能出现车辆间隙不足的情况，导致碰撞不可避免。虽然极不可能，但这些边缘情况仍须由自动驾驶车辆的运动规划逻辑处理。

Figure 1

图 1：协同操纵：计划轨迹

我们的分析从协同行驶过程中出现危险事件的那一刻开始，例如某辆车突然检测到行人。此时需要一辆或多辆车选择另一条轨迹，例如执行紧急刹车。一般的紧急轨迹调整已在 14 中提及。同时，协同伙伴必须通过 V2X 通信被告知，例如发送重复警告信息，关于需要修改先前约定的协同计划，图 2。

Figure 2

图 2：协同操纵：突发危害

设计与评估方法论

鉴于信息交流的不可靠性以及特定情境下的移动性参数，可能有可能避免事故。我们将此事件发生的概率记为 P。如果事故无法避免（相应的概率为 1 - P），则可能可以降低其严重性。我们通过使用“危害”这一概念来表征严重性，记作 H，它是可量化的。\overline{H} 为非负数，并且仅当不存在危害时才等于零。H 的数值越大，表明危害越大。通过为每个相关角色（车辆、行人等）分配相应的“优先级”系数，可以将伦理要求嵌入到危害 H 的计算中。危害值及其对应的概率可用于计算合作机动风险 R，即预期危害。

在收到关于危险的信息后，协作车辆可以以两种方式作出反应：要么在不与他人协商的情况下执行躲避机动（“normal”），要么就情况达成合作解决方案（“ethi-cal”）。一般而言，伦理方法需要车辆之间的信息交流（甚至达成共识），这需要时间。因此，设计伦理交互协议时，重要的是以伦理方式分配危害，但不应相对于普通情况导致事故结果恶化。这使我们得到一个关于风险降低的实际要求：Rn > Re，其中 Rn 是普通机动的风险，Re 是伦理合作解决方案的风险。这一约束或要求对于设计伦理的车间紧急交互协议至关重要。

该协议可以进一步根据安全和伦理方面的要求进行评估。例如，事故无害操作的概率 P 可以被限制不低于某个阈值 P_{min}。类似地，满足一个伦理标准的概率 Q（例如，总伤害值不超过阈值 H_{max}）也可以被限制不低于阈值 Q_{min}。请注意，在这种设置下，如果 H_{max} = 0，意味着不接受任何伤害，则概率 Pmin 与 Qmin 相等。

Figure 3

图 3：道德协作驾驶

由于 V2X 通信固有的不可靠性，警报信息（或任何其他信息）可能无法及时到达特定车辆，甚至在事故发生前到达。实际上，车载传感器（摄像头、激光雷达等）可能被用于为本地决策提供输入。然而，本文的重点是基于 V2X 的协同机动。

Fig. 3 提供了我们为设计和评估伦理协同机动而制定的方法框架概述。对于特定的协同自动驾驶功能或场景，可以分析其暴露于安全关键场景的情况，并估算相应风险的频率（例如，通过数据驱动方法）。如需紧急重新规划，可帮助避免事故，或者若无法避免，则降低其潜在风险。有趣的是，虽然我们的框架明确聚焦于用于机动规划的 V2X 通信，但同样的工作流程也可想象用于非协同自动驾驶。然而，紧急伦理交互仍然需要 V2X 15。

第III节：纵向驾驶案例研究

紧急制动：常规与道德

为说明起见，我们考虑一个纵向行驶场景，包含三辆协同自动驾驶车辆，如图4所示。

Figure 4

图 4：案例研究：纵向驾驶中的制动

在时间实例 \tau_{1}，车辆 1 以其最大可能的减速度值 \overline{a}_{1} 开始紧急制动，以响应遇到的障碍物。制动的同时，车辆 1 每隔 T 发送一次警告消息给另外两辆车，告知它们紧急情况以及随之而来的偏离既定轨迹。由于 V2X 通信嘈杂，车辆 2 和 3 分别以概率 p2 与 p_{3} 遭遇数据包丢失。因此，第一条警告消息并未在时间 \tau_{1}+T 收到，而是稍后在某个随机时间实例才被接收。我们将这些时间实例分别定义为第二辆车的 t_{2} 与第三辆车的 t_{3}。车辆 2 与 3 的后续行为取决于是否假设车辆之间存在道德合作。无论哪种情况，第三辆车都通过施加其最大可能的减速度值 \overline{\alpha}_{3} 来操作，而第二辆车并不必然以其最大减速度值 \overline{a}_{2} 进行制动。车辆 2 的减速度值的具体选择将在下文描述。

决策风险评估

为便于对正常刹车与伦理刹车进行比较分析，我们按之前提到的方式，采用风险概念。风险可以正式定义为预期伤害，即伤害与其对应概率的乘积，再对所有可能结果求和。在我们的案例研究中，第一辆车在 \tau_{1} 开始刹车，并且我们不妨假设 \tau_{1}=0。同时，它以时间间隔 T 向后续车辆发送紧急消息。在这种情况下，所有可能的情景都包含了这些消息被车辆 2 和 3 接收的实例。对于每一种可能的结果，相关伤害可以通过考虑撞击时的速度和碰撞车辆的质量 16 来计算。因此，依据 17，车辆 1 与车辆 2 碰撞时的伤害 H_{1} 可计算为：

\begin{equation*} H_{1}= \frac{m_{2}}{m_{1}+m_{2}}\Delta v_{1},\tag{1}\end{equation*}

此处，m_{1} 与 m_{2} 分别是车辆 1 和车辆 2 的质量；\Delta v_{1}=v_{2}-v_{1} 为碰撞前相关车辆的相对速度。

暂且假设正常制动已计划。与正常制动相关的总风险 R_{n} 可以写成以下总和：

\begin{gather*} R_n=\sum_{i_2=0}^{N_2} \sum_{i_3=0}^{N_3} p_2^{i_2}\left(1-p_2\right)^{\left(1-\left\lfloor\frac{i_2}{N_2}\right\rfloor\right)} p_3^{i_3}\left(1-p_3\right)^{\left(1-\left\lfloor\frac{i_3}{N_3}\right\rfloor\right)}. \tag{2}\\ H((i_{2}+1)T,\overline{a}_{2}, (i_{3}+1)T,\overline{a}_{3})\end{gather*}

这里，H((i_{2}+1)T,\overline{\alpha}_{9},\ (i_{3}+1)T,\overline{a}_{3}) 是与第二辆车在时间实例 (i_{2}+1)T 开始紧急制动并采用减速度值 \overline{a}_{2} 时相关的危害，而第三辆车则在 (i_{3}+1)T 时采用 \overline{a}_{3}。与此危害相关的概率反映了第二辆车首次接收警告的时间为 (i_{2}+1)T 的可能性，前提是之前所有的传输尝试均已失败。同样的情况适用于第三辆车，但时间为 (i_{3}+1)T。N_{2} 与 N_{3} 分别表示车辆 2 和 3 在与邻近车辆发生碰撞之前可接收紧急信息的最大时隙数。因此，如果车辆 3 在时间 N_{3}T 之前未接收到警告，它将在 N_{3}T 与 (N_{3}+1)T 之间的某处与车辆 2 碰撞，即在下次接收消息尝试的时间间隔内。发生碰撞后，等待接收消息就没有意义。这就是为什么 N_{2} 与 N_{3} 对可考虑的可行时隙设定了限制。请注意，N_{2} 与 N_{3} 并非常数，而是取决于相关车辆开始减速的时刻。然而，为了清晰简洁，我们省略了变量依赖的详尽细节。当 i_{2}=N_{2} (\text{or}\ i_{3}=N_{3}) 时，相关概率对应于第二辆（或第三辆）车在整个 N_{2}（或 N_{3})）时隙内未收到警告的情形。在这种情况下，危害的表示表明制动始于 (N_{2}+1)T (\text{or}\ (N_{3}+1)T)，即在与邻近车辆碰撞后。这意味着碰撞在第二辆（或第三辆）车不施加任何减速的情况下发生。

当道德制动按照参数 \tau_{2},\tau_{3} 和 a_{2,e} 计划执行时，相关风险 R_{e} 相较于 R_{n} 发生变化。风险 R_{e} 可以类似于 (2) 计算；然而，求和中涉及的所有项需要分为四组：

\begin{equation*}\left(1-p_2^{\left\lfloor\frac{\tau_2}{N_2}\right\rfloor}\right)\left(1-p_3^{\left\lfloor\frac{\tau_3}{N_3}\right\rfloor}\right) H\left(\tau_2, a_{2, e}, \tau_3, \bar{a}_3\right)\tag{3}\end{equation*}

由于两辆车在计划的 \tau_{2} 和 \tau_{3} 之前收到警告，即 t_{2}\leq\tau_{2}, t_{3}\leq\tau_{3}。在这种情况下，执行道德制动。

性能评估

在我们的案例研究中，在伦理框架内，第二辆车（如果可能）选择 a_{2,e}，使得伦理制动的总风险 R_{e} 低于正常制动的风险 R_{n}。为说明我们的做法，我们使用一系列不同参数进行仿真。伤害根据 18 计算，假设三辆车具有相等的伦理“优先级”。图 5、6、7 展示了三种不同的场景。在每张图的左侧，展示了伦理制动的风险计算示例，即 R_{e}，与可能的选择 a_{2,e} 的对比。请注意，伤害的单位已被省略。在我们的假设中，伤害以 m/s 为单位测量，代表车辆质量比与撞击瞬间相对速度的乘积。一般而言，还可以采用其他伤害模型。为对比，也展示了正常制动的风险水平 R_{n}。任何低于此阈值 R_{n} 的风险都表明相对于正常制动预期伤害的减少。除此之外，取决于系统的初始条件（速度、在时刻 \tau_{1} 的车辆间距），甚至有可能将风险降低到 0，正如图 5 所示。

Figure 5

Fig. 5: 示例 1. 伦理制动与正常制动的比较。左: 风险。右: 无事故概率与可能的 a2,e 选择。

Figure 6

Fig. 6: 示例 2. 伦理制动与正常制动的比较。左: 风险。右: 无事故概率与可能的 a2,e 选择。此处，T2 = T3 = T.

在图5–6的右侧，绘制了对应的概率，P_{e}，即无事故的概率，即 H_{max}=0，与可能的选择 \alpha_{2,e} 的对比，用于伦理刹车。同样，为了对比，也显示了正常刹车的无事故概率，P_{n}。图5对应的情景是，当车辆间距使得正常刹车的无事故概率超过80%时。 但当中间车辆（基于通过 V2X 获得的关于相邻车辆所需信息）选择“最佳” \alpha_{2,e} 时，车辆之间的协作不仅降低了平均伤害，还增强了避免任何事故（零伤害）的可能性。因此，任何在 3.9 到 6.8 m/s^{2} 范围内的减速度值都可作为 a_{2,e} 的合适选择。 有了这样的 a_{2,e}，无事故概率升至100%，这也是所研究伦理方案的一个优秀属性。

在图6中给出的第二个仿真示例中，\tau_{2} 和 \tau_{3} 被选为尽可能小，即 \tau_{2}=\tau_{3}=T。这意味着在假设第一次警报传输尝试很可能被两个跟随车辆成功接收的前提下，进行伦理刹车。此处正常刹车的无事故概率仅约为15%。此类情景可能对应于在轨迹重新调整的某个过渡期间需要执行紧急刹车的情况。即使在 \tau_{2} 和 \tau_{3} 较小的值下，车辆之间的协作以及对 a_{2,e} 的恰当选择也能将风险降低超过14倍，从2.66降至0.18。同时，无事故概率从15%升至94%。请注意，在 \tau_{2}=\tau_{3}=T 的情况下，正常刹车的风险 R_{n} 等于 R_{e}，如果为伦理刹车选择最大减速度 \overline{\alpha}_{2}，即 a_{2,e}=\overline{a}_{2}。

Figure 7

图7：示例3。伦理刹车与正常刹车的比较。左侧：风险。右侧：最佳选择 a2,e = 5.5 m/s² 的概率质量函数

在图 7 所示的示例 3 中，可以选择 a_{2,e} 使得 R_{e} < R_{n}。 然而，即使是选择 a_{2,e} 的“最佳”情况，正常制动下无事故的概率也超过伦理制动的概率。 也就是说，采用伦理制动时无法避免碰撞，而概率 P_{n} 为 1.8%，这表明 P_{n} > P_{e}。 然而，基于如此低的概率 P_{n} 认为伦理制动不如正常制动显得不合理。 更合理的方法可能是放宽对可容忍 H_{max} 值的严格标准。 因此，借助 H_{max}=2，伦理制动不超过该阈值的概率 Q_{e}，显著高于正常制动对应的概率 Q_{n}。 从概率质量函数（图 7）可见，设定该阈值后，Q_{e}=88.7\%，而 Q_{n}=1.8\%。

第四节 展望

本文强调需要设计伦理合作互动方法，其中包括 V2X 通信协议及其相应的控制动作。该研究领域仍处于起步阶段，需要结合详细的车辆动力学、无线通信和碰撞建模工作。不仅要推导安全 19 的正式边界，还需涵盖伦理驾驶。在我们的案例研究中，我们关注车际无线通信的不可靠性，作为危害随机性的来源。 然而，我们的方法也可纳入自动驾驶过程中感知和执行中的其他不确定性来源。作为直接的未来工作方向，我们计划探讨一种通信模型，其中消息丢失概率取决于发射机与接收机之间的距离。此外，将分析定位数据的不精确性以及风险函数的敏感性。

参考文献

[1] L. Chen, Y. Li, C. Huang, B. Li, Y. Xing, D. Tian, L. Li, Z. Hu, X. Na, Z. Li, “自动驾驶与智能汽车的里程碑：综述的综述,” IEEE Transactions on Intelligent Vehicles, vol. 8, no. 2, pp. 1046–1056, 2022. IEEE: https://ieeexplore.ieee.org/document/9963987 Google Scholar

[2] C. Sun, R. Zhang, Y. Lu, Y. Cui, Z. Deng, D. Cao, and A. Khajepour, “迈向确保自动驾驶感知安全：标准化进展、研究进步与展望,” IEEE Transactions on Intelligent Transportation Systems, 2023. IEEE: https://ieeexplore.ieee.org/document/10285393 Google Scholar

[3] A. Kabil, K. Rabieh, F. Kaleem, and M. A. Azer, “车辆到行人系统：综述、挑战与近期趋势,” IEEE Access, vol. 10, pp. 123981–123994, 2022. IEEE: https://ieeexplore.ieee.org/document/9963973 Google Scholar

[4] A. Martinho, N. Herber, M. Kroesen, and C. Chorus, “自动驾驶汽车行业关注的伦理问题,” Transport reviews, vol. 41, no. 5, pp. 556–577, 2021. DOI: https://doi.org/10.1080/01441647.2020.1862355 Google Scholar

[5] S. M. Thornton, 具有伦理考量的自动驾驶车辆运动规划. Stanford University, 2018. Google Scholar

[6] N. De Moura, R. Chatila, K. Evans, S. Chauvier, and E. Dogan, “自动驾驶车辆的伦理决策,” in 2020 IEEE intelligent vehicles symposium (iv). IEEE, 2020, pp. 2006–2013. IEEE: https://ieeexplore.ieee.org/document/9304618 Google Scholar

[7] M. Geisslinger, F. Poszler, and M. Lienkamp, “面向自动驾驶车辆的伦理轨迹规划算法,” Nature Machine Intelligence, vol. 5, no. 2, pp. 137–144, 2023. DOI: https://doi.org/10.1038/s42256-022-00607-z Google Scholar

[8] B. Hafner, V. Bajpai, J. Ott, and G. A. Schmitt, “关于连接与自动化车辆的协同架构与操纵的综述,” IEEE Communications Surveys & Tutorials, vol. 24, no. 1, pp. 380–403, 2021. IEEE: https://ieeexplore.ieee.org/document/9662410 Google Scholar

[9] N. H. Hussein, C. T. Yaw, S. P. Koh, S. K. Tiong, and K. H. Chong, “关于车辆网络的全面综述：通信、应用、挑战与未来研究方向,” IEEE Access, vol. 10, pp. 86127–86180, 2022. IEEE: https://ieeexplore.ieee.org/document/9856630 Google Scholar

[10] G. Sidorenko, J. Thunberg, and A. Vinel, “伦理 V2X：协同驾驶是多车安全唯一的伦理路径,” in 2023 IEEE 98th Vehicular Technology Conference (VTC2023-Fall). IEEE, 2023, pp. 1–6. IEEE: https://ieeexplore.ieee.org/document/10333432 Google Scholar

[11] T. Zhao, E. Yurtsever, J. A. Paulson, and G. Rizzoni, “针对自动驾驶车辆安全评估的正式认证方法,” IEEE Transactions on Intelligent Vehicles, vol. 8, no. 1, pp. 232–249, 2022. IEEE: https://ieeexplore.ieee.org/document/9768203 Google Scholar

[12] G. Sidorenko, D. Ploger, J. Thunberg, and A. Vinel, “急刹车与加速：V2V通信能提供多少帮助？ ” IEEE Networking Letters, vol. 4, no. 3, pp. 157–161, 2022. IEEE: https://ieeexplore.ieee.org/document/9826887 Google Scholar

[13] A. Gholamhosseinian and J. Seitz, “针对异构互联车辆的合作型交叉口管理的综合调查,” IEEE Access, vol. 10, pp. 7937–7972, 2022. IEEE: https://ieeexplore.ieee.org/document/9678327 Google Scholar

[14] J. Thunberg, D. Bischoff, F. A. Schiegg, T. Meuser, and A. Vinel, “合作驾驶中不可靠的v2x通信：急刹车的安全时刻,” IEEE Access, vol. 9, pp. 148 024–148 036, 2021. IEEE: https://ieeexplore.ieee.org/document/9594815 Google Scholar

[15] G. Sidorenko, A. Fedorov, J. Thunberg, and A. Vinel, “面向纵向驾驶的完整安全框架,” IEEE Transactions on Intelligent Vehicles, vol. 7, no. 4, pp. 809–814, 2022. IEEE: https://ieeexplore.ieee.org/document/9904311 Google Scholar

参考脚注

附加参考文献

  1. N. De Moura, R. Chatila, K. Evans, S. Chauvier, and E. Dogan, “自动驾驶的伦理决策制定,” in 2020 IEEE intelligent vehicles symposium (iv). IEEE, 2020, pp. 2006–2013.