话说，很多人应该都听说过下面这个著名的“电车难题”：

假设你看到一辆刹车坏了的有轨电车，即将撞上前方轨道上的五个人，而旁边的备用轨道上只有一个人，如果你什么都不做，五个人会被撞死。你手边有一个按钮，按下按钮，车会驶入备用轨道，只撞死一个人。

面对这样一个状况，你会如何选择？你是否会牺牲这一个人的生命而拯救另外五个人？

这是50年哲学家们提出的一个难题.... 人们争论了50年，到现在都很难有一个完美的解答.....

而50年后今天，伴随着无人驾驶汽车的出现，新的难题又出现了：

假设你正乘坐一辆无人驾驶汽车，并且正在高速进行中。 路前方突然出现一个横穿马路的小孩，使得无人驾驶汽车不得不做出选择，是冲向这个孩子还是转弯撞上迎面而来的货车。

如果汽车要避开他，就必须撞向的货车，车上乘客很可能受伤甚至死亡...如果不避开，车子刹车不及就会撞上小孩。

这时候，是就地刹车直行，可能撞死小孩，还是打方向刹车扭向货车，可能撞死司机自己？？

无人驾驶汽车应该如何选择？ 或者说，给无人驾驶汽车编写决策系统的人要如何选择？

同样的情况...

在真实的马路上，其实还有很多种....

如果刹车不及，前方有一个大型SUV和一个小型两厢车...  那无人车要撞哪一个比较好？   如果单纯只考虑碰撞伤害的话， 应该撞重量更大安全性也相对更好的SUV....

而如果撞两厢车的话，可能造成更大的伤害...

然而，这样的决策，就该编入无人车的控制指令里么？  如果一开始就告诉无人车，哪些车可以撞，哪些车最好不要撞，事先就编入优先等级的话... 那么SUV就因为更安全而活该被更多的无人车撞么？？

同样的...

如果前面无人车不得不撞上前方的一个戴头盔的摩托车手和另一个不戴头盔的摩托车手呢？ 

撞上那个戴头盔的可能让总体伤害更小。（因为统计上表明，不带头盔的摩托车手事故的死亡率更高.

那么，对于那个戴头盔的车手，这样的结果又合理么？  毕竟，有过错的是那个不带头盔的人 -- 在大多数地方，不戴头盔上路是违法的...）

如果无人车真的用上面这样的“最小伤害”原则上路的话，未来人们会不会就因为开SUV容易被无人车撞而改开不那么安全的小型车，或者为了怕被撞而故意不戴头盔？

关于这个问题...有研究者就做了一个采访...

当问到如果面临上面这样的难题，无人驾驶汽车应该怎么做时，大部分受访者觉得车子应该将对他人的伤害降到最低，尽管这可能会让车上乘客至于危险境地。

然而....

当问到受访者会选择买“乘客优先”还是“行人优先”的无人驾驶汽车时...

多数受访者表示自己还是会购买“乘客优先”的那些无人车...

一家汽车厂商最近也给出了自己明确的答案，他们的选择是——

“乘客优先”

也就意味着，如果前方突然跑出来的小孩，奔驰无人驾驶汽车会选择尽量刹车，而不是冒险避开... 除非旁边有足够避让的距离..... 

他们表示...

如果有人真的这么突然跳到车的面前... 这是任何科技都无法避免的碰撞。 可是车辆之所以是车辆，是因为他们设计的初衷就是为了保护乘客的安全。 因此在这样的情况下，他们也只能选择乘客 --- 尽量刹车，收紧安全带，降低冲击力，保护乘客。 

尽管汽车厂商做了这样的回答...

然而这样的问题... 也仅仅是无人驾驶技术面临的道德困境中的一隅...

如果前方是一个老人？精英？罪犯？是一只动物呢？

如果是闯红灯的行人呢？

该怎么选？该牺牲谁？

这个问题，如何决策，

也许只能问民众....

为了解决这个问题，麻省理工专门发明了一个“道德机器”的网页。 希望能够从公众中取得答案...

这个“道德机器”会让人们来回答一系列无人驾驶汽车会遇到的道德困境问题，然后他们来帮助统计大数据分析结果

他们设计了无数的场景，比如：

如果前方两截人行道上分别是2个小孩和1个小偷，2个小孩闯了红灯，小偷没闯红灯。 

现在汽车刹车坏了，你只能选择开向其中一截人行横道，你会选择开往哪边？

如果车上坐的是3只猫和1只汪...前方人行道上是1个男医生，2个男性和1名女性呢？是牺牲动物，还是牺牲人类？

如果车上没人，前方有一个老人和一个小孩，是牺牲老人还是小孩？

如果前方是闯红灯的1个男性运动员和3个小男孩，以及1个女性运动员和3个小女孩，牺牲哪边？

如果前面一边是2个小头和3个小孩，另一边是1个女高管、2个医生和2个老人，选哪边？

如果车上是一个小孩，前方是2个女性运动员，2个老人一个婴儿？牺牲哪边？ 

如果车上坐着3名女性运动员和1名小女孩，前方是3只猫和1只狗，牺牲哪边？

如果车上坐着5名小孩，前方是闯红灯的1名小偷，2个老人，和1个流浪汉...牺牲哪边？

如果车行坐着5只猫，前方是5只闯红灯的狗，牺牲猫还是狗？

如果车上坐的是5个小偷...前方是闯红灯的2名男性和1名女性....应该牺牲哪边？？

上面这些情景都还只是冰上一角.....

因为可以让用户自行提交场景，现在“道德机器”里已经出现了100多万种可能发生的场景...

目前这个项目还在大数据收集阶段，研究人员还无法给出最后的决定...

包括谷歌、Uber在内的很多想要推广无人驾驶汽车的公司...

至今也仍没有确切答案...

如果他们选择了“行人优先”，那么他们的车还有人会买吗？？

这些问题...都还需要时间去思考....

目前，谷歌首席工程师Andrew Chatham的答案是：如今，当无人驾驶汽车面临两难选择时，答案差不多只有一个：踩刹车，尽量刹车..... 

在目前谷歌无人车的测试中，他们也是采用同样的逻辑，当情况太复杂，无法判断是，车会选择尽量先停下来.... 

但无论如何，我们人类的判断 ，也许未来将会帮助人工智能来做出道德决断...

本文转载自公号：英国那些事儿