当无人车失控时 人工智能如何做出生死抉择

+

A

-
2018-10-29 13:20:32

在重庆坠江公交事故里,有一种说法值得关注。中国多家媒体在事发后均提及事故系“女性司机逆行”导致,有“误导网民”之嫌。不过,在随后的消息中,“女司机逆行”的说法被迅速辟谣。

事实上,女性驾车虽然在特定情形下表现不如男性,但远没有严重到成为“马路杀手”的程度。据《流行病学》(Epidemiology)的一篇论文显示,女性司机发生致死交通事故的概率大约只有男性司机的30%。

对女司机的歧视和声讨是性别刻板印象里的顽疾。正因为社会普遍的刻板印象,女司机出事故,或出现令人啼笑皆非的误操作时,就更容易得到传播;而男司机在同样的情况下则不大可能引起相同反应。人们乐于传播女司机的“糗事”,因为它能印证和强化人们业已形成的性别刻板印象。 

不过,情况也在好转。在重庆坠江公交事故的相关新闻里,陆续有人为女司机正名,称“最该反转的应该是偏见”,也有人在自媒体里反省,不应对女司机进行道德攻击。

其实,任何人在面对突如其来的事故时,都需要在一刹那间作出抉择。有研究显示,在这期间,男性愿意冒险“赌一把”,而女性则更谨慎——而且,她们会想方设法规避风险。而在历史上仅有几次研究里,科学家也几乎一面倒地印证了“男性比女性更危险”的结论。

不过,男司机这种冒进也可以视为果断,在很多情况下其实能挽救一些两难局面。2014年,在美国纽约州伊萨卡的山上,一辆卡车刹车失灵,司机面临两难抉择:是冲向路旁的建筑工人,还是冲入旁边的咖啡馆。司机最终选择了后者,导致咖啡店内一名侍者身亡。这是著名伦理学思想实验——电车难题(The Trolley Problem)的现实翻版。哥伦比亚大学教授Hod Lipson和科技记者Melba Kurman在他们的著作《无人驾驶:智能汽车与未来之路》(Driverless: Intelligent Cars and the Road Ahead)中,将其作为一个例子,阐述了自动驾驶汽车设计者必须面对的可怕困境。

  • 当无人驾驶的汽车撞向人群时,人工智能应该做出怎样的抉择(图源:VCG)
  • 尽管无人车被视为汽车的未来,但一些技术上的道德困境依然无解(图源:VCG)

著名的科技投资人李开复说,“司机”作为是未来最可能消失的职业之一,最终会被无人驾驶的汽车所替代。现在,几乎没人反对这个设想,但细思极恐的是,人工智能是否是一架可以经得起考验的“道德机器”?面对这个问题,麻省理工学院媒体实验室博士后Edmond Awad领导的团队发布了其在线游戏化版本的实验结果。

在这个实验里,全球约有230万名志愿者参与其中,共模拟了近4,000万个场景。受试者需要在失控自动驾驶汽车导致的不同事故中选择谁应幸存、谁应死亡。该实验结果发表在2018年10月24日《自然》(Nature)杂志上:受试者对应该采取的措施达成了广泛共识。他们强烈倾向于优先保护人类(而非宠物)、群体(而非个人)、小孩(而非老人)、遵守交规的人(而非不守交规、横穿马路的人),形象光鲜的上班族(而非衣着破烂的流浪者)、女性(而非男性)、行人(而非汽车中的乘客)、慢跑者(而非身材魁梧的人)。

尽管不同国家的受试者对不同群体的保护倾向都存在着差异。例如,在拉丁美洲,年轻人受到最高级别的重视;而在欧洲和北美,受重视程度次之;在亚洲,受重视程度最少。但值得注意的是,几乎所有国家的受试者都认为要优先保护女性,这个比例甚至超过了小孩。来自性别平等国家的被试者甚至更偏向这一选项。因此,在这场实验里,性别平等的国家实际上在两难抉择中,恰恰反映出性别最不平等的现象。

怀疑论者反对说,整个实验过程过于简单,没有多大用处。“这些场景看似可能发生,但实际上难以成立”。荷兰代尔夫特理工大学研究技术伦理学的教授Aimee van Wynsberghe说:“尽管作者认同这个缺陷,但他们没有意识到这个缺陷非常致命。”她认为自动驾驶汽车应该被限制在专用的高速公路上行驶,在那里他们不需要进行繁琐的道德计算。

当然,无人驾驶的“道德抉择”还有待时间考验,这种假设性的实验也并非毫无用处,至少它让人们讨论了几个有争议的原则:不采取行动是否等同于采取行动,涉及的人数是否重要,以及某类生命体是否比其他生命体更具价值。

如果事故无可避免,那么如何把事故损失减至最低?现在,汽车公司应该好好考虑下这些权衡取舍的问题了。虽然从定义上讲,两难困境并没有一个简单的解决办法,但人类至少应该仔细考虑各种选择,并能够捍卫仅有的选择。

「版权声明:本文版权归多维新闻网所有,未经授权,不得转载」
撰写:乔克

评论

【声明】评论应与内容相关,如含有侮辱、淫秽等词语的字句,将不予发表。