人工智能逆天 偏见歧视根深蒂固

2017-04-21 01:29:52

人工智能的发展,给人类带来便利的同时也带来了各种麻烦,例如计算机在学习人类语言时产生了偏见和歧视。那么这种偏见是可以消除的吗?


中国研制的智能美女机器人“佳佳”(图源:VCG)

人工智能的偏见来自于人类

英国《卫报》发表的一篇文章指出,计算机在学习人类语言时吸收了人类文化中根深蒂固的观念,产生了偏见和歧视。

实际上,人工智能的偏见和歧视早就引起了人们的注意,较典型的是微软2016年3月23日推出的人工智能聊天机器人Tay。设计的最初目的是让其成为一个善解人意的小女孩,为用户排忧解难。但是,上线第一天Tay就变成了一个满口粗言秽语的种族主义者,发表了不少白人优越的言论,甚至还变成了希特勒的粉丝,要发起种族灭绝战争。经过调教,Tay于2016年3月30日再次上线,但旧病复发,不得不再次下线。

一项发表于《科学》杂志(2017年4月14日)的研究揭示了人工智能的毛病来源于人类。

人类自诞生以来和在演化进程中一直充斥着偏见,而且从人类社会组成以来,更充满相当多的负面和人性的弱点,所有这些都会体现在人类的文化中。而文化的载体就是语言,所以所有的偏见都可以从语言和语义中找到根源。

人工智能将对人类造成威胁

人工智能将对人类造成难以控制的威胁,这是史蒂芬·霍金对人类发出的警告,机器人会以比人类快得多的速度进化,它们的最终目标将无法预测。

随着人工智能的发展,机器能独立选择并针对目标开火的可能性也逐渐增高。未来的自动武器或“杀人机器人”,或许很快就能从科幻电影走向现实。

这并不是霍金第一次警告机器人“起义”的危险。就在2015年,他警告称随着人工智能逐渐学习着为自己考虑,并且更加适应环境,人类正面临着不确定的未来。

霍金的说法,一场潜藏的威胁正在硅谷的技术实验室中悄悄酝酿。人工智能伪装成数字辅助设备和自动驾驶的交通工具,正在人类社会中逐渐站稳脚跟,它们或许有朝一日将导致人类的终结。在一次采访时,霍金表达了对人类未来的担忧,“我不认为人工智能领域的进步一定是有益的,人工智能的全面发展可能意味着人类的终结。我们需要确保人工智能的设计符合伦理,并且有到位的防护措施。”

(京京 综编)

相关阅读
免责声明:本文所载资料仅供参考,多维新闻对该资料或使用该资料所导致的结果概不承担任何责任。

网友评论 热门评论 facebook评论

提交
注册

【声明】评论应与内容相关,如含有侮辱、淫秽等词汇的字句,将不予发表 >>

Facebook

Twitter