人工智能逆天 偏見歧視根深蒂固

+

A

-
2017-04-21 01:29:52

人工智能的发展,給人類帶來便利的同時也帶來了各种麻煩,例如計算機在學習人類語言時產生了偏見和歧視。那么這种偏見是可以消除的嗎?


中國研制的智能美女機器人“佳佳”(圖源:VCG)

人工智能的偏見來自于人類

英國《衛報》发表的一篇文章指出,計算機在學習人類語言時吸收了人類文化中根深蒂固的觀念,產生了偏見和歧視。

實際上,人工智能的偏見和歧視早就引起了人們的注意,較典型的是微軟2016年3月23日推出的人工智能聊天機器人Tay。設計的最初目的是讓其成為一個善解人意的小女孩,為用戶排憂解難。但是,上线第一天Tay就變成了一個滿口粗言穢語的种族主義者,发表了不少白人優越的言論,甚至還變成了希特勒的粉絲,要发起种族滅絕戰爭。經過調教,Tay于2016年3月30日再次上线,但舊病复发,不得不再次下线。

一項发表于《科學》雜志(2017年4月14日)的研究揭示了人工智能的毛病來源于人類。

人類自誕生以來和在演化進程中一直充斥著偏見,而且從人類社會組成以來,更充滿相当多的負面和人性的弱點,所有這些都會體現在人類的文化中。而文化的載體就是語言,所以所有的偏見都可以從語言和語義中找到根源。

人工智能將對人類造成威脅

人工智能將對人類造成難以控制的威脅,這是史蒂芬·霍金對人類发出的警告,機器人會以比人類快得多的速度進化,它們的最終目標將無法預測。

隨著人工智能的发展,機器能獨立選擇并針對目標開火的可能性也逐漸增高。未來的自動武器或“殺人機器人”,或許很快就能從科幻電影走向現實。

這并不是霍金第一次警告機器人“起義”的危險。就在2015年,他警告稱隨著人工智能逐漸學習著為自己考慮,并且更加適應環境,人類正面臨著不確定的未來。

霍金的說法,一場潛藏的威脅正在矽谷的技術實驗室中悄悄醞釀。人工智能偽裝成數字輔助設備和自動駕駛的交通工具,正在人類社會中逐漸站穩腳跟,它們或許有朝一日將導致人類的終結。在一次采訪時,霍金表達了對人類未來的擔憂,“我不認為人工智能領域的進步一定是有益的,人工智能的全面发展可能意味著人類的終結。我們需要確保人工智能的設計符合倫理,并且有到位的防護措施。”

綜編:京京

評論

【聲明】評論應與內容相关,如含有侮辱、淫穢等詞語的字句,將不予发表。