以人類滅絕為目標的科技巨頭

 以人類滅絕為目標的科技巨頭

在 2000年，Sun Microsystems 聯合創辦人 Bill Joy 寫了一篇頗具挑釁意味題為“為什麼未來不需要我們”的文章，儘管那是在 4月 1日出版，但不是開玩笑； 及儘管它是有 11,000個單詞的長文，它還是像會瘋傳開來。 原因封裝在其副標題中，給機智風趣的人：

“我們最強大的 21世紀技術 - 機械人技術、基因工程和納米技術 - 正威脅著使人類成為瀕危物種”

現在 21世紀差不多過去四分之一，這種技術 - 準確地說是人工智能 - 可能會給人類帶來厄運的警告隨處可見。 一個典型的例子是來自研究組織《人工智能安全中心》 5 月 30 日發表的聲明，“減輕來自人工智能的滅絕風險應該拍住流行病和核戰等其它社會規模的風險一起成為全球優先事項”

這真的很嚇人因為畢竟，任何類型的先進人工智能如何可能總是會被天生的愚昧所控制？