日前在倫敦舉行的2015年Zeitgeist大會(huì)上，著名科學(xué)家史蒂芬·霍金（Stephen Hawking）再次發(fā)出警告——未來(lái)100年內(nèi)，人工智能將比人類(lèi)更為聰明，機(jī)器人將控制人類(lèi)。
霍金宣稱(chēng)，現(xiàn)在不是擔(dān)心誰(shuí)控制人工智能的時(shí)候，而應(yīng)該擔(dān)心人工智能是否能被完全控制住。未來(lái)100年中，人類(lèi)將面臨比人類(lèi)更聰明的人工智能的挑戰(zhàn)。霍金此前也曾發(fā)出警告，他稱(chēng)人工智能可能終結(jié)人類(lèi)。
霍金說(shuō)：“在未來(lái)100年內(nèi)，結(jié)合人工智能的計(jì)算機(jī)將會(huì)變得比人類(lèi)更聰明。屆時(shí)，我們需要確保計(jì)算機(jī)與我們的目標(biāo)相一致。我們的未來(lái)取決于技術(shù)不斷增強(qiáng)的力量和我們使用技術(shù)的智慧之間的賽跑。”
今年年初，霍金曾與特斯拉CEO伊隆·馬斯克（Elon Musk）共同發(fā)表公開(kāi)信，他們認(rèn)為人工智能的發(fā)展應(yīng)該受到控制。信中稱(chēng)，如果智能機(jī)器無(wú)法保障安全，人類(lèi)可能陷入黑暗的未來(lái)。
信中警告科學(xué)家們警惕人工智能將抹殺人類(lèi)。科學(xué)家們稱(chēng)：“我們已經(jīng)達(dá)成共識(shí)，人工智能研究正取得很大進(jìn)展，將對(duì)社會(huì)產(chǎn)生越來(lái)越大的影響。潛在好處十分巨大，因?yàn)槲拿魈峁┑囊磺卸际侨祟?lèi)智慧的產(chǎn)物。但是當(dāng)這種智慧放大到人工智能工具都可提供的程度，我們無(wú)法預(yù)測(cè)結(jié)果，疾病和貧苦的消除并非不可能。”
但科學(xué)家們也提出更嚴(yán)肅警告，人工智能研究必須避免潛在威脅。比如，從短期來(lái)看，人工智能可能導(dǎo)致數(shù)百萬(wàn)人失業(yè)。從長(zhǎng)期來(lái)看，人工智能可能像科幻電影中一樣，比人類(lèi)更聰明時(shí)違反自己的程序設(shè)定。為此，必須確保人工智能系統(tǒng)按照人類(lèi)的意圖行事。
11月份，馬斯克也提出警告，最少只需5年，智能機(jī)器可能就會(huì)帶來(lái)極端危險(xiǎn)。他認(rèn)為，人工智能就像“召喚惡魔”。馬斯克在麻省理工學(xué)院發(fā)表演講時(shí)，將人工智能描述為人類(lèi)“最大的生存威脅”。他說(shuō)：“我認(rèn)為我們對(duì)人工智能應(yīng)該保持高度警惕。如果讓我猜測(cè)人類(lèi)生存的最大威脅，那可能就是人工智能。”
電池網(wǎng)微信
