當機器智能超越人類……
■尹傳紅
春節前后，網絡和微信上有一篇長達3萬余字的譯文在流傳，文章的標題是《為什么有很多名人讓人們警惕人工智能？》。篇首有這樣一段話：“人工智能很可能導致人類的永生或者滅絕，而這一切很可能在我們的有生之年發生。上面這句話不是危言聳聽，請耐心地看完本文再發表意見。”
文中稱，史蒂芬·霍金、比爾·蓋茨等著名人士都發出了警告：如果智能機器缺乏監管，人類將迎來一個黑暗的未來。而美國特斯拉汽車公司首席執行官埃隆·馬斯克則說：人工智能可能是我們面臨的最大滅絕風險，創造人工智能猶如召喚一只惡魔。他預計“一些極為危險的事情即將發生”，最快將在5年內。
無機生命（機器）會發展出與有機體類似的生存和競爭意志嗎？有朝一日當機器智能超越人類并不受人類控制時，我們將會遇到什么危險？類似這樣的話題或場景，我們常常在科幻小說和科幻電影中遇到。近年來，也有越來越多的圖書涉及。
較早出現也較有影響的是《機器的征途——為什么機器人將統治世界》一書（[英]凱文·渥維克著，內蒙古人民出版社，1998），作者系英國雷丁大學教授、控制論與機器人研究專家。全書著眼于描述機器已發展得比人類更聰明的未來時代，并展示了第一批能夠學習、互相交流和自我設計程序的機器人。作者感慨技術變革之快，恐怕將使得事物發展的結果非我們所愿意看到，甚至不能掌控。他斷言：“在2050年，我們人類為機器所驅使，必須做機器規定我們做的事情……”
而隨后出現的《制腦者：創造堪與人腦匹敵的智能》一書（［美］戴維·弗里德曼著，三聯書店，2001），倒沒有什么悲觀的色調。全書梳理了人類不斷認識自身智能的歷程和人工智能概念的源流，展示了人類創造人工智能所取得的一些里程碑式的成果。其中有：給機器上裝上“大腦”；讓機器人具有腦電波并具有不規則的思維活動；創造出一種新的電腦芯片，具有大腦細胞的功能……
機器智能超越人類時的夢魘，隨著《靈魂機器的時代：當計算機超過人類智能時》（[美]雷·庫茲韋爾著，上海譯文出版社，2002）一書的出版，又一次縈繞在人們心頭。該書出版于1999年，作者系美國著名的發明家和思想家，在書中他做出了驚人的預言：到21世紀初，地球上將出現一種足以與人類智能抗衡的新型智能，最終它將遠遠超過人類的智能。
庫茲韋爾還想象，將來的類人智能體也能夠擁有像意識、情緒這樣的特質。
2005年，《奇點臨近：2045年，當計算機智能超越人類》（［美］雷·庫茲韋爾著，機械工業出版社靈魂機器的時代:當計算機超過人類智能時，2013）一書問世，并成為當年美國最暢銷非小說類圖書和亞馬遜最佳科學圖書。此書更為系統、全面地表達了庫茲韋爾預測人工智能和科技未來的觀點。特別是對“奇點”的概念和涵義進行了詳細的闡釋。他還預測了機器智能趕超人類智能之各個方面后發展的下一階段：人類與機器的聯合，即嵌入我們大腦的知識和技巧將與我們創造的容量更大、速度更快、知識分享能力更強的智能相結合。這種融合便是奇點的本質。
庫茲韋爾的預言和觀點在被廣為傳播的同時，也引起了極大的爭議，乃至強烈的質疑。但庫茲韋爾堅信自己的論斷言之成理，一種“深刻的變化”必然會發生。而他所構想出的關于科技進化的理論——“加速回歸理論”，能夠解釋為什么在宇宙的總體進化中，技術和進化將以指數的速度向前推移。這也貫穿著在過去的30年里他逐漸認識到的“一個重要的基本思想”：改變世界的思想力量其本身也正在加速。換句話說，并不只是科技在飛速地發展，“發展”本身也在不斷地躍進。
人工智能機器的潛在智能是真實且巨大的——將是人類的萬億個萬億倍。或遲或早，科學會產生一種和人類一樣運作的人工生命形式。人工智能問題（或者說物種支配問題）將主宰新世紀的全球政治。果真如此的話，那將是人類歷史上最大的災難，因為再也沒有歷史了，再也沒有人類了。這是《智能簡史——誰會替代人類成為主導物種》（［美］雨果·德·加里斯著，清華大學出版社，2007）一書所表述的主要觀點，其作者是用這樣一句短語結束了本書：“我們是在制造上帝，還是在制造我們潛在的敵人？”
德·加里斯坦言他所從事的工作幾乎讓他精神分裂，并且帶著很大的負罪感靈魂機器的時代:當計算機超過人類智能時，“因為我認為我的工作就是問題的一部分。”凱文·渥維克在為《智能簡史》一書所寫的推薦序中則寫道：“幾十年后，如果德·加里斯關于‘物種主導問題將在本世紀主導全球政治’的言論被證實是正確的話，那么他將是21世紀最主要的思想家之一。”
自20世紀40年代計算機被發明出來之后，機器就一直被寄予厚望，人工智能的先驅者們大多數時候都不認為他們的事業可能會存在風險。英國數學家歐文·約翰·古德大概是清晰闡述人工智能未來圖景的第一人，早在1965年他就指出：
“我們把超智能機器定義為具備超越所有聰慧人類智能活動的機器。一旦機器設計成為一項智能活動，那么，超智能機器就能設計出更好的機器。毫無疑問，肯定會出現諸如‘智能爆發’這樣的局面，人類智能會被遠遠地甩在后面。因此，第一臺超智能機器將是人類制造的最后一臺機器。”
目前人工智能方面存在的顯著風險，便與前述“智能爆發”相關，所以我們必須以最嚴肅的態度審視之——《超級智能：路線圖、危險性與應對策略》（[英]尼克·波斯特洛姆著，中信出版社，2015）一書如是說。該書詮釋了可能出現的超級智能帶來的挑戰，以及我們應該如何更好地應對。作者認為，這很可能是人類面對的最重要和最可怕的挑戰；而且，不管我們成功與否，這大概都是我們將要面對的最后一個挑戰。
更重要的一點或許在于，我們再不能以看待過去的視野，去理解必將超越它的事物了。
《中國科學報》 (2015-04-03 第10版 讀書)
