從本質上說，人類水平人工智能的廣泛出現，實現了我在前面的章節中描述的“外星人來襲”的思維實驗。機器不只主要威脅到相對常規、重復性或可預見的工作，它現在幾乎能夠做到一切。當然，這意味著幾乎沒有人將能從工作中獲得收入。

　　超級智能和奇點

　　2014年5月，劍橋大學物理學家史蒂芬·霍金寫了一篇文章，發出了人工智能迅速發展的危險警報。在英國的《獨立報》(The Independent)上，霍金以及其他的合著者，包括麻省理工學院的兩位物理學家馬克斯·泰格馬克(Max Tegmark)和諾貝爾獎獲得者弗蘭克·維爾切克(Frank Wilczek)，以及加州大學伯克利分校的計算機科學家斯圖爾特·羅素(Stuart Russell)，一起寫文章警告說，創建一臺真正能思考的機器“將是人類歷史上最大的事件。”一臺超出人類智力水平的計算機可能會“超越金融市場，超越人類研究者的發明，超越有控制能力的人類領導者，研發出一些我們甚至無法理解的武器。”把這一切視為科幻小說則“有可能是我們歷史上最糟糕的錯誤。”

　　到目前為止，我所描述的技術，比如能搬箱子或做漢堡的機器人，能創造音樂、寫報告，或在華爾街交易的算法，都可以歸類為專業或“弱”人工智能。即使是IBM的沃森，這個迄今為止機器智能最成功的示范，都遠比不上一般的人類智能。事實上，在科幻小說的領域之外，所有的功能性人工智能技術其實都是弱人工智能。

　　然而，我在這里提出的其中一個主要觀點是，現實世界人工智能的專業化性質并不一定會阻礙很多工作最終實現自動化。大部分勞動力從事的工作任務在一定程度上是常規和可預見的。我們已經看到，迅速提高的專業機器人或依據大量數據的機器學習算法，最終將對各種技能水平的職業構成威脅，這一切都不需要機器能像人一樣思考。計算機要取代你的工作并不需要復制你所有的智力，它只需要完成你為獲得報酬所做的具體事情就好。事實上，大多數人工智能的研發，以及幾乎所有的風險投資，都繼續把重點放在專門的應用程序上，而我們有充分的理由相信，在未來幾年甚至幾十年，這些技術會變得更加強大和靈活。

　　雖然這些專業化技術繼續產出實用的成果并能吸引投資，但一個更為嚴峻的挑戰潛伏在后面。建立一個真正的智能系統，一臺可以構思新想法，可以意識到自己的存在，可以進行連貫對話的機器仍然是人工智能所追求的“圣杯”。

　　對創造一臺真正能思考的機器的著迷至少可以追溯到1950年，當時阿蘭·圖靈(Alan Turing)發表了一篇論文，開啟了人工智能時代。在隨后的幾十年中，人工智能的研究經歷了繁榮與蕭條的周期循環，人們對它的期望一再飆升，不考慮任何實際的技術基礎，特別是當時的計算機速度。當失望在所難免時，投資和研究活動迅速減少，而稱為“人工智能寒冬”的長期停滯也接踵而至。不過，春天已經再次來到了。今天計算機的超凡力量，以及人工智能研究在特定領域的進步，還有我們對人類大腦的理解，這些結合在一起，使得形勢極為樂觀。

　　最近一本關于高級人工智能影響的書的作者詹姆斯·巴拉特(James Barrat)，對200名人類水平而非弱人工智能研究人員做了一次非正式調查。在這個領域內，人類水平的人工智能被稱為“強人工智能”(Artificial General Intelligence)。巴拉特讓計算機科學家們在強人工智能何時實現的四個預測時間中做出選擇。結果是：42%的人認為能思考的機器將在2030年前創造出來，25%的人選擇在2050年前，10%的人認為2100年之前不會發生，只有2%的人認為永遠不會發生。值得注意的是，一些受訪者在對他們的調查寫評論時表示，巴拉特應該加進一個更早的選項——或許是2020年。

　　該領域的一些專家擔心可能又會形成期望的泡沫。在2013年10月的博客文章中，臉書新成立的人工智能研究實驗室主任雅恩·樂昆(Yann LeCun)警告說，“因為炒作，人工智能50年里‘死’了4次：人們夸下?？?通常是為了打動潛在的投資者或投資機構)，卻無法拿出成果。結果就造成了激烈的對抗反應?！?同樣，紐約大學教授、認知科學專家和《紐約客》博主加里·馬庫斯(Gary Marcus)稱，深度學習神經網絡領域里近期的突破，以及IBM沃森的部分能力，已經明顯被過度炒作。

　　不過，似乎很明顯，該領域已經獲得了強勁的動力。特別是像谷歌、臉書、亞馬遜等企業的崛起帶來了巨大的進步。以前從未有這樣財大氣粗的企業將人工智能放在業務模式的絕對核心地位，也從未有過人工智能研究在如此強大的企業之間被幾乎定位成了競爭的焦點。類似的競爭也在國家之間展開。人工智能在集權國家的軍隊、情報機構和監視機構中正變得不可或缺。*事實上，一場由人工智能全面支持的軍備競賽很可能正在不久的將來醞釀。我想，真正的問題，不是這個領域整體會不會真正面臨人工智能寒冬的危險，而是進步是只局限在弱人工智能領域，還是最終也能擴展到強人工智能領域。

　　如果人工智能研究人員最終設法跨越實現了強人工智能，那結果應該不是一臺僅能匹敵人類智力水平的機器。一旦實現了強人工智能，單靠摩爾定律就可以迅速創造出一臺超出人類智力的計算機。當然，一臺能思考的機器仍將擁有計算機目前具有的優勢，包括計算能力，還有我們無法理解的信息訪問速度等。不可避免的是，我們很快就要與一種前所未有的東西共享這個星球：一種真正不可思議和超群的才智。

　　這很可能只是一個開始。人工智能研究人員一般都相信，這樣的系統最終會被用來引導自己的智力發展。它會專注于提高自己的設計，重新改寫自身軟件，或者使用進化規劃技術來創建、測試和優化改進其設計。這將帶來“循環改進”似的迭代過程。每次修改后，系統都將變得更聰明、更能干。隨著循環不斷加快，最終的結果將產生“智能爆炸”，很可能最終生產出一臺比任何人類都聰明十萬甚至上百萬倍的機器。像霍金和其他作者說的，這“將是人類歷史上最大的事件。”