劉慈欣

《宇視》編者按：科幻作家劉慈欣關于人工智能的文章，這也是他為《智能革命》所做序言，標題為編者所擬

這是一本論述人工智能的書，在這里首先討論一個書中可能不涉及，但很基本的問題：人工智能的定義。

目前廣為人知的定義是圖靈測試，但這只能被看作一種泛泛的描述，并不是嚴格和精確的定義。比如，參與測試的人是什么樣的人？向機器提出的問題是什么？這些問題都不明確。

上溯歷史，我們發現人工智能的概念與自動化有著密切的關系，可以說自動化是這個概念的起源。在過去相當長的一段時間里，在人們的心目中，自動化就是人工智能。

其實，人類制造和使用自動化裝置的時間比我們想象得要早，遠在電氣時代之前，蒸汽機上就有自動調節蒸汽流量的裝置，在更早的16 世紀，伊麗莎白女王的宮廷里首次使用的抽水馬桶也是自動化裝置，如果向前追溯，肯定還有更早的例子。

自動化大批量出現是在電氣時代，先是由模擬電路實現自動化，后來電子管被晶體管所代替，再后來出現了集成電路，由日益復雜的軟件所驅動。今天，我們在生活中要與無數的自動化系統打交道，比如電子商務系統、網上銀行系統和網上購票系統等。

毋庸置疑，自動化系統表現出了相當多的智能特征，像網上銀行這類系統處理著相當復雜的業務，其效率和精準度已高于人類雇員。

即使是抽水馬桶這樣最簡單的系統，也表現出一定的智能行為，它能夠感知水箱的水位，適時開啟和關閉給水閥門，這事它做得與人類一樣好。但從抽水馬桶到網上銀行，我們都不把它們看作是人工智能。

筆者曾經編寫過一個寫現代詩的軟件，現在還在網上流行；而目前網上其他比較完美的自動作詩軟件，所寫出的中國古典詩詞很難與人類所作的詩詞區分開來。另外，近年來已經有不止一個系統在不同的實驗室環境下通過了圖靈測試。但這一切，我們都不把它們看成心目中的人工智能，為什么？

筆者在20 世紀80 年代最早參與開發的工業監控系統是以Z80 處理器為核心的，用匯編語言編程。這個系統能夠監測上百個機組參數，并根據參數的變化做出適當的調節，其功能是人工無法實現的。但在我們的眼中它也完全不是人工智能。

匯編語言的特點就是透明性，它要在硬件層次手把手地教機器做每一步操作，比如把數據從這個存儲器送往那個存儲器，中斷的調用和返回等都一一寫明，所以當我從外部看到系統的動作時，腦中立刻有一幅明晰的流程圖，立刻能知道哪幾條指令被執行了。所以在我看來，這個監控系統與抽水馬桶沒有本質的區別。

現在那些更復雜的系統，如網上銀行和電子商務，這些軟件的編制者一定清楚所有的內部操作流程，他們知道系統的每一步操作在軟件中是如何進行的，這同樣也是抽水馬桶更復雜的版本。至于那些電子詩人和通過圖靈測試的系統也一樣，程序員清楚地知道它們是如何根據邏輯樹檢索數據庫，然后組合出詩和答案的，所以至少程序員知道這不是智能。

當我們意識到房間中那些忙碌查找卡片的人時，智能的感覺就蕩然無存了。

現在我們認為擁有人工智能的那些系統，比如，進化算法和深度學習等，都有一個共同特點：它們都或多或少地表現出了黑箱的特點，雖然從理論上它們內部的運算步驟仍然可以追蹤，但由于計算量的巨大，使這種追蹤實際上很困難甚至不可能。于是，我們真的感覺它們有智能了。

到這里，我們仍然無法得出人工智能的準確定義，但能夠看到它的一個重要特點：一個具有智能特性的人造系統，它產生、輸出的內部的運算過程是人類智能所無法解析的。換句話說，只有我們不知道機器在想什么、怎么想時，才認為它有智能。

看到這一點，每個人的心中應該都生出一股隱隱的寒意。是否人工智能的本質中，就隱含著它們最終失控的可能性？

這正是目前人們對人工智能關注的熱點，用馬斯克的話來說，人工智能正變成比核彈更危險的東西。媒體輿論給人一個印象，似乎機器的征途已經開始，人工智能征服世界指日可待。本書最后一章也顯現了這種擔憂。庫茲維爾甚至在《奇點臨近》中給出了人工智能紀元到來的具體年份：2045 年。那時，現在讀這本書的人有2/3 還活著。

但理智地考察目前人工智能領域的狀況，我們就能發現智力遠超人類的“強人工智能”仍然屬于科幻的范疇。公眾喜歡從科幻的角度看問題，比起平常的現實，科幻確實能讓人興奮，任何從現實出發所進行的理智的預測都被斥為保守和沒有想象力。但筆者作為科幻作家卻只能說，與大家通常的印象不同，科幻小說中的預言真正變為現實的是少數，大部分預言要變為現實仍然遙遙無期。

人們的潛意識中都認為，只要在理論上有可能突破的技術障礙，在未來就一定能夠被突破，但事實并非如此。在人工智能方面，“強人工智能”的實現面對著許多巨大的技術障礙，如非馮·諾依曼體系的新結構計算機、對人類思維機制的深刻認識等，現在都無法確知最終能否取得突破。另外一些看似有希望的技術，如量子計算等，距實用還相去甚遠。

所以，在對人工智能進行科學幻想的同時，我們更需要關注即將面對的“近未來”，這也正是本書重點討論的話題。

人工智能近年來發展的趨勢是開始走出實驗室，進入人類生活，用一位互聯網大佬的話來說，它們變得能用了。這樣我們就面對著一個即將到來的挑戰：人工智能不會奪走我們的自由和生命，但會奪走我們的飯碗，這不需要人工智能的失控，它們可以在資本家的完全控制下做成這件事。

有學者認為不必為這件事擔憂，他們回顧工業化的歷史，在20 世紀初，美國有50% 的農業人口，但隨著農業機械化，現在的農業人口降到4%，而城市化吸收了多余的農民。但眼前發生的事情是不同的，當人工智能大規模進入社會后，人類能做的工作它們大部分都可以做，城市不會再有更多的就業崗位留給人類。

通行的美好說法是，人們在常規工作中被人工智能取代后，可以去從事創造性的工作。問題是創造性的工作不是人人都可以從事的，也不需要那么多的人，如果社會分配制度不改變，一個全部由科學家和藝術家構成的人類世界幾乎是一場噩夢，這上百億科學家和藝術家中的絕大部分注定一生碌碌無為，對社會和自己都毫無用處，且淪入“創造性”的窮困潦倒中。

但這種思維方式總有些不對的地方。人類自古以來為生存而勞作，實在是迫不得已，工作著是美麗的，但誰都知道，不需要工作的生活更美麗。現在終于能夠制造出把自己從工作重負中解放出來的機器，這是人類文明最偉大的成就，無論如何不應該被看作一場災難，相反，這可能是人類所面對的前所未有的偉大機遇，只是，我們需要改變。

如何完成由現代社會向人工智能社會的過渡？有兩種可能。

一種可能十分黑暗：在現有的社會、經濟和政治體制下，人工智能帶來的問題幾乎是無解的。在人工智能迅速取代人類的過程中，沒有及時建立起與之相適應的社會體制，在席卷全球的失業浪潮之下，世界的政治和經濟將陷入長久的混亂之中，一切都籠罩在人工智能及其使用者與“新盧德派”領導的大眾的無休止的沖突中。

另一種可能是，社會成功地完成轉型。這將是有史以來人類生活方式最大的一次改變。

不勞動者不得食，這個理念是人類社會的基石。文明誕生以來經歷過多次巨大變革，這一基石從未改變，但人工智能可能會移除這一基石，進而導致從所有制和分配制度，到基本的經濟結構，再到政治體制，直到文化，都發生根本的變化。這是真正的人類解放，是向著古老的烏托邦理想邁進的一大步。

2016 年是《烏托邦》發表500 周年，但托馬斯·莫爾無論如何不會想到，他的理想會借助于智能機器實現。我很有興趣地想，如果卡爾·馬克思知道人工智能這回事，他關于資本主義和共產主義的理論會是什么樣子？

想象人工智能時代的社會和生活是困難的，即使在科幻小說中，我們也只能把種種可能性排列出來，而哪種可能性最有可能成為現實，取決于我們的努力和選擇。但不管怎么說，那是一個誘人的時代，我們正向它走去。