人工智能革命揭秘上篇（上）

文章摘要：人工智能革命是否正在引領我們見證一個新物種的誕生？機器要多久才能比人類聰明？

編者按：滾石雜志近日刊出了有關人工智能的特別報告，報告分上下兩篇，目前已推出了上篇。作者 Jeff Goodell 訪談了從事人工智能（AI）研究的各方面專家，在上篇中總結人工智能取得的進展以及它對人類的意味；在下篇則重點探索 AI 對無人車以及未來戰爭的影響。我們編譯出來供大家參考，由于篇幅較長，上篇會分上下兩部分刊出。此為上篇的上半部分。

我們即將創造出一種新的生命形式，這個事件不僅是進化取得突破的標志，也有可能威脅到人類這個物種的生存。

“歡迎光臨機器人幼兒園，” Pieter Abbeel 一邊說著，一邊打開 Robot Learning Lab 的大門。位于加州大學伯克利分校北邊一棟嶄新建筑 7 樓的這座實驗室實際上挺亂的：自行車就往墻邊靠著，雜亂無章的小隔間里面呆著十幾個研究生，白板上寫著一般人看不懂的公式。38 歲的 Abbeel 是個身形瘦長的家伙，他下身穿一條牛仔褲，上面是一件寬松的 T 恤。2000年，他從比利時來到美國，在斯坦福攻讀計算機博士。現在，在理解教會機器人智能思考所面臨的挑戰方面，他是全世界最重要的專家之一。但是首先，他得教會它們 “思考”?！斑@就是為什么我們把這兒叫做幼兒園，” 他開玩笑道。他把我介紹給 Brett ，這個 6 英尺高的人形機器人是曾經著名現已破產的硅谷機器人制造商 Willow Garage 的產品。幾年前實驗室把 Brett 弄了過來用作實驗。Brett 的意思是 “用來干完沉悶任務的伯克利機器人（Berkeley robot for the elimination of tedious tasks）”，這個外表友善的創造物頭扁扁的，用攝像頭充當的眼睛隔得遠遠的，身材矮矮胖胖，跟人一樣它也有手有腳，握爪就是它的手，輪子就是它的腳?，F在 Brett 已經下班，站在實驗室中央，它身旁是另一個還沒上電的神秘安詳的機器人。附近的地板上有一箱玩具，里面有木錘、塑料玩具飛機、還有一堆樂高積木，這是 Abbeel 和他的學生對 Brett 的教學道具。不過 Brett 只是實驗室眾多機器人當中的一員而已。在另一個隔間，一張椅子背面的吊帶上懸著一個 18 英寸高的機器人。在地下室下面還有一個工業機器人，它每天都要在一個相當于機器人沙盒的東西里面玩幾個小時，為的只是想看看它能教自己什么東西。街對面的另一間實驗室里，一個手術機器人正在學習如何縫合人的肉體，與此同時，一位研究生正在教無人機如何聰明地躲開物體。“我們不希望無人機撞到東西從天上掉下來，” Abbeel 說：“所以我們正在教它們學會看東西?！?/span>

一直以來，可編程工業機器人執行的都是特定任務：移動機械臂到左邊 6 英尺，抓起模塊，然后轉到右邊，把模塊插進 PC 印刷電路版。然后每小時重復這個動作 300 次。這些機械動作的機器在聰明程度上跟除草機無異。不過最近幾年，機器學習（能夠粗略模仿人類大腦并且讓機器自學東西的算法）的突破讓機器識別語音和視覺模式的能力得到了顯著提升。Abbeel 的目標是培養機器人具備一般智力—一種理解世界的辦法，從而讓機器人可以自主學習完成任務。他還有很長一段路要走?！皺C器人甚至還沒有 2 歲小孩的學習能力，” 他說。比方說 Brett 已經學會了做一些簡單任務，像打繩結或疊衣服。但是一些人類很容易就能完成的事情，如認出桌上揉成一團的織物實際上是毛巾，對于機器人來說卻特別困難，這部分是因為機器人缺乏常識，之前沒有過疊毛巾的經驗記憶，最重要的是，沒有毛巾的概念。它看到的只是一團顏色。

為了規避這一問題，在一盒兒童心理學磁帶的啟發下，Abbeel 創造了一種通過不斷調整方法來完成任務的自學法?，F在，當 Brett 整理衣物時，它也在做類似的事情：它會用抓手拿起毛巾，試著感覺一下它的形狀，試試看怎么去折疊它。看起來很原始是吧，的確是。但你再想想：機器人這可是在學疊毛巾啊。

這一切科學怪人式的東西看起來有點令人毛骨悚然。智能機器能夠執行的任務的復雜性正在以指數的速度增長。這最終會帶我們去向何方？如果機器人自己能學會疊毛巾，是不是有朝一日也能做飯、做手術甚至發動戰爭？人工智能也許能夠很好地幫助解決人類面臨的最復雜問題，如治療癌癥，治理氣候變化等，但在近期內它可能也會插手監視、侵犯隱私，不知疲倦地進行電話營銷。除此以外，還有一個更大的問題正在顯現：有朝一日機器會不會替自己著想？會不會對問題進行理性分析？甚至表現出情感？沒人知道答案。智能機器的崛起跟任何其他技術革命都不一樣，因為它最終危及的是人性的問題—我們有可能創造即將創造出一種新的生命形式，這種生命形式不僅是進化的突破，也可能會威脅到我們作為物種的生存。

人工智能革命揭秘上篇（上）

人形機器人 Brett 可以自學造東西和對物體分類。

無論結局怎樣，革命已經開始。去年夏天，伯克利的團隊把一套短期記憶系統植入了一個仿真機器人里面。參與該項目的計算機科學家 Sergey Levine 說他們注意到了 “一件奇怪的事情”。為了測試機器人的記憶程序，他們向機器人發出一項指令，要求它把一顆釘放到一左一右兩個洞的其中之一。出于控制的考慮，他們再度在移除記憶程序的情況下又試驗了一次—令他們感到驚訝的是，機器人仍然知道把釘放進正確的洞口。在沒有存儲的情況下它是如何記得釘子應該放到哪里的呢？“最終我們意識到，只要機器人接收了指令，它就會旋轉機械臂到正確的洞口?！?然后，在命令消失之后，它會看自己的身體扭向什么位置才確定釘子應該放在哪個洞里面。也就是說，機器人自己實際上已經找到了正確執行命令的辦法?！斑@非常令人吃驚，” Levine 說：“也讓人不安。”

Abbeel 帶我去到他的辦公室，這是一間沒有窗戶的小隔間。在辦公室里，他跟我談到了 DeepMind（2014年 被 Google 以約 4 億美元收購的 AI 初創企業）最近取得的一項突破。幾年前，因為教會計算機玩太空入侵者之類的雅達利視頻游戲并且玩得比人類還溜，DeepMind 已經震驚了大家一把。不過更令人震驚的是，DeepMind 是在沒有在程序中告訴計算機游戲規則的情況下做到的。。這不像深藍在國際象棋比賽中擊敗人類那樣，游戲規則是在程序里面寫好的。計算機只知道一點：目標是拿高分。計算機采用的是強化學習法來做到這一點，這就好比訓練狗，不管它用什么辦法，只要它做到了你就表揚一聲 “好狗” 一樣，計算機就可以通過這種機制來探索游戲，在反饋中自己學會規則。在幾個小時之內，計算機就掌握了超人的技巧。這是 AI 的一項重大突破—計算機第一次自己 “學會” 了一項復雜技能。

Abbeel 的實驗室的研究人員對這項突破感到著迷，他們決定用自己寫的類似強化學習算法來做實驗，試圖幫助機器人學習游泳、學習單腳跳以及走路。或者玩視頻游戲怎樣？令他們驚訝的是，這個所謂的 TRPO（Trust Region Policy Optimization，信任區域策略優化）算法實現的結果幾乎跟 DeepMind 的算法一樣好。換句話說，TRPO 展現出了用一般方法學習的能力。“我們發現 TRPO 不僅可以教機器人走路，” Abbeel 說：“還可以在視頻游戲中擊敗人類。”

Abbeel 調出了一個有關一個機器人模擬器的視頻。視頻開頭可以看到一個機器人摔倒在黑白相間的地板上。“記住，這個算法跟學視頻游戲的是一樣的，” 他說。機器人被布置了 3 個目標：有多遠走多遠，不要踩到自己的腳，以及軀干要高于一定高度?！八恢雷呗肥鞘裁匆馑迹?Abbeel 說：“也不知道自己有手有腳。它只知道自己的目標。然后想辦法實現目標?！?/span>

Abbeel 按下一個按鈕，模擬開始工作。機器人笨重地摔到地上，不知道自己在干什么。“原則上，它應該能確定自己要走還是跳，” Abbeel 說。但是算法是通過實時 “了解” 到只要把自己的腿抬起來，它就能推動自己向前走來確定的。這讓機器人可以分析自己上一次的表現，解碼出哪一種動作的表現更好，然后在未來相應改變行為。很快機器人就開始蹣跚而行，東倒西歪像喝醉酒一樣。它會突然往前撲倒，爬起來，走了幾步，然后又倒了。但是慢慢地它的表現開始提高，學會了跌跌撞撞地朝著目標跑過去了。你幾乎能感覺到它的信心在增加，抬腿的速度快得就像一名跑鋒（running back）一樣。機器人不知道自己在跑，因為程序沒有進行設置。但現在它已經在跑了。它自己學會了復雜的平衡和肢體控制這些物理學的知識。這已經不僅僅是令人吃驚了，簡直就是魔術。就好像是在短短 40 秒的時間內目睹一條魚變成了人一樣。

“機器人移動和開始走路的方式讓它看起來就像是活的一樣，” 我說。

Abbeel 笑了：“差不多吧。”

盡管書本和電影里面有人工智能的各種渲染，但這個東西可不是懸浮在某處藍色液體箱的一個合成大腦。人工智能是算法—一個數學方程式，它告訴計算機執行什么功能（通俗點你可以把它理解為機器的食譜；更深入的話題可參見尋找生命的基礎算法 ）。21 世紀的算法就像是 19 世紀的煤礦：是我們的經濟引擎，是現代生活的燃料。沒有算法，你的電話無法工作，也不會有 Facebook、Google、Amazon。算法規劃航班然后引導飛機飛行，算法幫醫生診斷疾病。“如果每個算法突然停止工作，我們所熟知的世界就要終結，” 機器學習的流行讀物《主算法》的作者 Pedro Domingos（參見有沒有主宰世界的主算法 ）寫道。在 AI 的世界里，圣杯就是發現能夠讓機器理解世界的那個算法，這就好比是能夠讓物理學家解釋宇宙運作機制的標準模型，只不過前者是數字世界的。

在 DeepMind 倫敦辦公室的Google 的智能設計師Demis Hassabis ，他還一位是神經科學家、計算機游戲設計師以及世界級的游戲玩家。

數學算法已經有幾千年的歷史，是現代計算的基礎。輸入數據，計算機處理，然后算法吐出結果。但是現在科學家已經開發出能夠逆轉這個過程的算法，也就是讓計算機寫自己的算法。比方說你想讓直升機倒著飛：你會寫個算法告訴計算機有關直升機控制方面（輸入數據）的信息，然后你告訴它你想讓直升機怎么飛，飛行角度如何（結果），Bingo！計算機就會倒騰出自己的算法，然后告訴直升機怎么做。這個過程就叫機器學習，它是 AI 想法的核心：如果機器能夠教自己讓直升機倒著飛的話，那它也應該會自學其他事情，比如如何在 Tinder 上找到愛人，或者在你對著 iPhone 說話時認出你的聲音，或者將來設計出一個創造終結者的天網出來。DeepMind 聯合創始人 Demis Hassabis 已經說了：“人工智能是讓機器變聰明的科學。”

當然，實際上我們已經被智能機器包圍了。你在用 Google Maps 的時候，算法給你畫了一條最快捷的路線，并且根據實時數據計算出交通延誤并對交通狀況作出預測性分析。當你對著 Google Voice 說話時，它能認出你的聲音是基于神經網絡這種機器學習算法，它讓計算機把你的話變成聲音片段，然后跟別的片段進行比較，再理解你的問題。Facebook 通過圖像識別程序掃描數十億圖片，將斬首視頻、JB 圖片等有害內容拒之門外。

智能機器正在加速，可它要去向何方呢？地球的生命從誕生到實現更高智能花了 30 億年的時間。相比之下，計算機大概只用 60年 就從一大塊硅片變成了能夠開車穿越美國或者在人群中認出一張臉的機器。每過去一周，就會有新的突破被宣布出來：今年1月，DeepMind 披露自己已經開發出一種算法，這種算法擊敗了歐洲的圍棋冠軍（該算法叫做 AlphaGo，從 3月9號開始，它將與韓國的頂尖圍棋選手李世石進行一場 5 番棋大戰）。當然，它的快速演進還在人類的掌控當中，但你很難不去想我們是不是已經到達智能機器演進的某個拐點了。我們是不是即將目睹一個新物種的誕生？機器還要多久就會變得比人還要聰明呢？

Elon Musk警告人類要注意 AI 的危險

Google 的未來學家 Ray Kurzweil 提出了后來風行的 “奇點” 論，奇點說的是硅基機器變得比碳基機器（人類）更聰明的時刻，到那個時候，進化的天平將會向前者傾斜?！拔磥砦覀儠υ普归_大量思考，” 他在幾年前的一場技術會議上如此說道。他甚至還預測了奇點到來的確切時間：2045年。在最近一場會議上的即席發言時，Tesla 和 SpaceX 的創始人 Elon Musk 把 AI 的發展稱為是 “對惡魔的召喚”。盡管隨后他告訴我說自己的說法有點過頭，但他又說：“智能機器的崛起向我們提出了一個嚴重的問題，即我們需要考慮，作為人類我們是誰？我們希望建設一個怎樣的未來？” 正如他指出那樣，我們現在已經嚴重依賴機器了：“我們已經是賽博格（cyborg）了。不信你把手機關了看看—你就會知道幻肢綜合癥是什么樣子的。”

這并不是說超智機器要變得超級邪惡才會構成威脅。“AI 的真正風險不在于它的惡意，而在于它的能力，” 物理學家霍金最近指出：“超智 AI 極其擅長實現自己的目標，如果它的目標跟我們的不一致的話，我們就有麻煩了。你可能并不是邪惡的螞蟻仇恨者，不會出于惡意踩死螞蟻，但如果由你來負責一個水電綠色能源項目，然后需要淹沒一個蟻窩所在的區域時，對于螞蟻來說情況就太糟糕了。我們不要讓人類落到那些螞蟻的境地?！?/span>

盡管有了更智能的算法、有了能力更強的機器人，但超智機器的未來仍然更像是科幻而不是科學。Facebook AI Research 的負責人 Yann LeCun 說，現在 “AI 的智能水平還遠不如一只老鼠。” 是的，IBM 經年累月的編程和白花花的銀子砸出了Watson，2011年 這臺機器在智力競賽中擊敗了最聰明的人類選手，現在，它是該公司 “認知計算” 行動的基礎。一秒鐘它可以閱讀完 8 億頁的信息，消化掉維基百科的一整個語料庫，更不用說幾十年的法律和醫學雜志。但是它不能教你如何騎自行車，因為它的智能是狹隘的—它對世界如何運作一無所知。西雅圖 Allen Institute for Artificial Intelligence 的 Aristo 是最復雜的 AI 程序之一，但是對于 “人呼吸空氣” 這樣的句子卻是一頭霧水。因為要想理解這個句子，你需要一些常識—但機器沒有常識。哪怕常識可以通過語言定義，程序也不知道呼吸空氣是否就是人活下來之所需；也不知道人是一分鐘呼吸一次還是一輩子只用呼吸一次。一些給人留下深刻印象的功能，如能讓用戶用不同語言實時對話的 Skype Translator（目前還是預覽版），也還有很長的路要走。在跟意大利的一個人對話時，我對天氣的評論被翻譯成了對圣經的解釋。

“Jeopardy!” 智力競賽冠軍 Ken Jennings 和 Brad Rutter 無助地看著 IBM 超級計算機 Watson 攻城拔寨

當然，這并不是說智能機器的崛起只是一個虛幻，也不是說天網不會在我們難以想象的數據點集合中突然出現。自動武器，比如可以自行根據人臉識別技術等數據執行任務的無人機殺手（參見無人機百年史話）就是真正的威脅。但它們不是不會對人類這個物種的生存造成威脅。朝鮮黑客突然之間創造出一種讓金三有能力對世界發動終結者式攻擊的新算法的可能性也很低。在這種語境下，AI 不像 iPhone，寫出一個新 app 你的活就干完了。這更像是自己來造互聯網—這只能慢慢完成，要通過日積月累的點滴進展。百度首席科學家吳恩達最近告訴我說：“擔心殺手機器人就像是在擔心火星出現人口過剩一樣—我們還有很多時間去解決麻煩。”

實際上，對殺手機器人夸大其詞的問題在于它掩蓋了我們所面臨的智能機器崛起的真正風險—工人因為被機器人替代而失業，戰爭中使用自動武器的增加，還有這個簡單的事實，我們越是依賴機器，有東西出問題時我們的風險就越高。我們生活在這樣一個世界的問題在于人際關系的疏遠—我們跟機器的對話比跟人聊得更多（可以看看電影《her》），在于藝術變成了一種和諧的算法輸出（參見機器學習藝術，Facebook 的深度學習系統可造出以假亂真的圖像）。AI 時代還會對隱私造成影響深遠的挑戰，不僅僅有智能無人機在天上監視你，企業也會跟蹤你的一舉一動好賣東西給你。正如倫理道德研究院的 CTO Marcelo Rinesi 總結那樣：“未來不是機器人一只腳永遠踩在人臉上（注：原句出自奧威爾的《1984》：如果你要設想一幅未來的圖景，就想象一只腳踩在一張人臉上好了——永遠如此）。而是一個你看到的一切東西里面都有一個小小的電話推銷員的世界，一個知道有關你的一切，永遠不會停止賣東西給你的世界?！?/span>

這還掩蓋了與機器深層次結盟所帶來的好處。大多數的研究人員，像 DeepMind 的 Demis Hassabis 就認為，如果我們賦予機器智能的話，它們就能夠幫助我們解決疾病和醫療保健這樣的大問題，也能幫助科學家攻克氣候變化和物理學方面的大難題。微軟的 Eric Horvitz 對 AI 的展望甚至更加宏偉：“對于人類來說，一個大的問題是我們的經驗是不是可以計算的？如果是的話，對我們思維方式的更好理解，能不能告訴我們一些有關我們作為地球生命是什么樣的新發現？有了這些自我認知之后，我們又能夠做些什么呢？”

免責聲明：本文僅代表企業觀點，與安昂商城無關。其原創性以及文中陳述文字和內容未經本站證實，對本文以及其中全部或者部分內容、文字的真實性、完整性、及時性本站不作任何保證或承諾，請讀者僅作參考，并請自行核實相關內容。?