巔峰對話：AI，突然有一天把人滅了
發(fā)布時間：2018-10-12 00:00
當我們在思考職業(yè)生涯的時候，大家可能會想：自己還很年輕，還能生活很長的時間。
但其實，我們應該將一部分精力用來關注一些遙遠的未來。站在未來的視角，當下會顯得如此奇妙。
你的未來是災難劇還是科幻大片，聽聽未來生命研究所創(chuàng)始人、麻省理工學院物理學終身教授，《生命3.0》、《穿越平行宇宙》作者邁克斯?泰格馬克教授怎么說，看看他與DBA四期班同學鄭衛(wèi)鋒、DBA五期班同學江濤又將碰撞出怎樣的火花。
來源 | 筆記俠授權整理，長江商學院略有編輯
以下內容整理自邁克斯?泰格馬克教授在長江商學院與湛廬文化合作舉辦的第23期“長江大講堂·生命3.0，重新定義AI的未來”上的演講、以及與長江商學院DBA同學的觀點碰撞
邁克斯·泰格馬克（Max Tegmark）
未來生命研究所（Future of Life Institute）創(chuàng)始人
麻省理工學院物理學終身教授
《生命3.0》作者
自從宇宙誕生，大約已經超過了38億年歷史，我們從地球這個藍色星球上通過望遠鏡看宇宙，可以發(fā)現，宇宙比我們想象的大很多，而且基本上死氣沉沉。因此，我們感受到，生命簡直是一個奇跡。
那么，我們如何看待生命？如何看待我們的未來呢？
一、生命的形態(tài)
生命1.0
我們稱最初的生命為：生命1.0階段。
那個時候像細菌一樣，沒有辦法在整個生命過程中學習任何東西。
生命2.0
我們稱人類為生命2.0，因為學習東西，就像在我們的大腦中安裝軟件一樣。
我們比老虎、獅子強大，并不是因為我們的身體很強大，而是因為我們有智能，我們很聰明。
你出生的時候，什么話都不會說，爸爸、媽媽及其他人在你大腦當中安裝了一個個軟件，讓你學會說中文、英文、了解商業(yè)等等。
所以，這種學習的能力（設計自己軟件的能力）使我們的種族成為了地球上的霸主。
生命3.0
生命3.0現在還不存在。在設想中，3.0階段能夠設計的不僅僅是軟件，還包括硬件。
現階段，我們的技術可以說已經進入到2.1時代，我們有人工關節(jié)、心臟起搏器、人工耳蝸等應用面世。
那么我們和技術之間的關系是怎樣的呢？
現在有很多人以盲目的方式在使用科技，我覺得我們應該有一份雄心——我們必須要能夠操控它、引導它，讓火箭帶我們去往將來要去的方向。
于是，如果我們的技術還不足，就需要我們變得非常強大。
在這樣的精神下，我們談一談AI的這三點：
1、能量
2、控制
3、最終我們要去往哪里
二、問題的三要素
1.能量
簡單地說，智能就是能夠完成復雜目標的能力。
解決的問題越復雜，我們就越智能。
很多人認為智能是一個非常神秘的東西，只存在于生物器官中，比如人的大腦。
這樣的觀點非常普遍，但我認為這其實是不對的。
智能并不復雜、神秘，也不必須通過一個生物器官才能做出來。
我們可以自己做出來人工智能的東西，智能應該可以進行計算、處理、學習等等。它還像是我們的孩子，不斷在學習、成長。
2.控制
為什么智能不需要任何物體的器官就能處理信息呢？
所有的功能其實非常簡單：
首先需要有一些記憶，然后需要用一些功能、處理方法把這種記憶調出來，最終得出一個結論。
現在在技術當中有兩個非常重要的應用方法：
方法一：
我們需要有一個非常小的記憶單元，然后把它們進行復雜連接，通過這種連接、計算的方式可以出現一個非常復雜的結論。
我想在這里和大家強調：
計算的方法并不需要用一個實體存在的器官才能完成，我們只需要用非常抽象的方法讓它進入到一些邏輯編輯當中，就可以把數以十億計的單元加到一起，最終呈現出來的設備就是我們的手提電腦或者手機。
很多人認為我們可以把這樣的想法直接借鑒過來，放到我們的手機和電腦上面，就可以實現AI了，至于我們的實體到底是什么，并不是重要。
因此，在過去幾年當中，很多科學家全部都希望用更加高效、更加便宜的設備取代原有的計算單位，相當于用小于1的人民幣價格買下北京所有的建筑物，使得我們的成本下降速率之快。
方法二：
關于學習。在過去的一段時間當中，我們看到人工智能的發(fā)展非常令人難以置信。
過去，機器人不能走路，現在它們卻可以做后空翻。
幾年之前，我們沒有想象會有自動駕駛的汽車，現在火箭都可以自己進行降落了。
不久之前，人工智能還沒有辦法進行面部識別的工作，現在不僅可以進行面部識別，甚至可以給我們模擬出虛假的面孔并且可以用模擬的方式講出我們自己從來沒有說過的一些話。
之前人工智能還沒有辦法在圍棋上打敗人類，現在大家也都知道了AlphaGo Zero不僅可以打敗圍棋方面人類最好的選手，同時也在國際象棋上打敗了人類最好的棋手。
它用了僅僅4小時的時間，就可以進行自動培訓、機器學習，直接打敗了國際象棋選手，這樣的記錄是人類之前難以想象的。
AI取得的這些成就讓我們想到一個問題：
到底AI最終的目標在哪，它可以走到哪一步？
3.最終我們要去往哪里
我們可以想到多種多樣的未來。
現在AI給我們帶來的影響，在商務領域方面已經有了很大的意義。中國在支付寶、微信支付當中，已經非常領先了，這讓我感到興奮。
AI讓全球的人們生活更加方便，首先是在醫(yī)療方面做出的努力。有一個研究顯示，AI和人工的醫(yī)生來比，它在肺癌、前列腺癌癥診斷方面做的更好。
那么我們將會走多遠呢？
同時，在這里還有一個更大的問題：
AI的發(fā)展速度有多快呢？
在所有任務上都能達到人的智能水平嗎？
我們把這個稱為AGI（通用人工智能），這個概念可能讓人們認為很多工作我們不用做了，可以通過AGI來完成。
如果我們覺得這個AGI看起來有一點像科幻，其實還有更瘋狂的想法，就是超級人工智能。
因為如果我們能夠成功構建AGI的話，從定義上來講，AI在很多工作上比人做得好。
包括AI本身的開發(fā)，像百度、Google、騰訊等等公司，可以把它們的人工智能工程師替換成AI本身。
這意味著AI進一步的發(fā)展基本上是隨著時間的推移而發(fā)生，因為它比人的開發(fā)速度快很多。
這就提出了一個重要問題——技術的爆炸。
因為如果AI可以自我提升的話，它的發(fā)展速度會加速，產生超級人工智能，遠遠超過人的智能水平。
我們看一下事實，看起來的確有一點像科幻，實際上我們是否能夠實現AGI呢？我們是否能夠有超級人工智能呢？
有一些著名AI研究專家，如Rabeling Bluks說可能幾百年之內都不會發(fā)生；還有Agael也說過“我不擔心這個問題”，基本上是擔心人口過多，太早了。
但是，還有其他一些同樣非常著名的AI研究專家，如Habys先生，他也是Google Deepmind的開發(fā)者，他就很樂觀，并且非常努力使這個愿景加速發(fā)生。
最近的一些調查發(fā)現，絕大部分的AI開發(fā)人員的想法和Habys先生的樂觀情緒是一樣的，并且有40年、50年這樣的一個時間線。
三、未來計劃
作為商學院的學生，作為商人，如果我們知道有一件事情有很大的可能性會發(fā)生的話，我們一定要在我們的計劃當中考慮到它，要做一個計劃。
同樣我們也問一個問題：
如果我們的確實現了AGI，下一步怎么樣呢？
人會扮演什么樣的角色呢？
如果機器什么都能做得好，比我們做得好，比我們的成本還低，那么人的角色呢？
我的觀點是：
“我們面臨著一個選擇，就是我們可以大膽地說我們來構建機器吧，來做所有該做的事情，不要擔心后果。”
但是，我在開始的時候和大家講過了，我覺得我們應該有雄心壯志，這是人作為這個種族最厲害的一點。
我們應該想象一個真正的高科技的未來，找到實現它的方法。
我是一個非常樂觀的人，我特別喜歡技術，我非常積極，我覺得我們能夠創(chuàng)造一個高科技的未來。
一個非常重要的警示：
如果我們能夠贏得一場戰(zhàn)爭，那就是技術的不斷發(fā)展和我們能夠管理我們技術的能力。
如果我們想贏得這一場戰(zhàn)爭，傳統(tǒng)策略是從錯誤當中學習：最初人們發(fā)現了火，用了之后，發(fā)明了滅火器，然后發(fā)明了汽車，發(fā)生了很多悲慘的事故，然后就發(fā)明了氣囊、紅綠燈、安全帶等等。
結果是什么呢？火和汽車這樣的技術，我們限制了它的傷害（傷害降到最低）。
但是，科技一直在不斷地增長，它們的能力變得越來越強，在某個時間節(jié)點，技術會變得非常的強大，以至于我們沒有辦法從錯誤當中學習。
比如說核武器，如果俄羅斯、美國不小心開始了核戰(zhàn)爭，那我們的這個星球就完蛋了。
這種時候，我們從錯誤當中進行學習，下次小心一點，是不行的。
像這樣的重大問題最好提前計劃，避免一開始就犯錯，這樣的做法也適用于其他的很多厲害的技術。
所以AGI現在已經超過了這樣一個門檻，即必須要防止錯誤。
當我講這樣的內容時有人會說你別散布這樣的恐怖情緒，但是我把這稱之為小心謹慎。
在阿波羅11號發(fā)射之前，基本上考慮了一切可能性，然后把一個人放在發(fā)射裝置上，并且把它發(fā)送到外太空，這個過程風險很大。
這是我現在所推崇的想法，那就是對于AGI，想清楚人類會犯怎樣的錯誤，來保證我們正確行事。
我們都意識到了氣候變化是一個全球性的挑戰(zhàn)。
這個挑戰(zhàn)規(guī)模很大，并且補救措施必須是全球行動，必須要有全球的協(xié)調，沒有哪個國家能夠獨善其身。
中國實際上有著一個獨特的優(yōu)勢，能夠有這樣一個領導地位，有兩個原因：
原因一：
中國有大量的科學家儲備。
在中國我們不僅僅可以讓AI變得更加強大，同樣還可以讓它變得更加可信賴。
原因二：
中國是世界上最古老的現存文明之一，持續(xù)了幾千年。和西方相比，中國有著很多的長期思維的計劃傳統(tǒng)，這是西方世界所缺乏的。
大家也知道，在西方世界非常難去設定一些長期的計劃，持續(xù)到下次選舉。
當我還是一個學生的時候，有很多人說要修高鐵，現在20多年了還沒有開工。與此同時，中國已經做完了。
在這方面中國可以扮演一個非常重要的角色，把中國在技術方面的實力和長期規(guī)劃的智慧結合起來，希望中國在AI方面采取一個領先者的地位。
我們組織了很多會議，讓很多AI研究員聚集到一起來討論怎么樣增加AI的智慧。
上一次會議有23個原則，被世界各地的AI研究員簽署。
我在這里給大家復述其中兩三點。
第一個原則：
我們應該避免武器和軍備競賽，應該把技術應用到可以幫助人們的方面。
比如說生物、化學，更多的應該有助于人們找到一些疾病的治療方法，而不是引起致命的損傷。
我們希望在生物和化學武器方面有一些國際化的禁用，這樣就可以不用擔心生化武器落入恐怖組織手中。
我也非常高興看到中國做為一個大國，在3月時第一次站出來說要反對自動致命性武器的發(fā)明。中國做出的這一個努力非常重要。
我們看到中國的影響力變得越來越大，同時也看到了聯合國付出的努力，希望可以使這一切變?yōu)榭赡堋?/span>
第二個原則：
希望可以通過AI以及自動化創(chuàng)造出來更多的財富，使得所有人都可以從中受益。
我認為我們全球GDP可以通過用機器替代人類的方法進行一個大爆炸，但是如果我們沒有辦法通過這個方法讓人人受益的話，那就是我們的錯誤。
在科技和道德方面，我們希望可以確定的是，能夠讓整個社會變得更加和諧、更加一致、更加團結。
中國的經濟發(fā)展非常快，一些研究顯示，技術本身使得這種不平等性變得越來越糟糕，加之稅收政策也使得收入不平等變得越來越明顯，使得窮的人越來越窮，富的人越來越富。
之后看到了為了改變這樣的稅務政策，美國那邊選舉了特朗普作為他們的總統(tǒng)，希望中國可以從中吸取一些經驗和教訓，得到更好的發(fā)展。
最終，我認為在AI的安全性研究方面，我們需要有更大的投資。
既然我們希望AI可以控制我們更多設備，AI可以對于我們的生命產生更大、更重要的影響，就必須要保證現在計算機系統(tǒng)中不能有那么多的黑客、Bug。
因為如果黑客能夠隨便黑進來的話，可能使得AI對自己產生非常負面的影響，我們要保證AI的目標和我們的目標是一致的。
這意味著如果我們最終達成了AGI的話，我們會面臨一個很大的風險，如同在好萊塢的一些電影中看到的情況：
AI會變成一個魔鬼一樣的東西，更可怕的是AI的復雜程度非常高，而它的目標與我們完全不同。
黑犀牛這個種族完全滅絕的原因僅僅在于，我們比它們聰明很多，而且我們的目標跟它們也不同。
所以，如果AGI比起我們要智慧很多的話，我們不想讓自己成為黑犀牛這樣的一個角色，我們希望AGI能夠與我們的目標保持一致，將我們的目標作為它們的最終目標進行發(fā)展。
最終我們要討論的是AI的目標到底怎樣，我們使得AI變得更加有能力，我們也在試圖去控制它，那么最終它的目標應該是怎樣呢？
之前我們做了一些調查，有大概5萬西方國家人參與了這個調查。
我們可以看到，大多數人都希望我們可以得到超級智能的結果。同時，大多數人也認為我們應該變得越來越有整體的愿景，使得所有人能夠從中受益。
與此同時，我們做了另外一個調查，誰應該成為整個過程的控制人？
我們可以看到只有很少一部分人選擇了未來由機器控制。
所以，我們應該進一步想想，未來我們的目標到底應該是怎樣的，終極目標是什么。
雖然現在我們看到的一些問題非常復雜，我們技術現狀也非常復雜，但是我們研究非常簡單——希望最終能夠達成AGI這個成果，有可能是50年，或者更長的時間。
我們應該更多的關注最終成果，而不是只是面對明天、后天的選擇。
如果我們沒有辦法做到這一點，保持一個非常遠大的目標，有可能我們會達到人類歷史上能夠得到的最差的結果。
我們應該更多的著眼于我們整個星球，如何通過技術控制發(fā)展方向，最終達到我們最想期待的未來，所有的人都能夠從中受益。不僅僅是好一點，而是好的非常多。
現在我們可以想一下，2018年比起明朝或者說石器時代的時候都變得更好，為什么？
是因為技術的發(fā)展，之所以我非常感謝文明，也是因為用這種智能的方式我們得到了更好的生活。
通過人類、人工智能兩者的結合，我們可以很好的解決現在我們面臨的問題。
總而言之，我們現在所面臨的就是一個選擇，我們可以完全無動于衷，并且不去進行長遠的思考，只是非常盲目地開發(fā)，相信所有的技術發(fā)展都是對我們有利，不斷地來重復現在我們所做的工作，我們總是相信所有的技術都會讓一切變得更好，根本不去進行技術發(fā)展的控制，不去進行任何目標的制定。
或者我們另外一個選擇，我們有非常宏偉的目標，并且不斷地向著這個目標來進行推進，使得人人可以從中受益。
所以，我們希望最終達成的AI不僅僅取代我們，而是使得我們變得更好。
- 巔峰對話 -
在與邁克斯·泰格馬克（Max Tegmark）的交流互動環(huán)節(jié)中，長江DBA同學鄭衛(wèi)鋒、江濤站在各自的角度，就目前的AI技術與AI未來展開了激烈思想碰撞。
中間為邁克斯·泰格馬克（Max Tegmark），未來生命研究所（Future of Life Institute）創(chuàng)始人、麻省理工學院物理學終身教授；左一為沈曉衛(wèi)，IBM中國研究院院長、IBM大中華區(qū)首席技術官；左二為鄭衛(wèi)鋒，臻迪集團創(chuàng)始人兼CEO， 北京前沿國際人工智能研究院副院長、臻云創(chuàng)投創(chuàng)始合伙人、長江DBA四期班同學；右二為江濤，科大訊飛聯合創(chuàng)始人及高級副總裁、長江DBA五期班同學；右一為主持人牟丹，前澳門衛(wèi)視播音主持人組組長、首席新聞主播、長江MBA校友。
Q1：人工智能會顛覆所有行業(yè)嗎？什么行業(yè)是人工智能無法替代和顛覆的？
從AI的演進路線看，人工智能目前只能替代對智商和情商要求都不高的工作。對人與人之間心靈溝通要求高的工作，比如說護理人員，即使重復性較高，短時間內我看不到被人工智能替代的可能性。
——江濤
人工智能是慢慢滲透到各行各業(yè)的應用里的，先在一兩個痛點上開始突破，到后來形成超級通用人工智能。現在已經在圖像識別、語音識別和自動駕駛幾個方向有所突破，未來20到30年，在很多具有重復性和智能性的領域，一定能看到突破。
——鄭衛(wèi)鋒
沈曉衛(wèi)，IBM中國研究院院長、IBM大中華區(qū)首席技術官
人工智能是一個工具，它在改變行業(yè)的時候，也帶來了巨大的機遇。互聯網是贏者通吃的時代，但是人工智能時代，任何一家企業(yè)都可能被顛覆，但也可能成為行業(yè)的顛覆者。
——沈曉衛(wèi)
我們會有一些技術可能取代人類，但這并不意味著我們一定會去選擇它。我們依然會去選擇人作為教師、護士，即使我們可以讓機器人來做，因為人是需要目標感的，是需要生活的。
——邁克斯·泰格馬克
Q2：中國人工智能發(fā)展現在在一個什么樣的位置上？中美兩國的差距在哪里？對于創(chuàng)業(yè)者來說，中國人工智能發(fā)展最大的潛力在哪？應該在哪一些領域進行深入布局？
中國的創(chuàng)新目前大多數是在技術應用和商業(yè)模式方面。中國最大的優(yōu)勢就是平臺的力量，人工智能要從2C（面向消費者人工智能）發(fā)展到2B（企業(yè)級的人工智能），中國品牌要發(fā)揮應用的優(yōu)勢、商業(yè)模式的創(chuàng)新、平臺的力量，從而構建不同行業(yè)、企業(yè)的平臺。
——沈曉衛(wèi)
從全球排名的人工智能科學家來講，其實中國和美國還是有一定的差距，但是中國現在的優(yōu)勢首先是在新技術的應用上越來越超前，其次是擁有大量的數據，數據對人工智能的發(fā)展是非常關鍵的。
——鄭衛(wèi)鋒
江濤，DBA五期班同學
科大訊飛聯合創(chuàng)始人及高級副總裁
在人工智能從零到一的基礎理論方面，中國整個高等教育體系跟美國還有巨大的差距。中國擁有的一個重要優(yōu)勢是我們有很多優(yōu)秀的工程師，人工智能要進入到每一個行業(yè)并且真正落地，需要大量優(yōu)秀的工程師。
——江濤
你們可能并沒有意識到自己有多么幸運，中國不僅擁有數量最多的工程師，同時，我們看到在政府對于工程方面的投入也是最大的，這一點西方國家是沒有辦法相比的。
——邁克斯·泰格馬克
Q3：如果選擇人工智能項目進行投資的話，標準是什么樣的？未來看好的投資賽道有哪些？不看好的是哪些？
人工智能真正的成功是真正進入到行業(yè)來改變我們的生活，如果讓我來選，我覺得醫(yī)療、金融、零售、制造業(yè)可能會首先會被影響到。今天的人工智能最大的挑戰(zhàn)宏觀上來講就是人工智能技術的實現。
——沈曉衛(wèi)
鄭衛(wèi)鋒，DBA四期班同學
臻迪集團創(chuàng)始人兼CEO
我們需要有兩個眼睛來看，一個眼睛是你要學會發(fā)現用戶的需求，第二個眼睛是你必須要了解哪項技術已經接近成熟。我覺得在未來20年到30年，無人化是比較典型的趨勢。
——鄭衛(wèi)鋒
過去20年、30年，信息技術解決的是連接的問題，人與人的連接、人與商品的連接、人與信息的連接。現在連接完之后都是靠人腦來處理，未來這些重復性工作交給機器，大大的降低連接之后的信息處理成本，這帶來的勞動生產率是很多個數量級的提高。
——江濤
我覺得騰訊是一個非常好的平臺，實際上如果和Facebook這樣的一些平臺比起來，騰訊的微信其實要強大很多。
——邁克斯·泰格馬克
