人工智能毀滅人類，馬斯克是在危言聳聽嘛？
特斯拉公司CEO、被稱為“現實版鋼鐵俠”的艾倫?馬斯克，最近似乎患上了“人工智能恐懼癥”。不但在Twitter上不止一次表達對人工智能的擔憂，將人工智能的威脅與核威脅或是科幻電影《終結者》的現實版相類比，近日還在麻省理工的一場公開訪談中，把人工智能比作神話中的遠古術士“召喚惡魔”的魔法——“每個巫師都聲稱自己可以控制所召喚的惡魔，但沒有一個是最終成功的；因此，只要稍有不慎，人工智能就會為研究它和使用它的人帶來無法預估的惡果”。
初看到這些話時只是有點詫異。一個公認的“科技狂人”，半年前剛投資了一家人工智能領域研究圖像識別技術的創業公司，怎么對人工智能的態度發生180度的轉變？
更詫異的是，居然有人開始把這理解為馬斯克對科技的敬畏之心，或是體現出馬斯克高人一等的人文關懷等等，為之癡醉不已。那么問題來了——
有沒有不需要加以控制的科技？
之所以把這個問題放在一開始，是想說明，馬斯克的科技擔憂也好，人文關懷也好，都是正確的廢話。人們對人工智能，乃至廣義科技的擔憂和恐慌由來已久——至少比1984年上映的《終結者》要早得多。馬斯克的時下言論，說實在的，除了語言上的刺激性，并沒有為這一陣營增添什么新奇的論題。
從科技的本質講，就是一柄雙刃劍。科技能為人類社會改進提供多大的動力，就意味著它反過來蘊含著多大的破壞性。火藥如是，核能如是，基因科技亦如是。經歷過切爾諾貝利、山羊多莉的現代社會，警惕科技潛在的失控風險，可以算是基本常識了吧？所以今天反思人工智能使用不慎會帶來災難，好比說菜刀使用不慎會割傷手指，有什么好追捧的呢？
而且，馬斯克將人工智能的潛在威脅與核威脅相類比并不貼切。核威脅是一種現實的威脅，它不僅在技術上已經成熟，而且核武器已經被大量制造出來；不僅僅在軍事上很現實，對于居住在核電站附近的人同樣很現實。
好吧，拋開這個被好萊塢商業大片用濫了的核威脅，就人工智能目前的發展水平而言，其科技反思的典范資格，甚至還比不上同為21世紀三大尖端技術的基因工程。尤其是基因工程與優生學相結合所引發的潛在威脅，對我們的警醒無疑更為現實和直接，比如最近在看的哈佛著名學者桑德爾（Michael J. Sandel）的《反對完美（The Case Ag人工智能nst Perfection）》。因為馬斯克的話就表示憂慮的人，要是有人說《超體》其實也是有可能實現的，你們會不會睡不著覺、吃不下飯？
人工智能怎樣才算失控？
這個問題，是我無法忍受吹捧馬斯克“人工智能惡魔論”的人最關鍵的原因。聽馬斯克說人工智能失控，就一口一個失控，像臺復讀機一樣。誰來解釋給我聽，人工智能究竟怎么算是失控？
類似社會制度對人工智能的失控（比如被某狂人操控）、或是將人工智能直接運用于無法逆轉的關鍵性領域（比如控制人類生育、動手挖開地核等不靠譜的事兒）而失控等，最基本的前提還是人工智能已經達到了高度擬人階段。
什么算是高度擬人？就是人工智能必須真的能具備（或模仿）人類的獨立思考、價值判斷乃至審美-創造等精神活動的能力。而這也意味著，人工智能要么能實現對人類思維非算法特質（如察言觀色、靈感、審美、洞察力和創造力等）的模擬，要么是實現了人類精神的強物理還原，即認為所有的人類精神活動都可以化約為某種（哪怕極其復雜）的算法運算。
解決這類人工智能完備性難題（人工智能-Complete or 人工智能-Hard Problems）的兩大邏輯方向，到底哪一種更有可能（或許在許多研究者看來，也可以說，哪一種更不可能）？這在人工智能領域依然是未知之數。這其中所需要跨越的理論門檻，并不是“哈利·波特們”一句簡單的“守護神呼喚咒語（Expecto Patronum）”就可以解決的。
人工智能是需要被馬上遏制的惡魔？
提出這個問題，是想說明我們還必須將對人工智能發展的抽象探討，與人工智能技術的現實應用區別開來。事實上，盡管公眾對于運用人工智能存在不少的疑慮和擔憂，但我們的生活已經有了大量的人工智能技術的應用。
在上世紀八九十年代的“第二季人工智能寒冬（AI winter of 1987-1993）”以來，人工智能的研究共同體為了對抗這一輪的資金蕭條寒流，不得不將大量的精力放在人工智能技術的實際應用開發上，從而不但引發了以數據統計方法和演示實驗為特征的新一輪經驗主義研究范式（empiricist paradigm）興起，而且也使得大量的人工智能技術進入到普羅大眾的日常生活中來。
例如大家最為擔心的智能機器人，實際上已經用于許多高風險和對人類健康有害的工作場所，包括核電站和礦井。此外，更普遍的機器人運用則是工業機器人，為人熟知的就有在亞馬遜倉庫中自動裝卸貨物的機器人，以及富士康生產線上裝配零件的機器人。因此，當大眾還對人工智能懷有某種不確知的恐慌時，其實早已在生活中享用著大量人工智能技術所帶來的便利了。
對人工智能的憂慮究竟源自何來？
自從十七世紀帕斯卡爾（B. Pascal）和萊布尼茨（G.W. von Leibniz）的機械計算器問世以來，人們對于人工智能的態度，就一直處于既盼望又恐懼的矛盾情結中。實際上，人們對于人工智能的這種由來已久的憂慮，并不僅僅是憂慮人類是否最終無法掌控自己所創造的科技那么簡單，它背后實際上折射出某種人類對于自身存在獨特性可能遭到摧毀，以及對于人類未來不確定性的某種不安。
的確，人工智能的發展存在一定風險，但這對于任何科技而言都是一樣的。例如前面提到的基因工程技術，對人類未來的整體性威脅，并不見得就一定比人工智能來的要小。但這并非我們視之為魔鬼的好理由。
這是上帝與撒旦在科技與人性領域的雙重較量，人類的有限性使得我們對不確定性的體驗日益增加。但是我們依然有理由保持謹慎的樂觀。至少單就技術而言，人工智能遠未到達“生存還是毀滅”的分叉口。當馬斯克或其他類似的人工智能批評者借用科幻電影（如《終結者》）或科幻小說來形容人工智能對人類整體的威脅之時，他們其實只是說出了這個故事的一半可能性，即悲觀的那一半，而且還并不完整。即使站在他們的角度，我們也同樣得不出“不作為”的結論。
就讓我們也借用科幻小說的例子來作一結尾吧。看過《三體》的讀者，幾乎沒有不對大劉（劉慈欣）對“宇宙動力學”兩大定理的刻畫和對類似于黑暗森林的宇宙的描繪印象深刻的，同時也很可能會觸發我們對于外星文明威脅的憂慮：我們可能真的身處類似黑暗森林的宇宙中，因此，地外文明與我們之間實際上存在某種潛在的敵對關系。但是，即使這樣，這種擔憂和恐懼也并不應成為我們停下腳步，不繼續探索宇宙、發展太空技術的好理由。在某種意義上，我們對人工智能的恐懼也與此類似：對于宇宙與自然，我們的確應該心懷敬畏，但卻不應停下腳步。畢竟，在我們沒有到達實際的分叉點之前，繼續前進無疑是唯一合理的選擇。
文章為作者獨立觀點，不代表創投分享會立場
知名風險投資公司
|||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
創業聯合網是創業者和投資人的交流平臺。平臺擁有5000+名投資人入駐。幫助創業企業對接投資人和投資機構，同時也是創業企業的媒體宣傳和交流合作平臺。
熱門標簽
精華文章(zhang)
