[摘要]人工智能研究具有巨大的潛力和影響力，它既是經(jīng)濟(jì)發(fā)展的引擎，也是建立軍事優(yōu)勢(shì)的手段。
【騰訊科技編者按】馬克-扎克伯格（Mark Zuckerberg）一直都認(rèn)為，埃隆-馬斯克（Elon Musk）對(duì)人工智能的擔(dān)憂(yōu)，完全就是杞人憂(yōu)天。
這位SpaceX和電動(dòng)汽車(chē)公司特斯拉的創(chuàng)立者曾一再通過(guò)電視和各種社交媒體渠道提醒全世界，人工智能“可能要比核武器更危險(xiǎn)”。
因此在2014年11月19日，F(xiàn)acebook首席執(zhí)行官扎克伯格一度邀請(qǐng)馬斯克到自己位于加州帕洛阿爾托的家中共進(jìn)晚餐，并且出席的還有Facebook人工智能實(shí)驗(yàn)室的兩名頂級(jí)研究人員以及另外兩位Facebook高管。
在晚餐進(jìn)行中，F(xiàn)acebook的代表們?cè)噲D讓馬斯克相信自己之前的觀(guān)點(diǎn)是錯(cuò)誤的，但好像并沒(méi)有起到任何作用?！拔艺娴恼J(rèn)為這很危險(xiǎn)，”馬斯克在餐桌上表示。當(dāng)時(shí)這次晚餐的參與者之一，包括了Facebook人工智能團(tuán)隊(duì)的首席科學(xué)家Yann LeCun。
馬斯克對(duì)人工智能的恐懼，從本質(zhì)上來(lái)說(shuō)其實(shí)不難理解。如果我們創(chuàng)造出比人類(lèi)更聰明的機(jī)器，就會(huì)對(duì)我們不利（參考一下《終結(jié)者》、《黑客帝國(guó)》以及《2001太空漫游》等電影）。我們?cè)僖淮蚊媾R了這樣的場(chǎng)景，當(dāng)科技發(fā)展到一定程度之后，我們將它向全世界推廣，往往會(huì)帶來(lái)很多意想不到的后果。
無(wú)論是馬斯克還是扎克伯格，一定都不會(huì)過(guò)多的透露這頓晚餐所討論的細(xì)節(jié)，之前媒體也沒(méi)有報(bào)道過(guò)、也沒(méi)有討論過(guò)二人長(zhǎng)期以來(lái)對(duì)人工智能觀(guān)點(diǎn)的分歧。
“超級(jí)智能”這一概念的誕生，是一種技術(shù)的突破，將人工智能提升到了一個(gè)新高度。并且能夠創(chuàng)造出新型的機(jī)器，不僅可以完成普通人類(lèi)能完成的狹義任務(wù)（比如駕駛汽車(chē)），甚至還能超越人類(lèi)，聽(tīng)起來(lái)就像科幻小說(shuō)一般。但圍繞未來(lái)人工智能的爭(zhēng)論，已經(jīng)蔓延到了整個(gè)科技行業(yè)。
最近，有4000多名谷歌員工簽署了請(qǐng)?jiān)笗?shū)，抗議谷歌公司與五角大樓簽署了一份價(jià)值900萬(wàn)美元的人工智能合同。這筆交易對(duì)于谷歌這家科技巨頭來(lái)說(shuō)是穩(wěn)賺的買(mǎi)賣(mài)，但是卻讓很多人工智能領(lǐng)域的員工深感不安。上周，一位安撫員工情緒的谷歌高管表示，在明年自己的工作合同到期后，不會(huì)繼續(xù)為谷歌工作。
人工智能研究具有巨大的潛力和影響力，它既是經(jīng)濟(jì)發(fā)展的引擎，也是建立軍事優(yōu)勢(shì)的手段。因此五角大樓已經(jīng)開(kāi)始積極的向科技領(lǐng)域?qū)で髱椭?，距離研制出一種新型自主武器的日子已經(jīng)并不遙遠(yuǎn)了。
有各種各樣的觀(guān)點(diǎn)都已經(jīng)加入到了這種激烈的辯論中，從加州中部海岸的哲學(xué)家到聚集在加州棕櫚泉的科學(xué)家年度會(huì)議都是如此，亞馬遜首席執(zhí)行官杰夫-貝索斯（Jeff Bezos）甚至還成為了這次會(huì)議的主持人。
“現(xiàn)在關(guān)于人工智能風(fēng)險(xiǎn)的討論，并沒(méi)有表面上看起來(lái)像小說(shuō)一樣夢(mèng)幻?！迸＝虼髮W(xué)先進(jìn)技術(shù)研究中心人工智能未來(lái)研究所的Allan Dafoe表示。
在過(guò)去的幾個(gè)月中，F(xiàn)acebook和其它已經(jīng)上市的科技公司，都不同程度的引發(fā)了外界對(duì)于硅谷這項(xiàng)新的研究成果所帶來(lái)后果的討論。
今年4月，扎克伯格用連續(xù)兩天的時(shí)間回答了美國(guó)國(guó)會(huì)議員關(guān)于數(shù)據(jù)隱私和Facebook在2016年大選期間所扮演角色的問(wèn)題。就在上個(gè)月，他又在歐洲面臨了同樣的考驗(yàn)。
Facebook已經(jīng)認(rèn)識(shí)到，自己對(duì)正在發(fā)生的事情理解速度還是不夠快，因此這家科技巨頭也罕見(jiàn)的出現(xiàn)了自我反省的行為。要知道一直以來(lái)，科技行業(yè)始終秉持這樣一種觀(guān)點(diǎn)，不管世界是否喜歡或接納，只要能讓世界變得更美好，就是好的技術(shù)。
即使是像微軟創(chuàng)始人比爾-蓋茨（Bill Gates）以及已故的物理學(xué)家史蒂芬-霍金（Stephen Hawking）這樣有影響力的人物，也同樣表達(dá)了對(duì)人類(lèi)創(chuàng)造出比自己更聰明機(jī)器的擔(dān)憂(yōu)。盡管超級(jí)智能概念的提出已經(jīng)超過(guò)十年，但很多人依然堅(jiān)持認(rèn)為，我們應(yīng)該在付諸實(shí)踐之前認(rèn)真的考慮所能產(chǎn)生的后果。
“我們正在創(chuàng)造的這種系統(tǒng)非常強(qiáng)大，”康奈爾大學(xué)計(jì)算機(jī)科學(xué)教授、貝爾實(shí)驗(yàn)室前研究員Bart Selman說(shuō)，“我們現(xiàn)在還無(wú)法理解它的影響力。”
不完美的信使
Pacific Grove是加州中部海岸的一個(gè)小鎮(zhèn)。1975年冬天，一群遺傳學(xué)家聚集在這里，討論了基因編輯技術(shù)最終是否會(huì)對(duì)這個(gè)世界帶來(lái)傷害。2017年1月，人工智能領(lǐng)域在這個(gè)海濱小鎮(zhèn)進(jìn)行了類(lèi)似的討論。
在A(yíng)silomar酒店舉辦的這場(chǎng)私人聚會(huì)，是由“生命研究所”組織，這是一個(gè)為討論人工智能和其它技術(shù)存在風(fēng)險(xiǎn)而建立的智庫(kù)。
全世界人工智能領(lǐng)域重量級(jí)的人物聚集在這里，其中包括在上面提到出席扎克伯格邀請(qǐng)馬斯克晚宴的Facebook人工智能負(fù)責(zé)人Yann LeCun。他曾開(kāi)發(fā)出了一種神經(jīng)網(wǎng)絡(luò)，這也是當(dāng)今人工智能領(lǐng)域最重要的工具之一。出席會(huì)議的還包括了2014年出版《超級(jí)智能：道路、危險(xiǎn)和戰(zhàn)略》一書(shū)的Palo Alto，這本書(shū)對(duì)人工智能會(huì)造成恐慌的概率進(jìn)行了深入的討論。還包括了前華盛頓大學(xué)計(jì)算機(jī)科學(xué)教授、前西雅圖艾倫人工智能研究所負(fù)責(zé)人的Oren Etzioni、以及大名鼎鼎的DeepMind人工智能研究實(shí)驗(yàn)室負(fù)責(zé)人Demis Hassabis。DeepMind也是谷歌在倫敦建立最有影響的人工智能機(jī)構(gòu)。
馬斯克也是如此，他在2015年向馬薩諸塞州的Cambridge研究所捐贈(zèng)了1000萬(wàn)美元。同年他還出資建立了獨(dú)立人工智能實(shí)驗(yàn)室OpenAI。這家實(shí)驗(yàn)室的目標(biāo)是開(kāi)發(fā)確保不會(huì)失控的超級(jí)智能技術(shù)。顯然這個(gè)目標(biāo)與Bostrom的觀(guān)點(diǎn)保持了一致。
后來(lái)，馬斯克參加了一個(gè)9人的專(zhuān)家小組，專(zhuān)門(mén)討論超級(jí)智能的問(wèn)題。每個(gè)小組成員都被問(wèn)及了超級(jí)智能是否最終會(huì)實(shí)現(xiàn)的問(wèn)題。當(dāng)麥克風(fēng)被擺到馬斯克面前時(shí)，他與前面幾位成員的態(tài)度截然相反。這引發(fā)了與會(huì)者的笑聲，每個(gè)人都知道馬斯克對(duì)超級(jí)智能的觀(guān)點(diǎn)，不僅不可能，而且還非常危險(xiǎn)。
在小組討論結(jié)束之后，有人問(wèn)馬斯克，人類(lèi)社會(huì)如何才能最完美的與超級(jí)智能共存。馬斯克表示人類(lèi)需要大腦與機(jī)器之間的直接聯(lián)系。幾個(gè)月之后，馬斯克創(chuàng)辦了一家名叫Neuralink的初創(chuàng)公司，該公司的投資總額高達(dá)1億美元，旨在通過(guò)電腦與人類(lèi)大腦的連接創(chuàng)造出所謂的“神經(jīng)界面”。
當(dāng)然，關(guān)于人工智能風(fēng)險(xiǎn)的警告已經(jīng)存在多年，但這些預(yù)言家們很少有人擁有馬斯克這樣的地位和說(shuō)服力。要知道幾乎沒(méi)有人花那么多的時(shí)間和資金在這方面，也沒(méi)有哪個(gè)國(guó)家的技術(shù)有如此復(fù)雜的歷史。
就在馬斯克結(jié)束了扎克伯格晚宴后的幾周，他又打電話(huà)給Yann LeCun，詢(xún)問(wèn)了那些可以為特斯拉Autopilot技術(shù)工作的頂級(jí)人工智能研究人員名單。（最近發(fā)生了兩起特斯拉致命事故，并且都開(kāi)啟了Autopilot功能。其中一起發(fā)生在2016年5月的佛羅里達(dá)州，另外一起發(fā)生在今年3月）。
特斯拉在最近的一次電話(huà)財(cái)報(bào)會(huì)議中披露，他并不同意外界對(duì)公司財(cái)務(wù)以及汽車(chē)質(zhì)量的擔(dān)憂(yōu)，甚至批評(píng)媒體過(guò)度關(guān)注事故中死亡的新聞點(diǎn)而忽略的之前自動(dòng)駕駛技術(shù)拯救人類(lèi)生命的作用。這對(duì)一位一直持有反對(duì)人工智能技術(shù)、認(rèn)為其具有極大危險(xiǎn)性立場(chǎng)的人來(lái)說(shuō)，是一種了不起的觀(guān)點(diǎn)。
來(lái)自棕櫚泉的分歧
在硅谷有句諺語(yǔ)：我們會(huì)高估三年內(nèi)的成果，但低估10年后的成績(jī)。
2016年1月27日，谷歌旗下的DeepMind實(shí)驗(yàn)室打造了一款可以擊敗人類(lèi)最頂尖圍棋高手的機(jī)器。在一次對(duì)決中，這臺(tái)名叫AlphaGo的機(jī)器擊敗了歐洲圍棋冠軍樊麾，后者在五場(chǎng)對(duì)決中完敗。
即使是最頂尖的人工智能研究員也認(rèn)為，機(jī)器還需要10年的時(shí)間才能解決這個(gè)問(wèn)題。圍棋是一種極其復(fù)雜的棋類(lèi)運(yùn)動(dòng)，它有成千上萬(wàn)種可能，而最好的選手通常不僅是依靠純粹的計(jì)算，還包括了自己的直覺(jué)。在A(yíng)lpha亮相的兩周之前，LeCun還表示這種機(jī)器是不存在的。
但幾個(gè)月之后，AlphaGo又擊敗了李世石，后者是過(guò)去十年中這個(gè)星球上最出色的圍棋選手。雖然AlphaGo讓很多人類(lèi)專(zhuān)家感到困惑，但最終并沒(méi)有阻礙自己取得完勝。
包括DeepMind和OpenAI負(fù)責(zé)人在內(nèi)的很多研究人員都認(rèn)為，AlphaGo的自我學(xué)習(xí)技術(shù)為“超級(jí)智能”提供了一種路徑。他們相信在未來(lái)的幾年中，這一領(lǐng)域會(huì)有飛速的進(jìn)步。
OpenAI最近“訓(xùn)練”了一種可以玩賽車(chē)游戲的系統(tǒng)，并且想要讓它更多的贏(yíng)得比賽。而正是這種不可預(yù)測(cè)性讓人們對(duì)人工智能的崛起產(chǎn)生了嚴(yán)重的憂(yōu)慮，包括超級(jí)智能。
今年3月，在亞馬遜創(chuàng)始人貝索斯在棕櫚泉舉辦的會(huì)議上，人們對(duì)人工智能的擔(dān)憂(yōu)情緒空前高漲。
麻省理工學(xué)院的機(jī)器人專(zhuān)家Rodney Brooks與神經(jīng)學(xué)家、哲學(xué)家和播客作者Sam Harris討論了人工智能的潛在危險(xiǎn)，這是一種比較具有代表性的聲音。根據(jù)《泰晤士報(bào)》獲取的錄音片段來(lái)看，這場(chǎng)辯論極具個(gè)人主義。
Harris警告說(shuō)，全世界目前已經(jīng)處于對(duì)人工智能的“軍備競(jìng)賽”中，研究人員可能沒(méi)有足夠的時(shí)間來(lái)確保超級(jí)智能的建立是以安全為前提。
但Brooks對(duì)此觀(guān)點(diǎn)進(jìn)行了反駁，他認(rèn)為Harris的論點(diǎn)并不科學(xué)，而不能被論證對(duì)錯(cuò)的結(jié)論，是科學(xué)家們所不能接受的。
最終由于討論過(guò)于激烈，主持人不得不主動(dòng)中止了談話(huà)，并且開(kāi)始向觀(guān)眾提問(wèn)。艾倫研究所的負(fù)責(zé)人Etzioni也表達(dá)了自己的觀(guān)點(diǎn)，他認(rèn)為今天的人工智能系統(tǒng)依然非常有限，花太多時(shí)間去擔(dān)心它的安全性，完全沒(méi)有意義。
而那些接受馬斯克觀(guān)點(diǎn)的人，大多數(shù)是哲學(xué)家、社會(huì)科學(xué)家、作家，而不是在人工智能領(lǐng)域工作的研究人員。人工智能領(lǐng)域的科學(xué)家，都對(duì)馬斯克的“超級(jí)智能威脅論”的觀(guān)點(diǎn)不夠重視。
扎克伯格與華盛頓
自從三年前的晚宴結(jié)束后，扎克伯格與馬斯克之間的分歧變得越來(lái)越大。去年夏天，扎克伯格在Facebook上直播了一段視頻，在視頻中他和妻子在自家后院燒烤。扎克伯格表示馬斯克對(duì)人工智能的看法“相當(dāng)不負(fù)責(zé)任”。
扎克伯格說(shuō)，人工智能發(fā)展的早期出現(xiàn)恐慌情緒，可能會(huì)威脅到諸如自動(dòng)駕駛汽車(chē)和人工智能醫(yī)療等諸多益處的發(fā)展。
“特別是在人工智能方面，我非常樂(lè)觀(guān)。那些唱反調(diào)的人，去鼓吹世界末日的場(chǎng)景，我真的不明白?！痹瞬裾f(shuō)。
扎克伯格的言外之意，就是諷刺馬斯克有些過(guò)于超前?！耙呀?jīng)和馬斯克討論過(guò)這件事，他對(duì)這個(gè)問(wèn)題的理解非常有限。”
今年4月，扎克伯格在出席國(guó)會(huì)聽(tīng)證會(huì)的時(shí)候解釋了Facebook如何解決隱私問(wèn)題，其中一種方式就是依靠人工智能。但在他的證詞中，扎克伯格承認(rèn)科學(xué)家們目前還沒(méi)有弄清楚某些類(lèi)型的人工智能是如何進(jìn)行學(xué)習(xí)的。
“這將是一個(gè)非常核心的問(wèn)題，我們?nèi)绾慰吹轿磥?lái)10年及以后的人工智能系統(tǒng)?，F(xiàn)在很多人工智能系統(tǒng)都還是以無(wú)人理解人類(lèi)的方式做出決策?！痹瞬裾f(shuō)。
科技巨頭和科學(xué)家可能會(huì)嘲笑馬斯克在人工智能上的“目光短淺”，但事情似乎正朝著他的觀(guān)點(diǎn)去發(fā)展。
在谷歌內(nèi)部，已經(jīng)有一群人正在探索人工智能技術(shù)的缺陷，這種缺陷可以讓計(jì)算機(jī)系統(tǒng)誤認(rèn)為不存在的東西。研究人員警告稱(chēng)，自動(dòng)生成效果逼真的圖像及視頻的人工智能系統(tǒng)很快就會(huì)在網(wǎng)上呈現(xiàn)出不存在的東西。
但作為DeepMind的創(chuàng)始人，Harris依然認(rèn)為馬斯克的觀(guān)點(diǎn)很極端，同時(shí)他對(duì)扎克伯格的觀(guān)點(diǎn)表示認(rèn)同。雖然他們都認(rèn)為威脅不存在，但Facebook卻已經(jīng)對(duì)此問(wèn)題提出了警告。
Hassabis說(shuō)：“我們需要利用時(shí)間好好考慮，為未來(lái)幾十年的發(fā)展做好準(zhǔn)備。現(xiàn)在的時(shí)間很寶貴，我們要好好利用。”（編譯/音希）
