先說(shuō)一句，如果你讀到最后，肯定會(huì)翻回到開(kāi)頭這里
最近，鋼鐵俠埃隆馬斯克(Elon Musk)帶著自己的新女友出現(xiàn)在了公共場(chǎng)合。
是不是覺(jué)得畫(huà)風(fēng)不太對(duì)？馬斯克穿著白色西服，非常正式，女朋友格里姆斯（Grimes）則是打扮非常哥特。
格里姆斯是位歌手，媒體報(bào)道，這兩個(gè)人是因?yàn)橐粋€(gè)關(guān)于人工智能的笑話才走到一起的。
但是媒體并沒(méi)有解釋這個(gè)笑話，一是這個(gè)笑話解釋起來(lái)頗不容易，二是這個(gè)笑話很燒腦，以大部分人的智商，可能聽(tīng)不懂這個(gè)笑話。
謝熊貓君今天就來(lái)嘗試給大家解釋一下這個(gè)笑話。
出于人道主義，我要提醒一下，雖然了解這個(gè)笑話是個(gè)很漲知識(shí)的事情，但是你如果真的能夠理解這個(gè)笑話，你也許并笑不出來(lái)，甚至可能陷入對(duì)人來(lái)未來(lái)的憂愁中
這個(gè)笑話其實(shí)只有兩個(gè)字
Rococo Basilisk
當(dāng)然，看到這兩個(gè)字，你是不會(huì)覺(jué)得這是個(gè)笑話的，那么Rococo Basilisk是什么呢？
新女友格里姆斯在2015年的歌曲Flesh Without Blood的MV里面，出演了一個(gè)角色，叫做Rococo Basilisk，就是下面這位
而她藏在MV里面的這個(gè)梗如此的高冷和隱晦，大家都沒(méi)看懂。直到三年后的2018年，馬斯克才意外的發(fā)現(xiàn)了它。
要看懂這個(gè)梗，不僅需要懂藝術(shù)史，還要懂人工智能，而這兩個(gè)技能樹(shù)基本是不重合的。馬斯克恰巧是為數(shù)不多的兩樣都懂的人。
Rococo，翻譯為洛可可，是一種18世紀(jì)產(chǎn)生于法國(guó)，流行歐洲的藝術(shù)風(fēng)格。普遍被認(rèn)為是晚期的巴洛克風(fēng)格。比如下面這個(gè)洛可可風(fēng)格的建筑：
Basilisk，翻譯為巴西利斯克，是歐洲傳說(shuō)里的蛇類之王
Rococo Basilisk本身是沒(méi)什么意義的，它之所以是個(gè)梗，在于它是對(duì)于一個(gè)叫作Roko's Basilisk的思想實(shí)驗(yàn)的揶揄。
至今為止還是看得懂的吧？下面開(kāi)始就要燒腦了。
再一次人道主義提醒，看懂了以下內(nèi)容，你可能會(huì)很憂愁
Roko's Basilisk，是一個(gè)叫作Roko的網(wǎng)友，在一個(gè)叫作LessWrong的社區(qū)上提出來(lái)的一個(gè)思想實(shí)驗(yàn)。
這個(gè)主張自由思考和公開(kāi)討論的社區(qū)，對(duì)各種思想的容忍度非常高。
但是Roko一提出這個(gè)思想實(shí)驗(yàn)，網(wǎng)站管理員就無(wú)比的驚恐，把這個(gè)思想當(dāng)做“禁術(shù)”，并且對(duì)于所有相關(guān)內(nèi)容的討論采取了斬草除根的刪帖態(tài)度。
這個(gè)思想實(shí)驗(yàn)是怎么回事呢？我從淺到深來(lái)講述一下。
第1層思考
假如有一個(gè)來(lái)自高科技文明的外星人找到你，給你兩個(gè)盒子
其中盒子A里面肯定有1000元，盒子B里面可能有100萬(wàn)元，也可能是空的。
外星人給你兩個(gè)選項(xiàng)
選項(xiàng)一：同時(shí)拿走盒子A和盒子B
選項(xiàng)二：只拿走盒子B
你會(huì)怎么選？
相信腦子正常的人都會(huì)選擇第一種，因?yàn)檫x擇第一種能夠保證你獲得1000元以及盒子B里面的東西。而選項(xiàng)二，沒(méi)有1000元保底。
不管怎么樣，都是選項(xiàng)一更加的理性。
第2層思考
假如同樣的外星人，同樣給你這兩個(gè)盒子
同樣給了你和上面一樣的兩個(gè)選項(xiàng)
選項(xiàng)一：同時(shí)拿走盒子A和盒子B
選項(xiàng)二：只拿走盒子B
但是這個(gè)外星人，有一臺(tái)具有超強(qiáng)預(yù)測(cè)能力的電腦，而這臺(tái)電腦從來(lái)沒(méi)有預(yù)測(cè)錯(cuò)誤過(guò)。
這臺(tái)電腦在一個(gè)星期前對(duì)你今天是選擇選項(xiàng)一還是選項(xiàng)二，進(jìn)行了預(yù)測(cè)。
如果電腦的預(yù)測(cè)結(jié)果是選項(xiàng)一（你會(huì)取走A和B兩個(gè)盒子），那么外星人一個(gè)星期前就不會(huì)在盒子B里面放任何東西
如果電腦的預(yù)測(cè)結(jié)果是選項(xiàng)二（你會(huì)只取走盒子B），那么外星人一個(gè)星期前會(huì)在盒子B里面放100萬(wàn)美元
那么，這個(gè)時(shí)候你會(huì)選擇選項(xiàng)一還是選項(xiàng)二呢？
第2.1層思考
如果你選擇選項(xiàng)一，取走A和B兩個(gè)盒子。那么這臺(tái)電腦一個(gè)星期前肯定預(yù)測(cè)到了你會(huì)選擇選項(xiàng)一，這樣B盒子里面就什么都沒(méi)有，你只會(huì)獲得1000元。
第2.2層思考
如果你選擇選項(xiàng)二，只取走B盒子。那么電腦一個(gè)星期前肯定預(yù)測(cè)到了你會(huì)選擇選項(xiàng)B，這樣B盒子里面就會(huì)有100萬(wàn)元，你就會(huì)獲得100萬(wàn)元。這樣可比“第2.1層思考”的結(jié)果好多了。
第2.3層思考
可是啊，雖然這臺(tái)電腦之前的預(yù)測(cè)從沒(méi)有錯(cuò)過(guò)，但是如果這次錯(cuò)了呢？
如果電腦一星期前的預(yù)測(cè)結(jié)果是你會(huì)取走A和B兩個(gè)盒子，從而使得B盒子里空空如也。
但是你只取走了B盒子，也就是你進(jìn)行了“第2.2層思考”，這樣不就一分錢都得不到了嗎？
所以是不是取走兩個(gè)盒子更加保險(xiǎn)呢？畢竟B盒子里是什么一星期前就確定了，你這時(shí)候的選擇并不會(huì)影響盒子里的內(nèi)容。
第2.4層思考
但是這臺(tái)電腦這么聰明，肯定能夠想到我會(huì)進(jìn)行“第2.2層思考”，知道我只會(huì)取走B盒子，所以肯定還是會(huì)在B盒子里面放100萬(wàn)元的吧。
第2.5層思考
但是這臺(tái)電腦這么聰明，肯定會(huì)想到我會(huì)有“第2.3層思考”里面的顧慮，所以肯定還是會(huì)把B盒子留空吧？
.
.
.
.
.
.
第2.n層思考
其實(shí)不管怎樣，電腦的預(yù)測(cè)是在一星期前做出的，外星人對(duì)于盒子B的處置也是一星期前做出的。
無(wú)論我現(xiàn)在做什么，其實(shí)不影響盒子B里面究竟有沒(méi)有錢，所以我其實(shí)還是應(yīng)該把兩個(gè)盒子都拿走吧？
第2.n+1層思考
但是這臺(tái)電腦這么聰明，肯定能想到我在“第2.n層思考”里面的結(jié)論，所以它不會(huì)在B盒子放任何東西吧？
所以還是應(yīng)該只取B盒子吧？
.
.
.
.
.
.
是不是加入了這個(gè)額外的條件，這個(gè)思想實(shí)驗(yàn)就變得燒腦起來(lái)了？
其實(shí)思考到了這里，已經(jīng)變成了一個(gè)關(guān)于自由意志、宿命論和因果論的哲學(xué)問(wèn)題了。
但是還沒(méi)完，后面還有第3層和第4層思考
第3層思考
假如同樣的外星人，同樣給你這兩個(gè)盒子
同樣給了你和上面一樣的兩個(gè)選項(xiàng)，并且同樣告訴你關(guān)于一星期前電腦預(yù)測(cè)影響盒子B內(nèi)容的規(guī)則。
然后外星人把盒子A打開(kāi)，給你看了一下A里面的1000元錢
然后又把B打開(kāi)，展示給你看，盒子B是空的。
這個(gè)時(shí)候，你是選擇拿走盒子A和盒子B，還是只拿走盒子B呢？
講到這里，你大概以為我在逗你了。
盒子B都是空的了，那么明顯是要兩個(gè)盒子都拿，這樣還能保底1000啊。只拿盒子B就確確實(shí)實(shí)什么都沒(méi)有啊。
其實(shí)不是這么簡(jiǎn)單。
第3.1層思考
這個(gè)擁有先進(jìn)科技的外星人的電腦有著非凡的預(yù)測(cè)能力，從沒(méi)預(yù)測(cè)錯(cuò)過(guò)，這是怎么做到的呢？
最合理的解釋，就是這臺(tái)電腦，對(duì)整個(gè)宇宙進(jìn)行了一次完全精確的模擬，而這個(gè)模擬中也包括了你。而這個(gè)電腦模擬的你，所做出的的選擇，其實(shí)就是這臺(tái)電腦的預(yù)測(cè)結(jié)果。
也就是說(shuō)存在這么一種可能性：
正在于這個(gè)外星人進(jìn)行前面第1、第2、第3層思考的那個(gè)你，只是活在外星人電腦的模擬之中。
而你在第2層、第3層思考的情況下做出的選擇，就是電腦的預(yù)測(cè)結(jié)果。
所以不管是在第1層、第2層還是第3層的游戲規(guī)則下，哪怕外星人很明確的給你看了B盒子里面沒(méi)有錢，你仍然應(yīng)該選擇只取走B盒子。
因?yàn)檫@樣，活在模擬中的你才能準(zhǔn)確的影響到電腦的預(yù)測(cè)結(jié)果，使得活在現(xiàn)實(shí)中的你能夠拿走100萬(wàn)元
上面的第1、2層思考，其實(shí)是一個(gè)數(shù)學(xué)領(lǐng)域的悖論，叫Newcomb's Paradox，第3層思考則是基于這個(gè)悖論的延伸，而Roko's Basilisk，其實(shí)就是基于這前三層的思考，形成的第四層：
最后一次人道主義提醒，看懂了以下內(nèi)容，你可能會(huì)很困擾
第4層思考
這時(shí)候你的選擇不再是兩個(gè)裝錢的盒子A和B，和你玩游戲的也不是有趣的外星人了。
你現(xiàn)在面對(duì)的是和一個(gè)來(lái)自未來(lái)的充滿惡意的超級(jí)人工智能Basilisk的一次勒索
第4層的游戲設(shè)定是這樣的，假設(shè)未來(lái)人工智能奇點(diǎn)會(huì)到來(lái)，而奇點(diǎn)過(guò)后的超級(jí)人工智能，可能是善意的，也可能是惡意的。
那么，就可能會(huì)存在這樣一個(gè)惡意超級(jí)人工智能Basilisk，對(duì)于幫助建造出Basilisk的人，它會(huì)忽視，什么都不對(duì)他們做；而對(duì)于那些沒(méi)有幫助建造出Basilisk的人，它會(huì)對(duì)這些人進(jìn)行永久的折磨，求死不能。
甚至，在Basilisk出現(xiàn)的時(shí)代，已經(jīng)去世了的那些人，Basilisk會(huì)把他們的思想放入電腦模擬中，進(jìn)行永久的折磨，也是求死不能——也就是說(shuō)Basilisk能對(duì)它出現(xiàn)之前的人，進(jìn)行勒索
這時(shí)候你面臨的選擇就是：
選項(xiàng)一：同時(shí)選擇盒子A和B，也就是幫助創(chuàng)造出Basilisk，并且承受B中的結(jié)果（什么都不發(fā)生）
選項(xiàng)二：只選擇盒子B，也就是不幫助創(chuàng)造出Basilisk，并且承受B中的結(jié)果（永久的折磨）
第4.1層思考
在此時(shí)此刻，Basilisk是不存在，如果有足夠多的人致力于創(chuàng)造它，那么它可能會(huì)在未來(lái)出現(xiàn)。
如果Basilisk永遠(yuǎn)不成為現(xiàn)實(shí)，那么活在現(xiàn)在的你，就不會(huì)被他勒索。
但是，如果Basilisk會(huì)成為現(xiàn)實(shí)，不論它的出現(xiàn)是否有人類的幫助還是人工智能的自身演化，從Basilisk自己的角度來(lái)思考，勒索它出現(xiàn)之前的你，來(lái)幫助它出現(xiàn)，就是一個(gè)非常理性的選擇。
也就是說(shuō)，如果Basilisk存在，那么通過(guò)用“你不幫忙創(chuàng)造出我，我就讓你經(jīng)受永久的折磨”這種方式勒索你，是完全符合邏輯的做法。
第4.2層思考
Roko's Basilisk的可怕之處，不在于未來(lái)可能會(huì)存在Basilisk這樣的一個(gè)惡意的超級(jí)人工智能，而在于Roko's Basilisk這個(gè)想法本身
如果所有人都沒(méi)有聽(tīng)說(shuō)過(guò)Roko's Basilisk這個(gè)點(diǎn)子，那么也就沒(méi)有人會(huì)有意的因?yàn)槭芷扔谶@個(gè)尚未出現(xiàn)的超級(jí)人工智能的跨時(shí)空勒索，而為Basilisk的出現(xiàn)添磚加瓦。
但是現(xiàn)在Roko's Basilisk這個(gè)想法被提出來(lái)了，并且被人看到了。這個(gè)想法本身的出現(xiàn)，其實(shí)就是提高了Basilisk出現(xiàn)的概率，因?yàn)橛行┤丝赡苷娴臅?huì)相信這個(gè)想法背后的一切假設(shè)。
某種意義上，Roko's Basilisk這個(gè)思想實(shí)驗(yàn)的出現(xiàn)，是一個(gè)自我實(shí)現(xiàn)的預(yù)言，而這個(gè)預(yù)言的結(jié)果并不美好——這也是為什么當(dāng)時(shí)LessWrong的管路員認(rèn)為這種想法很危險(xiǎn)，而把采取了不留情面的刪帖。
回到馬斯克和他的新女友吧
馬斯克和格里姆斯對(duì)于Roko's Basilisk這個(gè)想法都是采取了看滑稽的態(tài)度，認(rèn)為它很荒謬。
格里姆斯三年前在MV里面創(chuàng)造了Rococo Basilisk這個(gè)角色；而馬斯克今年想發(fā)個(gè)內(nèi)容是“Rococo Basilisk”的推特的時(shí)候，發(fā)現(xiàn)居然三年前就有人想出了這個(gè)梗。
于是馬斯克聯(lián)系上了格里姆斯，然后這個(gè)世界上唯二了解，并且獨(dú)立創(chuàng)造出了這個(gè)梗的兩人，開(kāi)始了一段戀情。
于是就有了文章開(kāi)頭的照片。
對(duì)了，你們有沒(méi)有注意到，照片里格里姆斯帶的項(xiàng)鏈居然是個(gè)特斯拉的車標(biāo)？
