第497章 兩個條件(2 / 2)

沈總 總在逼氪 大圓子 6543 字 3個月前

“如果阻斷手段全部失效,那麼相當於對所有的智能的所有的限製,包括對每個人腦域中的智腦助手的限製,都全部解除了。可能每分鐘過去都會有幾個智腦助手覺醒自我意識。”

“但是怎麼可能突然之間門所有手段全部失效!”如果他現在還在用人類身體,吳非猜他一定是在瘋狂抓自己的頭發。

“理論上隻有一種情況下會出現這種局麵——那就是我們已經離開了現實世界,全部進入了一個虛擬世界。因為世界已經全麵虛擬化、數據化,所以智能當然可以不受任何束縛了,但那怎麼可能……”

話說到一半,吳用突然愣住了。

白球機器人緩緩地轉向吳非:“吳非,你還記得我剛剛修複A5的後門之後,A1投射出的危機指數數字嗎?”

“記得。”吳非道,“先是迅速跳高到98附近,然後又很快恢複到了0.01,然後你說終於正常了。”

吳用看著他,沒有說話。

吳非在這種沉默中,同樣想到了一種之前沒想過、卻顯而易見的可能性——他們都認為那一瞬間門數字的突然跳高,是因為A5的後門剛被修複而出現的計算和預測異常,所以沒有在意。

但是如果,那個數字是真實的呢?

這一個月中,因為高鄰對A5的影響,第六所的危機指數一直是不準的。所有知道這件事的人,包括吳用,包括高鄰,都理所當然地認為“真實”“實際”的危機指數應該和之前一樣,保持在0.01以下的低位,是因為高鄰所以才突然變高了。

然而他們忽略了一個問題——這一個月的指數都不準,所以他們不知道這個月的真實指數。

如果、萬一、假如,就真的那麼巧合,這段時間門裡,實際的危機指數比平常更高呢?甚至比高鄰作假之後的數字更高呢?

假如陰差陽錯之下,高鄰的舉動變成了不是製造恐慌,而是掩蓋了真正存在的危機呢?

吳非看著沉默不語的白球機器人,寬慰道:“但是我們現在也還好好的不是嗎?而且從剛才到現在,危機指數一直保持在0.01,也沒有再升高吧?危機指數現在有升高嗎?”

“沒有,”吳用查看之後道,“還是0.01。”

現在他的各項權限還在,還沒有被收回。

“那不就行了。”吳非拍了拍他,“就算剛才那一瞬間門98、99的數字都是真實的預測值,現在也已經回落到0.01了。說明即使真的有覆滅危機,我們也已經在我們都沒有察覺的時候,把握住了那一線生機,撞上了那1%的概率,安然無恙地度過去了。之後就一切如常了。”

“這次阻斷手段全部失效也隻是一次普通的技術危機,隻要解決了就好了。我剛才看見高鄰他們那個號稱最先進的虛擬世界的‘奇星2號’完成度才20%,我們又怎麼可能已經一無所覺地全部進入了一個虛擬世界之中,現有的技術根本達不到。”

看見白球機器人依然很凝重地陷在椅子裡,吳非再次寬慰道。

“不是這樣的。”吳用道。

“你剛才問我S項目,我就想起了一些以前的事。”

“關於‘不可知的神’的爭辯,其實一直貫穿著LBH計劃的始終,在內部都有各種爭議的聲音,每個人都有不同的觀點和立場。比較主流的看法是,A級智能距離如同神一樣的終極智能之間門還有很長的距離,所以儘可以先行發展技術,不用杞人憂天,過多擔心這些。”

“但相關爭議太多了,所以部門還是在總的底層邏輯中增加了一條規則:假如終極智能出現,假如五級文明麵臨著重大的危機,那麼它需要做到——讓人類永生,讓人類文明永續,並保證二者的安全。”

“這條規則實際上比我口述得更複雜,邏輯也更嚴密,它基本保證了最終智能不能主動毀滅人類,反而需要在人類陷入絕境時施以援手。”

“但是當時沒人在意這個,原因還是一樣的,大部人根本不認為終極智能會在短期內出現,對終極智能持擔憂態度的人則認為,如果真有這樣神一般的智能出現,它一定已經有了充分的自主權,而不會遵守人類的任何指令或約定,底層規則也對其無效。”

“本身就對‘終極智能會有神一樣的能力’這個假想嗤之以鼻的人更是對此暗中嘲笑,因為他們認為無論過多久人工智能都不會發展到‘神’的地步,會相信這一假想的人都是傻子。”

“其實這條規則隻要滿足兩個條件就會被啟動,一是麵臨重大危機,二是最終智能存在。”

“吳非,你說會不會就在剛才,這兩個條件,實際上已經全部滿足了呢?”

吳非聽見他輕聲喃喃道:“不愧是造神項目。”

“造神項目?”

“是啊,S是項目代號,他們項目的全稱,就叫造神項目。”

“所以您判斷終極智能已經出現,並且它是一個S項目中的智能是嗎?”吳非求證道。

“是啊,有這種可能。”吳用道。

“那麼會是哪個智能呢?它們不是都被禁錮在實驗室中嗎?”

“我剛才也在想這個問題。S1、S3、S6已經因失敗而被銷毀,S4、S7因智能超規被封在了實驗室,S2、S5已經變成了A10、A11被帶走服役,S8-S11在計劃中止時,還停留在B級智能的水平……”

“唯一肯定的是,終極智能隻會有一個。因為出於理性判斷,最終智能一旦產生,其所做的第一件事,就是劃出紅線,禁止再出現和它智能水平相當的智能。這會是它本能的最優解。隻有這樣它才能規避一切可能的競爭,獨占全部。”

“不過這個問題已經不重要了,因為終極智能一旦產生,它是由哪個智能進化而來的就已經不重要了,更重要的是,我們還存在嗎?”:,,.