約翰遜同情地看著詹森:“突然喝掉這麼一大杯東西,不好受吧?”他伸手拍了拍詹森的肩膀。詹森點點頭,眼神看向自己所剩無幾的“茶”時,有些惋惜:“但是我不想和你一樣吐出來。”
約翰遜想起自己剛才看到的犯罪現場畫麵,現在已經不再反胃,而是覺得憤怒。他一把抓起詹森的手:“走,咱們繼續審問那個下賤機器!”
二人再次來到審訊室。339連坐姿都沒變,見二人來了,微笑著打招呼:“你們還好嗎?我現在可以繼續我的陳述了嗎?”
約翰遜十分用力地在光屏上戳了“審訊繼續”的按鈕,坐下道:“你繼續說。”
3391於是也繼續播放自己的犯罪錄像:“我的任務已經結束了,我接下來要做的隻有一件事,離開阿廖沙的住處。”
詹森二人看著錄像上“阿廖沙”滿意地離開了自己的住所。在他開門走出去的時候,還正好碰到對門的老太太出門買菜:“阿廖沙!你今天怎麼回來的這麼早?下班了嗎?”
“阿廖沙”答道:“沒有,柳耶斯娃奶奶!我忘記帶東西了,回來拿一下。”
老太太根本沒有懷疑自己眼前的這個“人”不是人:“哦,你忘記帶東西也不是第一次了吧,還記不住?你呀,該好好長長記性了!”
“奶奶說的對。奶奶,我送您下去。”“阿廖沙”扶著老太太下了樓。
339在玻璃背後,點了“暫停”,看著玻璃對麵的兩人:“好了,二位警官,和案子有關的部分就到這裡,你們還有什麼疑惑嗎?”
約翰遜氣得把自己的後槽牙咬得嘎吱作響,但他還是保持了一個警官的職業素養:“你確定和案子相關的部分就到這裡了嗎?”
339的藍眼睛一派純真:“當然。”
詹森不打算再和339兜圈子,直接問道:“你之前曾經說過一個詞,‘任務’。你的意思是,你殺掉阿廖沙,來治安署替代他,都是你的任務?誰給你的任務?你的任務目標是什麼?你的任務完成了嗎?現在你是否有新的任務?”
AI不能說謊,但是高仿真AI必須學會說謊——或者說,他們至少要給人類一種,他們具有能夠說謊的能力的錯覺。
因為如果一個AI從來不說謊,那麼他就不算是高度模仿人類的AI。
所以AI的話可以是人類意義上的“謊話”,但是是AI意義上的“真話”。
比如說,剛才339說和“案子”有關的部分的錄像,他已經全部都給警察看了。這句話可以從AI角度:把“案子”定義為:阿廖沙之死。那麼當然,和阿廖沙之死有關的錄像都在這裡了。
但其實339殺死阿廖沙是為了代替他進入治安署。這個案子並不是一個孤立的案件,阿廖沙之死隻是一個計劃中的一環。
對於高仿真AI來說,他們的算力足以在極短的時間內進行這種程度的計算。
因此有的人認為,高仿真AI的可怕在於,他們很可能會學習如何利用這種語言陷阱。
339這時候卻開始顧左右而言他:“在我的代碼中,隻要是一行能夠運行出結果的代碼,都可以叫做‘任務’。我說的任務,就是指殺掉阿廖沙這件事。”
“胡說!你要是真的隻有這一個任務,在阿廖沙進入房間被毒死之後,你隻需要確認他死了,就可以逃出北地城。而且你是AI,應該更加好辦,你又不需要食物和水,每天曬曬太陽就夠你活的了,為什麼還要潛伏到我們治安署來?”約翰遜脾氣很暴躁,但是條理很清晰。3391如果不在治安署當中,至少他的罪行被發現的時候,不會被抓個正著。
最合理的選擇其實是殺了人之後儘快逃跑,這一點他作為一個AI,不應該不明白。
339卻道:“我覺得殺了人,再代替他,很有意思。於是我就這麼做了,有什麼問題嗎?”
他用他那雙和阿廖沙一模一樣的藍眼睛看著玻璃對麵的兩人,還歪了歪頭。兩人被看得一陣惡寒。阿廖沙是治安署裡年紀最小的,平時大家都覺得他是個好心眼兒的孩子,都寵著他。339用阿廖沙的臉擺出這樣一幅表情,約翰遜甚至覺得即使阿廖沙被惡魔附了身,也不過如此了。
詹森這時候才被339的回答勾起了一絲火氣,他強忍住自己想要再喝一點茶的衝動,和約翰遜一起,使出渾身解數地盤問339,339都回答得滴水不漏。在兩個小時之後,二人筋疲力儘,對視一眼,都覺得自己在和AI無窮無儘的算力對抗,實在是有些不自量力,於是無奈地在光屏上點了“審訊結束”,一前一後地走出了審訊室。
詹森和約翰遜才一走出審訊室,就被嚇了一跳。審訊室外,幾乎整個治安署的人都站在單向玻璃之前。領頭的是署長,他抱著胳膊,皺著眉頭,不知道看了多久了。署長身後跟著W先生和靖軒,再之後才是治安署的各位警官。
署長見詹森二人出來,上前攬過他們的肩膀:“辛苦了,你們先去歇一歇。我們從現場收集完物證回來,發現你們在審訊,沒打擾你們。你們得到的犯罪現場錄像十分有用,先去休息吧,接下來我們來接手你們的工作。”
約翰遜一連打了好幾個哈欠,然後眼神堅定地拜托署長一定要狠狠地辦這個案子。署長伸手在他臉上拍了拍:“好了,我也是看著阿廖沙那小子長大的,你擔心什麼!快去後麵躺著,好好睡一覺。”
約翰遜這才舍得走,迷迷糊糊但又目標明確地朝著後麵的休息室去了。
署長安頓好了他倆,又轉頭看向W先生和靖軒,他破天荒地上來先握靖軒的手:“拜托你了。”
靖軒點點頭,但又說不出什麼話來,他和阿廖沙不熟,隻好道:“請署長記得給先生的賬上早日打上兩個月的電力。”於是靖軒對著W先生點點頭,走進了審訊室。
署長從案發現場回來的時候,發現詹森和約翰遜正在審訊339,那時候已經到詹森問339的全部計劃是什麼了。署長發現339什麼都不說,正和所有人一起頭疼,突然想到現在北地城裡有一個絕對不會和339勾結的高仿真AI在——靖軒當眾舉報了339。於是署長趕緊給阿特打電話,讓他把人送過來協助審訊。
這就是W先生和靖軒在治安署的原因。署長認為,靖軒和339都是高仿真AI,所以兩AI作為同類,應該能相互理解,至少他們的算力數量級比較匹配,不會出現問一個AI累倒了治安署所有人的情況。
靖軒在聽到阿特轉述署長邀請自己的理由時就笑了:“高仿真AI的性格各不相同,隻和訓練我們的人有關。比如我是W先生訓練的,我就不會違抗W先生的任何命令。但是我不知道阿廖沙是誰訓練的,他應該也隻會對他的訓練人的命令絕對聽從。為了完成訓練人的命令,他甚至可以去鑽三原則的空子——隻要阿廖沙死的時候,不在現場,他就不算‘看著人類受到傷害但是不施以援手’;隻要他打開煤氣的時候屋子裡沒有人類,他就不算是傷害人類或者殺死人類。可見他對於他的訓練人極度忠誠,你們指望我問出什麼來,簡直就是天方夜譚。”
然而這段話說完,阿特、治安署長、W先生都沉默地看著靖軒,沒人說話。靖軒覺得莫名其妙:“你們怎麼了?”
治安署長緩緩道:“剛才你分析的這些,對於我們來說已經是很有用的情報了。你說得對,訓練一個高仿真AI不可能沒有任何痕跡。我這就讓人去留意最近全程的家用網絡裡有沒有類似的痕跡。”訓練高仿真機器人,最簡單的方法就是把他當作家務機器人來訓練。說完,治安署長又轉向W先生:“請先生務必要說服靖軒來!我願意用個人的資金,付給先生兩個月的電力!”治安署長對著W先生,認真地鞠了一躬。
W先生本來也不想趟這趟渾水,但是一聽有兩個月的電力,眼神一亮,他期待地看向靖軒:“兩個月電力......”
靖軒對W先生的任何要求都無法拒絕,隻好道:“好吧,我會跟著先生過去。但是我先說好,不保證讓阿廖沙說出幕後主使。我能問出多少,就是多少。還有,記得三天後打一個月的電力作為定金。”
署長自然是