機器得承認，人類才是需求的主導。
第三條原則是根據人類行為給機器設定偏好並提供依據。
這麼設定是因為機器往往不清楚如何具體實現人類的價值。
但這不要緊，人類可以協助機器實現。所以要加強人機互動。
因為郝淮構想中的機器人，目的不僅僅是為了滿足某個人或用戶的需求，而是要遵循大家公認的道德價值觀。
比如，人可能會犯錯，做出違背道德的事。但郝淮不想讓機器人模仿這些行為。
相反，他希望機器能嘗試理解人類行為的動機，理解普遍的道德觀念，並在適當時候阻止人類做不應該做的事。
這三條看似寬鬆實則嚴格的法則，不僅能限製機器人自我發展的潛力，還在某些適度寬鬆的地方，留給了機器人自我邏輯完善的餘地。
防止因某些設定過於極端的法則導致機器人邏輯矛盾，進而引發故障。
這三個法則將直接焊死在核心代碼裡，永不可改。
“法則之後，就是防火牆和模塊接入……”
“如果能確保法則不出問題，接下來就要保證病毒進不來。”
郝淮捏了捏鼻子，眼神也銳利了幾分。
在那些機械文明中，有的因編程時的漏洞導致人工智能失控，有的則是人為因素。
因此，郝淮在吸收大量資料後，決定將核心代碼純淨化！
簡單講，就是核心代碼會被防火牆嚴密包裹。
日常運行通過複製的鏡像係統進行。
而且，核心代碼不接納任何第三方程序。
這就是防火牆和模塊接入的含義。
用防火牆保護核心代碼，再通過鏡像係統與所有第三方程序連接。
這樣一來，所有外部程序都將以模塊化形式存在。
一旦發現病毒，就能迅速隔離帶毒模塊。
就算病毒侵入係統，也能直接銷毀鏡像係統，然後重新複製一份。
平時，核心係統完全不參與工作，
也與所有模塊完全隔離。
隻有當鏡像係統出問題時，才會人工複製一份新的。
隻要核心係統不受病毒感染，就算病毒再厲害，也無法對人工智能構成威脅。
就像電腦殺毒，最粗暴的方法就是重裝係統！
而守護核心係統的防火牆，郝淮計劃定期升級。
確保防火牆技術始終領先地球二十年！
這樣一來，即便有天才出現，在郝淮反應過來前破解防火牆也很難。
隻要給郝淮反應時間，就算有問題，他也自信能解決。
至於最後的終極代碼，
那就是殺手鐧了。
真到了核心代碼都被汙染，無藥可救的地步，
這個代碼會摧毀所有程序！
一切歸零！
雖然代價不小，但與人類安全相比，根本不值一提。
這四道鎖將從各個層麵徹底鎖死人工智能。
要是這樣還能出問題，
那隻能說地球真是多災多難了。
“就是這工作量有點大啊！”
“算了，先搞定核心代碼和三大法則。”
“其他的一步步來吧。”
整理了一下思緒，
郝淮揉了揉有些發疼的額頭。
這不是過家家，這麼龐大的防禦體係，容不得半點差錯！
必須慎之又慎！
用最簡潔的編碼，編寫出所有的代碼！
…………