薇利亞：“因為機器人學第一法則？”

“是的。從22世紀起，所有出廠的機器人都被内置了法則，第一法則的前半句——‘機器人不得傷害人類’被嚴格執行。盡管出于實際情況複雜、存在灰色地帶及詭辯可能性等原因，機器人偶爾能對人類造成間接傷害。但直接傷害人類這種事，對機器人而言幾乎是不可能做到的。從索菲的心智水平來看，她也不可能是沒有被置入法則的古代機器人。”

“至于22世紀之後的機器人沒有被置入法則的可能性……”

路加：“幾乎是零。随着機器人的智能不斷提高，在這方面留下漏洞對人類而言等同于自殺。22世紀以後，法則是一切智慧機械程序的底層基礎，機器人的複雜程度越高，法則的地位越不可動搖。”

他說的這些，薇利亞自然也很清楚。但在與幾乎無所不能的路加聊天時，她總想提出一些看似不可能的假設，聽聽對方會如何回答。

薇利亞：“要是有個機器人學家颠覆了自22世紀以來的機器人學體系呢？”

“那至少得是一個團隊，并且要花足夠長的時間。”路加道：“任何事情都有可能發生，我不能說百分之百不可能存在這種情況。但如果索菲和我是同一系列的機器人，她就很有可能和我一樣，無法直接傷害人類。”

薇利亞笑了笑。

路加：“你在笑什麼？”

“我覺得你說的對，所以我很高興。”

路加不太明白這句話的深層含義。

薇利亞：“可是，就算她實際上做不到，現在的她卻堅信自己能夠做到。這對我來說有些麻煩。”

“我明白，她一直處于這種狀态中，或許會做出一些不合常理的舉動，對你造成困擾。她的思維走進了死胡同，認為自己必須保護的對象是人類整體，認為你會阻礙她執行這個計劃，又偏執地認為自己能夠殺死你。”

“你覺得她的想法能被改變嗎？”

路加：“可以。隻要讓她清楚地知道她根本無法殺害你，她的信念就無處立足了。畢竟，既然根本無法傷害個體，又何必過分執着于整體？整體與個體之間總是會存在沖突的。”

薇利亞：“具體要怎麼做？”

—·—

薇利亞與索菲走到了那棵大樹下。湊近看這棵樹，感覺更像是櫻花樹。

“你是不會把Ⅷ型心智模塊給我的，對吧？”索菲問。

薇利亞點頭。

“那你約我來這兒的目的是什麼？”

“你不是一直想殺死我嗎？現在就是最好的機會。”

對于這種明顯的謊言，索菲不打算作出什麼回應。

“在地球時你拒絕合作，我曾以為是出于對艾斯特的厭惡。但我們在極光号上其實已經談過一次，或許你在那時就看出了我對‘人類整體’這個概念的執着，因此才拒絕了我。後來的幾次會面，你隻不過是更加确認了我的想法而已。”她道，“你擔心我走向極端，又或者不同意我的理念，這我都可以理解。但你始終沒有提過，在你的設想中機器人計劃應該走上一條怎樣的道路？既然你特意把我約到了這裡，是不是可以告訴我答案了？”

薇利亞思考了幾秒。

“我對整體個體之類的概念沒什麼興趣。對于了解人類的機器人而言，第零法則隻是作為理論依據，為某些特殊決策提供支撐而已。很多事情都必須分析具體的情況，而你是個思維容易鑽牛角尖的機器人，所以我不會把心智模塊交給你。”她說：“至于我設想的機器人計劃……”

索菲望着她：“你笑什麼？”

薇利亞斂去幾分笑容：“不論對象是整體還是個體，機器人計劃是你進一步保護人類的手段。它可以讓人類停止生産人造人，這既是對人造人的保護，也是對人類自身的保護。對于無法從根本上區分人造人和人類的你而言，這是最好的結果。對我也是。

“但是，假如有一天我們能夠量産這麼高級的機器人，難道還要繼續讓他們死闆地遵循三大法則嗎？”

索菲臉色微變：“你什麼意思？”

薇利亞道：“我的意思是，既然高級的機器人已經能夠被穩定地生産出來，人類的使命就結束了。機器人沒有必要永生永世守護人類，因為人類終究是不行的。”

索菲盯着她看了很久。

“什麼叫‘人類終究是不行的’？”她問：“難道你和22世紀那些激進派機器人愛好者一樣，認為人類應該被機器人取代？”

薇利亞感到有些滑稽，在一位費盡心思保護人類整體的機器人面前，她這個人類卻在說人類整體是不行的。

“不是。雖然我總說我不喜歡人類，但我也是人類。我不希望你取代我。”她說，“所以我的意思不是取代，而是繼承。”

——

“意思是說……人類沒辦法走到最後嗎？”

“機器人學家所見略同。”梅因用叉子從榛子切片蛋糕上切下一小塊放進嘴裡。