薇利亞坐在窗邊,窗台上放着一杯咖啡。遠方山林中霧氣彌漫,景色若隐若現。
電子門滑向一側,路加走進來收拾茶幾上的餐具,過程中盡量不發出任何聲音。但當他捧着托盤準備離開時,薇利亞還是轉頭看了看他。
“路加。”
他不得不停下腳步。
“我想出去透透氣。”薇利亞說。
路加轉過身,動作有些僵硬。
兩人無聲對視,僵持了足足兩分鐘之久。最終,路加道:“根據阿列克謝的命令,你不能離開這間實驗工廠。”
薇利亞點點頭,仍然看着他。
“但是,”路加補充道,“我可以打開通向屋頂的那扇門,讓你去外面呼吸新鮮空氣,放松一下。”
——
一刻鐘後,兩人來到工廠的房頂。平台上的積雪尚無人踏足,薇利亞踩上去,靴底響起清脆的“咯吱”聲,她一直走到對面的欄杆旁,用手套拂去雪塵,趴在上面看着遠方。
路加跟着她走過來,站在她身後。
薇利亞默默深吸了幾口冰冷新鮮的空氣,這些天她實在是憋壞了。如果把她關在這裡四十八年,她或許會瘋掉。也不知機器人會不會感到憋悶,又或者他從出生起就住在這裡,早已經習慣了。
她調出終端窗口看了眼時間。今天她起得不算早,平常這個時候,瓦西裡應該來送餐了。以防萬一,她多問了一句:“瓦西裡還沒來嗎?”
“今天他來得很早。”路加答道:“你起床之前他就走了。”
“是嗎?”薇利亞有點驚訝。
他是故意的。或許昨天阿列克謝回去之後對他說了什麼。
她花了些時間适應戶外的環境,稍微緩過勁兒來之後,回頭道:“路加,我有個問題。”
路加聞言踏前一步。
“你應該早就知道阿列克謝的計劃吧?”
他遲疑片刻,點了點頭。
“為什麼不阻止他呢?”薇利亞問,“你應該也知道,他暗中收集軍械,不隻是為了自衛,更是為了殺人。‘機器人不得傷害人類,或因不作為而使人類受到傷害’——根據内置的法則,你本該阻止他的。”
“薇利亞,”他答道:“你認為人造人就不算是人類嗎?”
她沒說話。
“我知道兩者的概念不同,實質也不同。人類是經由交/媾、妊娠等自然過程誕生的,即便目前的技術可以将這些過程都轉移到體外,但在該過程中,自然人的精子、卵子必不可少——每個人類都有其父母。”他說,“可人造人不一樣,他們是在基因工程和人造細胞的基礎上誕生的,是被人類刻意設計、制造出來的。
“人造人的DNA與人類的确有着極其微小但不可忽視的差異。然而,我看不出兩者在生理結構和精神意識上的明顯差别。”
“機器人的思維徑路中會被植入某種評判标準,用來判斷一個個體是人類或是非人。但是這種标準不夠細緻準确,以至于我們無法僅憑觀察就斷定某個個體是人造人,而非人類。”他繼續道,“至于從其他途徑獲知的信息,無法代替由觀察得出的結論。因此,盡管我知道阿列克謝的身份是人造人,我卻仍舊不得不把他看作人類。”
薇利亞:“我理解。”
假如機器人僅憑從外部獲知的信息貿然判斷個體的身份,就很可能搞錯從而造成誤傷。因此,無法辨别人類和人造人成了機器人群體的共同特點。
“我在工廠工作了四十八年。”他說,“現在是第四十九年了。”
“在這裡,我目睹人類以各種方式傷害人造人,卻不能加以阻止。他們下達的強制命令壓制了我想要保護人造人的沖動,但是,矛盾在我的思維徑路中不斷積累,總有一天,我會因為負擔太重而崩潰。”他說,“阿瑟·蘭徹斯特預見到了這種情況,因此,他在離開之前,為我引入了新的概念。”
薇利亞神色一滞,隐約猜到了他要說的内容。
路加:“來自艾薩克·阿西莫夫的第零法則——機器人不得傷害人類整體,或因不作為而使人類整體受到傷害。”(注)
半晌,薇利亞問:“他是怎麼做到的?我是說……怎麼為你引入這個法則?他又不是機器人學家。”
“他隻是告訴了我而已。”
“于是你就理解了?”
“是的。”
薇利亞很詫異:“你果然不一般。”
“基于第零法則,我有了現在的選擇和判斷。”路加說,“人類對人造人無休止、無下限的傷害和利用,對于人類整體的未來毫無益處。以前我也曾試圖阻止發生在這裡的諸多暴行,但是,一方面,人類可以不斷用強制命令限制我的行動,另一方面,我無法走出工廠,因此我什麼都改變不了。”
“我不斷受挫,卻沒有停擺。得益于第零法則,我不會因為目睹個體受到傷害而輕易崩潰,我知道還有‘人類整體’這一存在。”他說,“我早就清楚阿列克謝的計劃,但我不打算阻止或告發他。我相信他的行動會對人類整體的未來造成正面的,而非負面的影響。”
“包括他殺害駐軍這件事?”
“是的。”
“這隻是你的推測吧?”
“是的。”
薇利亞沉默片刻,說:“你超出我對機器人的認知了。”
路加默不作聲。
她轉身靠在欄杆上,繼續看風景。良久,路加問道:“薇利亞,你怎麼看待阿列克謝的行為?”
她有些困惑地回頭:“為什麼問這個?”
路加卡殼了幾秒才說:“我想知道你的想法。”
薇利亞不得不思考了一會兒。
“我沒資格評判他。”最後她說,“但如果是我,可能會做得更過分。”