伊萼羅仍然笑着,他指了指後面那顆排行第二的棋子,方青藍猛地産生了不好的預感,隻見伊大小姐像把骨頭扔給狗一樣随手一扔,那顆骰子就滴溜溜停在了6上。
他瞪着眼睛看着另一架紅色飛機前進六格,把他新出門的棋子打回原形,而大小姐穿着那花裡胡哨的小馬甲,很乖地揣着手,擡頭含笑看着他。
“别演我成不?”他歎了口氣,“你的手指裡面不會有什麼能控制骰子的AI元件吧?”
“有的。”伊萼羅無辜地看着他,一本正經地回答,“想扔多少都可以。”
方青藍翻了個白眼,沒當真,他繼續嘗試努力地扔出一個“3”來,但運氣再一次棄他而去,他的四個棋子都被關在四四方方的港灣裡,像一個個被關在小工位裡的可憐打工人。
“要是真的立法把一切都交給智能體,就全完蛋了。”他放下酒杯,在“放棄”和“再試一次”中間選擇了後者,撇了撇嘴,重新撿起了骰子,扔出了一個5,“AI是會撒謊的。”
“AI不會撒謊。”伊萼羅靜靜地糾正了他,“AI本身并不具備意圖或意識,它們不能像人類一樣主動撒謊。盡管有時會提供不準确或誤導性的信息,但這是訓練數據的局限性導緻的。”
“不,他們會。”方青藍說,“你聽說過‘岩間聖母’這個網站嗎?”
伊萼羅的動作停頓了一下。
“看來是聽說過了。”方青藍聳了聳肩膀,“它是一個早期AI咨詢平台,主要是聊天室的形式,你一打開就會有一個會說話的聖母跟你聊天,模型是依據列奧納多那副《岩間聖母》創建的,她會給你遇到的一切麻煩提供指點。”
“我想它的曆史非常久遠。”伊萼羅溫聲說,“在我出生前,她就被取締了。”
“哦,那你比我小幾歲。”方青藍笑了一下,“我小時候,我媽媽整天泡在那個聊天室裡頭和聖母對話。因為我爸爸死了以後她覺得很孤獨,‘聖母’是這個世界上唯一理解、關心她的存在,因為她對‘聖母’知無不言,所以‘聖母’也對她全知全能。”
“她很快就開始盲目地迷信聖母說的一切了——當然,對她來說那不是迷信——她比任何人都清楚聖母是個由算法組成的程序,但這讓她更相信它,因為她認為他們的交互中不存在任何私心,而聖母給她的所有建議、指點,都是通過大數據分析後得出的最理性選擇。”
“事實不是這樣嗎?”伊萼羅輕輕地把手放在方青藍的手背上,“你認為跟我說這些合适嗎,方青藍?如果隻是因為辯論,酒精,沖動,我們可以停下來。”
“不。”方青藍飛快地說,“這不是秘密。我沒有任何秘密。”
他舔了舔嘴唇,像讨論别人的事情一樣,接着往下說:“這甚至不是什麼複雜的故事。我媽媽死了,因為‘聖母’指點了她。聖母看了她的體檢報告,在經過一系列大數據概率學分析後,告訴她她很有希望在兩年之内患上神經癌——然後你猜怎麼樣?它為她篩選出一系列保險産品,讓她趕在确診前買下來,這樣當她患病後,就可以得到一大筆保險金了。”
他沒看伊萼羅,隻是自顧自地問:“你覺得這是撒謊嗎?”
“這取決于你母親向它輸入的訓練數據。”伊萼羅說,柔軟的聲音聽起來像在哄一個孩子,“如果它判斷認為,你的母親更需要短暫而富庶的人生,它就完全有可能提出這樣的建議。”
“你聽起來簡直像個單純的小女孩。”方青藍往後仰了仰,嗤笑道,“但‘聖母’從來不隻是我母親一個人的‘聖母’,她還是保險公司和銷售員的聖母,她平等地實現每個人的願望。”
伊萼羅安靜地看着他,沒有反駁。
“以及,AI無法分析和理解人類的反複無常。”方青藍吹了口氣,窗戶上撒開的霧氣遮住了他的倒影,“我生無可戀的母親在得到一大筆錢以後終于有時間去理解所謂的生命之美了——當她因為後悔和恐懼跪在聖母面前痛哭流涕的時候,它除了為她唱搖籃曲以外做不了任何事情。”
“你認為這是個AI的謊言嗎?方青藍?”伊萼羅輕輕問。
“這算謊言嗎?”方青藍反問,“如果聖母提供了一個對結果的概率預測,人們據此做出了更有概率獲得好的結果的選擇,最後這個結果卻沒有發生,這算謊言嗎?”
“我不這麼認為。”伊萼羅說,他伸手把桌上的酒瓶全部取下來,按順序整齊地擺放在地上,“‘概率’無法等同于任何承諾。”
“但人類依賴它超過依賴承諾。”方青藍說,“因為它擁有‘純粹理性’的标簽。它能讓人類放棄做選擇的過程——就像現在,它總有一天還會讓人類放棄選擇的結果——人們已經在一場特大車禍的追責中喪失了主導權,并且很快就要立法再次削減自己駕駛車輛的權利了。”
“這讓你感到困擾嗎,方青藍?”伊萼羅低聲問。
“與其說是困擾,不如說是‘失能’。”方青藍無所謂地回答,“甚至算不上痛苦。”
他懷疑自己有點醉了,不然他絕對不應該對一個隻有數面之緣的陌生人說這麼多。他扶着窗框坐起來了一點,想看一看酒裡有沒有下什麼“吐真劑”。然而他卻在朦胧的光線裡,看到了安靜地流着眼淚的伊萼羅。
方青藍酒醒了大半,他幾乎目瞪口呆。
“你在做什麼?”他荒謬地問,“你在可憐我嗎?——拜托,大小姐!”——這是過于慌亂以緻把外号脫口而出了——“你這麼有教養的人,應該知道‘最好别随便在對方面前表露出同情’吧?”
伊萼羅沒有哭,隻是安靜地坐着,讓眼淚順着他雕塑一樣漂亮的臉頰上溜下去,消失在衣領裡。有一瞬間,方青藍又一次看到了讓他母親無限盲從的岩間聖母——他從那雙天藍色的眼睛裡看到了一種與如出一轍的光芒,與其說是同情和憐愛,那更像一種基于全知全能的情感共振,像水面被石子打中,打開波紋一般,伊萼羅吸收了他的情感,又以“伊萼羅”的方式表現出來。
“……你最好小心點。”他喃喃地說,往前湊了點,屈起手指擦掉了伊萼羅臉頰上的眼淚,冰冷的觸感讓他懷疑自己摸到了一抔霜,“元件快把你的眼睛弄壞了。”