上的第零法則。”
“可是你腦中並未印記著第零法則。”
“我將它視為第一法則的引伸,道理很簡單,若是不能確保人類社會安全無虞且運作正常,又如何能有效地保護每一個人類呢?”
吉斯卡想了一會兒。“我明白你想要說什麼了,可是萬一——你試圖救我,也就是試圖拯救整個人類——結果卻發現我並不是暗殺目標,而嘉蒂雅女士卻遇害了呢?那時你會有什麼感覺,丹尼爾好友?”
丹尼爾以低沉的聲音說:“我不知道,吉斯卡好友。可是,假如我出手拯救的是嘉蒂雅女士,結果卻發現她根本沒危險,而我這麼做卻導致你遭到暗算,而且在我看來,也因此葬送了整個人類的前途,我又怎能承受這樣的打擊呢?”
兩人互相凝視,各自陷入沉思好一會兒。
最後吉斯卡終於說:“或許有道理,丹尼爾好友,然而,不知你是否同意,類似這樣的情況,很難作出正確的決斷。”
“我同意,吉斯卡好友。”
“要從兩名人類之間迅速作出選擇——判斷誰會受到或是造成比較嚴重的傷害——已經是很困難的事了。要從人類個體和整體之間作出選擇,而且不確定到底應該考量人類整體的哪個層麵,則更是難上加難,以致機器人學法則的適用性都要被打上問號。一旦引入人類整體這個抽象的概念,‘機器人學法則’就會跟‘人學法則’糾纏不清,而後者甚至還不存在。”
丹尼爾說:“我不了解你的意思,吉斯卡好友。”
“我並不意外,我也不確定是否了解自己的意思。但想想看,當我們想到必須拯救整個人類的時候,我們想到的是地球人和銀河殖民者。相較於太空族,他們人數更多,活力更旺,而且心胸更廣。他們表現得較為主動積極,因為他們對機器人仰賴較少。他們無論在生物或社會層次的進化上都具有較大的潛力,因為他們雖然壽命較短,但人人仍有足夠的時間作出重大貢獻。”
“沒錯,”丹尼爾道,“你說得簡單明了。”
“可是地球人和銀河殖民者似乎都對地球有著神秘的,甚至非理性的信心,堅決相信它是神聖而不可侵犯的。在未來的發展過程中,這種神秘信仰難道不會跟太空族對機器人和長壽的信仰一樣致命嗎?”
“我從未想過這個問題,”丹尼爾說,“我沒有答案。”
吉斯卡說:“你如果能像我一樣體察得到人類的心靈,就無可避免會想到這個問題。我們該如何選擇?”他突然說得慷慨激昂,“我們可以把整個人類劃分成兩大類,第一類是太空族,他們有著顯然足以致命的神秘信仰;第二類是地球人和銀河殖民者,他們有著另一種可能同樣致命的信仰。將來或許還會出現第三類,而他們甚至會更令人失望。
“所以說,僅僅作出選擇還不夠,丹尼爾好友。我們還得能夠塑造——我們必須塑造一種有前途的人類來加以保護,而不是被迫在兩三種沒前途的人類之間作出選擇。可是,除非擁有心理史學——那門我夢寐以求卻求之不得的科學——否則我們要如何塑造這樣的人類呢?”
丹尼爾說:“我從來也不曉得,吉斯卡好友,擁有感應和影響人類心靈的能力是多麼困難的一件事。但會不會是你知道得太多,導致機器人學三大法則無法在你身上順暢運作?”
“這個可能是一直存在的,丹尼爾好友,但直到最近發生了這些事,才讓這個可能成了真。我很了解這個產生心靈感應和心靈影響效應的徑路型樣,我花了上百年的時間仔細研究自己,以便了解這個型樣並將它傳給你,好讓你能把自己設定成跟我一樣——但我一直抗拒這麼做。這樣對你不公平,我一個人承受這個重擔就夠了。”
丹尼爾說:“縱然如此,吉斯卡好友,可是如果根據你的判斷,為了人類整體著想,你必須這麼做,那麼我願意接受這個重擔。事實上,根據第零法則,我也有義務這麼做。”
吉斯卡說:“可是這樣的討論毫無用處。看來這場危機顯然已經迫在眉睫——既然我們連危機的真麵目都還推敲不出來……”
讓您第一時間享受最新章節,請訪問𝗼𝗼𝗽.𝘁𝘄
丹尼爾插嘴道:“你錯了,至少這點說錯了,吉斯卡好友,我已經知道這場危機的真麵目了。”
83
照理說,吉斯卡表現不出驚訝的情緒。他的臉孔當然無法做出任何表情,而他的聲音雖然有高有低,讓他得以像人類那樣說話帶有抑揚頓挫,不至於太過平板或難聽,然而,至少在人類聽來,那種抑揚頓挫從來不受情緒的影響。
。的疑置庸毋是訝驚的他,來看作動的手舉及以,式方的爾尼丹向望頭轉他從,是可。已而疑懷示表他而,化變麼什有會氣天的天明了到提爾尼丹像好就來聽,候時的”?真當話此“說他當,此因
”。友好卡斯吉,真當“:道答爾尼丹
”?的案答到找裡哪從是你“
”。話的說我對長次納塔昆,時宴晚自來是,分部一有“
”?嗎題問對問沒己自得覺至甚,西東的用有麼什出問沒裡那她從,說是不你但“
”……書全科百央中的球地尋搜,座機腦電的裡這用利我,時小個幾去過。論推的用有些一出作法說的她據根以可是還覺發我,後之思深番一過經,而然。樣這是正乎似時當“
”?據證了到找論推的你為“
”。了果結的好很算也許或這,證反到找有沒我是但,然儘不並“
”?嗎定肯你讓以足便果結麵負是可“
”。來出指時隨,疵瑕現發若你,你訴告論推的我把我讓是還,而然。定肯不並我此因,行不然當“
”。友好爾尼丹,始開請“
理將。能變聚控受的用實出展發正真才,間時段一長很了花又,後之據證學科的實紮出提並,性能可的它出導推在家學科而。事的知皆所眾是這,球地是就那,類人有麵上星行顆一有隻時當,此因。的來出展發上球地在就前之代時間空超是,友好卡斯吉,源能種這能變聚“