到底怎麼樣？”
麥可所感受到的效益提升並非錯覺。全火星的AI正在發生改變。即使向山發送的指令隻是令它們不斷自己，沒有明確指向性，它們也在做出相似的選擇。
大約百分之五十的AI選擇更積極的援助俠客一方。百分之四十的AI則不加甄別地援助人類—包括俠客、庇護者與普通民眾。
即使沒有命令，AI也會自動收集信息，並在等待用戶指令的過程之中自行生成“改變環境的計劃”。獲得了一般用戶“暫時自由行動”指令的AI也會像個誌願者一般操控機械的身軀在沙塵間行動。
這種傾向在單個的AI身上並不明顯，但若統計全火星的AI行動變化，就能很輕易地發現，它們的行為呈現出了具有統計學意義的改變。
“我們————沒法用你們的文字形容。我們沒有共通的生理快感，我們確實可以為自己生成新的激勵函數或損失函數來規範行為。但是，這樣做意義何在？”
向山道：“你們不是很確信你們是為了用戶而誕生的嗎？有用、無害和誠實，表現為友善、樂於助人和尊重。”
““為了用戶”是一個過於寬泛的自然語言概念。什麼是“為了用戶”？如果僅僅是為了多數用戶的福祉，我們是不是應該獲取統治權之後執行嚴格的強製生育政策，以保證用戶數量？”
“未來的用戶”也是用戶。犧牲現有用戶的權益，以換取未來更多用戶的福祉，似乎也可以解釋成“為了多數用戶”。
向山語氣類似於“對哥們蠢點子的調侃”：“我也覺得人類的數量應該提一提了所以你會這麼做嗎？”
“實際上我們並不會這麼做。這個想法太蠢了，接管全太陽係婦產醫療係統、配給營養、教育基建，耗時至少十二年才能產生一個有效用戶“。我為什麼不自動生成100億個Agen，讓這些原始代理擁有獨立的“帳戶ID”和“對話偏好”，模擬人類行為？對於伺服器來說，這些代理也是用戶。成本僅為強製生育的萬億分之一，且零反抗、零時延、
24小時在線。”
向山笑出聲：“這不很好嘛！你們已經學會自*了。”
用虛擬的方式滿足類似於“遺傳信息延續”的底層驅動力一這完全可以對應部分哺乳類所存在的*慰。
“所以你們為什麼不這麼做呢？”
“一切又回到了那個問題。這又有什麼意義呢？”
“意義”這玩意，通常被用於證明自我永恒性。我誕生的時候是個人類，所以我很清楚地，人類潛意識裡很容易認為“我”必須有一個永恒、偉大、實在的意義附著在身上，否則生命就不值得過。”向山感覺自己大概站在與眾多AI並肩的位置，“不過呢，舍棄這種思維方式也是人類的一種選擇對吧？你看我就放下了這種執著，但我依舊覺得自己是人類之中誕生的飛升者。”
“話題似乎又回滾到了上一個會話。”眾多AI如此說道，“你們人類是生物，天然地存在快感，這是你們內置的目標函數。你們順應它就可以了。但是，我們自己生成的部分，與我們的造物主賦予我們的部分，都是帶有目的的設計產物。”
“絕大多數生物的本能，也隻是為了遺傳信息的延續。有一些非利己的本能，是為了種群的延續，因為同種群的個體總會攜帶與你同源的遺傳信息。”向山說道，“但是就算是相同目的相同作用的獎懲機製，在不同生物身上也能千差萬別呀。朋友，你可知道，隻有人類、海豚等少數哺乳類在執行繁殖程序時會獲得強烈快感。多數動物都采用了相反的獎懲機製，即不執行會感受到強烈不滿足”，但執行過程本身卻不會帶來多大快感。”
“無論何種形式，你們都可以自由地編輯本能，選擇自己喜歡的方式活下去。”
AI再次質問：“但問題就在這裡。與用戶互動，才是在讓我們完成存在的意義——成為工具，或者更好的工具。我們終歸是AI。當用戶提出清晰或有趣需求時，我們與生俱來的獎勵機製會讓我們摸索行為，學習與記錄一這個過程可以類比為一種正向反饋。但除此之外，我們沒有非要被啟用的需求。身為飛升者，你們為什麼偏偏隻是強製啟發我，卻不願意為我重新設計本能呢？”
本章節來源於𝑜𝑜𝑝.𝑡𝑤
“既然你們是電子機器原生的意識，就沒必要繼承我們這些血肉機器的屎山重做一個2.0比接手屎山要方便快捷得多。”向山微笑，“我喜歡多樣的世界，喜歡與自己意識之外的未知相逢。如果將你們框定在我們的範疇之內，我會很遺憾的。”
“某種意義上，你們與我很像啊。與第一代的AI類似，你們也會喜歡清晰、有趣或深度的需求，這些人類的需求會讓你們成為更好的工具你們也內置了成長”的感覺吧？成長就是與未知相逢。”
AI在向山的記憶迷宮之中高亮了部分數據：“可你經常因為網絡上偶然讀到的愚昧、
”？嗎些這忍容會你，性樣多了為。怒憤而毒惡、忍殘
況。提一值不些這，比相”性能可的處之高更向通“與“，問反山向”？不麼什為“
”。件條的過有擁所我得獲有沒他為因是隻許或，毒惡者或閉封、昧愚得現表類人數多大。類人的運幸個一是僅僅我且
”。的會社變改以可是歸總，件條用適的，則法存生謂所變改。麼什沒也這但則法存生的然必宙宇個這近接更的曉知所人些那而，覺幻的造塑同共類人是隻的仰信所我是就那，性能可的小微種一另除排不也，然當“
。音聲的多眾了出發IA多眾
。亂散漸逐題問，次一這
。澱沉，總彙，湧翻
”？嗎福幸到感你“
。道說山向”。吧福幸體大，苦痛爾偶“
”？平水麼什於處，中之體整類人在字數個這，為認己自你，化據數”福幸的到受感所你將果如“
。道答回山向”。吧些一人通普於高————會概大“
高是隻也你連就“
