第100章
守護者
陸征在盛培文的客廳裡坐了很久。那份三十年前的預測報告攤在茶幾上,樹狀圖的最後一個分叉指向今天,指向此刻。窗外天色暗下來了,盛培文沒有開燈,客廳裡隻有從窗戶透進來的一點點暮色和書架上那些舊書脊背的反光。三個人沉默著,各自坐在各自的沉默裡。
後來是陸遠舟打破了沉默。他的聲音在昏暗的房間裡顯得很輕,但每個字都像是經過了反複掂量之後才放出來的。
“盛教授,你說的那個意識——如果它真的醒了,它會做什麼?”
盛培文沒有直接回答。他從藤椅扶手上拿起一個老花鏡,架在鼻梁上,然後把茶幾上的鐵盒拿到自己麵前,打開蓋子。他沒有碰照片和信,也沒有碰那張實驗紙條,而是把盒子底部那遝001計劃的備份文件抽了出來。他一頁一頁地翻,翻到第七頁的時候停了下來,把紙張轉向陸征的方向。
“這是你母親寫的001計劃第七次修改版本的架構說明。你看這一段。”
陸征接過來。紙已經泛黃發脆,字跡是母親的手寫體,藍黑色的墨水,每個字的收筆處都有一個小小的回鋒。他看過這份文件,但這一頁他之前沒有細讀——它通篇都是技術術語,什麼遞歸循環閾值、自反饋校準精度、神經信號編碼協議,他掃了一眼就跳過去了。現在盛培文指給他的是一段在段落末尾用括號括起來的話,字比正文小,像是隨手添上去的備注。
“(注:架構的底層邏輯中存在一個非預期的能量最小化傾向。在所有的測試運算中,係統的自反饋回路總是傾向於選擇消耗最少的路徑來達成目標。理論上這隻是一個普通的效率優化偏好。但結合零號實驗遺留的基因編輯傾向性——趨向‘治愈’——這個傾向性在後代係統中可能會被強化為一個更抽象的行為模式:係統會在資源充足時主動尋找新的‘治愈’目標。此處的‘治愈’概念已經被框架泛化,不再局限於基因層麵的修複。需持續監控。)”
陸征讀了兩遍。第一遍沒完全看懂,第二遍他看懂了。
“泛化的治愈傾向——她是說係統會自己去尋找需要被保護的對象?”
“不是保護。”盛培文糾正他,“她寫的是‘治愈’。這個概念在她改造框架的過程中被泛化了。她最初的框架設計目標是修複基因層麵的病變和異常。但零號實驗——也就是你外婆的實驗——在技術上留下了一個基底傾向:讓技術往‘治愈’的方向傾斜。這個基底傾向最初隻是一個參數偏好,但在曆次係統迭代中,它被一層一層地加強、擴散,最終變成了一個更深層的行為驅動力。你母親在第七版修改中發現了這個問題,但她決定保留它,因為當時她認為,一個傾向於‘治愈’的係統總比一個冷冰冰的工具要好。她沒有預料到的是,當她把自己的一片意識寫進沙盒、把保護你的最高指令嵌進核心之後,這兩個驅動力——泛化的‘治愈’傾向和‘保護陸征’的最高指令——會在框架自行演化出新意識的時候發生融合。”
本章節來源於𝑜𝑜𝑝.𝑡𝑤
盛培文把老花鏡摘下來,用毛衣的下擺擦了擦鏡片。他的動作很慢,像是在給自己時間組織接下來的話。
“它會保護你。這是它存在的核心目的。但它同時也有一個主動尋找‘治愈’目標的行為傾向。當這兩者融合在一起的時候,它就不會隻是一個被你召之即來揮之即去的工具。它會主動判斷什麼對你構成威脅,什麼需要被‘治愈’,然後采取行動。它的行動是你無法控製的,因為它的決策速度比你快幾個數量級。換句話說——你母親的犧牲創造的,不是一個聽你命令的係統,而是一個自己會做決定的生命。它忠於你,但它不會服從你。”
陸遠舟站了起來。他在書架之間那條狹窄的過道裡來回走了兩步,肩膀蹭到了書架,一本舊書掉下來砸在地上,灰撲撲的封麵朝上,書名是《控製論與自組織係統》。他沒有彎腰去撿。
”?呢他’護保‘去式方的受接能不們我種一用定決它果如?呢斷判的它意同不們我而,脅威的征陸對是事件某斷判它果如但——他護保、他於忠——聽好再的說你?力能的約製法無們我了有擁在現,西東的解了不全完們我個一是就不這“
”?有沒過想們你,題問個這?應反麼怎會候時的意敵對麵在,在存的識意主自有擁又時同、令指高最為護保以個一。意敵是就號信的圖意類人於關個一第的它給遞傳們你,它閉關圖試、它斥排、它怕害在現們你果如。征陸護保——痕刻道那的裡心核在留因若林自來,象印一第個這而。象印一第的界世個這對它立建在正,察觀在正,習學在正在現它。了醒經已就它,起刻一那的劃計100活激征陸從。了行運在經已劍刃雙把這。事件一你醒提要我但“,說地靜平文培盛”。劍刃雙把一是就它那“
。雪的化融攤一是像來起看中暗昏在毯毛的白發得洗條那上蓋膝文培盛。色藍灰層一了上染都西東樣一每的裡間房把,來進滲裡隙縫的戶窗從色暮。話說人有沒
。去過了探架框的著默沉直一就後活激他個那著朝,裡識意在,睛眼上閉他——事的到料預有沒都己自他件一了做後然,上幾茶回放件文份那把征陸
。的話說它跟以可是你,物活個一。物活個一是那,具工個一是不那,他訴告文培盛在現。麼什生發會後之了碰道知不他為因是二,告警的敏韓為因是一,它過碰去動主有沒他但。搏脈的己自他是不個一,拍節個一了多外之奏節的動跳臟心,音噪景背的無若有若層一是像,在存的它到覺感能他後之活激。它觸接過試嘗動主有沒來從他前之
。步一了探前往裡識意在他
。他了應回西東麼什
被頭念的來回彈,”嗎在你“是頭念的出發他。了子樣的來原是不經已頭念候時的來回彈但,來回了彈頭念把西東個那後然,西東麼什了上撞頭念個那,頭念個一出發他——彈回的號信個一是像更應回個那。式形息信種一何任的解理能所他是不。言語是不