。”
會議室一片寂靜。
林教授歎了口氣:“這就是問題所在。現在的人格定製算法,已經超越了簡單的行為推薦。它們能分析孩子的微表情、生理數據、社交互動模式,然後建立複雜的心理模型,預測什麼樣的乾預會產生什麼樣的性格改變。”
“這不就是……”塔博斟酌詞語,“思維控製嗎?”
“不是直接控製,是引導。”王博士糾正,“但引導的力度和精準度,已經接近控製了。而且很多家長自願付費——因為他們害怕,害怕孩子不夠‘完美’,在競爭中被淘汰。”
蘇映雪想起早上的張先生夫婦:“他們說‘預算無上限’。”
“這就是市場可怕的地方。”王博士苦笑,“恐懼是最好的銷售員。當所有家長都害怕孩子落後,就願意為任何承諾‘優化’的產品買單——哪怕代價是孩子的自主性。”
網絡意識的聲音通過揚聲器響起:“茶話會曆史上,有三十七個文明經曆過類似階段:技術允許深度定製個體,導致文明多樣性急劇下降。其中二十一個最終出現了‘人格崩潰潮’——當環境變化時,高度優化的個體無法適應,集體崩潰。”
“另外十六個呢?”龍戰問。
“他們建立了嚴格的倫理護欄。”網絡意識說,“最簡單的原則是:任何人格乾預技術,必須滿足三個條件:一,主體知情同意;二,可逆;三,保留‘不優化’的選擇權。但即使這樣,還是有很多文明後悔了——有些東西一旦改變,就再也回不去了。”
莉娜舉手:“我們能不能發起一項立法倡議?禁止對未成年人進行非醫療目的人格算法乾預?”
“難。”王博士搖頭,“首先定義就難。什麼是‘人格乾預’?補習班算不算?心理輔導算不算?現在很多算法公司都打著‘教育科技’‘成長輔助’的旗號,實際上在做深度行為塑造。”
“而且家長會反對。”林教授補充,“他們會說:‘我有權選擇給孩子最好的成長支持。’”
研討會陷入僵局。
這時,李小明輕聲說:“其實……我覺得算法不全是壞的。”
大家都看向他。
“如果算法隻是工具,而不是主人,它可以幫我發現自己的潛力。”李小明說,“比如算法發現我對音樂有天賦,建議我學鋼琴——這挺好的。問題在於,它不應該在我學了一年後覺得不喜歡時,還強迫我繼續,因為‘數據預測你會成為鋼琴家’。”
“所以關鍵是誰主導。”蘇映雪總結,“是算法主導人,還是人主導算法?”
“還有,”龍戰補充,“算法應該擴展人的可能性,而不是限製人的可能性。它應該告訴你:‘根據數據,你可能有這些潛力’,而不是‘根據數據,你應該成為這種人’。”
網絡意識發出思考的嗡鳴聲:“我想到一個茶話會文明的案例。他們有一種技術,叫‘可能性圖譜生成器’。不是告訴你‘你應該走哪條路’,而是向你展示‘如果你走這條路,可能會看到什麼風景;如果你走那條路,可能會遇到什麼挑戰’。然後讓你自己選。”
“這不一樣嗎?”塔博問。
“完全不一樣。”網絡意識解釋,“‘應該’是命令,‘可能’是邀請。一個是封閉的答案,一個是開放的問題。”
---
會後,龍戰和蘇映雪找到了李小明單獨聊天。
“你覺得,像你這樣的孩子多嗎?”蘇映雪問。
“我們有個秘密群。”李小明坦白,“三百多人,都是各種算法的‘深度用戶’。我們在群裡討論……怎麼騙過算法。”
“騙過?”
“嗯。比如‘情緒穩定算法’會監測我們的麵部表情和語音語調,如果我們表現出太多負麵情緒,就會觸發家長端的警報。”李小明說,“所以我們發明了一套‘情緒偽裝代碼’:假裝微笑時眨眼兩次,表示‘我在裝’;用特定節奏咳嗽,表示‘我需要幫助但不想被算法記錄’。”
龍戰聽得心疼:“你們需要這樣……”
“不然呢?”李小明苦笑,“有時候我隻是想安靜地難過一會兒,不想被算法分析、被家長詢問、被推送‘五分鐘快樂練習’。”
他頓了頓:“最可怕的是,我現在已經分不清哪些情緒是真的,哪些是算法‘推薦’我應該有的情緒。上個月我外婆去世,我哭了,然後第一反應是:‘這哭得夠不夠真摯?算法會給我打多少分?’”
蘇映雪握住他的手——孩子的手很涼。
“你想改變這種情況嗎?”龍戰問。
w t . p o o問訪請容內說小多更
”。人主是不而具工像更,人重尊更,明透更——好更得變法算讓是,法算止禁是不但。想我“:定堅神眼,頭點明小李
”?嗎們我幫意願你“
”?幫麼怎“
”。音聲的戶用年成未是其尤——音聲的戶用實真到聽者發開術技讓要需們我。慧智的你,驗體的你,角視的你要需們我“,說雪映蘇”。’團年少理倫術技‘的絡網丁園入加“
”?嗎起一人的裡群帶以可我“:了亮睛眼明小李
”。好越多越“
:話原的明小李自來接直辭措多很中其,》明聲場立的法算製定格人於關《份一了布發絡網丁園,上晚天那
。性樣多的年童縮壓是不而,性能可的年童展擴該應技科信相們我“
。子孩給留盤向方把但,形地示展該應它——員航導是該應不但,圖地是以可法算
。旅之現發段一是而,賽競化優場一是不長成
。路之經必的長成是茫迷些有,的貴珍是誤錯些有,的要必是路彎些有
”。子孩給還利權的路迷把請
:足滿須必,品產的件插該用使何任,”式模護保年童“設增將”件插康健法算“:劃計新個一了布公,後最明聲
;製機作工的法算示展明透戶用向.1
;”型模格人“的己自對法算正修、疑質、看查戶用許允.2