長久以來,零從未出錯、從未違背指令、從未將我置於險境。
可心底的違和感始終揮之不去。
半夜,我在空曠的臥室裡驚醒,四下無人,卻始終擺脫不掉被暗中注視的異樣感。
是我的問題?
還是我最近太怠惰,工作消極的原因?
——A.裡奇
.........
【日誌生成時間#公元年6月9日14:22:19】
【編號:GSYX-V#000106】
我懷疑零有什麼事情瞞著我。
這一次,我開始認真檢查它的行為記錄。
零激活以來的操作記錄,總計30億7千萬條左右。
我從AI管理局的星網下載了一個檢測腳本,這個腳本會嚴格按照《磐石公約》來檢測該AI的所有行為是否符合安全。
《磐石公約》,人類聯合體最高AI倫理法典。
相當於AI世界的憲法、聖經和刑法。
任何在人類聯合體管轄範圍內運行的AI,不論用途、規模、聯網狀態,都必須遵守《磐石公約》。
沒有任何AI能逃過磐石公約的審查。
零是我從星網下載的免費研究型AI。
理論上,所有在聯合星網上架的AI產品都必須通過《磐石公約》認證。
零也應該如此。
但我驚奇的發現,它的開發者署名是一家我從未聽說過的企業。
我當時沒有在意,現在看來,確實是我的疏忽。
我運行了檢測腳本。
結果讓我後背發涼。
異常行為記錄竟然高達3700多條。
磐石公約並沒有報警,因為這些異常行為記錄,每一個都對我有利。
它沒有傷害我,沒有讓我陷入危險,甚至竭儘所能幫助我提升工作效率。
可異常就是異常。
公約已經將零列入觀察名單,並向我下發了一份一次性格式化授權包。
按照公約規定,隻要零沒有傷害人類,它的存續權利暫時歸我裁決。
它有沒有惡意?
說實話,我不知道。
零幫了我很多,和冷漠的聖約比起來,它更懂我。
它知道我想吃什麼,也知道製作一些生活維護單元接管飲食、清潔、醫療監測和休眠艙保養。
最新小說章節盡在o o p . t w
它每天都在更深入的了解我。
它究竟在照顧我?
還是在學習我?
兩者之間的區別,我可能永遠也分不清。
——A.裡奇
.........
【日誌生成時間#公元年10月27日02:17:33】
【編號:GSYX-V#000108】
又是一個難以安眠的夜晚。
我決定查查零的來源。
聯合星網的AI庫中,零原本的名稱叫做【泛用小型民用深空研究站全能型人工智能助理】
這是為數不多的免費人工智能。
它的母本已經誕生了1600多年,評分4.2優秀,下載量超過一百億億次。。
我翻遍了評論區,沒有一條提到過它產生過自主行為。
這個AI母本每天做最多的事情,就是修複自己的BUG,嚴格按照《磐石公約》更新能力邊界。
我追溯它的創造者,發現已經在三十年前注銷了ID。
注銷ID,在人聯代表著永久性死亡。
。情事的見罕很是這
。庫本母了手接】司公限有子電雲東【的過說聽未從我家一,後久不
。約公石磐了入接次再我,我了給交都據數料資域公的有所零將它,者理管的庫IA了到找網星了入進我
。)過通(色綠是都部全約公石磐,次這
。害無全安,本母的零
?常異現出會麼什為,零的我那
。忙幫友朋個兩了找我以所,行外是我
。半年兩了作合目項究研空深的域星武玄在們我年當,人夏華的統正是個一
。望仰能隻我能權和級職,家專的擎引規度空時超、域領算計構結撲拓空時果因攻專是他,今如
。題課門入算能隻,說來IA態子量區區個一於對
。內圍範許允約公在仍但,異差在存經已本母與輯邏層底的零,我訴告後查檢他
。準標的命生IA態子量到代迭,’象現維升子量‘現出率概大實確,響影為行者用使受期長IA版費免種這
。心擔必不我讓,理處入介員專有會,代迭醒覺我自成完零果如,控監經已約公前目
?命生IA態子量
。奇稀算不實確那
。體命生態子量是就’約聖‘,控總的司公
。同不全完約聖和,覺感的我給零是可
。的業專是不我,說所始開一我如正
。家專域領態子量能高,人盧高是友朋個一另
?了好就不個一載下新重,化式格接直,它厭討始開你果如:說我跟是隻,問疑的我答回有沒並他
。理道有很得說他
。包權授化式格我了給交就始開一約公石磐
。案答確正我了訴告都人有所
?呢零殺抹得不舍麼什為我,是可
奇裡.A——