「每一個見證都必須包含一對物理狀態相近、任務後果卻不同的樣本。」江臨說。
「還要綁定各自允許的安全動作集合,以及它覆蓋的假設分歧區域。」
周誌華補充道。
江臨看著白板,忽然停下了筆。
「僅有樣本點還不夠。」
「哪裡不夠?」
「兩個見證點沒有發生坍縮,不代表它們附近的區域也安全。壓縮映射完全可能在見證點上區分正確,卻在距離它們很近的地方發生摺疊。」
周誌華立即明白了他的意思。
「每個見證都必須帶一份局部覆蓋證書。」
兩人在原有結構後麵繼續增加欄位。
【原始物理狀態A】
【原始物理狀態B】
【安全動作集合A*(xA)】
【安全動作集合A*(xB)】
【任務誘導距離下的覆蓋半徑】
【覆蓋單元內的局部任務損失上界】
【壓縮映射在該單元內的穩定性證書】
【審查結果:通過/拒絕】
見證基不再是幾個孤零零的樣本點,而是一組帶有可驗證覆蓋區域的證據單元。
當壓縮模型接受審查時,係統不僅要檢查樣本對是否仍然可區分,還要檢查每個覆蓋單元內的局部穩定性證書是否仍然成立。
一旦某個高風險見證單元發生任務坍縮,或者局部穩定性證書失效,審查器就拒絕模型上線。
如果所有高風險見證單元都保持區分,係統也隻能保證已被這些證據單元覆蓋的任務邊界仍然成立。
它不能把未發現反例,寫成絕對安全。
周誌華負責把無窮輸入空間壓縮成有限的分歧覆蓋。
江臨負責把每一個覆蓋單元變成能夠獨立核驗的證據結構。
兩條原本來自不同領域的路徑,在白板上接到了一起。
下午三點零八分。
會議室的門被輕輕敲響。
李原推著小車進來,給幾人換了熱水。
江臨仍然站在白板前。
「周老師,這套框架裡還缺一個問題。」
「什麼?」
「反例見證基隻對當前假設空間和參考分布有效。外界數據分布漂移,模型結構或者任務定義改變,原來的覆蓋證書都可能失效。」
「所以它不能一次生成,永久使用。」
「需要更新觸發條件。」
周誌華端起水杯。
「審查器怎麼判斷什麼時候更新?」
「它不需要理解外部世界,隻需要監控輸入統計偏離、模型版本哈希和任務定義文件。任何一項越過邊界,舊見證基進入待覆核狀態。」
「隻能做觸發,還不能量化剩餘風險。」
江臨轉身,在白板右側寫下:
【Evidence Leakage Bound】
【證據泄漏上界】
「它不負責告訴我們未知區域裡究竟有什麼。」江臨說,「隻負責在當前假設空間、參考分布和置信水平下,給出尚未被見證基覆蓋的風險上界。」
它記錄四件事。
哪些高風險任務邊界已經得到證據單元覆蓋。
哪些區域仍然存在覆蓋缺口。
哪些分布變化會使原有覆蓋證書失效。
什麼時候必須重新生成見證基。
傳統壓縮結果通常隻列參數量、速度和平均準確率。
新的審查框架會額外給出一張未覆蓋風險清單。
這張清單不漂亮,卻能避免把沒找到反例誤寫成安全。
周誌華看著白板上的證據泄漏上界。
「可以做泛化界。」
「經驗風險一項。」
「模型複雜度一項。」
「剩餘風險項負責容納見證覆蓋不足和分布漂移。」
請訪問ᴏᴏᴘ.ᴛᴡ獲取最快的章節更新
江臨看向他。
」。開拆須必裡書證程工,束約一統以可上學數「
」?由理「:問是隻,對反有沒華誌周
」。同不法方置處但,題問有沒界確上個一同入進險風種兩。基證見造構新重須必,化變經已布分考參著味意則移漂布分。元單據證展擴和本樣補要需足不蓋覆「
。構結層兩下寫上板白在,頭點華誌周
】項險風餘剩一統:層理定【
】漏泄移漂+口缺蓋覆:層書證程工【
」。事件一同成當險風種兩把會不也員人程工,楚清持保構結明證「,說他」。好最樣這「
。項四出列麵下書證程工在臨江
】險風務任驗經【
】價代度雜複型模縮壓【
】口缺蓋覆基證見【
】漏泄移漂布分實真【
。分七十二點三午下
。鋒衝起髮理定心核條一第的論理新全個這向式正始開人兩,裡室議會的大不個這在
。小很得壓地製克被圍範用適的理定,性密嚴的導推保確了為
。標目務任一單的變不定固
。數函失損的製限界有在存
。內族設假定特的數蓋覆限有有具個一在定限被
。射映縮壓維降的知已全完構結上學數在個一,及以
。件條提前強個兩有還,後最
。域區歧分設假的值閾全安於高有所蓋覆須必,元單據證的帶攜所基證見例反
。件條性定穩部局的驗核經已足滿須必還,內元單據證個每在射映縮壓
。下件條決先些這在
。效失有沒書證蓋覆部局的應對且而,分區務任的元單據證險風高有所了留保,型模的縮壓度幅大過經個一果如
。束約同共漏泄移漂布分與口缺蓋覆證見、度雜複型模、險風驗經由以可就,險風的上布分務任實真在型模縮壓個這,麼那
。理定能萬的題問縮壓型模有所決解夠能條一是不這
。知未限無的中界世放開決解圖試有沒至甚它
地實踏腳是隻它