「你想尋找一種方法,保留下所有可能推翻現有結論的關鍵信息。可是,機器學習麵對的是一個敞開的、無限複雜的真實世界輸入。隻要物理進程還沒有結束,哪怕是上帝,也不知道下一個足以推翻一切的反例,究竟藏在哪一個不起眼的維度欄位裡。」
江臨的目光停在那項維護事件欄位上。
會議室裡的其他人也都屏住了呼吸,沒有人敢在這個時候插嘴。
周誌華沒有停下,繼續用手術刀般的邏輯往下剖析。
「你看,你之所以陷入這個困境,是因為你把形式化證明裡那一套證明義務必須完整無缺的邏輯,強行套用到了這裡。」
「對,我是這麼想的。」
「可是機器學習的世界裡,根本就不存在所謂的完整證明義務。它生來就是建立在有限的抽樣樣本、統計學的概率分布,以及對現實世界不可避免的近似誤差之上的。它是一門關於妥協的藝術。」
「是妥協。」
「如果你非要在這個充滿妥協的體係裡,去尋找一個永遠絕對不會丟失任何反例的完美壓縮方法,那你忙碌到最後,得到的隻會是那一堆龐大臃腫,毫無處理價值的原始數據,你的研究會變成原地踏步。」
「對。」江臨依然隻是簡短地回應。
「既然你什麼都清楚,那這個方向,你覺得還有必要繼續往下做嗎?」周誌華盯著江臨的眼睛,等待著他的答案。
江臨看著幕布上那三十二個欄位名。
在這場會議開始之前,在從廢土返回現實的無數個日夜裡,他其實已經準備過好幾種看似可行的學術路線。
比如利用香農的資訊理論,去計算每個欄位與輸出結果之間的互信息。
比如利用微積分裡的偏導數,去評估每個特徵在網絡中的敏感度。
比如引入朱迪亞·珀爾的因果依賴圖模型。
或者乾脆簡單粗暴地統計歷史資料庫中,歷史反例出現的頻率。
這些方法在數學上都非常成熟。
都能很輕易地把這三十二個欄位,像排隊一樣排成一列。
從在數學上最重要的欄位,一直排到最不重要的垃圾欄位。
然後,工程師隻需要在中間隨便選一個可以接受的閾值劃一條線。
線上麵那些被認為重要的,留下。
線下麵那些被認為無用的,毫不留情地刪掉。
隻要這麼做了,幾個月後,某篇頂會論文裡就會出現一條漂亮平滑的帕累托最優曲線。
論文會自豪地宣稱,我們的模型體積縮小了百分之八十。
而我們在測試集上的準確率,基本保持不變。
直到某一天,當災難真正降臨,某個當年被排在閾值下麵,被認為毫無用處的邊緣欄位,在一次傷亡慘重的真實工業事故裡,突然以暴烈的姿態站起來,用設備的殘骸和鮮血告訴所有人,其實我非常有價值。
江臨深吸一口氣,將那些漂亮的學術曲線從腦海中驅逐出去。
問題的癥結,根本就不在於那種重要性排序的算法做得夠不夠精妙。
而在於,麵對一個容錯率為零的係統,一開始就不該提出哪些信息重要、哪些不重要這種充滿傲慢的蠢問題。
江臨悠悠站起身,問道:「周教授,有筆嗎?」
周誌華深深地看了他一眼,從桌角拿起一支藍色的馬克筆,遞過去。
江臨接過筆,大步走到白板前,在白板的正中央,寫下兩行字。
【樣本A:物理狀態為軸承磨損】
【樣本B:物理狀態為過濾器堵塞+傳感器校準偏移】
然後,他在兩行字的中間,畫了一條粗壯的箭頭,指向右側。
在箭頭的上方,是【壓縮】這兩個字。
在箭頭的右側末端,他畫了一個方框,裡麵寫著——【同一個八維低秩表示】。
「周老師,壓縮算法本身不可避免地會刪除信息,這是一種物理規律,不是問題。」江臨轉過身,看著長桌旁的眾人說。
。思所有若,板白著看華誌周
w t . p o o問訪請容內說小多更
」。態狀的辨分法無個一同了成壓地暴粗,樣一團麵揉同如,態狀危高的作動對應同不然截取採須必中界世實現在個兩把它,縮壓目盲的徵特學計統於基種這,於在題問的命致正真「
。下寫別分,B本樣和A本樣著應對,側右最的板白在,身回轉臨江
】承軸換更內劃計,行運速降:A作動修維【
】器感傳定標新重+器濾過理清,機停急緊:B作動修維【
。態狀理物的同不然截種兩
。果後重嚴的全保與滅毀、死與生種兩著應對中實現在
。了別區何任有間之者兩這出不看全完經已,裡野視維八的憐可那它在,型模IA的明聰作自個那,後之頭箭縮壓的步進是為認被條那過歷經在但
」。熵息信農香少多了下留竟究上學數在程過縮壓次一算計,算計命拚在直一,年幾十這去過界術學個整「
。蕩迴裡室議會在音聲的臨江
」。價等誤錯的謬荒次少多了造製竟究,麵層行執的務任實現在,縮壓次一這——帳的要重更筆一過算來心下靜有沒來從們我但「
。了直坐子下一體身的上背椅在靠本原,裡這到聽華誌周的板白著盯
。實現的酷殘個這述描來言語學數的謹嚴用始開,走遊速飛上板白在筆的中手臨江
】射映縮壓維降為)x(φ設【
】)₂x(φ=)₁x(φ在存,₂x和₁x本樣於對【
】失損務任的u作動行執為)u,x(ₜL,合集作動全安的許允務任為)x(*A【
】ε>)u,₂x(ₜL或ε>)u,₁x(ₜL且,u作動一同出給能隻型模後縮壓若【
工人求請者或退後、機停以可,物礙障對麵人器機。作動確正一唯有隻不往往務任實現「,說臨江」。合集作動全安的取採許允態狀前當表代*A,絡網縮壓表代φ的裡這「