七月八號，雅安。
九章算力基地的大門口，顧嶼從比亞迪上下來，山裡的空氣比綿陽涼快不少。
徐靜提前清了路線，保安核驗完身份之後，電動欄杆往上一抬，車直接開到了核心機房樓下。
任少卿和安德烈已經在樓門口等著了。
任少卿今天難得換了一件新T恤，頭髮也明顯梳過。
安德烈倒是老樣子，鬆垮垮的格子襯衫，下巴上的胡茬比上次見麵又濃了一圈。
「走吧，帶我看。」顧嶼沒寒暄，徑直往裡走。
GOOGLE搜索
三人刷卡進入B區地下一層。
走廊儘頭的恆溫玻璃門一推開，整排液冷機櫃的嗡鳴聲撲麵而來。
和以前那種暴力風冷的噪音完全不同，這批新部署的設備安靜了太多。
冷卻液在透明管路裡循環流動，帶著淡淡的藍綠色螢光。
顧嶼目光掃過去，這一排全是新到的K80，比之前那批K40的密度高了一倍不止。
機櫃頂部的狀態燈亮著均勻的綠色，散熱數據穩定在設計值以內。
「這批是上個月從海外走的貨。」任少卿跟在旁邊，壓低聲音說，
「一共一千二百張，全部部署完畢。InfiniBand的組網也跑通了，延遲壓到了微秒級。」
顧嶼點頭，沒說話，繼續往裡走。
穿過兩道安全門之後，才到了九天實驗室真正的核心區域。
幾十台工作站的屏幕上滾動著訓練日誌和損失函數曲線。
樓天城坐在最裡麵那個角落，麵前攤著三塊屏幕，頭也沒抬。
請到𝐨𝐨𝐩.𝐭𝐰查看完整章節
「說正事。」顧嶼拉了把椅子坐下，
「Transformer跑通了？」
「完全跑通。」任少卿語氣裡帶著克製的興奮，
「自注意力機製、多頭注意力、位置編碼，所有組件的數學驗證零誤差。我們在WMT翻譯數據集上的實驗結果，BLEU分數比當前最優的Seq2Seq加注意力模型高了四個點。」
安德烈在旁邊補了一句，俄語口音很重：
「訓練穩定性也解決了。Pre-LN加上Warmup學習率調度，六層Enr加六層Der堆疊，一次都沒崩過。」
顧嶼看了一眼牆上貼著的手寫實驗記錄，密麻全是安德烈的筆跡。
數字和公式之間還畫了些隻有他自己看得懂的俄文批註。
「論文呢？」
「初稿完成了百分之七十。」任少卿說，
「實驗數據收尾大概還要兩周。我的計劃是八月底之前定稿，投NIPS。」
「好。」顧嶼靠在椅背上，雙手交叉放在胸前，
「論文的事你倆盯著，按你們的節奏來就行。但今天我來，是要跟你們說下一步的事。」
他停頓了兩秒。
任少卿和安德烈同時看過來。
連角落裡的樓天城都終於抬起了頭。
「Transformer論文是武器，但不是終點。」
「從今天起，全麵轉向大語言模型。」顧嶼直接定調，
「方向隻有一個。不搞任何花裡胡哨的修補，純靠海量數據硬喂，隻讓它做一件事：猜下一個詞。」
房間裡安靜了幾秒。
任少卿反應極快：
「不搞複雜的理解框架，直接暴力灌文本讓它自己學？」
「對。」
「規模準備做多大？」
「第一階段，一億五千萬。」顧嶼豎起一根手指，
」。億五十到拉接直段階二第，了熟成線管和架框等。通走能路條這明證先「
。氣口了吸倒烈德安
。限極理物戰挑在是乎幾字數個這，平水力算的在現照按，數參億五十
。鏡眼推了推，袋腦個半出探麵後幕屏塊三那他從城天樓
，快很速語城天樓」。鬆輕是倒萬千五億一「
」。上卡顯同不到分切硬算計陣矩的大巨把，地落化程工到拉接直段階文論從西東套那行並量張把得我。爆撐場當會對絕存顯卡單，級量個這億五十但。消得吃全完行並據數的有現，果結出能就周兩到一多頂型模的數參萬千五億一個一跑，耗損的信通式布分上算，開全力火果如，08K張百兩千一那麵外就「
。問嶼顧」？行並量張定搞能久多有你「
」。月個四我給「
」。月個三「
。駁反沒終最，動了動唇嘴城天樓
：緩稍氣語，臉的繃緊他著看嶼顧
」。上手你到送具玩的力暴更有證保我，完寫架框你等。了議協銷包家獨的卡算超構架lacsaP年明簽勛仁黃跟，穀矽去飛金現著帶人讓經已我。習演統係做境環限極用是當權你月個三這，傷硬理物是實確牆存顯的08K「
。題問個一另了出提著接緊他但，下一了亮睛眼的後片鏡城天樓，卡算超代一下到聽
，圖程流的單簡個了畫筆克馬支一起抄，前板白到走，來起站他」。分部的難最是不構架型模「
」。nekoT億千上要需能可，個那數參億五十。餵來料語量質高的nekoT億百幾要需少至，型模的數參萬千五億一「
。線道一了畫重重麵下字個兩」據數「在他
」。線管洗清的係體成上不算本根本腳易簡的在現但，多然雖據數部內的力引和說小柿紅西？麼什有在現們我「
，板白敲了敲頭眉著皺城天樓
」。糕糟常非會西東的來出學型模，練訓去拿接直……麵裡在混全容內質低、據數複重，數參億五十出餵要果如，用能強勉料語的BG百幾出洗線管的本版0.1套這們咱「
，筆一了補又城天樓」。點一有還「
」。白空是全完前目西東些這，據數對配文圖、據數像圖。夠不遠本文靠光，力能解理態模多備具型模讓想來未果如「
顧著看身過轉他
