zophos

← Notes · 07-截斷函式的 Rust 演進:零拷貝、Cow 與定位.md

截斷函式的 Rust 演進:零拷貝、Cow 與定位

型別宣告要不要複製,切片自帶位置,狀態的擁有者決定它何時消失——都比函式名稱可靠

截斷函式(只留輸出最後 50 KB 給模型,見 截斷是給模型的介面)的前幾版,是一條練 Rust 的路:Vec<&str> → Cow → 記位置。

第 1 版:搬指標,不搬文字

第一版用 Vec<&str>:把每一行收進一個向量、倒著取到 50 KB、再接回去。

關鍵是 &str 是一個 16 bytes 的胖指標(起始位址 + 長度),指回原本那塊文字。所以從 lines()、倒序、到接回去,每一步搬的都是這 16 bytes,原文一個 byte 都沒複製。Vec<String> 的寫法則是每行複製一份文字、每行一次配置。

唯一的文字複製在出口:回傳值要離開函式、不能再借用呼叫端的 text,那一次 join() 免不了。零拷貝的邊界就畫在這:函式內部盡量借用,跨出函式才擁有。安全是編譯期白給的——上千個 &str 指同一塊文字卻不會懸空,是生命週期 'a 保證的;在 \n 上切也保證不會把一個 UTF-8 字元切成兩半。

陷阱:.rev().take(n) 寫成 .take(n).rev() 照樣編譯,卻會悄悄回傳開頭而不是結尾。


第 2 版:用 Cow 把複製的決定延後

第二版把回傳型別從 String 換成 Cow<'a, str>:

fn truncate_head(text: &str) -> Cow<'_, str> {
    if /* 不需要截斷 */ { Cow::Borrowed(text) }   // 沒超過上限:原樣借出,零配置
    else { Cow::Owned(/* 最後 50 KB */) }          // 真的要截:這時才擁有
}

回傳型別就是一句宣告:回傳 String 等於「我一定擁有」,出口非複製不可;回傳 &str 等於「我一定借用」;Cow 精確表達「可能借、可能擁有」。於是不預付複製的成本,把決定延後到真正知道「只是讀、還是要帶走」的那一刻,每一次複製都明寫在程式裡(to_owned()、into_owned())。

這裡也踩到一個邊界:&String::from_utf8_lossy(..) 這種借用臨時值的寫法,臨時值在 ; 就被 drop,編譯器一律當懸空借用擋下來——不放行一個可能懸空的指標。


第 3 版:要的是位置,不是那些行

第二版省了文字,卻沒省指標。量出來才看到問題:

輸入 文字 N v2 函式額外峰值
20 萬短行 1.29 MB 6.0 MiB(全是 Vec<&str>)
50 行、沒截斷 2 KB 2.5 KB(兩個白建的 Vec)

短行時,描述一行的 &str 固定 16 bytes,比那行文字還大,Vec<&str> 的峰值到文字的 4.9 倍;而且 collect() 發生在截斷之前,中繼結構跟輸入一樣長。

第三版的轉念:截斷函式根本不需要知道文字內容,只需要一個切點。保留的部分在原文裡是連續的一段,記住 end,&body[..end] 一刀就是答案——不收集、不 join、不倒序。函式自己的中繼狀態從 16n~48n bytes 壓到 O(1);沒截斷時回傳 Borrowed(text),一個 byte 都不配置。

伏筆:函式自己的記憶體降到 O(1) 了,但輸入 text 還是完整一份——read 用 read_to_string、bash 用 .output(),都先把全部讀進記憶體。10 GB 的輸出在那一步就先炸了,這是 第 4 版 改成串流的理由。


第 3 版延伸:切片自帶位置

第三版為了算切點,放棄了 lines()、改用 split('\n')——因為 len() + 1 推不出這一行在原文裡真正佔幾個 bytes(CRLF、幽靈空行都會錯)。

但其實不必推算:lines() 吐出的 &str 指在原文中間,拿它的位址減去原文開頭,就是精確的 byte 位置。於是 lines() 可以回來,行數語意、CRLF 切點都交還給它;by_ref() 還能把同一個迭代器分兩段用——先走到截斷點,再接著數剩下的行數,不必從頭重掃。

這就是這條路的縮影:位置不用算,問切片就好。


串流時:看 API 保證什麼,不是看它叫什麼

第四版改成一塊一塊讀 bytes,不用 tokio 的 lines()。四個回頭查 source 才搞清楚的細節,共通點都是「我以為這個函式保證了 X,其實保證 X 的是另一層」:

以為 其實 第 4 版
lines() 能讀任何輸出 它回傳 String,在型別邊界驗 UTF-8,讀到二進位就報錯 讀 bytes,decode_chunk lossy 解碼
next_line() 有長度上限 上限只在資料結構,不在 I/O 層;單行 1 GB 會整行進記憶體 ReaderStream 每塊最多 8 KB
lines() 原樣給行 它剝 \r\n,切行語意跟著函式庫變 不碰行尾,原樣交出
select! 的分支各自獨立 狀態被取消的 future 擁有,取消時一起 drop;timeout 拿不到部分輸出 給模型的 50 KB 窗口(ModelTail)搬到 select! 外面

看回傳型別、看狀態被誰擁有,比看函式名稱可靠。 這跟前幾版是同一件事——Cow 的回傳型別、&str 的生命週期、切片的位址,資訊都在型別裡,不在名字裡。


總結

  1. 借用在內、擁有在外。 &str 搬的是 16 bytes 的指標,文字只在跨出函式時複製一次;Cow 把「要不要複製」延後到真正知道的那一刻。

  2. 指標也是成本,而要的往往只是位置。 短行時 Vec<&str> 比文字還大,且 collect() 在截斷前就發生;記一個切點、切片一刀,中繼狀態就是 O(1)。

  3. 資訊在型別裡,不在名字裡。 切片自帶位址、回傳型別宣告擁有權、狀態的擁有者決定它何時被 drop——這些比「函式叫什麼」可靠,是這條路每一版反覆教的同一課。