Provider 與 Rust 抽象:enum、generic 與 dyn
01 跟 02 已經把「依賴方向優先於派發方式」結論講完了。這篇延伸補充做完 Provider 後,對 enum/generic/dyn 的技術細節。
三分心法:enum / generic / dyn 在描述不同的事
一開始把這三者當成同一件事的三個效能選項(enum 快、generic 快、dyn 慢)。做完 Provider 才發現其實是在回答三個不同的問題:
enum →「我知道有哪些可能性」
generic →「我知道具體型別,而且我要保留它」
dyn Trait →「我不知道、也不需要知道具體型別」
這不只是 dispatch 機制的差異,也是在描述 architecture 願意保留多少型別資訊、願意讓哪一層知道具體型別是誰。選擇取決於「我對這個 domain 知道多少」,不是取決於「哪個比較快」。
enum + match 之美:窮盡性檢查
01 已經講過 enum 表達封閉集合的諸多優點,但有一個具體機制值得單獨補充:
match 的窮盡性檢查(exhaustiveness checking)
match provider {
Provider::Anthropic(p) => p.stream(...).await,
Provider::Gemini(p) => p.stream(...).await,
Provider::OpenAI(p) => p.stream(...).await,
}
只要未來 enum Provider 多一個 variant,這裡沒改到就會編譯不過——compiler 會主動告訴你「這裡漏了一種可能性沒處理」。這不是「pattern matching 語法方便」而已,是把「新增一種可能性時,所有相關分支都要跟著更新」這件事,從「要靠自己記得」變成「編譯期強制」。這是 enum + match 相對於一般 if/else 或字串比對最實質的安全網。domain 越封閉、variant 越少變動,這個保障的價值越高。
dyn 不等於 Heap allocation
常見寫法 Box<dyn Provider> 讓人直覺把 dyn 跟「Heap + Box + 一次 allocation」綁在一起,但 trait object 本身(dyn Trait)只代表「型別被擦掉」,不代表「一定要配置在 Heap 上」:
fn run(provider: &dyn Provider) {
// provider 只是借用一個已經存在於 stack 上的具體物件
}
這裡 &dyn Provider 是對 stack 上某個具體值的借用,完全沒有 Heap allocation。Box<dyn Trait> 只是「trait object + 這次選擇用 Box 當 ownership/storage 方式」的其中一種組合,不是必然綁在一起的兩件事。
三個獨立的層次,被當成一件事
延伸上一點,這次實作把幾樣東西混在一起看:
Stack / Heap → memory layout 的問題
enum / generic / dyn → type abstraction 的問題
static / dynamic dispatch → call mechanism 的問題
雖然會互相影響,但下決策時一般不足以成為主要原因
enum/generic 的值可以直接 inline 在 stack 上,因為 compiler 在編譯期就知道大小;
dyn Trait 是 unsized type,需要額外一層指標(Box/&/Rc…)才能使用,這層指標放在 stack 或 heap,又是另一個獨立的選擇。
把這三層拆開看,才不會一看到 dyn 就直接跳到「有 Heap allocation、比較慢」的結論。
Async 與 Dyn trait延伸補充:#[async_trait]
trait Provider {
async fn stream(&self, ...) -> Result<...>;
}
Box<dyn Provider>
碰到的編譯問題:stack 需要在編譯期知道 Provider 大小,但 dyn Provider 只會編譯一份,而各家Provider future(struct)大小不一樣,後續在運行時才知道是哪個provider。
解法:Macro #[async_trait]
async_trait 會把 async method 的 future 做成 boxed future,使 trait object 能夠使用。
用 多一次 allocation 換 object-safe interface + 簡單的 Provider abstraction
理由:一次 Provider 呼叫本身就是長時間的 network streaming,這通常不是首先最佳化的地方。
如果真的成為瓶頸,再考慮:
- 原生 async trait
- 泛型
- 手動 future
- 其他 zero-allocation 設計