zophos

← Notes · 03-Provider 與 Rust 抽象:enum、generic 與 dyn.md

Provider 與 Rust 抽象:enum、generic 與 dyn

01 跟 02 已經把「依賴方向優先於派發方式」結論講完了。這篇延伸補充做完 Provider 後,對 enum/generic/dyn 的技術細節。


三分心法:enum / generic / dyn 在描述不同的事

一開始把這三者當成同一件事的三個效能選項(enum 快、generic 快、dyn 慢)。做完 Provider 才發現其實是在回答三個不同的問題:

enum      →「我知道有哪些可能性」
generic   →「我知道具體型別,而且我要保留它」
dyn Trait →「我不知道、也不需要知道具體型別」

這不只是 dispatch 機制的差異,也是在描述 architecture 願意保留多少型別資訊、願意讓哪一層知道具體型別是誰。選擇取決於「我對這個 domain 知道多少」,不是取決於「哪個比較快」。


enum + match 之美:窮盡性檢查

01 已經講過 enum 表達封閉集合的諸多優點,但有一個具體機制值得單獨補充:

match 的窮盡性檢查(exhaustiveness checking)

match provider {
    Provider::Anthropic(p) => p.stream(...).await,
    Provider::Gemini(p) => p.stream(...).await,
    Provider::OpenAI(p) => p.stream(...).await,
}

只要未來 enum Provider 多一個 variant,這裡沒改到就會編譯不過——compiler 會主動告訴你「這裡漏了一種可能性沒處理」。這不是「pattern matching 語法方便」而已,是把「新增一種可能性時,所有相關分支都要跟著更新」這件事,從「要靠自己記得」變成「編譯期強制」。這是 enum + match 相對於一般 if/else 或字串比對最實質的安全網。domain 越封閉、variant 越少變動,這個保障的價值越高。


dyn 不等於 Heap allocation

常見寫法 Box<dyn Provider> 讓人直覺把 dyn 跟「Heap + Box + 一次 allocation」綁在一起,但 trait object 本身(dyn Trait)只代表「型別被擦掉」,不代表「一定要配置在 Heap 上」:

fn run(provider: &dyn Provider) {
    // provider 只是借用一個已經存在於 stack 上的具體物件
}

這裡 &dyn Provider 是對 stack 上某個具體值的借用,完全沒有 Heap allocation。Box<dyn Trait> 只是「trait object + 這次選擇用 Box 當 ownership/storage 方式」的其中一種組合,不是必然綁在一起的兩件事。


三個獨立的層次,被當成一件事

延伸上一點,這次實作把幾樣東西混在一起看:

Stack / Heap          → memory layout 的問題
enum / generic / dyn  → type abstraction 的問題
static / dynamic dispatch → call mechanism 的問題

雖然會互相影響,但下決策時一般不足以成為主要原因

enum/generic 的值可以直接 inline 在 stack 上,因為 compiler 在編譯期就知道大小;

dyn Trait 是 unsized type,需要額外一層指標(Box/&/Rc…)才能使用,這層指標放在 stack 或 heap,又是另一個獨立的選擇。

把這三層拆開看,才不會一看到 dyn 就直接跳到「有 Heap allocation、比較慢」的結論。


Async 與 Dyn trait延伸補充:#[async_trait]

trait Provider {
    async fn stream(&self, ...) -> Result<...>;
}

Box<dyn Provider>

碰到的編譯問題:stack 需要在編譯期知道 Provider 大小,但 dyn Provider 只會編譯一份,而各家Provider future(struct)大小不一樣,後續在運行時才知道是哪個provider。

解法:Macro #[async_trait]

async_trait 會把 async method 的 future 做成 boxed future,使 trait object 能夠使用。

用 多一次 allocation 換 object-safe interface + 簡單的 Provider abstraction

理由:一次 Provider 呼叫本身就是長時間的 network streaming,這通常不是首先最佳化的地方。

如果真的成為瓶頸,再考慮:

  • 原生 async trait
  • 泛型
  • 手動 future
  • 其他 zero-allocation 設計