zophos

← Notes · 09-一串事件,兩種投影:畫面和模型同源.md

一串事件,兩種投影:畫面和模型同源

工具的輸出是一串有順序的事件;畫面和模型都只是它的投影

第 4 版 的 bash 要讀到結尾、只留最後 50 KB 給模型。這篇不談怎麼截斷(那是 08),只談一個 agent loop 裡會一再出現的結構問題:工具的輸出有不只一個讀者——即時顯示的畫面,和最後交給模型的那份——這兩者該怎麼擺,才不會各說各話。


錯誤的第一反應:為每個讀者各開一條路

任務是「別讓模型那份爆掉」,最直覺的寫法就只在模型那份截斷,畫面照收全部:畫面一條路、模型一條路,各自處理。

問題是這兩條路會分岔。畫面上先流過 39 MB 的原始輸出,結束時再接一段「模型拿到的版本」(最後 50 KB、組好的行)。於是螢幕上有兩份、而且不一樣,讀的人得自己分辨哪一份才是模型看到的——這正是最該避免的情況:螢幕上有,模型卻沒看到。

根本原因是「只照顧被點名的那個讀者」:需求寫的是模型,就只改模型那條路,讓另一條默默發散。


一個來源,兩種投影

把它倒過來:輸出只有一份標準資料——一串有順序的事件;畫面和模型都只是它的投影,誰也不是誰的來源。

// agent-core:工具輸出的標準資料就是這一串
pub struct OutputChunk { pub text: String }   // 一塊解碼後的輸出,可能切在行中間

pub enum AgentEvent {
    ToolOutput { id: String, chunk: OutputChunk },                 // 即時:給畫面
    ToolFinished { id: String, name: String, output: String, .. }, // 結束:給模型
    // ...
}

讀取端每讀到一塊、解碼一次,就成為一個事件,同一個事件同時餵給兩種投影:

let mut deliver = |text: String| {
    if !text.is_empty() {
        tail.push_text(&text);                 // 模型那份:進 50 KB 窗口(見下)
        emit(OutputChunk { text });            // 畫面那份:即時顯示原樣
    }
};

兩邊吃的是同一串事件,所以在構造上就一致——把畫面收到的事件重播給一個新的 ModelTail,得到的會跟模型拿到的一字不差。「螢幕上有、模型沒看到」在這個結構下不可能發生,因為螢幕上有的,就是模型那份的來源。

一串事件,兩種投影:讀取端把輸出解碼成一串 OutputChunk,畫面即時顯示原樣,ModelTail 把同一串事件收成最後 50 KB 交給模型


模型那份:ModelTail

模型那份就是輸出的最後 50 KB。ModelTail 是一個 byte 環:每塊進來先丟掉前端放不下的、再接上,峰值永遠被上限鎖住,不管命令吐出多少。結束時前面加一行截斷說明:

[truncated: showing last 51200 of 38888896 bytes]

4999998
4999999
exit code: 0

ModelTail 最早的版本遠比這複雜:stdout/stderr 兩條 pipe 交錯進一個共用窗口、stderr 的行帶 [stderr] 標籤、另留 4 KB 保底。後來發現那是在維護一個不存在的順序,整串拿掉、改成一條 pipe。為什麼、怎麼拿掉,見 兩條 pipe 沒有共同的時間線。


畫面那份:預覽也該是模型那份

畫面這條投影有個選擇:即時預覽要顯示原始輸出,還是模型那份?

選原始輸出,就落回「兩份不一樣」的老問題,而且還順帶三個麻煩:一次吵雜的 bash 把之前的對話擠出畫面上限;每接一塊都要把整份往前搬一次(39 MB 約 4,800 塊);多個 tool call 同時在跑時,輸出還會接錯區塊。

所以 TUI 的選擇是:執行期間不顯示內容,只在狀態列累加收到多少 byte;命令結束,才開一個新區塊放模型那份:

AgentEvent::ToolOutput { chunk, .. } => {
    state.tool_output_bytes += chunk.text.len() as u64;
    state.status = format!("tool running... {} received", human_bytes(state.tool_output_bytes));
}
AgentEvent::ToolFinished { .. } => {
    state.status.clear();
    state.push_block(Role::Tool, render_event_text(event));   // 內容就是模型拿到的那個字串
}

畫面上留下的,就只有模型拿到的那份——執行期間不累積文字(不擠掉對話),結束時不必分辨哪份是真的。開一個新區塊而不是接到最後一個,也順手解掉了「輸出接錯 tool call」:結果不再依賴「最後一個區塊是誰」。

(也考慮過讓預覽即時就跑模型那套投影——TUI 自己養一個 ModelTail。但那要把 ModelTail 從 bash 的內部細節升格成共用元件,為一段遲早會換掉的預覽,不值得。)


總結

  1. 輸出只有一份標準資料,畫面和模型都是它的投影。 為每個讀者各開一條處理路,那些路遲早分岔;讓它們共用同一串事件,一致是構造出來的,不是靠紀律維持的。

  2. 「只照顧被點名的那個讀者」是會發散的陷阱。 需求寫模型,就只動模型那條路——另一條沒人管,最後兩邊對不上。先問「這份輸出到底有幾個讀者」,再決定結構。

  3. 預覽的正確形狀,是模型那份,不是原始輸出。 螢幕上有的就是模型的來源——這條規則同時擋掉了「兩份不一樣」、擠掉對話、反覆搬移、接錯區塊四個問題。