一串事件,兩種投影:畫面和模型同源
工具的輸出是一串有順序的事件;畫面和模型都只是它的投影
第 4 版 的 bash 要讀到結尾、只留最後 50 KB 給模型。這篇不談怎麼截斷(那是 08),只談一個 agent loop 裡會一再出現的結構問題:工具的輸出有不只一個讀者——即時顯示的畫面,和最後交給模型的那份——這兩者該怎麼擺,才不會各說各話。
錯誤的第一反應:為每個讀者各開一條路
任務是「別讓模型那份爆掉」,最直覺的寫法就只在模型那份截斷,畫面照收全部:畫面一條路、模型一條路,各自處理。
問題是這兩條路會分岔。畫面上先流過 39 MB 的原始輸出,結束時再接一段「模型拿到的版本」(最後 50 KB、組好的行)。於是螢幕上有兩份、而且不一樣,讀的人得自己分辨哪一份才是模型看到的——這正是最該避免的情況:螢幕上有,模型卻沒看到。
根本原因是「只照顧被點名的那個讀者」:需求寫的是模型,就只改模型那條路,讓另一條默默發散。
一個來源,兩種投影
把它倒過來:輸出只有一份標準資料——一串有順序的事件;畫面和模型都只是它的投影,誰也不是誰的來源。
// agent-core:工具輸出的標準資料就是這一串
pub struct OutputChunk { pub text: String } // 一塊解碼後的輸出,可能切在行中間
pub enum AgentEvent {
ToolOutput { id: String, chunk: OutputChunk }, // 即時:給畫面
ToolFinished { id: String, name: String, output: String, .. }, // 結束:給模型
// ...
}
讀取端每讀到一塊、解碼一次,就成為一個事件,同一個事件同時餵給兩種投影:
let mut deliver = |text: String| {
if !text.is_empty() {
tail.push_text(&text); // 模型那份:進 50 KB 窗口(見下)
emit(OutputChunk { text }); // 畫面那份:即時顯示原樣
}
};
兩邊吃的是同一串事件,所以在構造上就一致——把畫面收到的事件重播給一個新的 ModelTail,得到的會跟模型拿到的一字不差。「螢幕上有、模型沒看到」在這個結構下不可能發生,因為螢幕上有的,就是模型那份的來源。
模型那份:ModelTail
模型那份就是輸出的最後 50 KB。ModelTail 是一個 byte 環:每塊進來先丟掉前端放不下的、再接上,峰值永遠被上限鎖住,不管命令吐出多少。結束時前面加一行截斷說明:
[truncated: showing last 51200 of 38888896 bytes]
4999998
4999999
exit code: 0
ModelTail最早的版本遠比這複雜:stdout/stderr 兩條 pipe 交錯進一個共用窗口、stderr 的行帶[stderr]標籤、另留 4 KB 保底。後來發現那是在維護一個不存在的順序,整串拿掉、改成一條 pipe。為什麼、怎麼拿掉,見 兩條 pipe 沒有共同的時間線。
畫面那份:預覽也該是模型那份
畫面這條投影有個選擇:即時預覽要顯示原始輸出,還是模型那份?
選原始輸出,就落回「兩份不一樣」的老問題,而且還順帶三個麻煩:一次吵雜的 bash 把之前的對話擠出畫面上限;每接一塊都要把整份往前搬一次(39 MB 約 4,800 塊);多個 tool call 同時在跑時,輸出還會接錯區塊。
所以 TUI 的選擇是:執行期間不顯示內容,只在狀態列累加收到多少 byte;命令結束,才開一個新區塊放模型那份:
AgentEvent::ToolOutput { chunk, .. } => {
state.tool_output_bytes += chunk.text.len() as u64;
state.status = format!("tool running... {} received", human_bytes(state.tool_output_bytes));
}
AgentEvent::ToolFinished { .. } => {
state.status.clear();
state.push_block(Role::Tool, render_event_text(event)); // 內容就是模型拿到的那個字串
}
畫面上留下的,就只有模型拿到的那份——執行期間不累積文字(不擠掉對話),結束時不必分辨哪份是真的。開一個新區塊而不是接到最後一個,也順手解掉了「輸出接錯 tool call」:結果不再依賴「最後一個區塊是誰」。
(也考慮過讓預覽即時就跑模型那套投影——TUI 自己養一個 ModelTail。但那要把 ModelTail 從 bash 的內部細節升格成共用元件,為一段遲早會換掉的預覽,不值得。)
總結
-
輸出只有一份標準資料,畫面和模型都是它的投影。 為每個讀者各開一條處理路,那些路遲早分岔;讓它們共用同一串事件,一致是構造出來的,不是靠紀律維持的。
-
「只照顧被點名的那個讀者」是會發散的陷阱。 需求寫模型,就只動模型那條路——另一條沒人管,最後兩邊對不上。先問「這份輸出到底有幾個讀者」,再決定結構。
-
預覽的正確形狀,是模型那份,不是原始輸出。 螢幕上有的就是模型的來源——這條規則同時擋掉了「兩份不一樣」、擠掉對話、反覆搬移、接錯區塊四個問題。