zophos

← Notes · 16-兩種事件詞彙:harness 是個翻譯機.md

兩種事件詞彙:harness 是個翻譯機

provider 只會說它從 SSE 解析得出的東西;前端要聽的是 agent 層的敘事。harness 夾在中間翻譯——兩套詞彙共用幾個字,但不是同一種語言。

模型的回應是串流進來的:一串事件(SSE),一個個文字片段、偶爾夾著「我要呼叫這個工具」。另一頭,終端機前端要顯示的是:「模型在打字」「工具開始跑了」「工具輸出:…」「壓縮了」。這兩串事件長得有點像,但其實是兩種語言。中間夾著 harness:它讀 provider 那一串、寫前端這一串。

這篇講為什麼要分成兩套事件型別,而不是一套。


兩端各說各的話

provider 能說的,被它「從模型 SSE 解析得出什麼」框死了:一個文字片段、模型要求一個工具、這次用了多少 token、這趟結束、出錯。就這幾種——它看不到工具之後怎麼跑,也不知道什麼叫「壓縮」。

前端要聽的,是 agent 這一層發生的事:工具開始執行、工具正在吐輸出、工具跑完了(結果是什麼)、回合結束、剛剛壓縮了。

harness 讀前者、翻成後者。兩套詞彙各自只裝自己那一端需要的。


為什麼不是同一個 enum

把兩套合成一個,兩邊都會被對方的變體污染。

前端要的大半,provider 根本產不出來:

  • 工具的「開始 / 輸出中 / 結束」,是 harness 自己執行工具時發出的——provider 的任務在它那趟回應結束就完了,它不知道後來有沒有跑工具、跑了什麼。
  • 「壓縮了」是 harness 的操作,provider 完全不參與。

把這些塞進 provider 的事件型別,等於給每個寫 provider 的人一堆「你永遠不該發」的變體。反過來,provider 的「這趟請求結束」、那個原始的「我要工具」請求、token 用量,前端都不渲染,不該出現在前端的詞彙裡。

兩套各自緊緻,才能讓寫 provider 的人只管「我能說的」,寫前端的人只管「我要聽的」。


看起來一樣的字,意思不同

就算有個變體兩邊都叫得出口,意思也不同。

provider 的「模型要一個工具」,是一個請求——帶著參數,還帶著一塊給下一次請求重建 history 用的不透明 replay 資料(某些模型的 thinking/簽章狀態,要原封送回)。前端的「一個工具開始執行了」,是 harness 收到那個請求、真的去跑時才衍生出來的——那塊 replay 資料前端用不到,就不帶。一個是「要了」,一個是「跑起來了」。

所以翻譯不是一對一。harness 收到一個「模型要工具」,會把它扇成一串前端事件:開始 → 一塊塊輸出 → 跑完(因為工具執行整段是 harness 做的,provider 不參與)。同理,provider 的「這趟請求結束」和前端的「整個回合結束」是兩個層級——一個回合可能來回 provider 好幾趟。


翻譯時會丟,也會加

翻譯機兩件事都做:

  • 丟掉前端不需要的。 那塊 replay 資料,前端用不到——但 harness 內部留著,組回 history 要用。token 用量,前端沒人聽——但 harness 內部直接拿去更新 context 預算(這個「發給前端卻沒人聽」的事件後來被砍了,見介面的減法)。
  • 加上 provider 說不出的。 工具執行的整段生命週期、壓縮事件——這些是 agent 層的事實,provider 的詞彙裡根本沒有,是 harness 憑自己做的事補上去的。

一串事件,兩種投影講的是「同一串事件,畫面和模型各投影一次」——同源、兩個消費者。這篇不一樣:是兩種不同的事件語言,在 harness 這個邊界上被翻譯。前者是一份資料的兩個視圖,後者是兩份詞彙的轉換。


總結

  1. 兩套事件詞彙,一個翻譯機。 provider 能說的(被它從 SSE 解析得出什麼框死)vs 前端要聽的(agent 層的敘事)。harness 讀前者、寫後者。

  2. 分兩套,是為了各自緊緻。 前端要的大半(工具執行、壓縮)provider 產不出來;provider 的(請求結束、原始工具請求、token 用量)前端不渲染。合成一套,兩邊都被對方的變體污染。

  3. 看起來一樣的字,意思不同。 「模型要工具」(請求,帶 replay 資料)不等於「工具開始執行」(harness 衍生,不帶)。翻譯不是一對一:一個工具請求扇成「開始 → 輸出 → 結束」。

  4. 翻譯會丟也會加。 丟掉前端不需要、但 harness 內部要的(replay 資料、token 用量);加上 provider 說不出、agent 層才有的(工具生命週期、壓縮)。