一次要多個工具:扇出,不等於併行
模型一次要幾個工具,和 agent 怎麼跑它們,是兩件獨立的事。前者是模型在協定層的選擇;後者是 runtime 的選擇。而併行執行,不是成熟 loop 的必要條件。
模型回一次,可以同時要求好幾個工具(一個回應裡夾著多個「我要呼叫 X」)。這叫扇出(fan-out)。很容易把它跟「併行執行工具」混成一件事——但它們是兩回事。這篇把它們分開,順便說為甚麼併行不是必需品。
模型可以一次要多個工具
要幾個工具、一次要還是分次要,是模型決定的,發生在協定層:它的一個回應裡可以有一個、也可以有多個「工具呼叫」區塊。
這不是假設,是看得到的:同一個 agent,換不同模型測——有的模型一次只要一個工具,要完看了結果再要下一個;有的模型一口氣要三個。所以「一次幾個」這件事,agent 這邊控制不了,只能接受模型給幾個就處理幾個。
扇出 ≠ 併行
扇出是「模型一次要幾個」;併行是「agent 拿到這幾個之後,同時跑還是一個接一個跑」。這是兩個不同層次的決定:
- 扇出:協定層,模型的選擇。
- 執行:runtime 層,agent 的選擇。
一個模型扇出三個工具,agent 可以循序跑(跑完一個再跑下一個),也可以併行跑。這裡是循序:一批工具一個接一個跑,每個跑的時候輸出即時串出來(見一串事件,兩種投影)。扇出三個,不代表就得同時跑三個。
併行不是必要的
一個常見的直覺是「成熟的 agent 一定要併行跑工具才夠快」。從第一性原理看,不成立:
- 跟正確性無關。 循序跑,結果跟併行一模一樣(同一批工具、同一批結果)。併行純粹是想省 wall-clock。
- 省的量 = 扇出數 × 工具有多慢 × 彼此多獨立。 三者要同時夠大才划算。而 coding agent 的時間,絕大多數花在模型思考上,不是工具的 wall-clock;工具(讀個檔、跑個命令)通常很快。省下那點,相對模型那幾秒,是零頭。
- 它不是普世的。 有的成熟 agent 併行(還為此做了「同檔案的改動排隊、不同檔案才併行」這種機制),有的就是循序。兩種都活得好——這本身就證明它是個看情況的最佳化,不是一道門檻。
所以併行是「哪天真的被工具 wall-clock 卡到了再說」的東西,不是蓋 agent loop 的必要零件。擋失控的,是「一回合燒一次 API」那道回合上限(見 agent loop),不是工具呼叫數。
但整批仍要完整
不管扇出幾個、循序還是併行,有一條不能破:這一批裡每一個工具呼叫,最後都要配一個結果——即使中途被取消,沒輪到的也補一個「cancelled」結果,整批湊成一次完整的交換再收尾(見取消、壓縮的邊界)。扇出讓一次交換裡有多對 (呼叫, 結果),但「每個呼叫都配著結果」這條線不變。
總結
-
扇出是模型的選擇,在協定層。 模型一個回應裡可以要多個工具,要幾個 agent 控制不了(有的模型一次一個、有的一次多個)。
-
扇出 ≠ 併行。 「一次要幾個」和「拿到後同時跑還是循序跑」是兩個層次。這裡循序跑,每個工具的輸出即時串出。
-
併行不是必要的。 跟正確性無關;省的量 = 扇出 × 工具慢 × 獨立,而 coding agent 的時間花在模型思考、不在工具 wall-clock;有的成熟 agent 併行、有的不,證明它是看情況的最佳化,不是門檻。
-
整批仍要完整。 不管幾個、怎麼跑,每個工具呼叫都要配一個結果(取消也補),湊成完整交換——同一條硬界線。