Dumb Game Lab

部落格 · 開發幕後

一人開發的 token 帳本

一天的 token 浪費了 25%,其中 14.4% 是快取重新預熱

Justin Lee, Dumb Game Lab ·

2026-10-28 日記原文第一行,寫著 token 90.6M、浪費 22.7M、25%

10 月 28 日這一天被計費的 token 是 90.6M,其中 22.7M(25%)落在浪費欄。最大的一欄是快取重新預熱 13.0M(占全部的 14.4%),超過浪費的一半。原因是我用手機開的兩個對話 session 整天都開著,每多說一句話,前面的對話就得從頭重新寫進快取。

先看一天的帳本

我整天同時跑好幾個 AI agent 來做遊戲。當天用掉的 token,會在晚上寫日記時把 session 紀錄收集起來分欄計算,10 月 28 日的帳本是這樣的。

計費合計 90.6M。這是輸入 33K、輸出 9.6M 再加上快取寫入 80.9M 的總和,其中光是快取寫入就幾乎填滿了整個合計,所以第一次打開這本帳時,我還以為是自己算錯了。快取寫入占了 89.4%。快取讀取 2.61B 的單價很低,不算進這個合計,另外記一筆。

浪費欄token占當天計費
快取重新預熱13.0M14.4%
未合併6.7M7.4%
長時間空轉2.7M3.0%
Stop hook 重複呼叫0.28M0.3%
合計22.7M25%
日記裡「今天的 token」原文,逐行寫著計費合計、各模型用量、浪費欄、漏最多的地方和漏掉的原因
日記原文「今天的 token」。黃色那幾行是浪費欄和漏掉的原因。

什麼是快取重新預熱

對話式 AI 每次收到新訊息,都會把前面的整段對話重讀一遍。Prompt caching 會把處理過一次的開頭部分暫存起來,下一次請求就能用便宜的價格直接取用。

問題在保存時間。根據 Anthropic 官方文件,快取的預設壽命是 5 分鐘,每用一次就重新延長,另外也可以選 1 小時的版本。過了這段時間再說話,就得把前面的整段對話重新寫進快取。

價差很大。快取寫入是基本輸入單價的 1.25 倍(5 分鐘)或 2 倍(1 小時),讀取只要 0.1 倍。同樣一段前文,重新寫入要付讀取時的 12.5 到 20 倍。

處理方式相對基本輸入單價
基本輸入1 倍
快取寫入(5 分鐘壽命)1.25 倍
快取寫入(1 小時壽命)2 倍
快取讀取0.1 倍
token 帳本程式碼的開頭註解,寫著 cacheRewarm 這一欄是休息後回來、把上下文整段重新寫進快取的 token
這是帳本劃分浪費欄的規則。主 session 休息超過 60 分鐘再回來後重新寫入的快取,就算在這一欄。

元兇是整天開著的兩個手機 session

我的帳本把休息超過一小時才回來的主 session 整段重新寫進快取的上下文量,算成「快取重新預熱」。那天把這一欄撐大的,是我用手機開著的兩個 session。

一個開了 1,379 分鐘,另一個開了 1,161 分鐘,而一天只有 1,440 分鐘,等於兩個視窗都是早上打開後一路到深夜都沒有好好關過。幾乎整天。我想到什麼就從手機丟一句過去,每丟一次,冷掉的對話就從頭重新預熱一次。

漏最多的是以「怎麼停了?」開頭的瓶頸 session。它在 160 分鐘內花了 4.8M 在快取重新預熱上。這個 session 當天用掉的 7.5M 裡,將近三分之二是重新預熱。

連續 4 天第一,嘴上說說沒有減少

快取重新預熱從 10 月 25 日起連續 4 天都是浪費第一名。我每天都寫進日記,也開了要修的 ticket。數字還是沒降下來。

「session 要開短一點」這種決心,手機一拿起來就忘了。移動中想到什麼要馬上交代,比起開新視窗從頭說明狀況,在原本的對話裡多補一句輕鬆多了。靠人的習慣撐著的規則,會一直在同一個地方漏。

日記「今天的浪費」原文,寫著快取重新預熱 13.0M,從 10-25 起第 4 天是同一欄
「從 10-25 起第 4 天,同一欄。」日記裡同一句話已經連續出現 4 天。

第二欄:未合併 6.7M

浪費第二名是未合併 6.7M(7.4%)。用了很多 token、成果卻一次都沒進到主程式碼的 session,就算在這一欄。

這一欄抓到的是首爾現況 session(103 分鐘)和 Chichi 亂鬥 session(47 分鐘)。首爾那邊把工作交給子 agent,回了一句「進行中」就結束了。未合併和快取重新預熱加起來,首爾現況 session 一共用了 2.4M。

所以換了做法

那天日記的第一條教訓是:session 的長度不會因為嘴上說說就變短。所以我決定不再下決心,改成裝一個機制。session 超過預先定好的時間,就把目前為止的內容整理成摘要存下來,再交給新的 session 接手。

新 session 只帶著一份短摘要開始,需要重新預熱的前文就很小。處境相同的話,可以先照下面的順序量一量。

  • 把一天的 token 分成輸入、輸出、快取寫入、快取讀取記下來。
  • 快取寫入比例偏高時,先懷疑休息後才回來的對話。
  • 數一數開最久的 session 開了幾分鐘。
  • 超過一定時間的 session,留下摘要後重新開一個。
  • 同一欄連續好幾天都是第一,就別再下決心,直接裝機制。
日記「教訓」原文,粗體寫著 session 的長度不會因為嘴上說說就變短
日記「教訓」的第一行。

FAQ

Prompt caching 是什麼?

把前面處理過一次的 prompt 開頭部分暫存起來,下一次請求時再拿來用的功能。依 Anthropic 文件,預設壽命是 5 分鐘,每用一次就延長,也可以選 1 小時的版本。

Prompt caching 的費用差多少?

依官方文件的倍率,快取寫入是基本輸入單價的 1.25 倍(5 分鐘)或 2 倍(1 小時),快取讀取是 0.1 倍。同樣的內容重新寫入,要付讀取時的 12.5 到 20 倍。

Claude Code 對話開太久,為什麼 token 消耗會變多?

因為快取壽命過了之後再說話,前面的整段對話都要重新寫進快取。以我來說,兩個整天開著的手機 session,讓當天計費 90.6M 裡有 13.0M 這樣花掉。

Claude Code 的 token 用量要怎麼查詢?

我把電腦上留下的 Claude Code session 紀錄檔按天收集,分成輸入、輸出、快取寫入、快取讀取,再把休息後回來的快取寫入、沒有成果就結束的 session 這類浪費欄另外算。數字要按欄攤開,才知道是哪裡在漏。以前只看合計時,只知道用很多,卻不知道為什麼。

更多文章

新遊戲與小消息,大約每月一封。

其他語言English한국어日本語繁體中文