Skip to content
所有標籤

#prompt-cache

4 篇文章
techdeep-diveOMP 內部設計導讀

OMP append-only context：為什麼 sync 對話要算 byte-stable prefix？Anthropic/DeepSeek 的 KV cache 怎麼被它保護的

omp 用 StablePrefix 凍結 system prompt + tool specs，用 AppendOnlyLog 讓 messages 只增不改，配合 digest-based 的 longestStablePrefix 算法，在 prune/shake/steering 重寫歷史時，只重送 divergence point 之後的尾巴。這讓 Anthropic/DeepSeek 的 prompt cache 命中率最大化，解決了舊版每輪強制 ~40k token re-prefill 的問題（issue #3406）。

#omp#agent-loop#context-management#prompt-cache#kv-cache#typescript
aidebug

Claude Code skill 怎麼寫才不吃 context：入口、門檻、成本、來源

把 Anthropic 的 session 成本建議做成全域 skill，第一版就犯了它要防的錯：description 塞滿觸發關鍵字、用檔案數和分鐘數當硬門檻、把「保護主 context」和「省總 token」混成一件事。三輪修正後入口縮到一頁，細節拆進 references，數量門檻換成四個判斷維度，草稿裡的主張則逐條對官方文件查證。

#claude-code#context-engineering#agent-skills#prompt-cache#dx
aiguide

AI Agent 的 Cache 不只一層：從 Claude Code 的 18 種快取到 ReAct Agent 的多層設計

拆解 Claude Code 的 18+ 種快取機制後發現：provider-level prompt cache 你做不了，但 embedding cache、tool result cache、entity cache 你不但做得了，效果還更好。附完整的 AgentCache 介面設計與 per-tool TTL 策略。

#react-agent#cache#prompt-cache#semantic-cache#claude-code#cloudflare-kv#llm-cost-optimization
aideep-diveOpenClaw 文件導讀

OpenClaw Agent Runtime：系統 prompt 是組出來的，而它被一條快取邊界切成兩半

OpenClaw 每次執行都自己組系統 prompt，沒有執行期的預設 prompt。組出來的內容被一條內部快取邊界切開——穩定的 workspace 前綴在上面、每輪會變的頻道脈絡在下面——好讓有前綴快取的後端能跨頻道重用同一段前綴。

#openclaw#system-prompt#workspace#bootstrap#prompt-cache#sub-agents