Skip to content
所有標籤

#streaming

3 篇文章
ai guide

OpenClaw Agent Loop:執行迴圈、Streaming 與 Queue

一次 agent 執行:收到訊息 → context 組裝 → 模型推理 → tool 執行 → 串流回覆 → 持久化。每個 session 串行、支援 5 種佇列模式。

ai guide

聊天機器人開發完整指南:狀態管理、記憶策略與技術棧選型

聊天機器人不只是接 API。對話狀態管理、記憶機制、Streaming、Guardrails、可觀測性、技術棧選型,每一層都影響使用者體驗。

ai guide

RAG Streaming:SSE 讓 LLM 回答邊生成邊顯示

LLM 生成需要 3-5 秒,等全部生成完再顯示體驗很差。SSE 讓 token 一邊生成一邊推送,首個字元出現時間從 5 秒縮到 1 秒以內。