Skip to content
所有標籤

#local-inference

4 篇文章

AI Agent GitHub Digest — 2026-09-07

DeepSeek Harness(dsh)用 everything-is-a-plugin 架構 3 週衝上 21.4 萬星;ponytail 用實測數據證明一個 skill 能讓 Claude Code 少寫 54% 程式碼;Magnitude 幫你的 coding agent 自動挑本地模型跑;wigolo 讓 agent 免 API key 搜尋、爬蟲、研究整個網路

aiguide

Unsloth 完整指南:在本地微調和運行 LLM 的加速工具

Unsloth 是目前最省 VRAM、最快的本地 LLM 微調工具,訓練速度快 2 倍、VRAM 省 70%。2026 年加入 Desktop 桌面應用後,整合了推論、微調、圖片影片生成、web search 和 agent 連接,從微調庫變成完整的本地 AI 工作站。

aiguide

2026 個人 AI 硬體選購指南:DGX Spark、Mac Studio、MSI AI Edge 全比較

比較 NVIDIA DGX Spark、Apple Mac Studio M4 Ultra、ASUS Ascent GX10、MSI AI Edge 等個人 AI 工作站,幫你找到適合的本地推論硬體。

aiguide

Ollama 完整指南:一行指令在本地跑 LLM

Ollama 把 llama.cpp 包裝成 Docker 風格的 CLI + REST API,一行指令就能在本地跑 LLM。這篇從核心概念、安裝、API、硬體需求到 Modelfile 自訂,完整介紹這個工具適合什麼、不適合什麼。