所有標籤清大高宏宇 NLP 課第二週的投影片共 62 頁,主題是「預測下一個字」。前半用 bigram 計數表、add-one smoothing 和 perplexity 講統計語言模型,再用 PPMI 的 cherry/digital 例子講稀疏向量;中段回到 Word2Vec 的負採樣,並用「蘋果」一詞說明為什麼需要 contextualized embedding;後半從 FFN 的三個缺點引出 RNN,示範它怎麼做 NER、句子分類,以及 stacked 與雙向版本。
Perplexity 官方定價文件與遷移指南確認:2026-09-27 起 Sonar Chat Completions API 停止支援,全面轉為 Agent API。舊制 Sonar 系列是「模型 token 價+依搜尋深度分級的固定請求費(每千次 $5~$12)」,新制 Agent API 是「第三方模型 token 價(如 gpt-5.6-luna input $0.20/1M)+每次工具呼叫費(web_search $0.0025、fetch_url $0.0005)」。以官方給的代表性用量估算,Sonar → fast 對應成本降約 49%,Sonar Pro → low 降約 84%,Sonar Reasoning Pro → medium 降約 71%;但 sonar-pro/sonar-reasoning-pro 在多數第三方閘道上直接停止可路由,只有基礎 sonar 模型會自動搬到 Agent API,其他分級都得改用新的 preset 系統手動遷移。
2026 年的 deep research 商用市場已經分化:OpenAI 全面、Perplexity 速度快、Gemini 生態整合、Claude 推理深、Grok 實時性強。這篇比較各家產品的差異——不是誰最好,而是誰最適合你的場景。
模型發布時貼的 benchmark 數字有三個常見陷阱:只秀贏的(cherry-picking)、訓練資料混入考題(contamination)、大家都考 90 分以上就沒鑑別力(saturation)。最抗操弄的訊號是 Chatbot Arena 的 Elo 排名——真人盲測投票,模型廠商無法控制題目。
模型每次預測下一個 token 時,會給每個候選詞一個機率。Loss function 衡量這個機率分佈跟正確答案差多遠——差越多,loss 越高,模型就知道自己錯得越離譜。Cross-entropy 是最常用的算法,perplexity 是它的直覺版。
Perplexity 2026-05 開源的 Go 唯讀掃描器(v0.1.1、零非 stdlib 依賴)。盤點 npm/PyPI/Go/RubyGems/Composer/MCP/編輯器與瀏覽器擴充等來源成 NDJSON,比對自訂 exposure catalog,回答供應鏈事件當下「機隊哪台機器現在中了」。它刻意不執行任何套件管理員,也不是 EDR。
不同 AI 引擎讀網頁的方式差異很大。有的只看 body、有的靠預建索引。JSON-LD 和 schema 不是萬能的,正文品質和結構才是跨平台有效的基礎。