pplx-embed-v2-late:免 OCR 搜 PDF 頁面的開源 late-interaction 模型
Perplexity 10 月 7 日以 MIT 授權開源 0.6B 與 9B 兩個 ColBERT 式多模態嵌入模型,每個 token 一個 128 維向量、用 MaxSim 評分,可直接檢索 PDF 頁面圖片。9B 在 MADQA 拿到 92.4%(自家測試,搭配 Gemini 3.5 Flash agent),代價是索引大小隨文件長度線性成長。
Perplexity 10 月 7 日以 MIT 授權開源 0.6B 與 9B 兩個 ColBERT 式多模態嵌入模型,每個 token 一個 128 維向量、用 MaxSim 評分,可直接檢索 PDF 頁面圖片。9B 在 MADQA 拿到 92.4%(自家測試,搭配 Gemini 3.5 Flash agent),代價是索引大小隨文件長度線性成長。
pplx-embed 是 Perplexity 2026 年 2 月起陸續釋出的嵌入模型家族,分三條線:v1 單向量(0.6B/4B,API 每百萬 token $0.004/$0.03)、context 上下文嵌入(v1 4B 與 9B 預覽版)、v2-late 多向量(0.6B/9B,可直接搜 PDF 頁面圖片)。三條線解決不同問題,不是新舊取代。
Vectorize 是 Cloudflare 的向量資料庫。AI Search 適合先把 RAG pipeline 交給平台;Vectorize 適合你要自己控制 chunking、embedding、metadata filter、hybrid retrieval、重新索引與降級策略。
第 5 週教詞嵌入:一個詞的意思可以用它周圍常出現的詞來表示。先用共現次數做向量、用 cosine 比相似度,再用 word2vec 把向量訓練成幾百維的稠密表示,最後區分靜態向量與隨上下文改變的向量。同週的計算社會科學現場課沒有公開材料。
第 2 講從 word2vec 的預測任務、目標函數與梯度一路走到 count-based vectors 和評估,核心是:詞義不是查表得到的標籤,而是從上下文分布學出的高維座標。