Skip to content
所有標籤

#word2vec

3 篇文章
aiguide清大高宏宇 自然語言處理 導讀

用 Google Analogy 考詞向量——預訓練 GloVe 對上自己用 20% Wikipedia 訓練的 Word2Vec｜清大高宏宇 自然語言處理 作業 1

HW1 拿 Google Analogy 的 19,544 題（8,869 題語意、10,675 題語法）考詞向量：先用 Gensim 載入預訓練的 glove-wiki-gigaword-100 作答，再從助教清理好的 Wikipedia 抽 20% 文章自己訓練 Word2Vec，兩邊都畫 family 子類的 t-SNE。七個 TODO 共 55%，報告 45%；Fall 2026 的 TODO 和 2025 相同，只是改成繳交含執行結果的 .ipynb。

#nthu-nlp#nlp#ai-course#taiwan#homework#word2vec#embedding
aiguide清大高宏宇 自然語言處理 導讀

清大高宏宇 NLP 第一週：語言為什麼難，以及 LLM 以前怎麼把文字變成數字｜清大高宏宇 自然語言處理 第 1 週

清大高宏宇 NLP 課第一週的 W1_NLP_brief 共 91 頁：先用「Watch for kids」、望遠鏡句的五種讀法、大舅到十一舅的繞口令說明語言為什麼難，再從資訊檢索的角度，把倒排索引、tokenization、stemming、TF-IDF、BM25 講成一條管線。後半段處理這條管線的死穴（同義詞、一詞多義、詞彙對不上），走到 LSA 的 SVD 降維，最後用 Skip-gram、GloVe、FastText 預告稠密詞向量。

#nthu-nlp#nthu#ai-course#nlp#information-retrieval#tf-idf#bm25#word2vec
aideep-diveStanford CS224N Natural Language Processing with Deep Learning 導讀

word2vec 如何把語意變成向量｜Stanford CS224N 第 2 堂

第 2 講從 word2vec 的預測任務、目標函數與梯度一路走到 count-based vectors 和評估，核心是：詞義不是查表得到的標籤，而是從上下文分布學出的高維座標。

#cs224n#nlp#word2vec#embeddings#stanford