目錄
上一篇講了 agent 的完整縱軸。這一篇是整個系列唯一不談技術的一講。
本篇對應 Lecture 9: Career Advice in AI（2025/11/18，1 小時 45 分）。這是全系列第二高流量的一講（43.7 萬觀看），也是唯一一講有外部客座、而且客座講了八成時間。
- 前 20 分鐘：Andrew Ng
- 其餘：Laurence Moroney——前微軟、前 Google AI 首席倡議者（TensorFlow 推廣主力），現在在 ARM 帶團隊，寫過 20 幾本書
時間錨點：上課當天早上 Gemini 3 發表，Ng 現場說「今天早上才出，我還沒空玩」。
第一部分：Andrew Ng
AI 的進展有沒有變慢
背景是社群在問「GPT-5 是不是沒那麼好、AI 是不是變慢了」。Ng 認為這個疑問部分來自 benchmark 的天花板效應——滿分是 100%，你不可能超過 100%。
他說最影響他想法的研究，是 METR 換了一個指標：AI 能完成的任務，換算成人類要花多久做完。
「幾年前 GPT-2 大概能做人類花幾秒就能做完的事，然後是 4 秒、8 秒、一分鐘、兩分鐘……這個研究估計 AI 能做的任務長度每七個月翻倍。」而 AI 寫程式的倍增時間「更短，大概 70 天」。
（這兩個數字是 Ng 課堂上的口述。 需要留意的是，METR 那篇論文的正式標題是 Measuring AI Ability to Complete Long Software Tasks——它衡量的是軟體任務，不是泛用任務。引用時值得注意這個範圍差異。）
為什麼現在是黃金時代
更強：你現在能寫出一年前地球上沒有人寫得出來的軟體，因為有這些積木：LLM、RAG、agentic workflow、語音 AI、deep learning。
更快：AI 寫程式。而且他強調要待在工具的最前線：
「幾個月前開始，我個人最愛的工具變成 Claude Code。GPT-5 發表之後，OpenAI Codex 進步非常大。而今天早上 Gemini 3 發表了……如果你每三個月問我最愛哪個寫程式工具，答案肯定每六個月會變，很可能每三個月就變。」
「落後半個世代，坦白說會讓你的生產力低不少。我知道大家都說 AI 進展很快，但很多領域其實沒有炒作說的那麼快——而 AI 寫程式工具是我看到進展真的非常快的那個領域。」
產品管理瓶頸
這是 Ng 這 20 分鐘的核心論點：
「當『從一份寫清楚的 spec 到程式碼』變得越來越容易，瓶頸就越來越是「決定要做什麼」。」
工程師 : PM 的比例正在下降：
「大家常談 eng-to-PM 比例……你會聽到公司講 4:1、7:1、8:1。但因為工程加速了，而產品管理沒有被 AI 加速那麼多，我看到這個比例往下走，甚至到 2:1 或 1:1。我合作的一些團隊提出的配置是一個 PM 配一個工程師——這在幾乎所有矽谷公司都是聞所未聞的比例。」
他自己的悔恨（這段很誠實）：
「我在職涯很早期的一個角色裡，去說服一群工程師多做點產品工作。結果我讓一群很好的工程師因為自己不是好的產品經理而感覺很差。那是我犯的錯，我為此後悔了好幾年。
而我現在有一部分覺得，我正要重蹈完全一樣的覆轍。」
但他還是說了：能寫程式又能和使用者談的工程師，是他在矽谷看到跑最快的人——「因為你不用等別人把產品拿去給客戶。」
你身邊的人
「我認為對你學習速度與成功程度最強的預測因子之一，就是你讓自己身邊圍繞著什麼人。」
社會學研究：如果你最親近的五個朋友都抽菸，你抽菸的機率很高。「我不知道有沒有研究顯示，如果你最親近的朋友都是努力、學得快的人，你也更可能變成那樣——但我幾乎確定這是真的。」
Stanford 的「連結組織」：
「很多在前沿 AI 實驗室工作的人，都是 Stanford 各個教授以前的學生。這種連結意味著——我們常常會知道一些外界不知道的事。
有很多次我本來想往某個技術方向走，跟一兩個離研究很近的人通個電話，他們會分享我原本不知道的東西，而那會改變我對一個專案的技術架構選擇。」
那個被分派去做 Java 金流後端的學生
這是這一講最好的故事：
一個他認識的 Stanford 學生，在校表現很好。拿到一家品牌很紅的 AI 公司的 offer。
這家公司拒絕告訴他會加入哪個團隊。「先來簽約嘛，有輪調制度、配對系統，先簽名，我們再幫你找個好專案。」部分原因是——那是家好公司，他爸媽以他進了那家公司為榮。
簽完名之後，他被分派去做公司的 Java 後端金流處理系統。
「我對想做 Java 後端金流的人完全沒有意見。但這是一個沒有被配對到 AI 專案的 AI 學生。」
他沮喪了大約一年，然後離職了。
而且這個故事有續集：
「不幸的是，我在 CS230 講過這個故事之後，幾年後又有另一個 CS230 的學生在同一家公司經歷了同樣的事——不是 Java 金流後端，是另一個專案。」
他的結論：
「如果一家公司拒絕告訴你會被分到哪個團隊，坦白說，那在我心裡會升起一個問號。
與其去那家品牌最紅的公司，有時候你找到一個真的很好的團隊、只是公司 logo 沒那麼紅，我認為那代表你學得更快。因為說到底，我們不是從走進門時那個 logo 的興奮感學東西的。我們是從每天打交道的人身上學東西的。」
去做東西，以及努力工作
- 「世界上點子的數量遠多於有能力把它做出來的人。」
- 「世界上有很多專案，如果你不做，大概也沒有別人會做。」
- 「失敗的成本比以前低太多了——你浪費一個週末，但學到東西。」
然後是他自己標記為政治不正確的一段：
「在某些圈子裡，鼓勵別人努力工作已經被視為政治不正確。我還是要鼓勵你們努力工作。」
他先把例外講完：「有些人正處在無法努力工作的人生階段——我自己在孩子剛出生後那段時間就沒有。也有人因為受傷、身心障礙，各種完全正當的理由。我們應該尊重他們、支持他們、確保他們被好好照顧。」
然後：「話雖如此，我那些後來非常成功的博士生，我看到他們每一個都拚得非常兇……在看一齣沒營養的電視劇 vs 週末打開你的 agentic coder 試點東西之間，我幾乎每次都會選後者——除非我是在陪小孩看。」
第二部分：Laurence Moroney
開場：投了 300 份履歷都失敗的 10x 工程師
一個他輔導的年輕人：教育背景好、經驗好、超級菁英等級的 coder，每一道挑戰都解得出來。
四月被裁員（做醫療軟體，聯邦經費被砍）。而且——被裁員前不久女朋友跟他分手，再過幾週他的狗死了。
幾個月後 Moroney 坐下來看他的試算表：追蹤了 300 多個職缺。 其中不少進到面試流程而且走得很深——Meta、Microsoft 那種要跑很多輪的大公司。
每一次到流程尾聲，他都知道自己表現很好：程式題全解、跟人聊得很好（他自己覺得）。然後每一次一天之內招募人員就打來說：沒有錄取。
Moroney 花了很久才找出問題——直到他故意給了一場很硬的面試：
「我挑他程式碼的洞、挑很偏門的邊界情況、給他製造危機，然後看他怎麼反應。
而他的反應，正是那些求職手冊給他的建議：『你會有機會表達意見，你要站穩立場、要有骨氣、不要退讓。』
他的詮釋是——變得非常非常強硬。
從面試官的角度看，這個人就是那個老掉牙的 10x 工程師，但我不想讓他靠近我的團隊一步，因為這個態度。」
結局：調整之後，下一家（極度重視團隊合作的公司）錄取了他，薪水是被裁員前的兩倍。回頭看，他失業了六個月。
「**你在看公司、看你會和誰共事很重要，但也要意識到他們也在用同樣的方式看你。**如果你去上了技術面試輔導，他們叫你站穩立場、要有骨氣——那很好，但別在這麼做的時候變成一個混蛋。」
市場為什麼變成現在這樣
| 時期 | 發生什麼 |
|---|---|
| 1992 | 他第一次做 AI，接著就是 AI 寒冬 |
| 2015 | Google 推 TensorFlow，他被拉回來 |
| 2021–22 | 疫情造成產業大減速。公司被迫轉向直接產生營收的東西。TensorFlow 是開源、不直接產生營收 → 縮編 |
| 2022–23 | 走出疫情，積壓了大量該招沒招的人；同時 AI 爆發 → 每家公司都在瘋狂招人 |
| — | 結果是大規模超額招募：不夠格的人拿到資深職位。「有 AI 兩個字在履歷上就被搶走、砸錢、先進來再說要做什麼」 |
| 2024–25 | 「大清醒」：公司發現超招了一堆不夠格的人，開始大調整 |
「在這個大調整的背景下，公司對招 AI 技能謹慎得多。如果你帶著這個理解進場，機會仍然存在，而且如果你有策略地接近它，機會非常巨大。」
（現場調查：問三年級學生誰在找工作，很多人舉手；問誰成功了，只有一個。）
三根成功支柱
- 深入的理解——兩層意思：學術上（懂模型架構、能讀論文、能把論文裡的東西拿來用）與趨勢上（知道哪些趨勢的訊噪比偏向訊號）
- 商業聚焦
- 交付偏好——「點子很便宜，執行就是一切。我面試過很多帶著非常鬆散的點子、完全無法落地的人；也面試過帶著半成品但落地得非常好的點子的人。你猜誰拿到工作？」
他自己的故事：「我在 Microsoft 很成功、寫了 20 幾本書、教過大學課程，我面試 Google 兩次、失敗兩次，因為我面的是產品經理。等我改面工程師，他們錄取了我，然後說『你怎麼不早幾年來？』」
（這段剛好呼應 Ng 前面的悔恨——不是每個好工程師都該去當 PM。）
「不要為你現在的工作產出，要為你想要的工作產出」
第三次面試 Google（雲端團隊剛起步）時他換了做法：他剛寫完一本 Java 的書，於是寫了一個跑在 Google Cloud 上、用技術分析預測股價的 Java 應用，把程式碼放進履歷。
「結果他們沒有問我『一台巴士能裝幾顆高爾夫球』這種蠢問題，他們看到那份程式碼，我整個面試流程就是他們問我我的程式碼。這把主導權放回我身上——它讓我談我知道的東西，而不是盲目地走進去等別人隨機丟問題。」
努力工作 = 產出，不是時數
「996——早上九點到晚上九點、一週六天——那不是努力工作的指標，那是花掉時間的指標。努力工作應該用你怎麼衡量它來定義。我個人用產出來衡量。」
他的棒球寫作法：「一場棒球比賽要三個半到四個小時……我不是坐在電視前發呆看球，我是一邊放著球賽一邊寫書——那是個節奏很慢的運動。我大部分的寫作都是在棒球球季完成的。」（那本書他大約兩個月寫完。）
四個現實
1. 商業聚焦不可協商
他自己標記為政治不正確的一段：過去十年很多矽谷大公司聚焦在「把完整的自己帶到工作場所」，於是產生大量內部行動主義。
「請讓我畫重點：行動主義本身沒有錯。想支持正義的訴求完全沒有錯。」 但他認為過度加權導致一些公司被「必須把行動主義擺在業務之上」困住，而結果是那些行動主義裡好的訊號反而被淹沒了——「鐘擺盪得太過去了，現在正往另一邊盪回來。」
2. 風險緩解是工作的一部分
「我認為在面試環境裡，這是第一號要具備的技能：『你正在做的是一場從啟發式運算到智慧運算的商業轉型。這裡是風險，這裡是我怎麼緩解它們。』」
3. 責任的定義在演化
框架的變化：「responsible AI 從一個很鬆散的定義『讓 AI 對所有人都有用』，變成『先確保 AI 能用、確保它推動業務，然後確保它對所有人都有用』。過去幾年這個順序常常被顛倒過來，導致了一些有名的、有文件記載的災難。」
他自己做的測試（他當時在做 responsible AI）——同一個 prompt，只換族裔描述：
| 輸入 | 結果 |
|---|---|
| 亞裔、印度裔、黑人、拉丁裔 | ✅ 都正常生成 |
| Caucasian | ❌ 「這可能導致有害的刻板印象與偏見」而拒絕 |
| white | ❌ 而且它說「我目前不生成人物圖像」——它剛剛才生成了一堆人物圖像 |
他繞過去的辦法：輸入「愛爾蘭女性」→ 順利生成。但每一張圖她都是紅髮。
「我在愛爾蘭長大。愛爾蘭確實是世界上紅髮比例最高的國家——大約 8%。但如果你要畫一個人、並且把某個族裔和某個髮色綁在一起，你開始看得出這問題很大。（他還提到某些文化裡紅髮帶有負面聯想，並自述這點是「我相信」，屬未查證的個人說法。）
從 responsible AI 的角度發生的事情是：一個非常狹隘的、關於什麼叫負責任的世界觀，接管了整個模型，最終傷害了模型的聲譽、也傷害了公司的聲譽。」
（學生補充了歷史脈絡的版本——prompt 說「畫一個武士」，改寫引擎變成「給我多元背景的武士」。同一個 prompt 攔截機制造成的傷害。「那是一個很天真的解法，之後他們改善了很多。」）
這段有官方紀錄可查：Google 在 2024/2/23 由 Prabhakar Raghavan 發了一篇說明， 承認 Gemini 的人物生圖「在某些情況下完全沒有考慮到不該顯示多元性的場合」、「變得比我們預期的更保守，拒絕回答某些完全無害的 prompt」， 並暫停了人物生成功能。Moroney 描述的機制（改寫 prompt 去注入多元性，結果反噬）和官方的自述是同一件事， 差別只在他是從內部做 responsible AI 的視角講的。他自己那組「Caucasian／white 被拒絕」的測試則是他個人的實驗記錄，官方文件沒有逐條對應。
4. 從錯誤中學習
「回到 Andrew 講的『人』那點：你身邊的人也會犯錯。有能力在他們犯錯時給予寬容、把錯誤處理掉、然後繼續往前，非常非常重要。」
技術債：他給 vibe coding 的框架
現場沒有人知道什麼是技術債（他說前一個週五和 Ng 在紐約的研討會上用這個詞，「我看到一片茫然的臉」）。
| 例子 | 判斷 | |
|---|---|---|
| 好債 | 借 50 萬買房，30 年連利息還約 100 萬 | 划算——房子會增值、不用付房租，拿到的價值超過 100 萬 |
| 壞債 | 高利率信用卡衝動買 200 美元的鞋，還完是 500 | 不划算 |
核心命題：
**「每一次你做出一個東西，你就背上了債。**不管做得多好——永遠會有 bug、支援、新需求、行銷、回饋。這些全都是債。避免債的唯一方法就是什麼都不做。」
「所以你 vibe code 出一個東西的時候，問題就變成——它值得你背上的這筆技術債嗎？」
四個檢查：
- 目標清楚，而且達成了。 他自己在做一個電影製作的小創業，幾乎全用生成程式碼：「我建了應用、測了、丟掉；重來、測了、丟掉。」 每一輪對需求的理解都更好。
「在生成程式碼的時代，程式碼很便宜。完成的、工程化的程式碼並不便宜。」
- 有交付商業價值嗎。 「我看過有人在 Replit 上 vibe code 好幾個小時做出一個超酷的網站，然後答案是**『所以呢？』**」
- ★ 人類看得懂嗎（他說這是最被低估、也可能最重要的一項）
「你能背上的最糟的技術債，就是交付一份沒有人看得懂的程式碼。只有你懂，然後你辭職去找了更好的工作，公司從此依賴那份程式碼。」
- 文件、清楚的演算法、甚至連變數命名有沒有道理都要花時間看過
壞債的典型樣態：
- 拿著錘子找釘子——他在大組織裡看過大家 vibe code 一堆東西 check 進 codebase，然後在一堆爛東西裡很難找到好東西
- 義大利麵程式碼：prompt、prompt、再 prompt
- 他自己正在踩的坑：他在寫 macOS 的 Swift UI 應用，但訓練資料裡絕大多數是 iPhone 的程式碼，所以「我 prompt 出來常常拿到 iOS 的 API——即使我人在 Xcode 裡、建的是 macOS app、用的是 macOS 樣板」
- 權威凌駕實力：「那位 VP 突然掏出信用卡訂閱了 Replit 開始做東西。猜猜看那變成誰的問題要去修。」
炒作
「社群媒體的貨幣是『互動』。準確度不是社群媒體的貨幣。」
「如果你是那種能把訊號從噪音裡濾出來、而且能引導身邊的人看訊號的人，那給你巨大的優勢……在一對一的環境裡——比如面試——那讓你極其有價值。」
「請幫我做一個 agent」→「為什麼？」
去年一家歐洲公司請他幫忙實作一個 agent。
「如果有公司來跟你說『請幫我實作一個 agent』，正確的第一個問題是什麼？」
學生答「agent 對你來說是什麼？」→「不錯。」學生答「你想做什麼？」→「更根本了。」
「我的問題是：為什麼？」
他一層一層剝：CEO 說「大家都跟我說我可以省下營運成本……」「誰跟你說的？」「喔，我在 LinkedIn 上讀到、在 Twitter 上看到……」
一路剝到底層，他真正想要的是：讓業務人員更有效率。
「這句話裡我沒有聽到 AI 這個字，也沒有聽到 agent 這個字。」
於是他去問業務員「你最討厭工作的哪一部分？」——答案是查公司網站、查 LinkedIn，而每個網站結構都不一樣，得承擔全部的認知負荷。
關鍵數字：他們花約 80% 的時間做研究、只有 20% 的時間在賣。 而業務底薪通常不高要靠佣金補——所以他們只有 20% 的時間在做直接帶來佣金的事。
目標設成「讓業務效率提升 20%」，這時候才開始談 AI。結果省下 10–15% 的浪費時間，而意外的後果是業務員開心多了、賺得更多。
「但如果你被炒作牽著走，直接『幫這個東西做個 agent』，沒有真的剝開商業需求、那個為什麼，這家公司就會迷失在炒作裡。」
他順帶引了一個數字：McKinsey 的報告顯示企業裡約 85% 的 AI 專案失敗，主因之一是範圍沒有被界定好。
⚠️ 這個引用查不到對應的報告。 我找不到 McKinsey 有「85% 的 AI 專案失敗」這個數字。 那個時間點被廣泛引用的失敗率是 MIT NANDA 的《The GenAI Divide: State of AI in Business 2025》： 約 95% 的企業 GenAI pilot 沒有帶來可衡量的損益影響——那是 MIT 不是 McKinsey，而且是 95% 不是 85%。 McKinsey 自己那份《The state of AI in 2025》講的是另一件事：企業層級的 EBIT 影響「仍然罕見」， 只有約 6% 的受訪者屬於「歸因 ≥5% EBIT 影響」的高績效組——「多數組織還沒看到帳面效益」和「85% 的專案失敗」 是兩個不同的宣稱。 他關於「範圍沒界定好」的因果判斷，我認為仍然成立（那是他自己做顧問的第一手經驗，前面那段歐洲公司的案例就是）， 但那個 85% 請不要當數據引用。
他的 agentic 四步定義（簡潔好用）：
理解意圖 → 規劃（宣告可用的工具）→ 執行 → 反思（回頭對照意圖）
「如果你能把任何問題拆成這四步，你就開始在建 agent 了。」
「把它講得盡可能平淡無奇」
「有人教過我一個技巧：每次看到這種東西，試著想辦法把它變得盡可能平淡無奇。當你能把它講得夠平淡，你才真正建立起用別人需要的方式詳細解釋它的基礎。」
示範：text-to-video 的平淡版本不是「好萊塢已死」，而是——它在生成一連串連續的畫格，每一格都和前一格略有不同。
「突然之間它變平淡了——但突然之間他們聽懂了。然後那些在該領域真正的專家，才會是能用它做出厲害東西的人。」
泡沫
鐵達尼號的比喻：
「桅杆瞭望台上那兩個人在那邊凍得半死聊天，他們談的全都是自己有多冷。然後鏡頭切到船員：『等等，他們不是應該要有望遠鏡嗎？』『喔，我們把望遠鏡忘在港口了。』
他們傲慢到只想往前衝，不想去看任何風險；而且就算有人的工作就是看風險，他們也沒有好好裝備或訓練那些人。這對我來說是 AI 產業今天處境的一個很好的比喻。」
泡沫的解剖（由上而下）：炒作 → 鉅額創投投資 → 不切實際的估值 → me-too 產品 → 底部那一小塊真實價值。
「**我已經看到創投在乾涸了。**曾經只要寫上 AI 就能拿到投資，現在他們謹慎太多了。」（自嘲：「我這些投影片是 vibe code 出來的，所以這也是我背的一筆技術債。」）
但泡沫不等於末日：
「大部分人不記得 2000 年的 dot-com 泡沫。那是史上最大的泡沫，它破了——但我們還在這裡。而那些把 dot-com 做對的人，不只活了下來，他們茁壯了。
Amazon、Google 懂什麼叫在 .com 上建立一門生意。相對地 pets.com 的心態是『只要你建了，人就會來』，他們買了超級盃廣告，結果處理不了湧進來的流量。泡沫破掉時，那種網站就直接蒸發了。」
大 AI vs 小 AI 的分岔
這是他的核心前瞻論點：
| 大 AI | 小 AI | |
|---|---|---|
| 誰託管 | 別人幫你託管（Gemini、Claude、OpenAI） | 你自己託管 |
| 方向 | 越大越好，衝向 AGI | open weights / self-hostable |
| 現況 | 泡沫比較早破 | 目前供給不足，泡沫比較晚 |
他刻意的用詞：「**我討厭 open source 這個詞。**讓我叫它們 open weights，或者 self-hostable。」
他引的數據點：「我最近讀到一篇關於 Y Combinator 的文章，YC 裡 80% 的公司在用小模型，尤其是中國的模型。」
⚠️ 這個引用的來源和數字都對不上。 那個 80% 不是出自 Y Combinator 的文章。 原始出處是 The Economist 引述 a16z 合夥人 Martin Casado 的一句話：來 a16z 提案的新創， 「我會說有 80% 的機率他們在用中國的開源模型」——講的是 a16z 的案源，不是 YC 的投資組合。 而且 Casado 本人隨後公開修正了這個被輾轉傳開的版本： 「我會說 20–30% 用開源；這些之中 80% 用中國的模型。所以比較接近 16–24%。」 兩層百分比在傳播過程中被壓成一層，量級因此放大了三到五倍。 方向仍然是對的（確實有一批新創跑在開放權重的中國模型上），但這個數字別拿去引用。 下面那條「你的資料能不能離開你的機房」的判準不依賴它，照樣站得住。
好萊塢的 IP 案例
他在好萊塢做過事，還賣過一部電影給某家片廠。
「我在那個過程學到——片廠對 IP 的保護程度誇張到不好笑。」
關鍵洞見，和一般想像相反：
「大家的焦點都在用大語言模型創作——說故事、算圖。但它們真正的大機會其實是分析。
分析電影的劇情大綱，找出什麼有效、什麼沒效：為什麼這部賣座那部不賣？而電影的利潤薄如刀片，這種分析的價值是巨大的。
但要做這種分析，你得把你電影的細節分享給一個大語言模型——他們絕對不會拿去給 GPT 或 Gemini，因為那等於把 IP 分享給第三方。
小模型登場。」
「今天的 7B 模型和昨天的 50B 一樣聰明。」
同樣的邏輯適用於律師事務所、醫療院所——任何隱私重要的地方。
⚠️ 這裡和上一篇直接衝突
「我看到未來兩三年開發者在這一側最需要的技能會是 fine-tuning——拿一個開源模型，針對特定下游任務去微調它。」
而 上一篇 的 Katanforoosh 說「我不是 fine-tuning 的粉絲，盡可能避開，因為等你調完，下一個模型已經打敗你 fine-tune 過的版本了」。
這不是矛盾，是兩個不同的市場。 Katanforoosh 講的是用雲端 API 做應用——那裡模型迭代很快，你本來就能把下一代直接換進去，所以 fine-tuning 的成果會被下一代吃掉。Moroney 講的是資料不能外流的自架場景——那裡你本來就換不了雲端模型，「下一代更強」對你沒有意義，微調是唯一的提升路徑。
判準是：你的資料能不能離開你的機房。 能，就聽 Katanforoosh；不能，就聽 Moroney。
技能要多元
學生問：Nvidia 只招很窄的特定專長，那該專精還是該多元？
「**我永遠會主張多元化比較好。**那個窄場景就只是那一個窄場景，你把所有雞蛋放進一個籃子。但如果你把所有雞蛋放進那個籃子而你沒進去，然後呢？」
而且他對「多元」的定義比較特別：
「你說 LLM 或電腦視覺——但『懂模型、懂怎麼用模型』對我來說是一項技能。多元化是要跳出那個框：在這些之上建應用是什麼樣子？擴展一個應用是什麼樣子？還有使用者體驗——因為你做出一個漂亮的應用但沒人會用也是白搭，我在說你，Microsoft Office。」
端側 AI
「傳統認知是：AI 的運算平台就是 CPU + GPU。但這也在變。」
ARM 的 SME（Scalable Matrix Extensions） 讓 AI 工作負載跑在 CPU 上。好處是不需要額外的晶片耗電佔空間，而且 CPU 本來就低功耗。
支付寶的相簿搜尋案例：一般這種「搜尋我吃壽司的照片」的功能都需要後端服務，三個問題——隱私（照片要給第三方）、延遲（上傳、處理、下載）、成本（要建維運雲端服務）。全部搬到裝置上就同時解決三個。
「隨著模型變小、低功耗裝置跑得動它們，嵌入式智慧無所不在不再是白日夢。」
「人工理解」與那支冰球影片
失敗的示範：他兒子打冰球的照片（正在揮桿射門），他自認很會寫 prompt，直接叫它生「他進球」的影片。結果：那是空的練習場（右上角是堆垃圾的地方），但 AI 以為是滿場觀眾就把人畫進去了；他射偏了一英里全場還是歡呼；手上莫名多了一支球桿；而且忘了他的名字。
成功的示範是他輔導的新創做的電影片段，有情緒表演。差別在哪：
「我把它拆成 agentic 的步驟之後：『這一場戲裡女孩坐在長椅上很難過，另一個人想安慰她』——把這個連同整個故事、連同我的限制（這一鏡必須 8 秒、要有清楚的對白）餵給大語言模型。
於是 LLM 寫出一個比我自己會寫的更冗長、更有描述性的 prompt。LLM 對什麼是好鏡頭、好角度、好的情緒表現的理解，遠超過我花好幾個小時能描述出來的。
第二步是宣告工具。我學到的比如——那個影片引擎很不擅長高動作場面，但很擅長慢速運鏡來表現情緒。
成本也有關係：生四支影片大約要兩到三美元的額度。前面花在理解意圖和規劃上的 token，在後端省了回來。」
三個收尾故事
敘利亞的那張證書（他說最讓他驚訝的是短視）：Google 的 TensorFlow 專業證照一年花公司十萬美元，「滄海一粟」，而它產生的善意是巨大的——有個住在敘利亞的年輕人拿到證照，得以搬到德國、進了一家德國大公司，現在能供養家鄉的家人並把他們搬離戰區。「但因為它不為公司產生營收，這個投資最後就沒有了。」
那位「全世界最笨的人」：他有個前職業冰球選手朋友，13 歲輟學，因腦震盪退役，現在經營非營利溜冰場，總是說自己是全世界最笨的人。他每季要向董事會報告營運結果，資料散在冷卻冰面的壓縮機、試算表、帳目裡，每年花超過 15 萬美元請顧問整合。他自己試著用 ChatGPT 上傳試算表和 PDF，現在兩小時自己就做完了，而且做得很好。
那省下來的一年 15 萬，現在拿去給弱勢兒童買冰球裝備和課程。
「我事後跟他說『恭喜，你現在是開發者了』。他不喜歡那句話。」
威爾斯的腦癌研究者：八年前，一個系上十位研究者共用一顆 GPU，每人半天，他的時段是週二下午。非週二下午的時間全在準備，週二下午跑，然後祈禱。「然後我給他看了 Google Colab……那個可憐的傢伙腦子直接融化了。」
AI 是促進平等還是不平等？
「答案是：**兩者都是，也兩者都不是。**任何工具都可以被用於任何目的……我一直用一句話過我的人生：假設善意，但為惡意做準備。
AI 本身沒有選擇。是人怎麼用它。」
延伸：這一講最反直覺的一點
整堂課有一個貫穿的主張，而它和大多數「AI 職涯建議」相反：技術能力不是瓶頸。
- 那個 10x 工程師敗在態度的訊號，不是能力
- Moroney 敗在 Google 兩次，是因為面錯職位，不是因為不夠強
- 那家歐洲公司差點做錯東西，是因為沒人問「為什麼」，不是因為技術做不到
- 企業 AI 專案大量失敗，主因是範圍界定，不是模型不夠好（他引的 85% 查不到出處，但這個因果判斷有他的第一手案例撐著）
而技術債那個框架之所以有用，正是因為它把「該不該用 AI 生這段程式碼」從技術問題轉成財務問題：你背了一筆債，它值不值得。這個問法比「vibe coding 好不好」有用太多，因為後者沒有答案，前者每次都有。
至於大 AI vs 小 AI 的分岔——那是這一講唯一一個可以拿去做決策的前瞻判斷，而且它有一條乾淨的判準：你的資料能不能離開你的機房。
參考資料
- Lecture 9: Career Advice in AI — 2025/11/18，Andrew Ng + 客座 Laurence Moroney。全部內容的出處
- Measuring AI Ability to Complete Long Software Tasks — METR，NeurIPS 2025。Ng 引用的研究，注意它衡量的是軟體任務
- CS230 Lecture 9 主講投影片 與客座投影片
- Stanford CS230 Autumn 2025 playlist — 九講完整清單
- Agents, Prompts, and RAG — 本系列上一篇，fine-tuning 立場的另一端
課堂引用的查證結果（三個第三方數字，兩個實質對不上）：
- Gemini image generation got it wrong. We'll do better. — Google 官方，2024/2/23，Prabhakar Raghavan。Moroney 描述的 prompt 改寫機制與後果，官方自述吻合
- MIT report: 95% of generative AI pilots at companies are failing — Fortune 2025/8/18，報導 MIT NANDA 的《The GenAI Divide: State of AI in Business 2025》。約 5% 的 pilot 帶來營收加速，其餘對損益幾乎沒有可衡量影響——這是「85% 失敗」最接近的真實來源，但機構是 MIT 不是 McKinsey、數字是 95% 不是 85%
- The state of AI in 2025: Agents, innovation, and transformation — McKinsey 的調查原文。它的講法是企業層級的 EBIT 影響「continues to be rare」，只有約 6% 的受訪者屬於歸因 ≥5% EBIT 的高績效組，並沒有出現「85% 專案失敗」這個數字
- Martin Casado 的更正 — 「I'd say 20-30% use open source. Of those I'd say 80% use Chinese based models. So closer to 16-24%.」原句來自 The Economist 引述，講的是 a16z 的案源而非 Y Combinator
仍未附連結：Moroney 提到的各家公司細節、以及他關於紅髮文化聯想的自述（他當場就標記為「我相信」）——那些是個人經驗轉述，本文照課堂記錄寫出，沒有可查的公開來源。
Loading...