投稿前想找人把稿子從頭到尾審一遍,而手邊沒有願意認真讀完全文的同行,可以考慮請 AI 來。哈佛的 Gary King 與 Steven Worthington 在 2026 年 10 月 22 日公開預印本,拿一批品質很高的人類預審來對照 AI 審查,結果 AI 在每個面向都勝出。這篇整理實驗的做法、值得拿來用的提示詞,以及這個結論能用到哪裡為止。
這個實驗比了什麼
對照組是哈佛 IQSS 的 rapidPeer:審稿人由領域專家挑選,來自作者以外的機構,稿件匿名,審查有稿酬,要求通讀全文並寫出 1.5 到 2 頁的建設性意見。這些人類審查並不弱,74 位作者在收到意見一週後填問卷,88% 評為高或非常高品質。語料是 2019 到 2026 年間所有符合條件的投稿:124 篇稿件、134 份人類審查(其中 10 篇各有兩份),涵蓋統計分析、數學模型和純質性研究。
AI 端用 Claude Opus 4.8,最高思考力度,每篇稿件各產出一份審查,分成兩種條件:
- matched:拿到匿名稿件,加上 rapidPeer 發給人類審稿人的指引(補充附錄 B)原文,沒有任何工具。
- tuned:同一份稿件,換成專門寫給 AI 的提示詞(補充附錄 C),並開放網路檢索。每份審查平均搜尋 12.4 次。
評審是另一個模型家族的 GPT-5.5,這樣寫作者和評審沒有同源。每組都跑兩種呈現順序,兩次都選同一份才算贏,順序一換結果就變的算平手。另外有 3 位主要期刊的前任編輯,在不知道哪份是 AI 的情況下,各看 10 組隨機配對。如果你想了解用模型評模型的基本做法,可以先看站上的 Self-Reflection + LLM-as-Judge。
結果
整體來看,GPT-5.5 在 tuned 條件下,132 組有結論的配對全部選 AI,另外 2 組因順序一換結果就變而不計。3 位編輯一共 30 次判斷選了 26 次 AI,也就是 87%,三人各自的結果是 10 次中的 8、8、10 次。編輯彼此一致的比例是 80%,和 AI 判斷一致的比例平均 87%。
分面向看,差距最大的是圖表和文獻:
| 審查面向 | 人類平均分 | AI(tuned)平均分 | AI 勝率:matched → tuned |
|---|---|---|---|
| 補充文獻 | 4.73 | 9.55 | 62% → 100% |
| 弱點 | 7.49 | 9.10 | 100% → 100% |
| 方法 | 7.01 | 9.02 | 98% → 100% |
| 理論與想法 | 6.97 | 8.81 | 88% → 92% |
| 框架 | 6.76 | 8.70 | 92% → 92% |
| 溝通 | 5.68 | 8.18 | 92% → 92% |
| 圖表 | 2.95 | 7.57 | 99% → 99% |
分數是 0 到 10,由 GPT-5.5 評,只計入該篇稿件相關的面向;AI 沒提到的面向算 0 分,所以人類在圖表上的低分有一部分來自根本沒談。排除這個因素後,只比兩邊都有談的配對,AI 仍然每個面向都較高,圖表的差距從 4.54 縮到 3.40。
準確度也比較好。評審把審查裡的主張逐條對照稿件,AI 有 5.5% 被判定與稿件矛盾,人類是 15.9%。AI 引用的 651 筆 DOI 或 arXiv 編號全部是真的,沒有捏造。不過 AI 的審查也不是乾淨的:124 份中有 46 份(37.1%)至少有一處被標成錯誤,人類則是 134 份中的 86 份(64.2%)。
作者另外做了幾項檢查,排除常見的疑慮:
- 長度:只比字數相近的 44 組,AI 仍然全勝。
- 風格:請模型把人類審查改寫成 AI 的語氣、內容不變,再評一次,人類平均分 5.93 變成 5.87,沒有改善。
- 訓練資料看過發表後的論文:2022 年以前和 2025 到 2026 年的稿件,AI 分數幾乎相同(8.2、8.1、8.1)。
- 換模型、換提示詞重做:用不同的提示詞與評分表、Claude Opus 和 GPT 各兩份審查、兩個家族都當評審,共 416 組比較,AI 勝率是 97.1%(Opus 評審)和 94.2%(GPT 評審)。
兩份提示詞差在哪
補充附錄裡有兩份提示詞,用途不同。
附錄 B 是 rapidPeer 給人類審稿人的指引,內容是一段前言加上 13 個問題:理論是否適切、方法能否改進、作者有沒有自己指出弱點、研究問題能不能換個更有共鳴的講法、圖表是否傳達重點、有哪些可補充的文獻、適合投哪些期刊。最後一句要求審查聚焦現有研究,不要建議做額外研究。原文直接當 AI 的系統提示詞,就是 matched 條件。
附錄 C 是專為 AI 寫的提示詞,作者說它在評審之前就寫好,沒有拿評審分數回頭調,內容也不含評分標準。設計上有幾個值得抄的地方:
- 角色是顧問,不是守門員。 沒有錄取名額,價值取決於意見能幫作者改進多少。
- 先通讀,再大量搜尋,最後才寫。 先找出最會改變這篇論文的兩、三個問題,放在最前面。
- 引用必須實際搜尋確認過,不憑記憶。 每個來源附 DOI 或網址,確認不了就不要引。提示詞特別指出模型對具體參考文獻的記憶不可靠,捏造一筆就會讓作者不再信任整份意見。
- 大方向和執行都要管。 框架對不對、有沒有更有力的定位,也要管方法、識別、穩健性與圖表。只挑毛病或只談大道理都算弱。
- 誠實而且有取捨。 分清楚承重的問題和小問題,不奉承,也不為了顯得徹底而列三十五條。三篇真正切題的文獻勝過十五篇沾邊的。
- 每個問題都附處理方式。 一個具體的修正、作者現在就能跑的檢查,或一篇該對話的文獻。
- 範圍限定在現有研究,不要求作者從零做新研究。
- 輸出固定六段:Summary、Strengths、Key claims、Specific comments、Literature and data to engage、Overall assessment(含修改建議等級與一到三句理由)。
提示詞全文請看補充附錄 PDF的附錄 C,這裡不轉載。
用在自己的稿子上
論文本身沒有寫給作者的操作手冊,下面是我會照實驗條件做的順序:
- 選能上網的設定。 實驗裡 matched 在「補充文獻」只贏 62%,開了網路檢索才升到 100%。工具不能上網的話,這個面向的意見要打折看。
- 給完整稿件,含圖表。 實驗給的是匿名稿件 PDF,包含圖表,不含補充檔案。
- 貼附錄 C,後面接上目標期刊的投稿須知。 論文建議期刊把 rapidPeer 提示詞和既有的投稿須知合併,作者端也可以照做,AI 比人更能同時遵守一長串細項要求。
- 逐條查引用。 實驗裡 651 筆編號全是真的,抽樣 20 份審查的 112 筆引用中,評審能判斷的 100 筆有 99 筆切題;作者把特定發現歸給某篇論文、且摘要能核對的 24 筆中,有 23 筆站得住。這是搜尋過的結果,如果你的工具沒開檢索,這些數字就不適用,一定要自己點開。
- 跑好幾輪,並寫一封回應。 論文建議反覆審到沒有可解決的問題為止,並寫一封信說明你不同意 AI 的地方。原因是修到後面,AI 會變得過度咬文嚼字,比如「2+2=4 沒錯,但你沒定義加號」。
- 投哪裡、值不值得投,留給自己和編輯。 論文也把框架、重要性與期刊適配這類最終判斷留給編輯。
這個結論不能延伸到哪裡
- 只是預印本。 還沒有經過同儕審查,數字可能因修訂改變。
- 對照的是建設性預審,不是期刊審查。 rapidPeer 的審稿人被要求幫作者改稿,不是決定錄取。論文自己也說,結果只涉及「幫作者改進」,沒有回答編輯該如何做發表決定。
- 來源單一。 稿件全部來自同一個服務,作者是大學教師。
- 大部分評審是模型。 人類編輯只有 3 位、30 次判斷,樣本小,多數結論由 GPT-5.5 評出。作者用改寫語氣、對照稿件查核錯誤等檢查來排除偏袒 AI 文字的疑慮,結果都沒有翻盤。
- 沒測稿件是否真的因此變好。 作者明說沒有量測後續修訂對論文品質的改善,也沒量測整體改用 AI 審稿的集體後果。
- 同質化風險。 大家用同一批模型審稿,論點可能趨同;若期刊公開提示詞,作者也可能針對提示詞優化,而不是針對科學品質。
- 稿件機密。 未發表的稿件送進任何服務之前,先確認那項服務會不會拿資料去訓練。論文自己使用的是禁止廠商訓練的企業授權。
整體來說
如果你要的是投稿前的全面檢查,這項證據支持你放心使用 AI,前提是它會上網查文獻,而且你會自己核對引用。如果你要的是錄取預測,或要取代編輯與同行的判斷,這項實驗什麼都沒證明。比較務實的用法,是把它當成每次修訂都能跑的第一輪審查,再拿去給真人看第二輪。
參考資料
- AI Article Reviews Dominate Human Peer Reviews at Their Best: Evidence and Policy Choices(論文頁面,Gary King、Steven Worthington,2026)
- 論文 PDF
- 補充附錄 PDF(附錄 B 審稿指引、附錄 C 調校後的 AI 審稿提示詞、附錄 F 穩健性檢查)
- Self-Reflection + LLM-as-Judge:讓 AI 評估自己的回答(站內文章)