推論方法:模型訓練完之後,還能靠多算一點變聰明|MIT 6.7960 第 24 堂
訓練完的模型不是只能做一次前向傳遞。貪婪取樣不保證找到模型認為最可能的序列(本文的例子裡它拿到 0.30,最佳是 0.36),所以多取樣幾次挑最好的就會進步;評分標準換成驗證器,還能挑出真的對的答案。再把搜尋到的好答案拿回去訓練模型,就是 AlphaGo 與 STaR 的迴圈,Isola 推測 o1 也是這樣做的。
訓練完的模型不是只能做一次前向傳遞。貪婪取樣不保證找到模型認為最可能的序列(本文的例子裡它拿到 0.30,最佳是 0.36),所以多取樣幾次挑最好的就會進步;評分標準換成驗證器,還能挑出真的對的答案。再把搜尋到的好答案拿回去訓練模型,就是 AlphaGo 與 STaR 的迴圈,Isola 推測 o1 也是這樣做的。