9 月 3 日消息，谷歌 DeepMind 團隊于 8 月 27 日在 arxiv 上發(fā)表論文，介紹展示了 GenRM 生成式驗證器，創(chuàng)造性提出獎勵模型，從而提升生成式 AI 推理能力。
AI 行業(yè)內(nèi)，目前提高大語言模型（LLMs）的主流做法就是 Best-of-N 模式，即由 LLM 生成的 N 個候選解決方案由驗證器進行排序，并選出最佳方案。
這種基于 LLM 的驗證器通常被訓(xùn)練成判別分類器來為解決方案打分，但它們無法利用預(yù)訓(xùn)練 LLMs 的文本生成能力。
DeepMind 團隊為了克服這個局限性，嘗試使用下一個token 預(yù)測目標(biāo)來訓(xùn)練驗證器，同時進行驗證和解決方案生成。
DeepMind 團隊這種生成式驗證器（GenRM），相比較傳統(tǒng)驗證器，主要包含以下優(yōu)點：
無縫集成指令調(diào)整
支持思維鏈推理
通過多數(shù)投票利用額外的推理時間計算
在算法和小學(xué)數(shù)學(xué)推理任務(wù)中使用基于 Gemma 的驗證器時，GenRM 的性能優(yōu)于判別式驗證器和 LLM-as-a-Judge 驗證器，在使用 Best-of-N 解決問題的百分比上提高了 16-64%。
據(jù) Google DeepMind 報道，GenRM 相對于分類獎勵模型的邊標(biāo)志著人工智能獎勵系統(tǒng)的關(guān)鍵演化，特別是在其容量方面，以防止新模型學(xué)成到的欺詐行為。這一進步突出表明，迫切需要完善獎勵模型，使人工智能輸出與社會責(zé)任標(biāo)準(zhǔn)保持一致。
原創(chuàng)文章，作者：潮玩君，如若轉(zhuǎn)載，請注明出處：http://2079x.cn/article/677866.html
