當prompt策略遇上分治算法，南加大、微軟讓大模型煉成「火眼金睛」

AIGC動態歡迎閱讀

原標題：當prompt策略遇上分治算法，南加大、微軟讓大模型煉成「火眼金睛」
關鍵字：模型,策略,問題,任務,提示
文章來源：機器之心
內容字數：5747字

內容摘要：

機器之心專欄
機器之心編輯部近年來，大語言模型（LLMs）由于其通用的問題處理能力而引起了大量的關注。現有研究表明，適當的提示設計（prompt enginerring），例如思維鏈（Chain-of-Thoughts），可以解鎖 LLM 在不同領域的強大能力。
然而，在處理涉及重復子任務和 / 或含有性內容的任務（例如算術計算和段落級別長度的虛假新聞檢測）時，現有的提示策略要么受限于表達能力不足，要么會受到幻覺引發的中間錯誤的影響。
為了使 LLM 更好地分辨并盡可能避免這種中間錯誤，來自南加州大學、微軟的研究者提出了一種基于分治算法的提示策略。這種策略利用分治程序來引導 LLM。論文地址：https://arxiv.org/pdf/2402.05359.pdf
具體來講，我們將一個大任務的解決過程解耦為三個子過程：子問題劃分、子問題求解以及子問題合并。理論分析表明，我們的策略可以賦予 LLM 超越固定深度 Transformer 的表達能力。實驗表明，我們提出的方法在受到中間錯誤和性內容困擾的任務中（例如大整數乘法、幻覺檢測和錯誤信息檢測）可以比經典的提示策略獲得更好的性能

原文鏈接：當prompt策略遇上分治算法，南加大、微軟讓大模型煉成「火眼金睛」

聯系作者

文章來源：機器之心
作者微信：almosthuman2014
作者簡介：專業的人工智能媒體和產業服務平臺