微軟發布！提示工程進化為位置工程，有效提升RAG與上下文學習

AIGC動態歡迎閱讀

原標題：微軟發布！提示工程進化為位置工程，有效提升RAG與上下文學習
關鍵字：位置,工程,數據,性能,示例
文章來源：夕小瑤科技說
內容字數：7529字

內容摘要：

夕小瑤科技說 原創作者 | 謝年年
別再光顧著優化提示工程啦！微軟最近推出位置工程研究思路，只需調整token的索引位置，而不修改文本本身，就能顯著提高任務性能。
提示工程通過添加、替換或刪除段落和句子改變提示，調整語義信息，激發LLMs的推理能力。比如CoT通過在問題的結尾附加“Let’s think step by step”這幾個詞，鼓勵模型生成推理過程。
而微軟這篇工作發現在tokens之間引入占位符token可改變其他token的相對位置。這些占位符token不參與注意力分數的計算，但占據了token索引位置。因此可能優化提示中不同段落之間的注意力權重。
▲提示工程與位置工程的比較。”Para”指的是提
示中的段落，”Sent”指的是句子。通過在兩個廣泛使用的LLM場景中——檢索增強生成（RAG）和上下文學習（ICL）——對位置工程進行了評估。結果表明，位置工程在兩種情況下都顯著優于基礎模型。
又一充分激發LLMs能力的新策略出現啦，說不定也是一個產出論文的好方向！
論文標題:Position Engineering: Boosting Large Language Mode

原文鏈接：微軟發布！提示工程進化為位置工程，有效提升RAG與上下文學習

聯系作者

文章來源：夕小瑤科技說
作者微信：xixiaoyaoQAQ
作者簡介：專業、有趣、深度價值導向的科技媒體。聚集30萬AI工程師、研究員，覆蓋500多家海內外機構投資人，互聯網大廠中高管和AI公司創始人。一線作者來自清北、國內外頂級AI實驗室和大廠，兼備敏銳的行業嗅覺和洞察深度。商務合作：zym5189