想讓大模型在prompt中學習更多示例，這種方法能讓你輸入更多字符

AIGC動態歡迎閱讀

原標題：想讓大模型在prompt中學習更多示例，這種方法能讓你輸入更多字符

關鍵字：上下文,維度,模型,研究者,位置

文章來源：機器之心

內容字數：8728字

內容摘要：機器之心報道編輯：Panda W我們知道在使用 GPT 和 LLaMA 等大型語言模型時，輸入的 prompt 存在字符數限制，比如 ChatGPT 目前的輸入字符限制是 4096 個字符。這會限制上下文學習和思維鏈等技術的發揮空間，畢竟用戶只能提供有限的示例數量。近日，Nous Research、EleutherAI 和日內瓦大學的一個研究團隊囧次元提出了一種擴展上下文窗口的方案 YaRN ，并在實驗…

原文鏈接：點此閱讀原文：想讓大模型在prompt中學習更多示例，這種方法能讓你輸入更多字符

聯系作者

文章來源：機器之心

作者微信：almosthuman2014

作者簡介：專業的人工智能媒體和產業服務平臺