AIGC動態歡迎閱讀
原標題:Meta官方的Prompt工程指南:Llama 2這樣用更高效
關鍵字:模型,消息,指令,參數,角色
文章來源:機器之心
內容字數:15982字
內容摘要:
機器之心報道
編輯:小舟隨著大型語言模型(LLM)技術日漸成熟,提示工程(Prompt Engineering)變得越來越重要。一些研究機構發布了 LLM 提示工程指南,包括微軟、OpenAI 等等。
最近,Llama 系列開源模型的提出者 Meta 也針對 Llama 2 發布了一份交互式提示工程指南,涵蓋了 Llama 2 的快速工程和最佳實踐。以下是這份指南的核心內容。
Llama 模型
2023 年,Meta 推出了 Llama 、Llama 2 模型。較小的模型部署和運行成本較低,而更大的模型能力更強。
Llama 2 系列模型參數規模如下:Code Llama 是一個以代碼為中心的 LLM,建立在 Llama 2 的基礎上,也有各種參數規模和微調變體:部署 LLM
LLM 可以通過多種方式部署和訪問,包括:
自托管(Self-hosting):使用本地硬件來運行推理,例如使用 llama.cpp 在 Macbook Pro 上運行 Llama 2。優勢:自托管最適合有隱私 / 安全需要的情況,或者您擁有足夠的 GPU。
云托管:依靠云提供商來部署托管特定模型的實例,例如通過
原文鏈接:Meta官方的Prompt工程指南:Llama 2這樣用更高效
聯系作者
文章來源:機器之心
作者微信:almosthuman2014
作者簡介:專業的人工智能媒體和產業服務平臺
? 版權聲明
文章版權歸作者所有,未經允許請勿轉載。
相關文章
暫無評論...