01LLaMA-Model在transformers倉庫中可以看到llama的源碼，首先是LlamaModel類，繼承自PreTrainedModel，這個類是所有模型的基類，包含了一些通用的方法，比如...

機器之心報道 編輯：陳萍、杜偉MIT、微軟聯合研究：不需要額外訓練，也能增強大語言模型的任務性能并降低其大小。在大模型時代，Transformer 憑一己之力撐起...

機器之心報道 編輯：杜偉、大盤雞其實，開源、閉源各有其道理，關鍵看如何抉擇。這兩天，有關開源的話題又火了起來。有人表示，「沒有開源，AI 將一無所有，...

創辦于 5 月的法國大模型公司 Mistral AI 最近有了一系列動作。彭博社報道，Mistral 正在完成 4.87 億美元的融資，估值 20 億美元，其中英偉達、Salesforce ...

機器之心報道編輯：陳萍PyTorch 團隊親自教你如何加速大模型推理。在過去的一年里，生成式 AI 發展迅猛，在這當中，文本生成一直是一個特別受歡迎的領域，很...

選自 Sebastian Raschka 博客機器之心編譯編輯：佳琪這是作者 Sebastian Raschka 經過數百次實驗得出的經驗，值得一讀。增加數據量和模型的參數量是公認的提...

機器之心報道編輯：趙陽本文是 Meta 官網推出的 Llama2 使用教學博客，簡單 5 步教會你如何使用 Llama2。在這篇博客中，Meta 探討了使用 Llama 2 的五個步驟...

機器之心報道編輯：蛋醬一般來說，大語言模型的部署都會采用「預訓練 — 然后微調」的模式。但是，當針對眾多任務（如個性化助手）對 base 模型進行微調時，訓...

機器之心專欄機器之心編輯部3D 人臉重建是一項廣泛應用于游戲影視制作、數字人、AR/VR、人臉識別和編輯等領域的關鍵技術，其目標是從單張或多張圖像中獲取高...

機器之心編譯編輯：杜偉、小舟AI 尤其是大模型時代的開源與閉源，有利有弊，重要的是如何在使用的過程中做好文章。一直以來，人們在 AI 領域的開源與閉源選擇...

機器之心專欄機器之心編輯部螞蟻 AI Infra 團隊在深度學習最核心之一的優化器方向持續投入與創新，實現了 AI 訓練節約資源、加速收斂、提升泛化等目標。我們...

來源：圖靈人工智能原文：Stephen Wolfram | 中文：Web3天空之城·城主（聲明：轉載本文即意味著您同意：保留以上出處，并在此處給出本公號文原鏈接）前言Step...

機器之心報道編輯：趙陽大模型的內容安全問題使得人們希望可以在終端設備上完成模型訓練及運行。對于手機來說，大模型的權重數據顯得尤為龐大。大型語言模型...

機器之心報道機器之心編輯部有理論基礎，我們就可以進行深度優化了。為什么 transformer 性能這么好？它給眾多大語言模型帶來的上下文學習 (In-Context Learn...

來源：彤心未泯（學研匯 技術中心）、納米人具有數十億參數的人工智能（AI）模型可以在一系列任務中實現高精度，但它們加劇了傳統通用處理器（例如圖形處理單...