夕小瑤科技說 原創(chuàng)作者 | 謝年年、Python大語言模型，作為自然語言處理領域火熱的方向，如今已經真正“破圈”成為了科技界的明星。特別是其中的佼佼者——ChatGPT...

夕小瑤科技說 原創(chuàng)作者 | 謝年年在追求更高效的機器學習模型部署時，模型量化技術應運而生，它通過降低權重矩陣的位寬來顯著減少大型語言模型的存儲和計算需...

新智元報道編輯：拉燕 【新智元導讀】大語言模型之大，成本之高，讓模型的稀疏化變得至關重要。眾所周知，對于大語言模型來說，規(guī)模越大，所需的算力越大，自...

選自interconnects 作者：Nathan Lambert 機器之心編譯 機器之心編輯部狀態(tài)空間模型正在興起，注意力是否已到盡頭？最近幾周，AI 社區(qū)有一個熱門話題：用無注...

夕小瑤科技說 原創(chuàng)作者 | 松果、Python引言：探索大型語言模型的高效壓縮方法隨著大型語言模型（LLMs）在自然語言處理領域的廣泛應用，它們對計算和內存資源...

在現(xiàn)代科學的眾多領域中，矩陣分解作為一種數學工具，其重要性不容小覷。特別是在物理學和計算科學中，矩陣分解不僅為理解復雜系統(tǒng)提供了關鍵的理論支撐，也...

機器之心報道 編輯：張倩、佳琪刪除權重矩陣的一些行和列，讓 LLAMA-2 70B 的參數量減少 25%，模型還能保持 99% 的零樣本任務性能，同時計算效率大大提升。這...

導語復雜系統(tǒng)是高維非線性的動力系統(tǒng)，其組成成分之間存在異質相互作用。為了對復雜系統(tǒng)的大規(guī)模行為做出可解釋的預測，通常假定這些動力學可以簡化為幾個方...

直播預告 | 1月22日晚7點，「自動駕駛新青年講座」第35講正式開講，LMDrive一作、香港中文大學MMLab在讀博士邵昊將主講《LMDrive：大語言模型加持的閉環(huán)端到...

機器之心專欄 機器之心編輯部大語言模型在端側的規(guī)模化應用對計算性能、能效比需求的“提拽式”牽引，在算法與芯片之間，撕開了一道充分的推理競爭場。 面對想...

豐色 發(fā)自 凹非寺量子位 | 公眾號 QbitAI一個來自MIT博士生的驚人發(fā)現(xiàn)： 只需對Transformer的特定層進行一種非常簡單的修剪，即可在縮小模型規(guī)模的同時顯著提...

新智元報道編輯：編輯部 【新智元導讀】中國版的GPTs來了！百度「靈境矩陣」平臺全新升級為「智能體平臺」，開發(fā)成本大大降低，還能坐擁國內最完整的智能體生...

機器之心報道 編輯：陳萍、杜偉MIT、微軟聯(lián)合研究：不需要額外訓練，也能增強大語言模型的任務性能并降低其大小。在大模型時代，Transformer 憑一己之力撐起...

夕小瑤科技說 分享來源 | 百度靈境矩陣 在生成式AI席卷全球的2023年，大模型在創(chuàng)造新變革的同時也給行業(yè)帶來新的疑問。 當Agent、人形機器人等概念層出不窮，...

新智元報道編輯：alan【新智元導讀】大語言模型在實際部署中，存在內存和輸入長度限制的問題。最近，田淵棟團隊一舉解決這兩大難題，將推理系統(tǒng)的吞吐量提高...