標簽：矩陣

WPS 大家經常用來日常寫作，雖然本身提供了AI功能，但可惜需要會員，本文教你三分鐘接入最火的DeepSeek，讓WPS秒變辦公神器。 DeepSeek API申請地址：http:/...

這兩年大家都在感嘆生活不易，然而我想說的是，機會還是有的，但問題不在于有沒有，而在于你是否能夠認準機會，然后抓住它。 接觸過很多咨詢項目的人，發現...

AIxiv專欄是機器之心發布學術、技術內容的欄目。過去數年，機器之心AIxiv專欄接收報道了2000多篇內容，覆蓋全球各大高校與企業的頂級實驗室，有效促進了學術...

DuQuant團隊 投稿量子位 | 公眾號 QbitAI消除激活值(outliers)，大語言模型低比特量化有新招了—— 自動化所、清華、港城大團隊最近有一篇論文入選了NeurIPS 20...

機器之心發布 機器之心編輯部字節跳動豆包大模型團隊于近日提出超連接（Hyper-Connections），一種簡單有效的殘差連接替代方案。面向殘差連接的主要變體的局...

PACMAN實驗室投稿量子位 | 公眾號 QbitAI一鍵部署LLM混合精度推理，端到端吞吐比AWQ最大提升6倍！ 清華大學計算機系PACMAN實驗室發布開源混合精度推理系統——M...

Fira團隊 投稿量子位 | 公眾號 QbitAI內存占用小，訓練表現也要好……大模型訓練成功實現二者兼得。 來自北理、北大和港中文MMLab的研究團隊提出了一種滿足低秩...

AIxiv專欄是機器之心發布學術、技術內容的欄目。過去數年，機器之心AIxiv專欄接收報道了2000多篇內容，覆蓋全球各大高校與企業的頂級實驗室，有效促進了學術...

新智元報道編輯：桃子 LRS 【新智元導讀】LLM訓練速度還可以再飆升20倍！英偉達團隊祭出全新架構歸一化Transformer（nGPT），上下文越長，訓練速度越快，還能...

AIxiv專欄是機器之心發布學術、技術內容的欄目。過去數年，機器之心AIxiv專欄接收報道了2000多篇內容，覆蓋全球各大高校與企業的頂級實驗室，有效促進了學術...

允中 發自 凹非寺量子位 | 公眾號 QbitAIFP8通過其獨特的數值表示方式，能夠在保持一定精度的同時，在大模型訓練中提高訓練速度、節省內存占用，最終降低訓練...

機器之心報道 機器之心編輯部注意力是 Transformer 架構的關鍵部分，負責將每個序列元素轉換為值的加權和。將查詢與所有鍵進行點積，然后通過 softmax 函數歸...

機器之心報道 編輯：Panda前些天，OpenAI 發布了 ο1 系列模型，它那「超越博士水平的」強大推理性能預示著其必將在人們的生產生活中大有作為。但它的使用成本...

DV lab 投稿量子位 | 公眾號 QbitAI比LoRA更高效的模型微調方法來了—— 以常識推理為例，在參數量減少8~16倍的情況下，兩種方法能達到相同效果。 新方法名叫Lo...

新智元報道編輯：喬楊 Frey 【新智元導讀】用英偉達的GPU，但可以不用CUDA？PyTorch官宣，借助OpenAI開發的Triton語言編寫內核來加速LLM推理，可以實現和CUDA...

機器之心報道 編輯：Panda W、陳陳本文根據視頻整理而來，有聽錯或理解不當之處歡迎在評論區指出。向大模型輸入「Michael Jordan plays the sport of _____（...

明敏 發自 凹非寺量子位 | 公眾號 QbitAIAttention is all you need. 至少在矩陣這兒是。 Mamba架構最新進展：僅需1%計算量，新模型性能達SOTA。 能做到這一...