
AIGC動態歡迎閱讀
原標題:昂貴LLM的救星?Nature新研究提出新型憶阻器,比Haswell CPU高效460倍
關鍵字:矩陣,模型,論文,電導,電路
文章來源:機器之心
內容字數:0字
內容摘要:
機器之心報道
編輯:Panda前些天,OpenAI 發布了 ο1 系列模型,它那「超越博士水平的」強大推理性能預示著其必將在人們的生產生活中大有作為。但它的使用成本也很高,以至于 OpenAI 不得不限制每位用戶的使用量:每位用戶每周僅能給 o1-preview 發送 30 條消息,給 o1-mini 發送 50 條消息。
實在是少!
為了降低 LLM 的使用成本,研究者們已經想出了各式各樣的方法。有些方法的目標是提升模型的效率,比如對模型進行量化或蒸餾,但這種方法往往也伴隨著模型性能的下降。另一種思路則是提升運行這些模型的硬件——英偉達正是這一路線的推動者和受益者,但該公司的主要策略還是提升 GPU 的性能;另一些研究者則正在探索針對 AI 構建高效高性能的新型硬件體系。憶阻器(memristor)便是其中一個重要的研究方向。
憶阻器是一種電子元件,其能夠限制或調節電路中電流的流動,并且可以記憶之前通過的電荷量。憶阻器在許多實際應用中具有重要意義,原因之一是其具備非易失性特性,即在斷電情況下仍能保持記憶,這使得其在無電源或電源中斷時依然能夠持續使用。憶阻器被認為是和電阻器、電容器、電
原文鏈接:昂貴LLM的救星?Nature新研究提出新型憶阻器,比Haswell CPU高效460倍
聯系作者
文章來源:機器之心
作者微信:
作者簡介:
? 版權聲明
文章版權歸作者所有,未經允許請勿轉載。
相關文章
暫無評論...

粵公網安備 44011502001135號