昂貴LLM的救星?Nature新研究提出新型憶阻器,比Haswell CPU高效460倍
AIGC動態(tài)歡迎閱讀
原標題:昂貴LLM的救星?Nature新研究提出新型憶阻器,比Haswell CPU高效460倍
關(guān)鍵字:矩陣,模型,論文,電導,電路
文章來源:機器之心
內(nèi)容字數(shù):0字
內(nèi)容摘要:
機器之心報道
編輯:Panda前些天,OpenAI 發(fā)布了 ο1 系列模型,它那「超越博士水平的」強大推理性能預示著其必將在人們的生產(chǎn)生活中大有作為。但它的使用成本也很高,以至于 OpenAI 不得不限制每位用戶的使用量:每位用戶每周僅能給 o1-preview 發(fā)送 30 條消息,給 o1-mini 發(fā)送 50 條消息。
實在是少!
為了降低 LLM 的使用成本,研究者們已經(jīng)想出了各式各樣的方法。有些方法的目標是提升模型的效率,比如對模型進行量化或蒸餾,但這種方法往往也伴隨著模型性能的下降。另一種思路則是提升運行這些模型的硬件——英偉達正是這一路線的推動者和受益者,但該公司的主要策略還是提升 GPU 的性能;另一些研究者則正在探索針對 AI 構(gòu)建高效高性能的新型硬件體系。憶阻器(memristor)便是其中一個重要的研究方向。
憶阻器是一種電子元件,其能夠限制或調(diào)節(jié)電路中電流的流動,并且可以記憶之前通過的電荷量。憶阻器在許多實際應(yīng)用中具有重要意義,原因之一是其具備非易失性特性,即在斷電情況下仍能保持記憶,這使得其在無電源或電源中斷時依然能夠持續(xù)使用。憶阻器被認為是和電阻器、電容器、電
原文鏈接:昂貴LLM的救星?Nature新研究提出新型憶阻器,比Haswell CPU高效460倍
聯(lián)系作者
文章來源:機器之心
作者微信:
作者簡介:
? 版權(quán)聲明
文章版權(quán)歸作者所有,未經(jīng)允許請勿轉(zhuǎn)載。
相關(guān)文章
暫無評論...