昂貴LLM的救星?Nature新研究提出新型憶阻器,比Haswell CPU高效460倍
AIGC動(dòng)態(tài)歡迎閱讀
原標(biāo)題:昂貴LLM的救星?Nature新研究提出新型憶阻器,比Haswell CPU高效460倍
關(guān)鍵字:矩陣,模型,論文,電導(dǎo),電路
文章來(lái)源:機(jī)器之心
內(nèi)容字?jǐn)?shù):0字
內(nèi)容摘要:
機(jī)器之心報(bào)道
編輯:Panda前些天,OpenAI 發(fā)布了 ο1 系列模型,它那「超越博士水平的」強(qiáng)大推理性能預(yù)示著其必將在人們的生產(chǎn)生活中大有作為。但它的使用成本也很高,以至于 OpenAI 不得不限制每位用戶的使用量:每位用戶每周僅能給 o1-preview 發(fā)送 30 條消息,給 o1-mini 發(fā)送 50 條消息。
實(shí)在是少!
為了降低 LLM 的使用成本,研究者們已經(jīng)想出了各式各樣的方法。有些方法的目標(biāo)是提升模型的效率,比如對(duì)模型進(jìn)行量化或蒸餾,但這種方法往往也伴隨著模型性能的下降。另一種思路則是提升運(yùn)行這些模型的硬件——英偉達(dá)正是這一路線的推動(dòng)者和受益者,但該公司的主要策略還是提升 GPU 的性能;另一些研究者則正在探索針對(duì) AI 構(gòu)建高效高性能的新型硬件體系。憶阻器(memristor)便是其中一個(gè)重要的研究方向。
憶阻器是一種電子元件,其能夠限制或調(diào)節(jié)電路中電流的流動(dòng),并且可以記憶之前通過(guò)的電荷量。憶阻器在許多實(shí)際應(yīng)用中具有重要意義,原因之一是其具備非易失性特性,即在斷電情況下仍能保持記憶,這使得其在無(wú)電源或電源中斷時(shí)依然能夠持續(xù)使用。憶阻器被認(rèn)為是和電阻器、電容器、電
原文鏈接:昂貴LLM的救星?Nature新研究提出新型憶阻器,比Haswell CPU高效460倍
聯(lián)系作者
文章來(lái)源:機(jī)器之心
作者微信:
作者簡(jiǎn)介: