15小時、幾千元訓(xùn)完中文版LLaMA2!低成本方案全面開源,包含代碼權(quán)重,支持商用
AIGC動態(tài)歡迎閱讀
原標(biāo)題:15小時、幾千元訓(xùn)完中文版LLaMA2!低成本方案全面開源,包含代碼權(quán)重,支持商用
關(guān)鍵字:模型,數(shù)據(jù),中文,詞表,能力
文章來源:量子位
內(nèi)容字?jǐn)?shù):7744字
內(nèi)容摘要:明敏 發(fā)自 凹非寺量子位 公眾號 | QbitAI訓(xùn)練大模型,幾千塊就能實現(xiàn)了!現(xiàn)在,15小時、幾千塊錢、85億 token數(shù)據(jù),即可訓(xùn)出中文LLaMA2。綜合性能達(dá)到開源社區(qū)同規(guī)模從頭預(yù)訓(xùn)練SOTA模型水平。方案完全開源,包括全套訓(xùn)練流程、代碼及權(quán)重。而且無商業(yè)限制,還可遷移應(yīng)用到任意垂類領(lǐng)域和從頭預(yù)訓(xùn)練大模型的低成本構(gòu)建。要知道,從頭預(yù)訓(xùn)練大模型此前被戲稱“要5000萬美元才能入局”,讓許多開…
原文鏈接:點此閱讀原文:15小時、幾千元訓(xùn)完中文版LLaMA2!低成本方案全面開源,包含代碼權(quán)重,支持商用
聯(lián)系作者
文章來源:量子位
作者微信:QbitAI
作者簡介:追蹤人工智能新趨勢,關(guān)注科技行業(yè)新突破
? 版權(quán)聲明
文章版權(quán)歸作者所有,未經(jīng)允許請勿轉(zhuǎn)載。
相關(guān)文章
暫無評論...