AIGC動態(tài)歡迎閱讀

原標(biāo)題：全方位、無死角的開源，邢波團隊LLM360讓大模型實現(xiàn)真正的透明

關(guān)鍵字：模型,數(shù)據(jù),研究者,檢查點,報告

文章來源：機器之心

內(nèi)容字?jǐn)?shù)：8024字

內(nèi)容摘要：機器之心報道編輯：大盤雞、佳琪我們需要更全面和深入地共享。開源模型正展現(xiàn)著它們蓬勃的生命力，不僅數(shù)量激增，性能更是愈發(fā)優(yōu)秀。圖靈獎獲得者 Yann LeCun 也發(fā)出了這樣的感嘆：專有模型在技術(shù)性能和創(chuàng)新能力上展現(xiàn)了非凡的力量，但是它們不開源的性質(zhì)成為 LLM 發(fā)展的阻礙。一些開源模型雖然為從業(yè)者和研究者提供了多樣化的選擇，但大多數(shù)只公開了最終的模型權(quán)重或推理代碼，越來越多的技術(shù)報告將其范圍限制在頂層設(shè)計和表面統(tǒng)計之內(nèi)。這種閉源的策略不僅限制了開源模型的發(fā)展，而且還在很大程度上阻礙了整個 LLM 研究領(lǐng)域的進步。這意味著，這些模型需要更全面和深入地共享，包括訓(xùn)練數(shù)據(jù)、算法細(xì)節(jié)、實現(xiàn)挑戰(zhàn)以及性能評估的細(xì)節(jié)。Cerebras、Petuum 和 MBZUAI 等的研究者們共同提出了 LLM360。這是一項全面開源 LLM 的倡議，主張向社區(qū)提供與 LLM 訓(xùn)練相關(guān)的一切，包含訓(xùn)練代碼和數(shù)據(jù)、模型…

原文鏈接：點此閱讀原文：全方位、無死角的開源，邢波團隊LLM360讓大模型實現(xiàn)真正的透明

聯(lián)系作者

文章來源：機器之心

作者微信：almosthuman2014

作者簡介：專業(yè)的人工智能媒體和產(chǎn)業(yè)服務(wù)平臺