標簽:機器人

蘋果芯跑大模型不用降計算精度,投機采樣殺瘋了,GPT-4也在用

夢晨 發自 凹非寺量子位 | 公眾號 QbitAI專攻代碼的Code Llama一出,大家伙都盼著誰來后續量化瘦身一下,好在本地也能運行。果然是llama.cpp作者Georgi Gerga...
閱讀原文
1515253