Mac專屬大模型框架來了!兩行代碼部署,能聊本地?cái)?shù)據(jù),還支持中文
AIGC動態(tài)歡迎閱讀
原標(biāo)題:Mac專屬大模型框架來了!兩行代碼部署,能聊本地數(shù)據(jù),還支持中文
關(guān)鍵字:騰訊,模型,數(shù)據(jù),框架,峰會
文章來源:量子位
內(nèi)容字?jǐn)?shù):3422字
內(nèi)容摘要:
克雷西 發(fā)自 凹非寺量子位 | 公眾號 QbitAIMac用戶,終于不用羨慕N卡玩家有專屬大模型Chat with RTX了!
大神推出的新框架,讓蘋果電腦也跑起了本地大模型,而且只要兩行代碼就能完成部署。
仿照Chat with RTX,框架的名字就叫Chat with MLX(MLX是蘋果機(jī)器學(xué)習(xí)框架),由一名OpenAI前員工打造。
黃院士的框架里有的功能,例如本地文檔總結(jié)、YouTube視頻分析,Chat with MLX里也都有。
而且包括中文在內(nèi)共有11種可用語言,自帶支持的開源大模型多達(dá)七種。
體驗(yàn)過的用戶表示,雖然計(jì)算量負(fù)擔(dān)對蘋果設(shè)備可能大了點(diǎn),但是新手也很容易上手,Chat with MLX真的是個(gè)好東西。
那么,Chat with MLX的實(shí)際效果究竟怎么樣呢?
用MacBook部署本地大模型Chat with MLX已經(jīng)集成到了pip命令中,所以在有pip的條件下,只需要一行代碼就能完成安裝:
pip install chat-with-mlx
安裝完成后,在終端中輸入chat-with-mlx并按回車,就會自動完成初始化并彈出網(wǎng)頁(第一次啟動及下載模型時(shí)需要連接
原文鏈接:Mac專屬大模型框架來了!兩行代碼部署,能聊本地?cái)?shù)據(jù),還支持中文
聯(lián)系作者
文章來源:量子位
作者微信:QbitAI
作者簡介:追蹤人工智能新趨勢,關(guān)注科技行業(yè)新突破