Mac專屬大模型框架來了！兩行代碼部署，能聊本地數據，還支持中文

AIGC動態歡迎閱讀

原標題：Mac專屬大模型框架來了！兩行代碼部署，能聊本地數據，還支持中文
關鍵字：騰訊,模型,數據,框架,峰會
文章來源：量子位
內容字數：3422字

內容摘要：

克雷西 發自 凹非寺量子位 | 公眾號 QbitAIMac用戶，終于不用羨慕N卡玩家有專屬大模型Chat with RTX了！
大神推出的新框架，讓蘋果電腦也跑起了本地大模型，而且只要兩行代碼就能完成部署。
仿照Chat with RTX，框架的名字就叫Chat with MLX（MLX是蘋果機器學習框架），由一名OpenAI前員工打造。
黃院士的框架里有的功能，例如本地文檔總結、YouTube視頻分析，Chat with MLX里也都有。
而且包括中文在內共有11種可用語言，自帶支持的開源大模型多達七種。
體驗過的用戶表示，雖然計算量負擔對蘋果設備可能大了點，但是新手也很容易上手，Chat with MLX真的是個好東西。
那么，Chat with MLX的實際效果究竟怎么樣呢？
用MacBook部署本地大模型Chat with MLX已經集成到了pip命令中，所以在有pip的條件下，只需要一行代碼就能完成安裝：
pip install chat-with-mlx
安裝完成后，在終端中輸入chat-with-mlx并按回車，就會自動完成初始化并彈出網頁（第一次啟動及下載模型時需要連接

原文鏈接：Mac專屬大模型框架來了！兩行代碼部署，能聊本地數據，還支持中文

聯系作者

文章來源：量子位
作者微信：QbitAI
作者簡介：追蹤人工智能新趨勢，關注科技行業新突破