最壕DeepSeek玩家8臺Mac跑R1，10萬+元湊496GB顯存才能跑4bit量化版

R1發(fā)布36小時，橫掃各大榜單

原標題：最壕DeepSeek玩家8臺Mac跑R1，10萬+元湊496GB顯存才能跑4bit量化版
文章來源：量子位
內(nèi)容字數(shù)：1918字

DeepSeek-R1：一個令人驚艷的家用AGI？

本文總結了DeepSeek-R1大型語言模型的最新測試結果和市場反響。該模型由凹非寺團隊開發(fā)，其性能和成本效益引發(fā)了廣泛關注。

1. 高性能與高成本的矛盾

   DeepSeek-R1在多個基準測試中表現(xiàn)出色，尤其是在LiveBench和PlanBench上取得了令人矚目的成績，甚至在某些測試中超過了o1-preview。然而，運行該模型需要強大的計算資源。一些用戶花費超過10萬元搭建包含7臺M4 Pro Mac mini和1臺M4 Max Macbook Pro的家用超算，總計496G顯存才能運行4bit量化版。這凸顯了高性能AI模型與高昂成本之間的矛盾。

2. 數(shù)據(jù)蒸餾版：輕量級選擇

   為了降低準入門檻，DeepSeek-R1也推出了數(shù)據(jù)蒸餾版Qwen 1.5B小模型。該模型體積小巧，可在瀏覽器上運行，每秒輸出60個tokens，為普通用戶提供了更便捷的體驗。

3. 基準測試結果：與o1系列的對比

   DeepSeek-R1在LiveBench上的表現(xiàn)與o1-preview相近，甚至在某些方面略遜一籌。但在PlanBench上，它甚至在某些測試中超過了o1-preview。更重要的是，DeepSeek-R1的成本遠低于o1系列，這使其在性價比方面具有顯著優(yōu)勢。在ARC-AGI的私有和公開數(shù)據(jù)測試中，DeepSeek-R1的表現(xiàn)也大幅超越了DeepSeek-V3。

4. 上下文窗口的限制與未來潛力

   目前，DeepSeek-R1的主要不足之處在于上下文窗口較短。然而，其在正確數(shù)據(jù)和微調(diào)方法下的巨大潛力不容忽視。許多人認為，構建一個能夠輕松在DeepSeek-R1上進行OpenAI風格強化微調(diào)的平臺，將是一個巨大的商機。

5. 市場反響與創(chuàng)業(yè)機會

   DeepSeek-R1的出現(xiàn)激發(fā)了人們的熱情，也帶來了新的創(chuàng)業(yè)機會。一些人認為，構建一個方便用戶在DeepSeek-R1上進行OpenAI風格強化微調(diào)的平臺，將是一個極具潛力的商業(yè)方向。因為在特定任務上，通過合適的微調(diào)，R1可能會有大幅提升。

總而言之，DeepSeek-R1是一個具有高性能和高性價比的語言模型，其在多個基準測試中取得了令人印象深刻的成績。盡管存在一些不足之處，例如上下文窗口較短，但其巨大的潛力和潛在的商業(yè)價值，使其成為人工智能領域一個值得關注的焦點。

聯(lián)系作者

文章來源：量子位
作者微信：
作者簡介：追蹤人工智能新趨勢，關注科技行業(yè)新突破