通過Ollama在本地安裝和使用DeepSeek-R1

原標題：通過Ollama在本地安裝和使用DeepSeek-R1
文章來源：AI取經路
內容字數：5127字

輕松在本地部署DeepSeek-R1：Ollama助你一臂之力

近年來，大型語言模型(LLM)發(fā)展迅速，DeepSeek-R1憑借其卓越的性能和親民的價格，迅速成為AI領域的新秀。許多用戶渴望在本地環(huán)境中體驗DeepSeek-R1，以充分利用其強大的功能，并保障數據安全和隱私。然而，本地部署LLM對許多用戶來說并非易事。幸運的是，Ollama的出現簡化了這一過程。

什么是Ollama？

Ollama是一個一體化工具，能夠輕松地在本地運行各種大型語言模型。它支持多種操作系統(tǒng)，允許用戶在個人電腦或服務器上運行和管理LLM，無需依賴云端服務，有效保護用戶數據隱私。

一步步教你本地部署DeepSeek-R1

以下步驟將引導你使用Ollama在本地安裝和運行DeepSeek-R1，即使你對模型部署不熟悉也能輕松上手。

1. 安裝Ollama

首先，你需要下載并安裝Ollama。訪問Ollama官網 (https://ollama.com/)，下載適用于你操作系統(tǒng)的安裝包。安裝過程通常非常簡單，只需按照提示操作即可。安裝完成后，Ollama會自動啟動并顯示在系統(tǒng)托盤中。

2. 配置Ollama模型存儲目錄 (可選)

Ollama默認將模型存儲在特定目錄下 (macOS:~/.ollama/models; Linux:/usr/share/ollama/.ollama/models; Windows:C:\Users\\.ollama\models)。為了優(yōu)化存儲空間或更改存儲位置，你可以設置環(huán)境變量OLLAMA_MODELS，將其指向你選擇的目錄。例如，你可以將其設置為”G:\litx\.ollama\models”。

3. 安裝DeepSeek-R1

打開命令行終端(CMD)，輸入命令 “ollama run deepseek-r1:7b” (這里使用7B版本，你可以根據自身電腦配置選擇合適的版本)。Ollama會自動下載并啟動DeepSeek-R1模型。請耐心等待，下載時間取決于你的網絡速度和模型大小。

需要注意的是，官方建議：運行7B模型至少需要8GB RAM，13B模型需要16GB RAM，33B模型需要32GB RAM。

4. 使用DeepSeek-R1

DeepSeek-R1安裝完成后，你可以通過以下幾種方式與之交互：

• 命令行界面：直接在命令行終端與模型進行對話，輸入你的問題或指令。
• Page Assist瀏覽器擴展：安裝Page Assist瀏覽器擴展，它提供了一個方便的網頁界面，讓你可以在任何網頁上與本地模型進行交互。
• 代碼調用：使用Ollama的Python庫，通過代碼來調用DeepSeek-R1，實現更高級的應用。

5. 通過代碼調用DeepSeek-R1 (示例)

以下是一個簡單的Python代碼示例，演示如何使用Ollama庫進行流式調用：


from ollama import chat
messages = [{'role': 'user','content': '天空為什么是藍色的？'}]
for part in chat('deepseek-r1:7b',messages=messages,stream=True):
print(part['message']['content'],end='',flush=True)
print()


總結

Ollama為本地部署和使用DeepSeek-R1提供了便捷的途徑。通過簡單的步驟，你就可以在本地安全地運行這個強大的模型，并盡情探索其無限可能。記住選擇適合你電腦配置的模型版本，以獲得最佳體驗。

聯系作者

文章來源：AI取經路
作者微信：
作者簡介：踏上取經路，比抵達靈山更重要！ AI技術、 AI知識 、 AI應用 、 人工智能 、 大語言模型