通過(guò)Ollama在本地安裝和使用DeepSeek-R1

通過(guò)Ollama在本地安裝和使用DeepSeek-R1

原標(biāo)題：通過(guò)Ollama在本地安裝和使用DeepSeek-R1
文章來(lái)源：AI取經(jīng)路
內(nèi)容字?jǐn)?shù)：5127字

輕松在本地部署DeepSeek-R1：Ollama助你一臂之力

近年來(lái)，大型語(yǔ)言模型(LLM)發(fā)展迅速，DeepSeek-R1憑借其卓越的性能和親民的價(jià)格，迅速成為AI領(lǐng)域的新秀。許多用戶(hù)渴望在本地環(huán)境中體驗(yàn)DeepSeek-R1，以充分利用其強(qiáng)大的功能，并保障數(shù)據(jù)安全和隱私。然而，本地部署LLM對(duì)許多用戶(hù)來(lái)說(shuō)并非易事。幸運(yùn)的是，Ollama的出現(xiàn)簡(jiǎn)化了這一過(guò)程。

什么是Ollama？

Ollama是一個(gè)一體化工具，能夠輕松地在本地運(yùn)行各種大型語(yǔ)言模型。它支持多種操作系統(tǒng)，允許用戶(hù)在個(gè)人電腦或服務(wù)器上運(yùn)行和管理LLM，無(wú)需依賴(lài)云端服務(wù)，有效保護(hù)用戶(hù)數(shù)據(jù)隱私。

一步步教你本地部署DeepSeek-R1

以下步驟將引導(dǎo)你使用Ollama在本地安裝和運(yùn)行DeepSeek-R1，即使你對(duì)模型部署不熟悉也能輕松上手。

1. 安裝Ollama

首先，你需要下載并安裝Ollama。訪問(wèn)Ollama官網(wǎng) (https://ollama.com/)，下載適用于你操作系統(tǒng)的安裝包。安裝過(guò)程通常非常簡(jiǎn)單，只需按照提示操作即可。安裝完成后，Ollama會(huì)自動(dòng)啟動(dòng)并顯示在系統(tǒng)托盤(pán)中。

2. 配置Ollama模型存儲(chǔ)目錄 (可選)

Ollama默認(rèn)將模型存儲(chǔ)在特定目錄下 (macOS:~/.ollama/models; Linux:/usr/share/ollama/.ollama/models; Windows:C:\Users\\.ollama\models)。為了優(yōu)化存儲(chǔ)空間或更改存儲(chǔ)位置，你可以設(shè)置環(huán)境變量OLLAMA_MODELS，將其指向你選擇的目錄。例如，你可以將其設(shè)置為”G:\litx\.ollama\models”。

3. 安裝DeepSeek-R1

打開(kāi)命令行終端(CMD)，輸入命令 “ollama run deepseek-r1:7b” (這里使用7B版本，你可以根據(jù)自身電腦配置選擇合適的版本)。Ollama會(huì)自動(dòng)下載并啟動(dòng)DeepSeek-R1模型。請(qǐng)耐心等待，下載時(shí)間取決于你的網(wǎng)絡(luò)速度和模型大小。

需要注意的是，官方建議：運(yùn)行7B模型至少需要8GB RAM，13B模型需要16GB RAM，33B模型需要32GB RAM。

4. 使用DeepSeek-R1

DeepSeek-R1安裝完成后，你可以通過(guò)以下幾種方式與之交互：

• 命令行界面：直接在命令行終端與模型進(jìn)行對(duì)話，輸入你的問(wèn)題或指令。
• Page Assist瀏覽器擴(kuò)展：安裝Page Assist瀏覽器擴(kuò)展，它提供了一個(gè)方便的網(wǎng)頁(yè)界面，讓你可以在任何網(wǎng)頁(yè)上與本地模型進(jìn)行交互。
• 代碼調(diào)用：使用Ollama的Python庫(kù)，通過(guò)代碼來(lái)調(diào)用DeepSeek-R1，實(shí)現(xiàn)更高級(jí)的應(yīng)用。

5. 通過(guò)代碼調(diào)用DeepSeek-R1 (示例)

以下是一個(gè)簡(jiǎn)單的Python代碼示例，演示如何使用Ollama庫(kù)進(jìn)行流式調(diào)用：


from ollama import chat
messages = [{'role': 'user','content': '天空為什么是藍(lán)色的？'}]
for part in chat('deepseek-r1:7b',messages=messages,stream=True):
print(part['message']['content'],end='',flush=True)
print()


總結(jié)

Ollama為本地部署和使用DeepSeek-R1提供了便捷的途徑。通過(guò)簡(jiǎn)單的步驟，你就可以在本地安全地運(yùn)行這個(gè)強(qiáng)大的模型，并盡情探索其無(wú)限可能。記住選擇適合你電腦配置的模型版本，以獲得最佳體驗(yàn)。

聯(lián)系作者

文章來(lái)源：AI取經(jīng)路
作者微信：
作者簡(jiǎn)介：踏上取經(jīng)路，比抵達(dá)靈山更重要！ AI技術(shù)、 AI知識(shí) 、 AI應(yīng)用 、 人工智能 、 大語(yǔ)言模型