在筆記本電腦上使用 LLMs 的 5 種方法

AIGC動(dòng)態(tài)歡迎閱讀

原標(biāo)題：在筆記本電腦上使用 LLMs 的 5 種方法
關(guān)鍵字：模型,筆記本電腦,應(yīng)用程序,工具,上下文
文章來(lái)源：AI范兒
內(nèi)容字?jǐn)?shù)：3564字

內(nèi)容摘要：

點(diǎn)擊上方藍(lán)字關(guān)注我們?cè)诰W(wǎng)上使用 ChatGPT 很簡(jiǎn)單，只需有網(wǎng)絡(luò)連接和好的瀏覽器即可。但這樣做可能會(huì)泄露您的隱私和數(shù)據(jù)。OpenAI 存儲(chǔ)了您的提示和其他元數(shù)據(jù)以重新訓(xùn)練模型。對(duì)于一些人來(lái)說(shuō)可能不成問(wèn)題，但注重隱私的人可能更愿意在本地使用這些模型，不受外部跟蹤的影響。
本文將介紹五種在本地使用大型語(yǔ)言模型（LLMs）的方法。這些軟件大多兼容所有主要操作系統(tǒng)，并且可以輕松下載安裝。通過(guò)在筆記本電腦上使用LLMs，您可以選擇模型，只需從 HuggingFace hub 下載模型即可開(kāi)始使用。此外，您還可以授權(quán)這些應(yīng)用程序訪問(wèn)您的項(xiàng)目文件夾，并生成上下文感知的響應(yīng)。
1. GPT4AllGPT4All 是一款先進(jìn)的開(kāi)源軟件，允許用戶輕松下載和安裝最先進(jìn)的開(kāi)源模型。
只需從網(wǎng)站下載并在系統(tǒng)上安裝 GPT4ALL。接下來(lái)，從面板中選擇適合您需求的模型即可開(kāi)始使用。如果您安裝了 CUDA（Nvidia GPU），GPT4ALL 將自動(dòng)開(kāi)始使用您的 GPU 生成每秒最多 30 個(gè)標(biāo)記的快速響應(yīng)。
您可以授予對(duì)包含重要文件和代碼的多個(gè)文件夾的訪問(wèn)權(quán)限，GPT4ALL 將使用檢索增強(qiáng)生成生成響應(yīng)。

原文鏈接：在筆記本電腦上使用 LLMs 的 5 種方法

聯(lián)系作者

文章來(lái)源：AI范兒
作者微信：AI_Insights
作者簡(jiǎn)介：AI領(lǐng)域四大媒體之一。 智能未來(lái)，始于Prompt！