Granite 3.1 – IBM 推出的新版語(yǔ)言模型

Granite 3.1是IBM最新推出的語(yǔ)言模型，具備卓越的性能和更為強(qiáng)大的上下文處理能力。該模型系列包含四種不同的規(guī)模和兩種架構(gòu)：密集模型的2B和8B參數(shù)模型，訓(xùn)練過(guò)程中使用了12萬(wàn)億個(gè)token。同時(shí)，專家混合MoE模型包括稀疏的1B和3B MoE模型，分別配備400M和800M的激活參數(shù)，并使用了10萬(wàn)億個(gè)token進(jìn)行訓(xùn)練。Granite 3.1支持高達(dá)128K的令牌上下文長(zhǎng)度，能夠有效處理復(fù)雜文本和多樣化任務(wù)。此外，Granite 3.1還引入了全新的嵌入模型，支持12種語(yǔ)言，提升了多語(yǔ)言處理能力。

Granite 3.1是什么

Granite 3.1是IBM推出的一款先進(jìn)的語(yǔ)言模型，旨在提升文本理解和生成的能力。該模型具有強(qiáng)大的性能，能夠處理更長(zhǎng)的上下文。Granite 3.1系列包括4種不同規(guī)模的模型，分為密集模型和專家混合MoE模型，前者包括2B和8B參數(shù)，而后者則涵蓋稀疏的1B和3B MoE模型。Granite 3.1的上下文長(zhǎng)度擴(kuò)展至128K令牌，適合進(jìn)行更復(fù)雜的文本交互和任務(wù)處理。同時(shí)，Granite 3.1配備了新的嵌入模型，支持12種語(yǔ)言，顯著提升了其在多語(yǔ)言環(huán)境中的應(yīng)用能力。

Granite 3.1的主要功能

• 擴(kuò)展的上下文窗口：上下文窗口擴(kuò)大至128K令牌，使模型能處理更大輸入，支持更長(zhǎng)時(shí)間的交流，并在輸出中整合更多信息。
• 全新的嵌入模型：推出一系列新的Granite嵌入模型，參數(shù)范圍從30M到278M，具備強(qiáng)大的檢索優(yōu)化能力，支持12種語(yǔ)言。
• 功能調(diào)用幻覺(jué)檢測(cè)：Guardian 3.1的8B和2B模型新增了功能調(diào)用幻覺(jué)檢測(cè)能力，增強(qiáng)了對(duì)工具調(diào)用的控制和可視化。

Granite 3.1的技術(shù)原理

• 大型語(yǔ)言模型（LLM）：基于大型語(yǔ)言模型，通過(guò)深度學(xué)習(xí)與自然語(yǔ)言處理技術(shù)進(jìn)行訓(xùn)練，具備理解與生成自然語(yǔ)言的能力。
• 變換器架構(gòu)（Transformer Architecture）：采用變換器架構(gòu)，以捕捉文本中的長(zhǎng)距離依賴關(guān)系。
• 上下文窗口（Context Window）：上下文窗口擴(kuò)展至128K令牌，能夠同時(shí)處理更多信息，適應(yīng)更長(zhǎng)文本和復(fù)雜任務(wù)。
• 多語(yǔ)言支持（Multilingual Support）：訓(xùn)練模型以識(shí)別和理解多種語(yǔ)言，支持12種不同語(yǔ)言的文本處理。

Granite 3.1的項(xiàng)目地址

• 項(xiàng)目官網(wǎng)：ibm-granite-3-1
• GitHub倉(cāng)庫(kù)：https://github.com/ibm-granite/granite-3.1
• HuggingFace模型庫(kù)：https://huggingface.co/collections/ibm-granite/granite-31

Granite 3.1的應(yīng)用場(chǎng)景

• 客戶服務(wù)自動(dòng)化：可以用來(lái)構(gòu)建機(jī)器人和虛擬助手，以自動(dòng)處理客戶咨詢和支持服務(wù)，從而提高響應(yīng)速度和效率。
• 內(nèi)容創(chuàng)作與編輯：幫助內(nèi)容創(chuàng)作者生成、編輯和優(yōu)化文本，包括文章、報(bào)告和市場(chǎng)營(yíng)銷材料。
• 企業(yè)搜索和知識(shí)管理：利用語(yǔ)義搜索和向量搜索技術(shù)，提升企業(yè)內(nèi)部知識(shí)檢索系統(tǒng)，幫助員工迅速找到所需信息。
• 語(yǔ)言翻譯和本地化：可用于翻譯服務(wù)及跨國(guó)公司本地化項(xiàng)目。
• 風(fēng)險(xiǎn)管理和合規(guī)性檢查：在金融和法律領(lǐng)域，幫助分析和理解大量文檔，以確保合規(guī)性和風(fēng)險(xiǎn)管理。

常見(jiàn)問(wèn)題

• Granite 3.1支持多少種語(yǔ)言？ Granite 3.1支持12種語(yǔ)言，增強(qiáng)了多語(yǔ)言處理的能力。
• Granite 3.1的上下文窗口有多大？ 上下文窗口擴(kuò)展至128K令牌，適合處理更復(fù)雜的文本和任務(wù)。
• Granite 3.1的主要應(yīng)用領(lǐng)域有哪些？ 該模型廣泛應(yīng)用于客戶服務(wù)自動(dòng)化、內(nèi)容創(chuàng)作、企業(yè)搜索、語(yǔ)言翻譯和風(fēng)險(xiǎn)管理等領(lǐng)域。