“鵬城·腦海”大模型官網地址:https://openi.pcl.ac.cn/extension/mind
鵬城·腦海(PengCheng Mind)通用AI大模型
2023年9月21日上午,鵬城實驗室主任、中國工程院院士高文在2023華為全聯接大會上正式發布了“鵬城·腦海”(PengCheng Mind)通用AI大模型,以國產化基座大模型為新一代AI大模型發展構筑新基點。
高文主任介紹,“鵬城·腦海”通用AI大模型以稠密型架構實現2000億參數,依托“鵬城云腦II”國產化AI算力平臺進行全程預訓練,采用了MindSpore昇思國產化深度學習框架,完善了大規模并行訓練策略、底層算子性能和容錯機制,顯著提升了國產算力平臺的訓練效率,并構建了一套涵蓋中文、英文及50余個“”沿線國家及地區語種的多樣化語料數據集和數據質量評估工具集。本次發布的是以中文為核心的“鵬城·腦海”基礎版,將在OpenI啟智社區向全社會開源。

腦海大模型版本
此次發布的腦海大模型包括“兩千億參數”和“七十億參數”的PengCheng-Mind 200B、PengCheng-Mind 7B,均是基于“中國算力網”國產化AI算力平臺和“MindSpore”國產化深度學習框架的全國產大模型。其中PengCheng-Mind 7B的模型,支持NPU版本到GPU版本的轉換。

腦海大模型歷史消息
2023年5月29日,在第二屆粵港澳區(廣東)算力產業大會暨首屆中國算力網大會上,中國工程院院士、鵬城實驗室主任高文透露:鵬城實驗室將推出“鵬城·腦海”大模型計劃,打造國內首個完全自主可控、安全可控、開源開放的自然語言預訓練大模型底座。面向數字政務、智慧金融、智能制造等應用場景,鵬城實驗室將開放基于“鵬城·腦海”大模型底座的合作,共建國產自主可控預訓練大模型健康生態。
依托“鵬城云腦”,誕生了全球首個全開源的兩千億參數中文預訓練語言大模型“鵬城·盤古”、全球首個知識增強千億大模型“鵬城-百度·文心”、性能達國際先進水平的十億參數視覺大模型“鵬城·大圣”等大模型。
“鵬城·腦海”大模型推廣計劃
“鵬城·腦海”大模型將進一步依托“中國算力網”接入的協同算力,以“算力網算力調度+模型賦能”相結合的方式,攜手國家新一代AI公共算力平臺,共同推動國產化AI大模型的持續演進與部署應用,最終打造一個基于“中國算力網”的各類領域AI大模型及應用生態的數字化基座。與此同時,實驗室將牽頭成立“鵬城·腦海”開源聯合體,廣泛聯合企業、高校和科研院所,通過這一全新的開源群智合作模式,“一攬子”提供覆蓋壓縮、部署、微調與價值對齊等環節的模型工具,并加強大模型的開源管理與資源共享,加速為千行百業插上人工智能的“翅膀”。
數據統計
數據評估
本站OpenI提供的腦海大模型都來源于網絡,不保證外部鏈接的準確性和完整性,同時,對于該外部鏈接的指向,不由OpenI實際控制,在2023年 9月 15日 上午9:21收錄時,該網頁上的內容,都屬于合規合法,后期網頁的內容如出現違規,可以直接聯系網站管理員進行刪除,OpenI不承擔任何責任。