
AIGC動態歡迎閱讀
原標題:央企第一家:中國電信開源星辰語義大模型,共享超1T高質基礎數據
關鍵字:模型,語義,星辰,數據,中國電信
文章來源:機器之心
內容字數:21858字
內容摘要:
2024 年伊始,中國電信開源星辰語義大模型-7B,成為第一家開源大模型的央企。同時開源的還有超 1T 的高質量清洗基礎數據。
隨著新一輪科技和產業變革加速演進,擁抱 AI 成為中國電信當下發展的核心戰略之一。2019 年,中國電信在原數據中心基礎上成立大數據和 AI 中心。2023 年 11 月,中國電信注資 30 億元成立「中電信人工智能科技有限公司」(以下簡稱電信 AI 、AI 團隊),牽頭打造中國電信 AI 核心技術。同月,中國電信發布千億級星辰語義大模型。
開源項目鏈接地址:
- https://openi.pcl.ac.cn/openihu/tele-chat
- https://gitee.com/Tele-AI/tele-chat
- https://github.com/Tele-AI/Telechat
- https://huggingface.co/Tele-AI/telechat-7B
一、星辰語義大模型的開源方案
在千億參數大模型發布之前,星辰語義大模型已經具備了多版本穩定可用的大模型基座,覆蓋 3B、7B、12B 和 130B 等參數量級。大模型采用純自研方式,AI 團隊選用解碼器架構( decoder-only )并在模型維度做了一些創新和改進。經過數十版模型訓練與優化,模型的穩定性和推理速度都得到了明顯提升。
原文鏈接:央企第一家:中國電信開源星辰語義大模型,共享超1T高質基礎數據
聯系作者
文章來源:機器之心
作者微信:almosthuman2014
作者簡介:專業的人工智能媒體和產業服務平臺
? 版權聲明
文章版權歸作者所有,未經允許請勿轉載。
相關文章
暫無評論...