AIGC動態歡迎閱讀
原標題:央企第一家:中國電信開源星辰語義大模型,共享超1T 高質基礎數據
關鍵字:模型,語義,星辰,數據,中國電信
文章來源:機器之心
內容字數:11569字
內容摘要:
機器之心原創
作者:吳昕2024 年伊始,中國電信開源星辰語義大模型- 7B,成為第一家開源大模型的央企。同時開源的還有超 1T 的高質量清洗基礎數據。
隨著新一輪科技和產業變革加速演進,擁抱 AI 成為中國電信當下發展的核心戰略之一。2019 年,中國電信在原數據中心基礎上成立大數據和 AI 中心。2023 年11 月,中國電信注資 30 億元成「中電信人工智能科技有限公司」(以下簡稱中電信 AI 、 AI 團隊),牽頭打造中國電信 AI 核心技術。同月,中國電信發布千億級星辰語義大模型。
開源項目鏈接地址
https://gitee.com/Tele-AI/tele-chat
https://github.com/Tele-AI/Telechat一、星辰語義大模型的開源方案
在千億參數大模型發布之前,星辰語義大模型已經具備了多版本穩定可用的大模型基座,覆蓋 3B 、 7B 、12B 和 130B 等參數量級。大模型采用純自研的方式,團隊選用解碼器架構( decoder-only )并在模型維度做了一些創新和改進,經過數十版模型訓練與優化,模型的穩定性和推理速度都得到了明顯提升。
原文鏈接:央企第一家:中國電信開源星辰語義大模型,共享超1T 高質基礎數據
聯系作者
文章來源:機器之心
作者微信:almosthuman2014
作者簡介:專業的人工智能媒體和產業服務平臺
? 版權聲明
文章版權歸作者所有,未經允許請勿轉載。
相關文章
暫無評論...