谷歌Gemini1.5重磅上線:最強(qiáng)MoE架構(gòu),100萬上下文
AIGC動(dòng)態(tài)歡迎閱讀
原標(biāo)題:谷歌Gemini1.5重磅上線:最強(qiáng)MoE架構(gòu),100萬上下文
關(guān)鍵字:報(bào)告,模型,上下文,窗口,代碼
文章來源:Founder Park
內(nèi)容字?jǐn)?shù):5517字
內(nèi)容摘要:
文章轉(zhuǎn)載自「機(jī)器之心」今天,谷歌宣布推出 Gemini 1.5。Gemini 1.5 建立在谷歌基礎(chǔ)模型開發(fā)和基礎(chǔ)設(shè)施的研究與工程創(chuàng)新的基礎(chǔ)上,包括通過新的專家混合 (MoE) 架構(gòu)使 Gemini 1.5 的訓(xùn)練和服務(wù)更加高效。
谷歌現(xiàn)在推出的是用于早期測試的 Gemini 1.5 的第一個(gè)版本 ——Gemini 1.5 Pro。它是一種中型多模態(tài)模型,針對多種任務(wù)的擴(kuò)展進(jìn)行了優(yōu)化,其性能水平與谷歌迄今為止最大的模型 1.0 Ultra 類似,并引入了長上下文理解方面的突破性實(shí)驗(yàn)特征。
Gemini 1.5 Pro 配備了 128000 個(gè) token 上下文窗口。但從今天開始,少數(shù)開發(fā)人員和企業(yè)客戶可以通過 AI Studio 和 Vertex AI 的私人預(yù)覽版在最多 100 萬個(gè) token 的上下文窗口中進(jìn)行嘗試。谷歌還進(jìn)行了一些優(yōu)化,以改善延遲、減少計(jì)算要求并增強(qiáng)用戶體驗(yàn)。
谷歌 CEO Sundar Pichai 和谷歌 DeepMind CEO Demis Hassabis 對新模型進(jìn)行了專門介紹。01高效架構(gòu)Gemini 1.5 建立在谷歌對 Transformer
原文鏈接:谷歌Gemini1.5重磅上線:最強(qiáng)MoE架構(gòu),100萬上下文
聯(lián)系作者
文章來源:Founder Park
作者微信:Founder-Park
作者簡介:來自極客公園,專注與科技創(chuàng)業(yè)者聊「真問題」。