標(biāo)簽:序列
一款小而強(qiáng)大的編程助手:零一萬(wàn)物正式開(kāi)源Yi-Coder系列模型
在 AI 領(lǐng)域中,代碼生成和編輯工具一直是開(kāi)發(fā)者們關(guān)注的焦點(diǎn)。 今天,零一萬(wàn)物開(kāi)源了 Yi-Coder 系列模型,它作為 Yi 系列模型家族中的“編程小能手”,展現(xiàn)了卓...
谷歌揭秘大模型不會(huì)數(shù)r原因:嵌入維度是關(guān)鍵,不止分詞器問(wèn)題
克雷西 發(fā)自 凹非寺量子位 | 公眾號(hào) QbitAI大模型做奧賽題游刃有余,簡(jiǎn)單的數(shù)數(shù)卻屢屢翻車的原因找到了。 谷歌的一項(xiàng)新研究,發(fā)現(xiàn)大模型不會(huì)數(shù)數(shù)的原因,并不...
AI填補(bǔ)蛋白質(zhì)設(shè)計(jì)一大空白,或揭秘癌癥、癡呆癥發(fā)病機(jī)制,促進(jìn)新藥發(fā)現(xiàn)和生物材料研發(fā)
大數(shù)據(jù)文摘授權(quán)轉(zhuǎn)載自學(xué)術(shù)頭條 中風(fēng)、癡呆癥等神經(jīng)系統(tǒng)疾病是致病、致殘的主要原因之一,據(jù)世界衛(wèi)生組織(WHO)報(bào)道,全球有超過(guò)三分之一的人口遭受這類疾病...
上海交大洪亮教授:AI 真要突破工程領(lǐng)域,一定要做到現(xiàn)有人類專家做不到的工程成果
作者:洪亮 編輯:李姝,李寶珠 在 AI for Bioengineering 暑期學(xué)校活動(dòng)中,上海交通大學(xué)洪亮教授以「AI 走進(jìn)生活和科學(xué)」為題,圍繞 AI 在當(dāng)下的生活、科學(xué)...
語(yǔ)言圖像模型大一統(tǒng)!Meta將Transformer和Diffusion融合,多模態(tài)AI王者登場(chǎng)
來(lái)源:新智元編輯:Aeneas 好困 【導(dǎo)讀】就在剛剛,Meta最新發(fā)布的Transfusion,能夠訓(xùn)練生成文本和圖像的統(tǒng)一模型了!完美融合Transformer和擴(kuò)散領(lǐng)域之后,...
科研進(jìn)展丨探究大腦額葉皮層在工作記憶中的靈活控制
來(lái)源:腦科學(xué)與智能技術(shù)卓越創(chuàng)新中心 2024年8月22日,《Neuron》期刊在線發(fā)表題為《獼猴額葉皮層對(duì)序列工作記憶的靈活控制》的研究論文,揭示了額葉皮層對(duì)信...
多虧Transformer,Mamba更強(qiáng)了!僅用1%計(jì)算量達(dá)新SOTA
明敏 發(fā)自 凹非寺量子位 | 公眾號(hào) QbitAIAttention is all you need. 至少在矩陣這兒是。 Mamba架構(gòu)最新進(jìn)展:僅需1%計(jì)算量,新模型性能達(dá)SOTA。 能做到這一...
入選ACL2024主會(huì) | InstructProtein:利用知識(shí)指令對(duì)齊蛋白質(zhì)語(yǔ)言與人類語(yǔ)言
作者:梅菜 編輯:十九,李寶珠 浙江大學(xué)研究團(tuán)隊(duì)提出InstructProtein,利用知識(shí)指令對(duì)齊蛋白質(zhì)語(yǔ)言與人類語(yǔ)言,展示了將生物序列整合到大型語(yǔ)言模型的能力。...
支持1024幀、準(zhǔn)確率近100%,英偉達(dá)「LongVILA」開(kāi)始發(fā)力長(zhǎng)視頻
機(jī)器之心報(bào)道 編輯:杜偉、陳陳現(xiàn)在,長(zhǎng)上下文視覺(jué)語(yǔ)言模型(VLM)有了新的全棧解決方案 ——LongVILA,它集系統(tǒng)、模型訓(xùn)練與數(shù)據(jù)集開(kāi)發(fā)于一體。現(xiàn)階段,將模型...
一文看懂Mamba,Transformer最強(qiáng)競(jìng)爭(zhēng)者
機(jī)器之心報(bào)道 編輯:PandaMamba 雖好,但發(fā)展尚早。深度學(xué)習(xí)架構(gòu)有很多,但近些年最成功的莫過(guò)于 Transformer,其已經(jīng)在多個(gè)應(yīng)用領(lǐng)域確立了自己的主導(dǎo)地位。 ...
從頭設(shè)計(jì)抗體,騰訊、北大團(tuán)隊(duì)預(yù)訓(xùn)練大語(yǔ)言模型登Nature子刊
將 ScienceAI設(shè)為星標(biāo) 第一時(shí)間掌握 新鮮的 AI for Science 資訊編輯 | KX AI 技術(shù)在輔助抗體設(shè)計(jì)方面取得了巨大進(jìn)步。然而,抗體設(shè)計(jì)仍然嚴(yán)重依賴于從血清中...
Mamba再次挑戰(zhàn)霸主Transformer!首個(gè)通用Mamba開(kāi)源大模型一鳴驚人
新智元報(bào)道編輯:編輯部 【新智元導(dǎo)讀】TII開(kāi)源全球第一個(gè)通用的大型Mamba架構(gòu)模型Falcon Mamba 7B,性能與Transformer架構(gòu)模型相媲美,在多個(gè)基準(zhǔn)測(cè)試上的均...
AI頂會(huì)ICML收了一篇論文:沒(méi)算法沒(méi)實(shí)驗(yàn)
蔡永強(qiáng) 投稿量子位 | 公眾號(hào) QbitAI沒(méi)有算法沒(méi)有實(shí)驗(yàn),從2610篇收錄論文中脫穎而出,成為唯一一篇純理論入選2024 ICML Spotlight的論文。 “Vocabulary for Un...
只要一張圖就能「還原」繪畫(huà)過(guò)程,這篇論文比爆火的Paints-UNDO實(shí)現(xiàn)得更早
AIxiv專欄是機(jī)器之心發(fā)布學(xué)術(shù)、技術(shù)內(nèi)容的欄目。過(guò)去數(shù)年,機(jī)器之心AIxiv專欄接收?qǐng)?bào)道了2000多篇內(nèi)容,覆蓋全球各大高校與企業(yè)的頂級(jí)實(shí)驗(yàn)室,有效促進(jìn)了學(xué)術(shù)...
催化能力提高 3.5 倍!中科院團(tuán)隊(duì)基于擴(kuò)散模型,開(kāi)發(fā) P450 酶從頭設(shè)計(jì)方法 P450Diffusion
作者:梅菜 編輯:李寶珠,十九 中國(guó)科學(xué)院天津工業(yè)生物技術(shù)研究所的新酶設(shè)計(jì)團(tuán)隊(duì),開(kāi)發(fā)了基于擴(kuò)散模型和口袋設(shè)計(jì)原則的 P450 酶從頭設(shè)計(jì)方法 P450Diffusion...