標簽:上下文
谷歌Gemini 1.5模型來了!突破100萬個tokens,能處理1小時視頻【附58頁技術報告】
一次能處理1小時視頻、11小時音頻、超過3萬行代碼。 編譯|ZeR0 編輯|漠影 智東西2月16日報道,谷歌昨夜發(fā)布其大模型矩陣的最新力作——Gemini 1.5,并將上下文...
谷歌Gemini1.5重磅上線:最強MoE架構,100萬上下文
文章轉載自「機器之心」今天,谷歌宣布推出 Gemini 1.5。Gemini 1.5 建立在谷歌基礎模型開發(fā)和基礎設施的研究與工程創(chuàng)新的基礎上,包括通過新的專家混合 (MoE...
谷歌Gemini1.5火速上線:MoE架構,100萬上下文
機器之心報道 機器之心編輯部今天,谷歌宣布推出 Gemini 1.5。 Gemini 1.5 建立在谷歌基礎模型開發(fā)和基礎設施的研究與工程創(chuàng)新的基礎上,包括通過新的專家混...
谷歌發(fā)布Gemini 1.5,多項指標碾壓ChatGPT
點擊上方藍字關注我們谷歌發(fā)布了Gemini 1.5,AI模型系列的重大更新,擁有史無前例的大型上下文長度。Gemini 1.5采用新的MoE架構,效率更高。Gemini 1.5 Pro性...
谷歌Gemini 1.5深夜上線,史詩級多模態(tài)硬剛GPT-5!最強MoE首破100萬極限上下文紀錄
新智元報道編輯:好困 Aeneas 【新智元導讀】剛剛,我們經(jīng)歷了LLM劃時代的一夜。谷歌又在深夜發(fā)炸彈,Gemini Ultra發(fā)布還沒幾天,Gemini 1.5就來了。卯足勁和...
陶哲軒看了都直呼內(nèi)行!谷歌等用LLM自動證明定理拿頂會杰出論文,上下文越全證得越好
新智元報道編輯:alan 【新智元導讀】在軟件工程頂會ESEC/FSE上,來自馬薩諸塞大學、谷歌和伊利諾伊大學厄巴納-香檳分校(UIUC)的研究人員發(fā)表了新的成果,...
擊敗OpenAI,權重、數(shù)據(jù)、代碼全開源,能完美復現(xiàn)的嵌入模型Nomic Embed來了
機器之心報道 編輯:陳萍、小舟模型參數(shù)量只有 137M,5 天就能訓練好。一周前,OpenAI 給廣大用戶發(fā)放福利,在下場修復 GPT-4 變懶的問題后,還順道上新了 5 ...
匿名論文提出奇招!增強大模型長文本能力居然還能這么做
豐色 發(fā)自 凹非寺量子位 | 公眾號 QbitAI一提到提高大模型長文本能力,就想到長度外推或者上下文窗口擴展? 不行,這些都太費硬件資源了。 來看一個奇妙新解...
英偉達新對話QA模型準確度超GPT-4,卻遭吐槽:無權重代碼意義不大
機器之心報道 編輯:大盤雞、杜偉昨天,Meta、紐約大學的研究者用「自我獎勵方法」,讓大模型自己生成自己的微調(diào)數(shù)據(jù),從而在 Llama 2 70B 的迭代微調(diào)后超越...
大模型筆記!以LLAMA為例,快速入門LLM的推理過程
直播預告 | 下周一晚7點,「自動駕駛新青年講座」第35講正式開講,LMDrive一作、香港中文大學MMLab在讀博士邵昊將主講《LMDrive:大語言模型加持的閉環(huán)端到端...
Stability AI開年首個大模型:專寫代碼,支持18種編程語言,上下文100K,蘋果筆記本離線就能跑
西風 發(fā)自 凹非寺量子位 | 公眾號 QbitAIStability AI開年第一個大模型來了! 名為Stable Code 3B,參數(shù)27億,專為寫代碼而生。 Stable Code 3B可理解處理18...
詳解!大語言模型中的檢索增強生成RAG技術
直播預告 | 1月17日晚7點,「多模態(tài)大模型線上閉門會」正式開講!阿里巴巴通義實驗室 NLP 高級算法專家嚴明參與出品,攜手劉兆洋、李彥瑋、文束三位青年學者...
港中文在讀博士李彥瑋:LLaMA-VID: 專注于長視頻理解的視覺語言大模型
1月17日晚7點,智猩猩推出「多模態(tài)大模型線上閉門會」。本次閉門會由阿里巴巴通義實驗室 NLP 高級算法專家嚴明參與出品,并聚焦于大語言模型工具調(diào)用 Control...
阿里與上交大提出 LLM 長文本計算新解法:可處理文本長達 1900k 字節(jié)、效率提升 2.4 倍
DistAttention與DistKV-LLM結合,帶來云端自然語言處理新變革。編譯 | 郭 思 編輯丨陳彩嫻 在實際應用大模型的過程中,尤其是處理長文本的上下文信息時,如何...
開發(fā)速率飆升20倍!GPT Pilot明星項目登Github熱榜,從0開始構建AI
新智元報道編輯:桃子 【新智元導讀】開發(fā)者的效率倍增工具來了。AI開發(fā)者伴侶GPT Pilot可以讓95%的開發(fā)者實現(xiàn)自動編碼。又一個明星項目誕生了! GPT Pilot,...