作者：李寶珠 & 十九 編輯：三羊 谷歌的對手可能并非 OpenAI，而是 OpenAI 背后的微軟。3 月中旬，谷歌宣布 Google I/O 定檔北京時間 5 月 15 日凌晨 1 ...

夕小瑤科技說 原創作者 | 謝年年LLMs已經進入了長序列時代。眾多的LLMs已經發布支持從32K到2M tokens的長序列窗口。 不過，面對如此龐大的輸入，我們不禁要問...

夕小瑤科技說 原創作者 | Axe_越當我還是一位懵懂少年的時候，總認為“任務難度”，“參數規模”和“準確率”是一個不可兼顧的三角，比如當我想要挑戰更難的任務，...

夢晨 發自 凹非寺量子位 | 公眾號 QbitAI堂堂開源之王Llama 3，原版上下文窗口居然只有……8k，讓到嘴邊的一句“真香”又咽回去了。? 在32k起步，100k尋常的今天...

新智元報道編輯：LRS 【新智元導讀】LongRoPE方法首次將LLM的窗口擴展到了2048k個token，只是簡單微調的情況下，就能實現與短上下文窗口相近的性能！大型語言...

夕小瑤科技說 原創作者 | 任同學檢索頭的發現或許將有力地幫助大模型領域在提高長上下文推理能力、減少幻覺和壓縮KV緩存方面的研究。 從 Claude100K 到 Gemin...

作者 | KEN KANTZER 譯者 | 平川 策劃 | 褚杏娟 本文最初發布于 KEN KANTZER 的個人博客。 在過去的六個月里，我的創業公司 Truss（gettruss.io）發布了多項...

機器之心報道 機器之心編輯部ChatGPT 正確的使用姿勢。 自 ChatGPT 問世以來，OpenAI 一直被認為是全球生成式大模型的領導者。2023 年 3 月，OpenAI 官方宣布...

大數據文摘受權轉載自微軟亞洲研究院 編者按：大模型的飛速發展給人們的生活帶來了前所未有的便利。我們是否能夠設想利用大模型的潛力，快速掃描整部百科全書...

機器之心報道 編輯：澤南、陳萍谷歌之后，Meta 也來卷無限長上下文。Transformers 的二次復雜度和弱長度外推限制了它們擴展到長序列的能力，雖然存在線性注意...

新智元報道編輯：桃子 好困 【新智元導讀】Transformer王座即將被取而代之！Meta、USC、CMU和UCSD聯合提出了革命性新架構Megalodon，能夠處理無限上下文，在2...

4月18-19日，由智猩猩與智東西共同主辦的2024中國生成式AI大會將在北京JW萬豪酒店舉行。大會完整議程出爐，55位嘉賓出席！免費票申請通道即將關閉，大會通票...

機器之心報道 編輯：小舟、陳萍不知 Gemini 1.5 Pro 是否用到了這項技術。 谷歌又放大招了，發布下一代 Transformer 模型 Infini-Transformer。 Infini-Trans...

新智元報道編輯：編輯部 【新智元導讀】初創團隊Mistral AI再次放出一條磁力鏈，281GB文件解禁了最新的8x22B MoE模型。一條磁力鏈，Mistral AI又來悶聲不響搞...

機器之心報道 機器之心編輯部這次，谷歌要憑「量」打敗其他競爭對手。 當地時間本周二，谷歌在 Google’s Cloud Next 2024 上發布了一系列 AI 相關的模型更新...