標簽：速度

大道至簡？ETH研究團隊提出簡化版Transformer模型，綜合效率明顯提升

大數據文摘受權轉載自將門創投?2023年，Transformer已經成為人工智能領域中最受歡迎的基礎模型，如今火熱的大型語言模型，多模態大模型均由不同類型的Transfo...
閱讀原文

真實再現生物脊柱功能，老鼠機器人也能像杰瑞一樣靈活，Science Robotics 發布老鼠機器人最新研究成果

機器之心專欄機器之心編輯部12 月 7日，國際知名學術期刊《Science Robotics》發表來自德國慕尼黑工業大學和中山大學的研究團隊的研究文章——「Lateral Flexio...
閱讀原文

PyTorch造大模型“加速包”，不到1000行代碼提速10倍！英偉達科學家：minGPT以來最好的教程式repo之一

西風 發自 凹非寺量子位 | 公眾號 QbitAIPyTorch團隊讓大模型推理速度加快了10倍。且只用了不到1000行的純原生PyTorch代碼！項目名為GPT-fast，加速效果觀感...
閱讀原文

簡化版Transformer來了，網友：年度論文

機器之心報道機器之心編輯部從大模型的根源開始優化。Transformer 架構可以說是近期深度學習領域許多成功案例背后的主力軍。構建深度 Transformer 架構的一種...
閱讀原文

M3 iMac 評測：撬動 Intel 釘子戶的又一臺利器

理想的家用電腦在 Mac 過渡自研芯片的兩年半之后，我仍然使用著三年前 iMac 的謝幕之作。這臺機器堪稱 Intel 的末代機皇：10 核心 i9-10910 處理器，16GB 顯...
閱讀原文

iQOO 12 系列：電競性能旗艦，從未如此優雅

但獨屬于賽道的風馳電掣，卻又和日常的舒心閑適，形成了一個明顯的對立面。在將速度具象化的夸張外觀之下，性能賽車大多都選擇了極致輕量化的內飾設計，車內...
閱讀原文

爆料！馬斯克 xAI 打造的ChatGPT競品被曝光！

夕小瑤科技說 原創作者 | 王二狗馬斯克旗下公司 xAI 的第一款AI模型曝光！名為：Grōk ，有望成為ChatGPT最強競品！Grōk是什么意思呢？二狗我問了一下GPT-4：G...
閱讀原文

聊聊昨日ChatGPT全球宕機，帶給我們的警示

夕小瑤科技說 原創作者 | 賣萌醬，王二狗昨日，ChatGPT崩了！許多人發現無論是 ChatGPT 或是 ChatGPT PLUS 都不能正常工作了。還連帶了全球數以萬計的依賴Cha...
閱讀原文

美國收緊向我國出口人工智能芯片的管制

圖｜匡萃彪文｜匡萃彪華爾街日報最新消息：美國商務部長吉娜·雷蒙多告訴記者，她們的目標是限制中國獲得可能推動人工智能和高級計算機領域取得突破的先進半導...
閱讀原文

大模型生成提速2倍！單GPU幾小時搞定微調，北大數院校友共同一作丨開源

蕭簫 發自 凹非寺量子位 | 公眾號 QbitAI只需給大模型“加點小零件”，推理速度立刻提升2倍！不需要額外訓練一個模型，也不需要對計算硬件做優化，單張A100最快...
閱讀原文

老黃給H100“打雞血”：英偉達推出大模型加速包，Llama2推理速度翻倍

克雷西 發自 凹非寺量子位 | 公眾號 QbitAI大模型的推理速度，僅僅一個月就提高了一倍！英偉達近日官宣給H100推出了“雞血包”——專用于LLM推理的加速程序?；蛟S...
閱讀原文

不用4個H100！340億參數Code Llama在Mac可跑，每秒20個token，代碼生成最拿手｜Karpathy轉贊

新智元報道編輯：桃子【新智元導讀】現在，34B Code Llama模型已經能夠在M2 Ultra上的Mac運行了，而且推理速度超過每秒20個token，背后殺器竟是「投機采樣」...
閱讀原文
1234