標簽：內核

浙大“北極熊毛衣”登Science，保溫效率達羽絨服5倍

克雷西 發自 凹非寺量子位 | 公眾號 QbitAI最近，一波又一波寒潮接踵而至，羽絨服成了人們過冬的必備物品。 而浙大研制了一種新型材料，不僅保暖而且比羽絨服...
閱讀原文

PyTorch團隊重寫「分割一切」模型，比原始實現快8倍

機器之心報道編輯：陳萍我們該如何優化 Meta 的「分割一切」模型，PyTorch 團隊撰寫的這篇博客由淺入深的幫你解答。從年初到現在，生成式 AI 發展迅猛。但很...
閱讀原文

8張3090，1天壓縮萬億參數大模型！3.2TB驟降至160GB，壓縮率高達20倍

新智元報道編輯：好困【新智元導讀】最近，來自ISTA的研究人員提出了一種全新的模型量化方法QMoE，可以將1.6萬億個參數的SwitchTransformer壓縮到160GB以下（...
閱讀原文

致敬TempleOS，有開發者創建了啟動Llama 2的操作系統，網友：8G內存老電腦就能跑

機器之心報道編輯：杜偉不得不說，Llama 2 的「二創」項目越來越硬核、有趣了。自 Meta 發布開源大模型 Llama 2 以來，圍繞著該模型的「二創」項目便多了起來...
閱讀原文

H100推理飆升8倍！英偉達官宣開源TensorRT-LLM，支持10+模型

新智元報道編輯：桃子 潤【新智元導讀】H100讓模型推理性能最高躍升8倍！英偉達最新開源軟件TensorRT-LLM，將徹底改變LLM推理現狀。「GPU貧民」即將告別困境...
閱讀原文
12