標(biāo)簽：分布式

WPS接入DeepSeek，秒變辦公神器！

WPS 大家經(jīng)常用來日常寫作，雖然本身提供了AI功能，但可惜需要會(huì)員，本文教你三分鐘接入最火的DeepSeek，讓W(xué)PS秒變辦公神器。 DeepSeek API申請(qǐng)地址：http:/...
閱讀原文

AI賺錢副業(yè)~AI生成影視解說，半個(gè)月漲粉變現(xiàn)3.5W+！

這兩年大家都在感嘆生活不易，然而我想說的是，機(jī)會(huì)還是有的，但問題不在于有沒有，而在于你是否能夠認(rèn)準(zhǔn)機(jī)會(huì)，然后抓住它。 接觸過很多咨詢項(xiàng)目的人，發(fā)現(xiàn)...

￥9.99租英偉達(dá)H800！雙十一算力羊毛真香，閑置卡也能掛機(jī)變現(xiàn)

小明發(fā)自 凹非寺量子位 | 公眾號(hào) QbitAI雙十一大促?zèng)]有羊毛可薅？ 不如來看看算力吧。 A800價(jià)格低至5.88元/卡時(shí)，H800價(jià)格低至9.99元/卡時(shí)。限量開搶，先到先...
閱讀原文

7天開發(fā)一個(gè)AI Agent應(yīng)用！秘密武器：一體化數(shù)據(jù)庫

明敏 發(fā)自 凹非寺量子位 | 公眾號(hào) QbitAI幾個(gè)工程師、一個(gè)星期，就能做一個(gè)AI Agent應(yīng)用了。 效果be like—— 能理解用戶復(fù)雜長命令，推薦符合要求的奶茶店。 ...
閱讀原文

PPTV創(chuàng)始人姚欣AI再創(chuàng)業(yè)，“分布式推理”終于有人做了

克雷西 發(fā)自 凹非寺量子位 | 公眾號(hào) QbitAI這個(gè)月，PPTV創(chuàng)始人姚欣再次站到了聚光燈下，組織了一場(chǎng)分布式云計(jì)算論壇，向外界揭開了他的新篇章。 姚欣的第二次...
閱讀原文

LLM訓(xùn)練通信量減少10000倍！全新分布式優(yōu)化器，整合世間算力訓(xùn)練強(qiáng)大AI

新智元報(bào)道編輯：alan 【新智元導(dǎo)讀】近日，Nous Research宣布了一項(xiàng)重大突破，通過使用與架構(gòu)和網(wǎng)絡(luò)無關(guān)的分布式優(yōu)化器，研究人員成功將訓(xùn)練LLM時(shí)GPU間的通...
閱讀原文

分布式人工智能盛會(huì) DAI 2024 征稿：Agent Day，強(qiáng)化學(xué)習(xí)之父 Richard Sutton 將出席

顏水成、Sergey Levine以及DeepMind科學(xué)家將做主旨報(bào)告。1會(huì)議簡介隨著科技的飛速發(fā)展，人工智能已經(jīng)成為了推動(dòng)社會(huì)進(jìn)步的重要力量。在這個(gè)時(shí)代，我們有幸見...
閱讀原文

PyTorch團(tuán)隊(duì)首發(fā)技術(shù)路線圖，近百頁文檔披露2024下半年發(fā)展方向

新智元報(bào)道編輯：喬楊 【新智元導(dǎo)讀】最近，PyTorch團(tuán)隊(duì)首次公布了開發(fā)路線圖，由內(nèi)部技術(shù)文檔直接修改而來，披露了這個(gè)經(jīng)典開源庫下一步的發(fā)展方向。如果你...
閱讀原文

聊聊大模型推理中的分離式推理

原文：https://zhuanlan.zhihu.com/p/706469785 一開始本文叫做“聊聊大模型推理中的存儲(chǔ)優(yōu)化”的，但是發(fā)布之后感覺還是要叫分離式推理更好，雖然我本來是想寫...
閱讀原文

阿里智能體“組裝工廠”開源！0經(jīng)驗(yàn)搞定上萬Agent并發(fā)

阿里巴巴通義實(shí)驗(yàn)室 投稿量子位 | 公眾號(hào) QbitAI讓多智能體開發(fā)就像搭積木，阿里巴巴通義實(shí)驗(yàn)室開源多智能體編程框架與開發(fā)平臺(tái)AgentScope。 該平臺(tái)專門為多...
閱讀原文

分布式人工智能盛會(huì) DAI 2024 征稿：Agent Day，數(shù)十頂會(huì)級(jí)別會(huì)議報(bào)告，Jim Fan 將出席！

1會(huì)議簡介隨著科技的飛速發(fā)展，人工智能已經(jīng)成為了推動(dòng)社會(huì)進(jìn)步的重要力量。在這個(gè)時(shí)代，我們有幸見證并參與到分布式人工智能（Distributed Artificial Intel...
閱讀原文

清華交叉團(tuán)隊(duì)在Science發(fā)布中國AI光芯片“太極”，全球首創(chuàng)架構(gòu)邁向AGI

來源：新智元 編輯：桃子 好困 【導(dǎo)讀】巨耗算力大模型，離通往AGI目標(biāo)又近了一步。清華團(tuán)隊(duì)首創(chuàng)AI光芯片架構(gòu)，研制全新「太極」實(shí)現(xiàn)了160 TOPS/W通用智能計(jì)...
閱讀原文

清華首款A(yù)I光芯片登上Science，全球首創(chuàng)架構(gòu)邁向AGI

新智元報(bào)道編輯：桃子 好困 【新智元導(dǎo)讀】巨耗算力大模型，離通往AGI目標(biāo)又近了一步。清華團(tuán)隊(duì)首創(chuàng)AI光芯片架構(gòu)，研制全新「太極」實(shí)現(xiàn)了160 TOPS/W通用智能...
閱讀原文

性能提升、成本降低，這是分布式強(qiáng)化學(xué)習(xí)算法最新研究進(jìn)展

機(jī)器之心原創(chuàng) 作者：Jiying 編輯：H4O深度強(qiáng)化學(xué)習(xí)（Deep Reinforcement Learning，DRL）是一種公認(rèn)的解決連續(xù)決策問題的有效技術(shù)。為了應(yīng)對(duì) DRL 的數(shù)據(jù)低效...
閱讀原文

PyTorch 2.2大更新！集成FlashAttention-2，性能提升2倍

新智元報(bào)道編輯：alan 【新智元導(dǎo)讀】新的一年，PyTorch也迎來了重大更新，PyTorch 2.2集成了FlashAttention-2和AOTInductor等新特性，計(jì)算性能翻倍。新的一...
閱讀原文

千卡規(guī)模訓(xùn)練算力利用率達(dá) 60%，螞蟻開源分布式訓(xùn)練加速擴(kuò)展庫 ATorch

近日，螞蟻集團(tuán)宣布開源大模型分布式訓(xùn)練加速擴(kuò)展庫ATorch。ATorch可針對(duì)不同模型和硬件資源，實(shí)現(xiàn)深度學(xué)習(xí)自動(dòng)資源動(dòng)態(tài)優(yōu)化和分布式訓(xùn)練穩(wěn)定性提升，可幫助...
閱讀原文

阿里與上交大提出 LLM 長文本計(jì)算新解法：可處理文本長達(dá) 1900k 字節(jié)、效率提升 2.4 倍

DistAttention與DistKV-LLM結(jié)合，帶來云端自然語言處理新變革。編譯 | 郭 思 編輯丨陳彩嫻 在實(shí)際應(yīng)用大模型的過程中，尤其是處理長文本的上下文信息時(shí)，如何...
閱讀原文
12