清華推出首個(gè)通用城市時(shí)空預(yù)測(cè)模型UniST,零樣本場(chǎng)景開箱即用|KDD2024
AIGC動(dòng)態(tài)歡迎閱讀
原標(biāo)題:清華推出首個(gè)通用城市時(shí)空預(yù)測(cè)模型UniST,零樣本場(chǎng)景開箱即用|KDD2024
關(guān)鍵字:時(shí)空,數(shù)據(jù),模型,提示,城市
文章來源:量子位
內(nèi)容字?jǐn)?shù):0字
內(nèi)容摘要:
UniST團(tuán)隊(duì) 投稿量子位 | 公眾號(hào) QbitAI城市時(shí)空的預(yù)測(cè),迎來GPT時(shí)刻。
清華大學(xué)電子系城市科學(xué)與計(jì)算研究中心推出了第一個(gè)無需自然語言的純時(shí)空通用模型——UniST,首次展示了純時(shí)空模型本身的通用性和可擴(kuò)展性,研究成果已被KDD2024接收。
研究團(tuán)隊(duì)利用超過20個(gè)時(shí)空數(shù)據(jù)集、1.3億+個(gè)時(shí)空樣本點(diǎn),構(gòu)建了涵蓋多個(gè)城市、不同領(lǐng)域、空間劃分和時(shí)間分辨率等維度的城市時(shí)空數(shù)據(jù),構(gòu)建并訓(xùn)練了「one-for-all」的時(shí)空通用模型——UniST。
該模型是目前覆蓋范圍最廣、統(tǒng)一性最強(qiáng)的城市時(shí)空通用模型。值得一提的是,UniST相較于當(dāng)前的大語言模型具有更輕量級(jí)的優(yōu)勢(shì),僅用20M的參數(shù)規(guī)模就展現(xiàn)出很強(qiáng)的零樣本學(xué)習(xí)能力。
△圖1. UniST實(shí)現(xiàn)時(shí)空通用建模(one-for-all)UniST通過整合多城市、多領(lǐng)域豐富的時(shí)空數(shù)據(jù),利用基于Transformer的架構(gòu)、獨(dú)特的時(shí)空掩碼策略(mask)和知識(shí)引導(dǎo)的時(shí)空提示(prompt),實(shí)現(xiàn)了對(duì)城市多樣化時(shí)空動(dòng)態(tài)性的統(tǒng)一建模和精準(zhǔn)預(yù)測(cè)。在實(shí)驗(yàn)中,UniST展示了其在交通管理、資源優(yōu)化等多個(gè)城市應(yīng)用場(chǎng)景中的卓越表現(xiàn),尤其是在跨場(chǎng)景零樣本預(yù)測(cè)
原文鏈接:清華推出首個(gè)通用城市時(shí)空預(yù)測(cè)模型UniST,零樣本場(chǎng)景開箱即用|KDD2024
聯(lián)系作者
文章來源:量子位
作者微信:QbitAI
作者簡(jiǎn)介:追蹤人工智能新趨勢(shì),關(guān)注科技行業(yè)新突破