Meta光速下架的模型Galactica，上交大用它構(gòu)建地球科學(xué)大模型

AIGC動(dòng)態(tài)歡迎閱讀

原標(biāo)題：Meta光速下架的模型Galactica，上交大用它構(gòu)建地球科學(xué)大模型
關(guān)鍵字：模型,地球科學(xué),地學(xué),數(shù)據(jù),領(lǐng)域
文章來(lái)源：機(jī)器之心
內(nèi)容字?jǐn)?shù)：9880字

內(nèi)容摘要：

將 ScienceAI設(shè)為星標(biāo)
第一時(shí)間掌握
新鮮的 AI for Science 資訊編輯 | Z
2022年10月30日，ChatGPT的橫空出世，僅用幾天的時(shí)間就改變了包括學(xué)術(shù)界在內(nèi)的各行各業(yè)的，在OpenAI的成果的光輝下，有一個(gè)獨(dú)特的模型，來(lái)自Meta團(tuán)隊(duì)的Galactica在ChatGPT三天前上線就被迫下線，這一度成為了LeCun教授的意難平。
順著LeCun的意難平，來(lái)自上海交通大學(xué)的團(tuán)隊(duì)，將這一頗具潛力的模型引入到了地球科學(xué)領(lǐng)域。
使用Galactica作為基座的地學(xué)模型
首先讓我們回顧一下Galactica。Galactica最初在?量的科學(xué)?獻(xiàn)上進(jìn)?預(yù)訓(xùn)練，包括超過(guò) 4800 萬(wàn)篇論?、教科書(shū)、講義、數(shù)百萬(wàn)種化合物和蛋?質(zhì)知識(shí)、科學(xué)?站、百科全書(shū)等。
雖然Galactica?成的?本存在?定的不嚴(yán)謹(jǐn)性，但由于其在處理學(xué)術(shù)?獻(xiàn)等問(wèn)題上具有先天的優(yōu)勢(shì)，因此仍然是某些場(chǎng)景下合適的選擇。
上海交通大學(xué)團(tuán)隊(duì)在五月份推出70億參數(shù)的地學(xué)?語(yǔ)?模型K2（https://github.com/davendw49/k2）之后，于七?份正式完成了300億參數(shù)的地學(xué)?語(yǔ)?模型GeoGa

原文鏈接：Meta光速下架的模型Galactica，上交大用它構(gòu)建地球科學(xué)大模型

聯(lián)系作者

文章來(lái)源：機(jī)器之心
作者微信：almosthuman2014
作者簡(jiǎn)介：專業(yè)的人工智能媒體和產(chǎn)業(yè)服務(wù)平臺(tái)