微軟斯坦福新算法，杜絕AI滅絕人類風(fēng)險！GPT-4自我迭代，過程可控可解釋

AIGC動態(tài)歡迎閱讀

原標(biāo)題：微軟斯坦福新算法，杜絕AI滅絕人類風(fēng)險！GPT-4自我迭代，過程可控可解釋

關(guān)鍵字：模型,研究人員,自我,遞歸,任務(wù)

文章來源：新智元

內(nèi)容字?jǐn)?shù)：8861字

內(nèi)容摘要：新智元報道編輯：潤 貝果【新智元導(dǎo)讀】微軟斯坦福研究人員發(fā)表新論文，提出STOP系統(tǒng)，通過迭代優(yōu)化算法，讓GPT-4能夠針對任務(wù)，自我改進(jìn)輸出代碼。這種不用改變模型權(quán)重和結(jié)構(gòu)的自我優(yōu)化方法，可以避免出現(xiàn)「自我進(jìn)化的AI系統(tǒng)」的風(fēng)險?！高f歸自我進(jìn)化AI統(tǒng)治人類」問題有解了？！許多AI大佬都將開發(fā)能自我迭代的大模型看作是人類開啟自我毀滅之路的「捷徑」。DeepMind聯(lián)合創(chuàng)始人曾表示：能夠自主進(jìn)化的A…

原文鏈接：點(diǎn)此閱讀原文：微軟斯坦福新算法，杜絕AI滅絕人類風(fēng)險！GPT-4自我迭代，過程可控可解釋

聯(lián)系作者

文章來源：新智元

作者微信：AI_era

作者簡介：智能+中國主平臺，致力于推動中國從互聯(lián)網(wǎng)+邁向智能+新紀(jì)元。重點(diǎn)關(guān)注人工智能、機(jī)器人等前沿領(lǐng)域發(fā)展，關(guān)注人機(jī)融合、人工智能和機(jī)器人對人類社會與文明進(jìn)化的影響，領(lǐng)航中國新智能時代。