微軟斯坦福新算法，杜絕AI滅絕人類風險！GPT-4自我迭代，過程可控可解釋

AIGC動態歡迎閱讀

原標題：微軟斯坦福新算法，杜絕AI滅絕人類風險！GPT-4自我迭代，過程可控可解釋

關鍵字：模型,研究人員,自我,遞歸,任務

文章來源：新智元

內容字數：8861字

內容摘要：新智元報道編輯：潤 貝果【新智元導讀】微軟斯坦福研究人員發表新論文，提出STOP系統，通過迭代優化算法，讓GPT-4能夠針對任務，自我改進輸出代碼。這種不用改變模型權重和結構的自我優化方法，可以避免出現「自我進化的AI系統」的風險?！高f歸自我進化AI統治人類」問題有解了？！許多AI大佬都將開發能自我迭代的大模型看作是人類開啟自我毀滅之路的「捷徑」。DeepMind聯合創始人曾表示：能夠自主進化的A…

原文鏈接：點此閱讀原文：微軟斯坦福新算法，杜絕AI滅絕人類風險！GPT-4自我迭代，過程可控可解釋

聯系作者

文章來源：新智元

作者微信：AI_era

作者簡介：智能+中國主平臺，致力于推動中國從互聯網+邁向智能+新紀元。重點關注人工智能、機器人等前沿領域發展，關注人機融合、人工智能和機器人對人類社會與文明進化的影響，領航中國新智能時代。