超級AI會偷襲人類嗎？新研究給出答案

AIGC動態歡迎閱讀

原標題：超級AI會偷襲人類嗎？新研究給出答案
關鍵字：報告,模型,人工智能,研究人員,智能
文章來源：人工智能學家
內容字數：2928字

內容摘要：

圖片來源：Charles Taylor/Alamy
來源：中國科學報???
編譯：王方
一個人工智能的超級智能會突然出現嗎，還是科學家能預見它的到來并來得及向全世界發出警報？隨著大型語言模型，如ChatGPT的興起，這個問題最近受到了很多關注。這些模型隨著規模的增長已經獲得了大量新功能。
一些研究結果指向了“涌現”現象，即人工智能模型以一種驟然且不可預測的方式獲得了智能。但最近一項研究將這種情況稱為“海市蜃樓”，即系統測試過程中產生的假象，并認為創新能力的增強是循序漸進的。
研究人員近日在美國新奧爾良舉行的神經信息處理系統大會（NeurIPS）機器學習會議上報告了這項工作。
“我認為他們在說‘沒有什么神奇的事情發生’方面做得很好。”謀智基金會研究人工智能審計的計算機科學家Deborah Raji說，這是“一個非常好的、堅實的、基于衡量的評估”。
人們通常使用大量文本或其他信息訓練大型語言模型，并通過預測接下來發生什么生成現實的答案。即使沒有受過明確的訓練，它們也能翻譯語言、解決數學問題、寫詩或編寫計算機代碼。
模型越大——有些模型的可調參數超過了1000億，性能就越好。一些研究人員懷疑

原文鏈接：超級AI會偷襲人類嗎？新研究給出答案

聯系作者

文章來源：人工智能學家
作者微信：AItists
作者簡介：致力成為權威的人工智能科技媒體和前沿科技研究機構